Architect Financial Technologies lanserar Liquid Inference, en marknadsplats där leverantörer budar i realtid om att hantera varje LLM-prompt.
NotisAv OossaPublicerad av Oossa: 1 min läsning
Architect Financial Technologies har lanserat Liquid Inference, en LLM-router som håller en liveauktion för varje förfrågan. Leverantörer lämnar bud på att hantera varje prompt, och köparen betalar det lägsta bud som uppfyller kraven. Utvecklare behöver bara ändra basadressen i koden för att använda tjänsten.
Utvecklare kan potentiellt sänka inferenskostnaderna genom att automatiskt välja den billigaste leverantör som uppfyller deras kriterier.
Modeller
Företagets nya granskare med tre Claude-baserade agenter hittade 73.43% av felen i centrala påståenden, långt fler än det tidigare bästa resultatet på 14.81%.
Modeller
Mistrals nya modell med en biljon parametrar får 38 poäng i ett oberoende index, men kostar mer per uppgift än konkurrerande öppna modeller.
Modeller
OpenAI uppger att två påverkanskampanjer använde AI-genererat innehåll för att få in falska nyheter i etablerade medier. Företaget har stängt av de berörda kontona.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
