Architect Financial Technologies가 요청마다 실시간 경매를 진행하는 LLM 라우터 Liquid Inference를 출시했다. 공급자들은 각 프롬프트 처리에 입찰하고, 구매자는 정해 둔 기준을 충족하는 가장 낮은 가격을 지불한다. 개발자는 코드에서 기본 URL만 바꾸면 이 서비스를 이용할 수 있다.
왜 중요한가
개발자는 기준을 충족하는 공급자 중 가장 저렴한 곳을 자동으로 선택해 추론 비용을 낮출 수 있다.
Architect, LLM 요청 경매 플랫폼 Liquid Inference 출시
Architect Financial Technologies가 각 LLM 프롬프트를 처리할 공급자가 실시간으로 입찰하는 마켓플레이스 Liquid Inference를 선보였다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
다음 읽을거리
모델
Sakana AI의 논문 검토 AI, 주장 오류 73% 잡아내
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
모델
Mistral Large 4, 미·중 외 모델 중 최고 순위
Mistral의 신규 1조 매개변수 모델은 독립 지수에서 38점을 기록했지만, 경쟁 오픈 모델보다 작업당 비용이 높다.
모델
OpenAI, 러시아·이란 허위뉴스 공작 연루 ChatGPT 계정 차단
OpenAI는 AI로 만든 콘텐츠를 실제 언론에 퍼뜨려 허위 보도를 심으려 한 영향력 공작 2건을 공개하고, 관련 계정을 차단했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.