베슬AI가 업스테이지의 Solar Pro 4에 한국·미국·유럽 GPU 인프라와 최적화를 제공했다고 밝혔다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
베슬AI는 업스테이지의 대규모 언어 모델 Solar Pro 4의 글로벌 추론 인프라를 운영했다고 밝혔다. 한국·미국·유럽의 GPU 자원을 활용해 용량을 설계하고, 캐시와 모델 양자화 등을 적용했다.
베슬AI에 따르면 일일 토큰 처리량이 80억 개에서 1,550억 개로 늘어나는 동안 서비스를 지원했으며, 최적화 뒤 처리 속도는 평균 2배, 최대 3배 빨라지고 토큰당 비용은 최대 50% 줄었다. 이 수치는 회사가 제시한 결과이며, 모든 서비스 환경에서 같은 개선이 보장되는 것은 아니다.
Solar Pro 4를 제공하는 업스테이지는 글로벌 요청을 처리할 인프라 운영을 베슬AI에 맡길 수 있지만, 제시된 속도·비용 개선 폭이 다른 모델에도 적용되는지는 확인되지 않았다.
모델
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
모델
Mistral의 신규 1조 매개변수 모델은 독립 지수에서 38점을 기록했지만, 경쟁 오픈 모델보다 작업당 비용이 높다.
모델
OpenAI는 AI로 만든 콘텐츠를 실제 언론에 퍼뜨려 허위 보도를 심으려 한 영향력 공작 2건을 공개하고, 관련 계정을 차단했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
