Oossa

AlphaSense, Cerebras 칩으로 생성형 검색 속도 높여

AlphaSense의 새 ‘auto’ 모드는 Cerebras 칩으로 모델 호출 속도를 높여 조사 답변을 10~20초 만에 제공합니다.

짧은 소식OossaOossa 게시일: 1 분 읽기

AlphaSense는 자사의 생성형 검색 기능이 이제 Cerebras의 고속 추론 칩으로 구동된다고 발표했습니다. 이번 협력으로 첫 토큰이 나오기까지 걸리는 시간이 19.5초에서 2.3초로 88% 단축돼, 시스템은 빠르면 10~20초 만에 첫 답변을 내놓습니다. 모델 호출이 빨라지면서도 AlphaSense는 계획 수립, 검색 경로 지정, 발췌문 평가 등 여러 단계로 이뤄진 조사 과정을 유지해, 사용자가 대화형으로 느낄 만큼 빠르게 작동합니다.

왜 중요한가

분석가들은 몇 시간이 아니라 몇 분 안에 근거에 기반한 답변을 얻을 수 있어, 실적 발표 전화 회의와 시장 조사를 더 빠르게 반복·심화할 수 있습니다.

출처 및 참고 자료

1 개 출처
  1. Cerebras원본 출처 읽기

최종 업데이트: ·Markdown

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.