AlphaSense는 자사의 생성형 검색 기능이 이제 Cerebras의 고속 추론 칩으로 구동된다고 발표했습니다. 이번 협력으로 첫 토큰이 나오기까지 걸리는 시간이 19.5초에서 2.3초로 88% 단축돼, 시스템은 빠르면 10~20초 만에 첫 답변을 내놓습니다. 모델 호출이 빨라지면서도 AlphaSense는 계획 수립, 검색 경로 지정, 발췌문 평가 등 여러 단계로 이뤄진 조사 과정을 유지해, 사용자가 대화형으로 느낄 만큼 빠르게 작동합니다.
왜 중요한가
분석가들은 몇 시간이 아니라 몇 분 안에 근거에 기반한 답변을 얻을 수 있어, 실적 발표 전화 회의와 시장 조사를 더 빠르게 반복·심화할 수 있습니다.