Nova-3 모델을 AWS Trainium2 칩으로 옮겨 배치 작업에서 달러당 처리하는 오디오 양을 늘렸습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Deepgram은 음성 텍스트 변환 모델 Nova-3를 AWS Trainium2 칩으로 옮겼습니다. 이식한 모델은 trn2.3xlarge 인스턴스 하나에서 8개 복제본을 실행합니다. 콜센터 분석과 같은 오프라인 배치 작업에서 Deepgram은 이전 컴퓨팅 옵션보다 달러당 오디오 처리량이 11~70% 늘었다고 측정했습니다. 이번 작업에는 PyTorch용 TorchNeuron 사용, 맞춤형 커널로 레이어 교체, Python 오버헤드를 줄이기 위한 Rust 런타임 구축이 포함됐습니다.
Deepgram API를 사용하는 고객은 대규모 배치 작업에서 음성 텍스트 변환 비용이 낮아지는 효과를 기대할 수 있습니다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
