Amazon Bedrock에서 Kimi K3 요청을 뭄바이와 하이데라바드로 라우팅할 수 있어, 데이터 상주 요건이 있는 워크로드를 인도 내에서만 처리할 수 있는 옵션이 마련됐다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Amazon Web Services가 Amazon Bedrock에서 Moonshot AI의 Kimi K3 모델을 인도 내에서 추론하는 기능을 추가했다. 고객은 인도 지리적 추론 프로필을 선택할 수 있으며, AWS에 따르면 이 프로필을 사용하면 뭄바이와 하이데라바드 리전 안에서 처리가 이뤄진다. 글로벌 추론도 계속 이용할 수 있다.
AWS는 Kimi K3로 인도계 언어 문서를 읽고, 항목을 추출하며, 힌글리시로 후속 질문에 답하는 예제 코드도 공개했다. Ultrahuman은 건강 보조 서비스에 이 모델을 사용해 하루 14,000건이 넘는 대화를 처리한다고 밝혔다.
데이터 상주 요건이 있는 인도 기업은 새 프로필을 통해 추론을 인도 내에서 처리하면서 Kimi K3를 사용할 수 있다. AWS는 발표에서 이 옵션의 가격을 공개하지 않았다.
모델
오픈AI는 자체 기준으로 집계한 챗GPT 검색 질의가 구글의 5분의 1 수준이라고 밝혔다. 다만 구글의 검색량 수치를 어떻게 산출했는지는 설명하지 않았다.
모델
1조6000억 매개변수 모델을 웹과 API로 제공하기 시작했다. 회사 자체 평가에서는 코딩·웹 검색 점수가 이전 모델보다 올랐다.
모델
Google은 Carbon이 여러 AI 벤치마크에서 선두를 차지했다고 밝혔지만, 단계적 출시가 진행 중이라 개발자와 일반 소비자는 아직 이용할 수 없다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
