Oossa

Alibaba, Fireworks에 Qwen3 235B A22B Instruct 공개

새 지시 튜닝 LLM은 전체 235B개, 토큰당 활성 22B개의 파라미터를 갖췄으며 최대 1M 토큰을 지원한다. 입력 100만 토큰당 $0.22, 출력 100만 토큰당 $0.88다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

Alibaba의 Qwen 팀이 Fireworks AI에서 Qwen3‑235B‑A22B‑Instruct‑2507 모델을 사용할 수 있도록 공개했다. 이 모델은 전체 파라미터 수가 235 billion이고 토큰당 22 billion만 활성화되는 전문가 혼합형 언어 모델이다. Dual Chunk Attention을 적용해 최대 100만 토큰을 처리할 수 있지만, 속도와 비용을 고려해 대부분의 사용자는 16K 토큰 이하로 사용하는 것이 권장된다. FP8 양자화 형식으로 실행되며 Qwen‑Agent를 통한 스트리밍과 도구 호출을 지원한다.

왜 중요한가

개발자는 토큰당 비용을 예측하면서 복잡한 추론이나 코드 지원처럼 더 풍부하고 긴 문맥을 활용하는 애플리케이션을 만들 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.