Oossa

DeepSeek, 코딩 에이전트용 오픈 웨이트 V4.1-Flash 공개

새 모델은 입력 처리에 사용하는 파라미터를 줄여 에이전트 워크플로의 비용과 메모리 사용량을 낮췄다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

DeepSeek가 V4.1-Flash 모델의 가중치를 HuggingFace에 올리고 Baseten의 Model APIs를 통해 이용할 수 있도록 했다. 모델의 전체 파라미터 수는 552 B지만 프리필 단계에서는 8 B, 디코딩 단계에서는 16 B만 활성화해 이전 버전보다 실행 비용이 낮다. 1 M 토큰 컨텍스트 윈도우를 지원하며 텍스트와 이미지를 입력으로 받을 수 있다. Baseten의 서빙 스택은 필요한 프리픽스가 이미 로드된 GPU로 요청을 전달해 코딩 에이전트의 추론 속도를 더 높인다.

왜 중요한가

코딩 어시스턴트를 개발하는 이들은 GPU 비용을 낮추고 메모리를 더 늘리지 않고도 더 긴 프롬프트를 처리할 수 있다.

출처 및 참고 자료

1 개 출처
  1. Baseten원본 출처 읽기

Markdown

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.