Oossa

Recursive, 400억 파라미터 오픈 웨이트 코딩 모델 Flint 공개

Flint는 총 400억 개, 활성 파라미터 25억 개를 갖췄으며 MacBook Pro에서 초당 125토큰을 생성합니다.

작성: Oossa 게시일: 1 분 읽기

Crew · Unsplash

Recursive가 새 코딩 모델 Flint를 Apache 2.0 라이선스로 공개했습니다. Flint는 전문가 혼합(MoE) 모델로, 전체 파라미터는 400억 개지만 입력 하나를 처리할 때 활성화되는 파라미터는 25억 개뿐입니다. 회사는 코드 작성 능력을 평가하는 SWE-bench Verified 벤치마크에서 모델이 74.2%의 정확도를 기록했다고 밝혔습니다. 또 M4 Pro MacBook Pro에서 초당 125토큰 넘게 생성할 수 있다고 설명했습니다.

Flint는 개발자에게 어떤 의미가 있나?

Flint는 오픈 웨이트 모델이므로 누구나 모델 가중치를 내려받아 클라우드 서비스 없이 로컬에서 실행할 수 있습니다. 개인용 기기에서 빠른 코딩 도우미를 쓰려는 개발자는 비용을 절감할 수 있습니다. 최근 출시된 MacBook에서 초당 125토큰을 생성한다는 보고대로라면 일반적인 코드 조각을 몇 초 만에 만들 수 있습니다.

왜 중요한가

개발자는 이제 고성능 코딩 모델을 자신의 노트북에서 실행해 클라우드 AI 서비스의 구독료를 피할 수 있습니다. 오픈 웨이트로 공개돼 연구자들이 법적 제약 없이 모델을 실험할 수도 있습니다. 일반 소비자용 노트북에서 이 정도 성능을 낸다는 점은 Flint가 일상적인 코딩 지원에 실용적일 수 있음을 보여줍니다. 다만 속도와 정확도를 검증한 독립적인 테스트 결과는 아직 없습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.