# Metis-1.6報告書、小型言語モデル2種と課題を詳述

> 研究者Giulianno Vollmerによると、Metis-1.6のモデル「Logos」は数学ベンチマークで好成績を収めた一方、コード、指示への追従、長文コンテキストの処理に苦戦した。

Oossa · 2026-10-30 · https://oossa.com/ja/metis-1-6-report-details-two-small-language-models-and-their-failures

Giulianno VollmerのMetis-1.6技術報告書では、ゼロから開発した2つの言語モデル、パラメーター数29億4000万のPraxisと102億3000万のLogosについて説明している。報告書によると、Logosは40のベンチマークで17モデル中7位、数学分野では30モデル中2位だった。一方、コード、指示への追従、長文コンテキストを扱うタスクには弱さがあった。

Vollmerは、オプティマイザーが一度も実行されなかった問題や、正しくても長い回答をペナルティーの対象にしかねない長さ報酬のバグなど、複数の学習上の問題を詳述している。報告書によると、Logosは1兆200億トークンで学習され、最先端モデルとの競争を目的としていなかった。

## 事実

- 報告書によると、LogosのスコアはAIME 2025で67.50%、HMMT February 2026で63.64%だった。
- 報告書によると、Metis-1.6の2つのモデルは、それぞれ1兆200億トークンで学習された。

## なぜ重要か

小型モデルの導入を検討する開発者にとって、この報告書はベンチマークの結果と具体的な学習上の教訓を示している。ただし、報告書自体が示すように、Logosはコードや長文コンテキストの処理が苦手で、ここでは第三者による検証について記載されていない。

## 出典と参考資料

1. [Think Twice: The Metis-1.6 Technical Report](https://arxiv.org/abs/2610.37903) – arXiv cs.LG, 2026-10-30

最終更新: 2026-10-30
