NAVER D2SFは、長文を処理してもメモリー使用量が一定に保たれる新しいAIアーキテクチャ「Phase-TITAN」を開発したスタートアップ、TraceWeaveに約KRW 3 billionを出資した。同社によると、10億パラメーターのモデルが100万トークンのコンテキストを処理するのに必要なメモリーはわずか0.04 GBで、標準的なTransformerの数十GBを大きく下回る。TraceWeaveは、クラウドに接続せずスマートフォンのCPU上でモデルを動かすデモを実施し、世界的な自動車メーカーの自動運転部門との有償試験導入も完了した。
なぜ重要か
端末メーカーは、クラウド接続なしでスマートフォンやドローン、眼鏡に高度なAIアシスタントを搭載できるようになる。これにより、応答の遅延を抑え、ユーザーデータを保護できる。