Qwen 3.8、ニューラルネットの重みからゲームを特定

Simon Willison氏は、小規模なニューラルネットワークの生の重みを調べるだけで、コードを実行したりほかのツールを使ったりせずにQwen 3.8 27Bがゲームを特定できるか試した。ノートPCで17GBのモデルを動かしたところ、Pac-Man、Pong、Breakoutは正しく特定した一方、FreewayをPac-Man風のゲームと誤認したという。

正解したケースでは、回答にそれぞれ46分から1時間以上かかった。Willison氏の実験が検証したのは重みの解釈であり、別のモデルを編集したり性能を向上させたりできることを示したものではない。これは、氏が参照していた論文で別途取り上げられている主張だ。