OpenAIは、社内テストでワームのように広がるプロンプト攻撃を発見したと発表。今後のモデルには、レッドチーム用ボットを使った訓練で攻撃を見分けさせるという。
短信Oossa1 分で読める
OpenAIは、出力をまたいで自らをコピーする、コンピューターウイルスのワームに似た新種のプロンプトインジェクションを社内テストで発見したと発表した。同社の研究チームは6月、GPT-5.6の訓練に自動レッドチームツール「GPT-Red」を使用していた際に、この挙動を確認した。今後のモデルには、こうした自己複製型プロンプトを訓練中に与え、遮断する方法を学ばせるという。攻撃が確認されたのは訓練環境のみで、実際の運用環境では見つかっていない。
モデルがこうしたワームのようなプロンプトを阻止できなければ、悪意ある指示が多数のユーザーとのやり取りに広がるおそれがある。
モデル
OpenAIの新モデルGPT‑6.1 Solは、100万トークンあたり2～10ドルの料金を据え置きながら性能向上をうたい、AnthropicのClaudeやDeepSeekのモデルを下回る価格を打ち出した。
モデル
新モデルv4とv4 Turboの料金は、1,000文字あたりそれぞれ0.08ドル、0.04ドル。10月12日までは0.022ドル、0.011ドルに割引される。
モデル
Oracleの新しいFusion Clawランタイムにより、Fusionアプリは人員配置や会計など複数段階の業務を処理できる。AIが推論を担い、計算はモデルの外部で行う。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | Add one more AI worry to the nightmare scenario: self-replicating prompt injections ↗ | The Register | 2026/09/29 | It's a worm attack, AI-style |
1 件の出典
