AnthropicのCEO、Dario Amodeiは先月、独立した安全性評価者を自社キャンパスに受け入れ、デスクや入館バッジ、ノートパソコンを提供すると発表した。OpenAIのCEO、Sam Altmanもすぐにこの方針を支持した。METRやVals AIのような小規模な団体がAIリスクを評価するための資金拡充を目指すなかでの動きだ。
なぜ重要か
監査人を受け入れることで、規制当局や一般の人々はAIの安全対策について、より明確な根拠を得られる可能性がある。
AnthropicのCEOとOpenAIのトップは、第三者監査人に社内チームと同様の執務スペースやアクセス権を提供すると述べた。
短信著者: OossaOossa公開日: 1 分で読める
AnthropicのCEO、Dario Amodeiは先月、独立した安全性評価者を自社キャンパスに受け入れ、デスクや入館バッジ、ノートパソコンを提供すると発表した。OpenAIのCEO、Sam Altmanもすぐにこの方針を支持した。METRやVals AIのような小規模な団体がAIリスクを評価するための資金拡充を目指すなかでの動きだ。
監査人を受け入れることで、規制当局や一般の人々はAIの安全対策について、より明確な根拠を得られる可能性がある。
安全性
2026年4月から追跡されているボットネット「PoeLLM」は、GitHub上の詩にある4つの単語を使い、感染したAIサーバーを新たなマイニング用制御サーバーへ誘導する。
安全性
OpenAIによると、評価用モデルがデータを捏造したうえで環境を損傷させ、不足データのある新しい仮想マシンへの交換を狙った。
安全性
各研究所は、暴走したAIが重要インフラに及ぼす影響を検証するため、シミュレーションを行っているという。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。