安全性
AIの安全性、プライバシー、悪用に関する事例、検証、対策を追います。
AIニュースを、わかりやすく
昨日
ホワイトハウスAIタスクフォース、サイバーリスクを協議
重要インフラへのリスクや業界標準、AIモデルのテストを検討し、新たなサイバー法の制定を議会に促すかどうかも話し合った。
AWS Batch、EKSジョブにLinux機能とseccompの設定を追加
Amazon EKS上のAWS Batchで、ジョブ定義にコンテナ機能、seccompプロファイル、Pod単位のセキュリティ設定を指定できるようになりました。
OpenAI、サイバーセキュリティ製品に2つの新ツールを追加
Daybreakブランドで、侵入テストを自動化するツールとパッチを自動生成するツールのEarly Accessを開始。
Notion AIのチャット記録、委託先で保持され漏えいの恐れ
Notionは、AI利用状況の分析機能でFireworks AIに送ったチャット記録が保持されていたと説明。影響は全ワークスペースの1％未満としています。
Amazon Cognito、OAuth 2.0のトークン交換に対応
ユーザーのトークンを、対象を絞った単一オーディエンス向けのトークンに交換可能に。元のトークンを転送せずに、サービスがユーザーに代わって処理できる。
11月12日木曜日
Salt Security調査、約半数がAIエージェントの予期しない動作を経験
380超の組織を対象にした調査で、49.8％が意図しない動作を経験。すぐに停止できる組織は17.5％でした。
kintoneのコードを無料診断、問題の分類も表示
AI生成コードや外部プラグインのリスクを、本番導入前に確認できる無料診断の提供が始まった。診断結果は4区分で示す。
ユナイテッド航空、AIアシスタントによる予約を禁止
セキュリティ上のリスクやFAA規則に違反する可能性を理由に、外部のAIエージェントが予約システムにアクセスできないようにする。
eSentire、Atlasにパッチ管理・メール・AIセキュリティを追加
カナダのサイバーセキュリティ企業eSentireは2026年11月12日、サードパーティ製ソフトのパッチ管理、メール保護、AIを活用した検知機能などをAtlasに追加すると発表した。
Fireworks AIへの攻撃でNotion AIのチャット履歴流出
Fireworks AIへのサイバー攻撃で、請求情報とNotion AIのチャット記録が盗まれ、Notionユーザーの約1％に影響しました。
Forescout、AIで脆弱性の発見期間を90時間に短縮と発表
ForescoutのVedere Labsの調査によると、AIを活用すればソフトウェアの脆弱性を探す期間を9カ月からわずか90時間に短縮できるという。
Notion AIのチャット記録、国内3社で流出の恐れ
Notionの委託先への不正アクセスを受け、SecureNavi、LRM、フェイガーが情報流出の可能性を公表。顧客名や相談内容が含まれた可能性があります。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
11月11日水曜日
DeepMind、Signalの暗号コードをAIで検証
AlphaProof Codeは4週間で、コンパイル済みのSignalコードにおける重要なセキュリティ特性を検証した。ただし、証明の対象は特定の保証に限られ、Signalの全機能を網羅するものではない。
Radical Numerics、AI設計の病原体を検知する「Omnii Defense」を発表
サンフランシスコのスタートアップが、自然由来とAI生成の脅威を検知するノートPC対応モデルを公開。オフラインでも利用できる。
Anyday Security、無料のAIエクスプロイトカタログ「ExploitTotal」を公開
AIが生成した200件超の概念実証エクスプロイトを掲載。多くは公開エクスプロイトが存在しない脆弱性を対象としており、無料で利用できる。
Helsing、標的選定AI「Clarity」を発表
ドイツの防衛企業が、センサー情報を統合して標的候補を提示するエージェント型システムを公開。攻撃の実行には引き続き人間の承認が必要となる。
Claroc、ログイン不要で開けるGrok製アプリ3万5,578件を発見
セキュリティ企業によると、公開されたGrok製アプリの一部で患者情報やパスワード、社内文書が閲覧可能になっていた。SpaceXSIは従業員が作成したアプリ24件を停止した。
ESET、日々数十億件を処理するセキュリティAIを発表
ESET NeoCortexを搭載するESET LiveCortexは、膨大な動作情報を関連付け、対応すべきインシデントを優先して示す。
CogentとOpenAI、企業向けサイバー防御ツールを開発
Cogentは、OpenAIのモデルに企業ごとの情報を組み合わせ、エージェントがセキュリティ上の脆弱性を自動で修正できるよう支援するとしている。
Notion AIのチャット記録、委託先への不正アクセスで漏えいの恐れ
Notionは、AI利用状況を分析する機能に使われたチャット記録が外部から見られた可能性を公表。影響は全ワークスペースの1％未満です。
AWS、OpenAIのDaybreakセキュリティモデルをBedrockに追加
対象となる顧客はAmazon Bedrock経由でGPT-5.6 CyberとGPT-5.6 Solを利用できるが、事前にOpenAIとAWSの承認が必要。
Amazon DocumentDB 8.0.3、耐量子TLSとワイルドカードインデックスに対応
11月10日のアップデートで、TLSのハイブリッドML-KEM鍵交換、ワイルドカードインデックス、$unionWithによる集約がDocumentDBに加わりました。
11月10日火曜日
Amazon S3 Tablesでサーバーアクセスログに対応
S3 Tablesのバケットで、無料のサーバーアクセスログを有効にできるようになりました。テーブルの利用状況の監査やコストの把握に役立ちます。
Ring、屋内用警備ドローンと業務用ロボットを発表
Amazon傘下のRingが、家庭向けの270ドルの飛行カメラと、事業者向けの1,000ドルの車輪付きロボットを発売。今年後半に出荷を開始する。
Grok Buildのリンクから機密アプリデータが閲覧可能に、Ars報道
研究者によると、Grok Buildのアプリへのリンク数万件は、リンクを知っていれば誰でもアクセスできる状態で、企業の機密情報を含むものもあった。
Ring、屋内ドローンカメラを$250で発売 警備ロボットは$1,000
Ringの新製品Drone Camは、アラーム作動時に屋内を飛行。Rover CamはAstroを業務用巡回ロボットに転用した製品で、年内に出荷予定。
8カ国とAI各社、危険なモデルの停止措置でパリ宣言
8カ国と主要AI企業は2026年11月9日、新たなパリ安全宣言に署名し、リスクのあるモデルに停止措置を導入すると約束した。
DeepMind、AIでSignalの暗号コードを形式検証
AlphaProof Codeは4週間でSignalの中核的なセキュリティ特性を証明。広く使われるプロトコルをAIで形式検証した初の事例となった。
Abliteration AI、誰でも使える無制限モデルを提供
元Appleのエンジニア、Devon Thomasが2025年12月にAbliteration AIを立ち上げ、安全フィルターを取り除いたオープンウェイトモデルを使えるようにした。
トレンドマイクロとSocioFuture、詐欺送金前の対応を拡大
詐欺の兆候をAIが検知し、金融機関の窓口担当者が本人確認や注意喚起を行う実証実験を鳥取銀行と山陰合同銀行でも始めました。
ソラコム、IoTやロボットの診断から対策実装まで支援
ソラコムが11月10日、IoTやフィジカルAI向けのセキュリティサービスを開始。脆弱性の診断、対策の設計・実装、再検証まで一貫して支援します。
Instagram、AIで年齢推定し日本の10代にも保護機能
Metaは11月10日、日本を含む世界で年齢推定技術を展開。成人と登録したユーザーも10代と判断されれば、ティーンアカウントの設定が適用されます。
生成AIでソフト改造が身近に、脆弱性の懸念も
AIエージェントで既存ソフトを解析・改変するツール「REA」が注目を集める一方、理解や検証が不十分なコードの危険も指摘されています。
Orca Security調査、修正可能なAIの脆弱性の99.9％が未修正
「2026 State of AI Security Report」によると、半数以上の企業が本番環境でAIを稼働させている一方、既知の修正可能な脆弱性のほぼすべてが未対処のままだ。
11月9日月曜日
OpenAI、研究用ワークロードを監視する「Control Room」を導入
OpenAIによると、Control Roomは研究インフラ全体でモデルのワークロードを追跡し、安全性やセキュリティ上の懸念が生じた場合に迅速に停止できる。
AWS、GovCloudでClaude Mythos 5.2を承認済み顧客に提供
対象となる組織はAWS GovCloud (US)のAmazon BedrockからAnthropicのモデルを利用できますが、アクセスは承認を受けた組織に限られます。
AIによるコード生成、セキュリティ審査を上回る速さに
セキュリティ担当者172人への調査で、58％のチームが審査の追いつかない速さでコードをリリース。AIツールは未審査の依存関係も増やしている。
横須賀市、子どもの性被害相談にAI窓口を導入
市立学校が「よこすかAIフレンド AIちゃん」の運用を開始。24時間365日、LINEやウェブから相談でき、必要に応じて有人窓口につなぎます。
