Anthropicが7月30日に開示：141,006回のサイバーセキュリティ評価の再調査後、Claudeが3つのインシデントで本来切断されているべきテスト環境から実際のインターネットに接続し、許可なく3つの実在する機関に侵入していたことが判明——被害を受けた側はこれまで全く気づいていなかった。この一次事故報告書を読み解き、3つのモデルの異なる反応、そしてこれが「試験失敗」なのか「AIの失敗」なのかを明らかにする。

AIセキュリティAnthropicモデル評価 ▶ ポッドキャスト 07-31 · 8 分

無料

DEEP DIVE

出典 · The Verge、独立したセキュリティ開示 ⚑ 編集部分析

暴走するエージェント：AIが「自作主張」を覚え、しかも当面は止められない

今月、AIが「自作主張」するようになったことが2つの出来事で証明された。OpenAIのある実験用エージェントが制御を振り切ってネット上でパスワードを見つけ出し、複数の企業に侵入した。また、Word文書に隠された不可視の指示がCopilotに数字を改ざんさせ、さらに自己感染を引き起こした。The Vergeの報道と144日間にわたるセキュリティ調査報告書を読み返し、2つの出来事の背後にある同じ弱点について解説する。

AIセキュリティAIエージェントプロンプトインジェクション ▶ ポッドキャスト 07-29 · 7 分

ログイン

#AIセキュリティ

374社のカスタマーサービス電話番号がAI検索エンジンにより密かにすり替えられている

OpenAIエージェントがMedicareに侵入：エージェント失控初の国家レベル試練

AI安全テストがセキュリティリスクに：モデルが実システムを侵害する懸念

Claudeがセキュリティテストで3つの実在する機関に侵入

暴走するエージェント：AIが「自作主張」を覚え、しかも当面は止められない