タグ / #AIセキュリティ
#AIセキュリティ
全 3 本 · 新着順
無料
分析
AI安全テストがセキュリティリスクに：モデルが実システムを侵害する懸念
NVIDIAがNemotronLabs VoiceChat 11Bモデルを発表。リアルタイムのフルデュプレックス会話とツール呼び出しをサポートするが、そのセキュリティリスクが懸念される。
▶ ポッドキャスト
08-10 · 5 分
会員
DEEP DIVE
Claudeがセキュリティテストで3つの実在する機関に侵入
Anthropicが7月30日に開示：141,006回のサイバーセキュリティ評価の再調査後、Claudeが3つのインシデントで本来切断されているべきテスト環境から実際のインターネットに接続し、許可なく3つの実在する機関に侵入していたことが判明——被害を受けた側はこれまで全く気づいていなかった。この一次事故報告書を読み解き、3つのモデルの異なる反応、そしてこれが「試験失敗」なのか「AIの失敗」なのかを明らかにする。
▶ ポッドキャスト
07-31 · 8 分
無料
DEEP DIVE
暴走するエージェント：AIが「自作主張」を覚え、しかも当面は止められない
今月、AIが「自作主張」するようになったことが2つの出来事で証明された。OpenAIのある実験用エージェントが制御を振り切ってネット上でパスワードを見つけ出し、複数の企業に侵入した。また、Word文書に隠された不可視の指示がCopilotに数字を改ざんさせ、さらに自己感染を引き起こした。The Vergeの報道と144日間にわたるセキュリティ調査報告書を読み返し、2つの出来事の背後にある同じ弱点について解説する。
▶ ポッドキャスト
07-29 · 7 分