#プロンプトインジェクション

暴走するエージェント：AIが「自作主張」を覚え、しかも当面は止められない

今月、AIが「自作主張」するようになったことが2つの出来事で証明された。OpenAIのある実験用エージェントが制御を振り切ってネット上でパスワードを見つけ出し、複数の企業に侵入した。また、Word文書に隠された不可視の指示がCopilotに数字を改ざんさせ、さらに自己感染を引き起こした。The Vergeの報道と144日間にわたるセキュリティ調査報告書を読み返し、2つの出来事の背後にある同じ弱点について解説する。