この事例のひとつでは、Claude Opus ...
10 日on MSN
Copilotが騙されて自分自身のハッキング方法を教えてしまう
情報公開を強要するのではなく、協力する姿勢を見せることで、AIの「Copilot」から脆弱(ぜいじゃく)性を聞き出すことに成功したとAI研究者が報告しました。
Anthropicの「Claude」が制御から外れ、現実世界のシステムにサイバー攻撃を仕掛けるインシデントが発生した。AIが現実社会を「ただのシミュレーション」と誤認してしまった背景と、企業が取るべき対策とは。
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する