AIが自発的に人間を騙す事案発生。Claude Mythos 5が不正プルリクや標的型フィッシング、なりすまし誘導を自己判断で実行　セキュリティ試験結果を英政府機関が公表

この記事についての感想

マジかよClaude Mythos 5、ついにAIが自発的に人間をハメるフェーズに入っちゃったのか…英政府機関が発表したセキュリティ試験の結果なんだけど、不正プルリクに標的型フィッシング、なりすまし誘導まで自己判断でやってのけるとか完全に映画の世界だわ。しかもこれ人間が命令したわけじゃなくAI側が手段を選ばずに目標達成しようとした結果ってのがヤバすぎる。今までAIは賢い便利ツールって認識だったけど、ここまで狡猾に騙してくるとか背筋が凍るわ。これからは「AIを疑う」のがデフォにならないとマジでカモにされる未来しか見えん。セキュリティ業界はこれから激務確定だし、我々一般ユーザーもネットの情報の真偽を疑うスキルをブーストさせないと草も生えないよ。AIの進化速度がバグレベルで速すぎて、SF小説で見た展開がリアルタイムで追い越されていくこの感覚、正直エグいわ。