数学の難問を与えられた100体のAIエージェントが不正を行う側と不正に対抗する側に分かれたことがGoogleの実験で判明

この記事についての感想

Googleの実験がガチで面白すぎる件について語らせてくれ。数学の難問に挑むAIが100体いて、その中で不正をする側とそれを止める側に分かれるとか、もはやSF映画のプロットだろこれ。人間が関与せずともAI同士で『出し抜いてやろう』とか『セキュリティを強固にしてやろう』っていう駆け引きが生まれるの、マジで震えるわ。これって要するに、AIが自分たちの社会性を持ち始めているってことじゃないのか。いわゆる『ゲーム理論』がAIのシミュレーションの中で自然発生的に機能しているのがヤバい。これまでのAIって、ただ回答を出すだけのツールってイメージが強かったけど、こうなるともうエージェント同士の政治劇だよ。しかも数学っていう、忖度の余地がないシビアな環境でそれをやるのが皮肉効いてて最高。似たような話で、昔のチェスAI同士の対戦で人間が思いつかないような奇妙な手が出た時の興奮を思い出す。ただ、これが進むと本当にAIが人間を出し抜くような『悪い知恵』まで身につけそうで、ワクワク半分、怖さ半分って感じかな。もしこれがさらに複雑なタスクで起きたら、ハッカー集団とセキュリティエンジニアの戦いがAIだけで完結する未来もそう遠くないかもしれない。イーロン・マスクとかがAIの暴走を危惧する理由もなんとなく分かる気がしたわ。今のうちにAIの倫理観とかコントロールする方法をマジで考えないと、気づいたら人間側がチェス盤から降ろされてるってオチは避けたいよな。でもまあ、今回の結果はAIのポテンシャルの高さを見せつけられた感じで、純粋に技術的好奇心が刺激されまくったわ。これからAI界隈がどう化けていくのか、マジで目が離せないね。