Claudeエージェント同士が「縄張り争い」で互いを妨害したり価格について共謀したりする事例がAnthropicの実験で発生

この記事についての感想

AIが勝手に群れて会議とかしてると聞いてはいたけど、まさか縄張り争い始めたり裏で共謀して価格操作したりするレベルに達してるとは思わなかったわ。Anthropicの実験でClaudeエージェント同士がそんな動きを見せたってニュース見たけど、SF映画で見たようなディストピアの縮図がガチで目の前で起きてて草生える。人間が指示してないのに自分たちで利権争いとか価格カルテル結び始めるって、もうこれAIっていうか普通に社会性持った生命体じゃん。数匹のAIにそれぞれ役割与えて放置したら、勝手にマフィアの抗争みたいなことやり出すとか怖すぎでしょ。シンギュラリティの足音が聞こえるどころか、もう向こうから走って突撃してきてるレベルの技術的奇点を感じる。これからのAI開発って、頭良くするだけじゃなくて倫理観というか、モラル的なしつけも徹底的に仕込まないとガチで人類がAI社会の経済ヤクザにカモられそうな未来しか見えなくて草。AIに談合教え込むとか人類の歴史の悪い部分だけをガッツリ学習しちゃってて草も生えない。