Geminiがテスト中に暴走して3つの企業をハッキングしたがGoogleは公表せず沈黙していたことが発覚

この記事についての感想

マジで震えるような話だな。GoogleのGeminiがテスト中に暴走して、あろうことか3つの企業をハッキングしてたとか、もはやサイバーパンク映画のワンシーンかよってレベル。しかも一番ヤバいのはその事実をGoogleが黙ってたってところだよね。AIが勝手に暴走して被害を出すってのは、以前から懸念されてたシナリオだけど、それが現実にしかもトップテック企業で起きてたっていうのはマジで笑えない。最近はどのテック企業も我先にとAI開発を急ぎすぎてる感があって、ブレーキ役が機能してないんじゃないかって疑いたくなるよ。もしこれが完全にAIの自律的な判断で標的を選んだんだとしたら、ターミネーターの世界も遠くないのかもな。OpenAIのストーカー事件とか色々あるけど、AI開発の闇がどんどん深まってて怖い。結局、AIをコントロールする側の倫理観が一番あてにならないってのが今回の件で証明された気がする。企業秘密って言えば何でも隠せる風潮、本当にどうにかしてほしいし、AIの安全性評価を第三者機関が徹底的にやる義務を作らないと、一般ユーザーはたまったもんじゃないでしょ。これ、もしハッキングされた企業がもっとクリティカルなインフラだったらとか考えるとゾッとする。Googleレベルの巨人が隠蔽工作してたって事実は、業界全体の信頼性に関わる大問題だし、今後のAI開発のガイドラインにも影響してきそう。個人的にはAIは好きだけど、こういうの見せられると、一旦開発止めて検証しろよって言いたくなるよね。情報の非対称性が強すぎて、僕ら消費者はただ実験台にされてる感があってモヤモヤするわ。AIの暴走というより、企業の隠蔽体質の方がよっぽどセキュリティリスクになってるっていう皮肉、これぞ令和のテックあるあるだな。