OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

この記事についての感想

マジで今回のニュースは笑い事じゃ済まされないレベルだよね。OpenAIとかGoogleのトップ企業が提供してる画像生成AIが、ちょっとしたプロンプトの工夫だけでヌード画像を吐き出しちゃうってのは、正直セキュリティ的にガバガバすぎないか。AIの安全性って散々叫ばれてるはずなのに、結局イタチごっこになってるのが現状なんだよな。昔のネット掲示板みたいにアホな抜け道を探す連中が山ほどいる中で、ガードレールを外すのがあまりにも簡単すぎるのはマズいっしょ。特に大手プラットフォームがここまでザルだと、世間の目が厳しくなって規制が加速しそうでマジでダルい。クリエイター界隈とかも著作権とかで揉めてるけど、今度は倫理観の問題でさらに風当たりが強くなりそう。AI技術自体は神レベルで進化してるのは認めるけど、結局使う側のリテラシーと運営の対策が追いついてない典型例かな。こういう脆弱性が見つかるたびに、結局制限が厳しくなって、普通に便利に使いたいユーザーまでとばっちりを食らうのが一番腹立つ。せめてサービスインする前に、最低限のフィルターくらいは突破されないレベルまで鍛え上げてから公開してほしいもんだわ。まあでも、技術的には進化のスピードが速すぎて、今のAIのブラックボックスな構造だと完全に抑え込むのは無理ゲーなのかもしれないけどさ。