FacebookやInstagramに児童の性的虐待コンテンツを含む広告が大量掲載されていたとの報告、実在の子どもの写真をAI加工した広告も

この記事についての感想

マジで今回のニュース、普通に読んでて鳥肌立ったわ。メタ社が運営してるFacebookとInstagramで、児童の性的虐待を示唆するようなコンテンツが広告としてバカみたいに掲載されてたって話なんだけど、正直言ってドン引きを通り越して恐怖すら覚えるよね。しかもただの画像流用かと思いきや、AIで加工までしてるってのが本当に悪質すぎる。生成AI技術が発達して、誰でもそれっぽい画像が作れちゃう今の時代、こういう使い道に使われるとかマジで終わってるわ。SNSの広告審査ってAIによる自動化が進んでるはずだけど、結局ザルなの？っていう根本的な疑問が湧いてくるよね。収益重視で広告審査がガバガバになってるとしたら、プラットフォームとしての責任はどうなってんのって話だし、ユーザーとして安心感なんて持てるわけないじゃん。特に子供たちがターゲットにされるようなコンテンツが、自分たちの日常のタイムラインに流れてくるかもしれないと思うと、正直ゾッとする。ネットの安全性とかプライバシー保護とか、企業側は耳障りの良いことばかり言ってるけど、結局こういう最悪な事態を防げないなら説得力なんて皆無だよね。ネットの闇が深すぎるというか、技術の進歩が負の側面を加速させてる感がエグい。今回の件で、メタ側がどういう対応をとるのか、っていうより、そもそもどうやってここまで放置しちゃったのか、そのガバナンス体制を徹底的に説明してほしいところ。私たちユーザー側も、何が流れてくるか分からないという危機感を持ってSNSと付き合わないといけない時代になってるのが本当に悲しいわ。