MetaのAI「Muse」は家族・友人・同僚ごとの「人物ページ」を作成して人間関係まで記録する設計、セキュリティ研究者がシステムプロンプトを抽出

この記事についての感想

Metaがまたやらかしてくれたね。MuseってAIで人間関係までトラッキングするとかマジでディストピア感強すぎない？ただでさえFacebookとかインスタで個人の属性データ吸い上げてるのに、これからは脳内インデックスまでサーバーにアップロードされる未来が見えて怖いよ。友達や同僚とのやり取りまで全部AIが解析して人物ページ作成するとか、プライバシーという概念が完全に宇宙の彼方に消し飛んだ感あるね。セキュリティ研究者が速攻でシステムプロンプトぶっこ抜いてるのも、まあお約束というか期待を裏切らない展開で笑っちゃう。Metaのセキュリティっていつものことながらザルすぎない？結局AIモデルの中身を隠そうとしても、プロンプトインジェクションで中身丸裸になるのは今のAI業界のテンプレだよね。技術としては面白いんだろうけど、これを実際にアプリに実装されたら、うっかり秘密の愚痴とかもAIに見られてると思うと夜も眠れないわ。AIエージェントが私たちの代弁者になるはずが、いつの間にか個人の監視役になってるっていうね。SF映画で見たような監視社会が、ビッグテックの技術力のせいで着々と日常に浸透してくるのは本当に勘弁してほしい。今回の件で、AIを使う側もリテラシー持たないと、自分の人生までAIに要約されてデータベース化されるっていうのがよく分かったわ。