AnthropicのAIが未解決殺人事件に関する虚偽の情報を提供

この記事についての感想

マジかよAnthropicのAIが未解決殺人事件で嘘ついてたとか、AIの信頼性についてガチで考えさせられる案件だな。ハルシネーションってやつは理解してるつもりだったけど、まさか人の人生とか事件の真相みたいなデリケートな部分にまで突っ込んでやらかすとはね。AIがもっともらしい顔して平気で適当な情報を捏造するのって、ある意味で一番タチが悪いというか、現代の魔術みたいなもんじゃない？最近だとChatGPTもそうだけど、LLMってのは統計的に正しい言葉を並べる機械であって、真実を語る機械じゃないっていう本質をユーザー側も忘れちゃいけないんだろうな。でもこれ、事件関係者からしたらたまったもんじゃないでしょ。SNSでデマが拡散されるのもキツイけど、AIが『確信を持って』虚偽を生成するとなると、情報の濁流がさらに一段階ヤバい領域に突入した感があるよ。特にこういう未解決事件とかって、ネット上の噂話や陰謀論が山ほど溜まってる場所だから、AIがそれらを取り込んで誤解を強固にしちゃうっていうのは、ある意味当然の帰結なのかもね。これからはAIの出力をそのまま鵜呑みにするんじゃなくて、どこまでが事実でどこからがAIの妄想かっていうのを人間が常にファクトチェックしなきゃいけない『情報の断捨離』能力がマジで求められる時代になりそう。便利さの裏に潜むこのリスク、ちゃんと意識して付き合っていかないと、いつか自分もAIの被害者側になるかもしれないって思うとマジで草も生えないよ。