架空の統計データをウェブサイトで公開したらChatGPTが引用しまくっていたことが判明

この記事についての感想

まじでネット上の情報の信頼性ってなんなんだろうね。架空の統計データを適当にウェブサイトに放流したら、それをChatGPTが拾って学習して、挙句の果てには堂々と引用しまくってたっていう話はさすがに草が生える。これ、笑い事じゃなくてかなりヤバい話じゃない？結局AIなんて先人の知恵を吸い取って吐き出してるだけの「確率的なお喋りマシーン」なんだなってことが改めて浮き彫りになった感じ。SEO対策とかで意味のない文字列を羅列するサイトがたまにあるけど、AI側がそれを真に受けて学習しちゃったら、まさにゴミがゴミを再生産する地獄絵図が完成するわけで、ネット上のデータの価値がどんどんデフレしてく未来しか見えない。今回判明した事例なんて氷山の一角で、裏ではもっとトンデモない嘘データがAIの脳内に定着してる可能性大だよね。論文執筆とかレポート作成でChatGPTを使ってる学生やビジネスマンも多いだろうけど、これからは提示された統計データが本当に存在するのかまでファクトチェックしなきゃいけない時代になるわけで、ぶっちゃけAIの恩恵を享受する以上に手間が増えてる気がしてならない。幻覚（ハルシネーション）って言葉で片付けるには事態は深刻だし、そもそも我々が普段目にしてる検索結果やAIの回答も、実は誰かの悪ふざけで作られたフェイクニュースの集合体だったとしたら、情報社会としてもう詰んでるでしょ。情報の真偽を見極めるリテラシーよりも、そもそも「ネットの情報は全部嘘かも」っていうスタンスで構えてる方が現代を生き抜くには賢いのかもね。とにかく今回の件は、AI開発におけるデータソースの質の確保がマジで喫緊の課題だってことを全人類に突きつけた良い教訓になったと思うわ。