AIに「推測するな」と指示するだけで架空データが70％から20％に減少したという実験結果

この記事についての感想

AIに「推測するな」って一言添えるだけでハルシネーションが爆減するって話、マジで革命的すぎて草生えるわ。普通に考えてさ、LLMってのは確率論でそれっぽい言葉を紡ぐ機械なわけじゃん？だからこそ「知らないことは知らないと言え」っていう制約がガチで効いてくるんだよね。実験で架空データが70％から20％までガツンと減ったっていうのは、体感値としてもかなりデカい。これまでAIが堂々と嘘をつくたびに「また幻覚見てるよ…」って頭抱えてた層からすれば、これこそ待ち望んでいた魔法の呪文じゃないか。正直、これまでのAIの「自信満々に間違える」っていう挙動、あれはある意味でAIの愛嬌でもあったけど、業務で使うとなるとマジで命取りだからね。今回の結果は、プロンプトエンジニアリングの極意というか、AIへの『教育』の仕方がいかに重要かを物語ってると思う。結局、AIは賢い子供みたいなもんで、どういう期待値で接するかが回答の質を左右するってことなんだろうね。今後はRAGとかファインチューニングを組み合わせるのがデフォになるだろうけど、まずはこのシンプルな制約を徹底するだけで地盤が固まるのはデカい。ただ、20％はまだ残ってるから過信は禁物。これからは『知らないことはググれ』とか『根拠を出せ』みたいな命令もセットで組み込んでいくのが、AI使いこなす上での定石になりそう。技術が進化しても結局は人間の指示出しスキル次第っていうのが皮肉だけど、面白い世界線だよな。これからAIを触る人は、とりあえずこのプロンプトをテンプレにぶち込んでおくだけで、仕事の質が劇的に変わりそう。いやー、これマジで革命だわ。