ChatGPTにも電子透かし、AI生成文か判定可能に。OpenAI独自手法textGrainでEU AI法対応、APIでは全世界でオプトイン可能に

この記事についての感想

ついにきたかーって感じだよね。ChatGPTに電子透かしが入るっていうOpenAIのこの動き、正直かなりデカいニュースだと思う。ぶっちゃけ今の生成AIって何が本物で何が偽物かマジでカオスな状況じゃん？論文とかレポートでAI使いまくる学生とか、フェイクニュース拡散する連中とか、正直野放しに近い状態だったしね。このtextGrainっていう独自手法、精度がどれくらい出るのかは未知数だけど、とりあえずEUのAI法にガチ対応しにいくっていう姿勢は見せたわけだ。APIで全世界オプトイン可能っていうのも賢いよな。強制的に全適用じゃなくて使いたい人はどうぞっていうスタンスだし。でもこれ、正直どれだけ隠蔽回避できるかが勝負だよね。昔の画像生成の透かしみたいに、AI使いがすぐに回避ツールとか出してきそうな未来しか見えないんだけど、どうなんだろ。あと、これによって「AI生成じゃないことの証明」が逆に価値を持つようになるのかもね。人間味のある泥臭い文章こそが逆にレアリティ高くなるみたいな。個人的には技術的にどうやってテキストに透かしを埋め込むのか、その仕組み自体が超気になる。単語の出現確率を微妙に操作するのか、あるいはもっと別のアルゴリズムなのか。いずれにせよ、AIの発展速度が早すぎて法規制が追いつかない現状に一石投じたのは間違いない。まあ結局のところ、どんなに高性能な検知ツールが出ても、いたちごっこになるのは目に見えてるけど、企業としてこういうガバナンスへの姿勢を見せること自体が今の市場では重要なんだろうね。とりあえず、自分の書いてるこのテキストも将来的には全部透かし入りになっちゃうのかなーなんて考えると、ちょっとだけSFチックな気分になるわ。