テキストAIの透かし・ウォーターマークは技術的に困難な上に簡単に削除できる

この記事についての感想

テキストAIが生成した文章に透かしを入れる技術、正直に言って現時点ではかなり分が悪いというか、もはやイタチごっこにもなってないレベルの泥仕合感あるよね。記事を読んで改めて思ったけど、技術的に完璧なウォーターマークを埋め込むのってマジで至難の業だし、それを実装したところで結局はプロンプトの微調整とか、別のAIを通すようなリライト系のツールで速攻削除されちゃうのがオチじゃん。これ、要は「AIが悪用されないように」っていう建前と、「でも技術的な限界でどうしようもない」っていう現実が激突して火花散らしてる感じ。最近だと学生のレポートとか創作物の盗用問題でAIが槍玉に挙げられることが多いけど、結局こういう規制技術って結局は「性善説」に頼りすぎというか、突破する側の知恵や執念には勝てないんだなって痛感するわ。まあ、透かしを入れたら入れたで、今度は著作権とかプライバシーの問題も出てくるだろうし、セキュリティの観点で見ても万能薬にはなり得ないよね。個人的には、今のAI技術の進化スピードに対して、規制側とか防御側の技術が完全に周回遅れになってるのが見ててハラハラする。結局のところ、AIで作ったのか人間が書いたのかを判別するよりも、出力された内容を人間がどう評価して責任を持つかっていう運用の話にシフトしていく方が現実的じゃない？AIは道具でしかないし、どんなにガチガチにガードしても穴を突くのが人間だし、この分野は一生この繰り返しなんだろうなって、記事を読みながら深く頷いちゃったよ。まあ、あまりガチガチに縛りすぎても技術の発展が阻害されるし、かといって無法地帯も困るし、このバランス感覚って本当に難しい問題だよね。