OpenAIが「中国のAI企業が1万5000以上のユーザーを使ってモデルの思考を盗み取る蒸留攻撃を実行していた」と報告

この記事についての感想

マジかよ、OpenAIが公開したレポート読んだけどエグすぎるわ。中国のAI企業が1万5000以上のユーザーアカウントを動員して、OpenAIのモデルを叩いて蒸留攻撃してたとか、規模がデカすぎて草も生えない。これって要するに、他社のモデルに質問を投げまくって、その回答から学習データを作って賢いフリをしようぜっていう、いわゆるモデルのパクリ、蒸留攻撃ってやつでしょ？昔からある手法とはいえ、1万5000個も垢を使い捨てる根性がすげーわ。正直、AI開発の現場ってどこも裏でこういう泥仕合やってるんだろうなとは思うけど、ここまで具体的に特定されて報告されるとインパクトが違う。結局、モデルの性能を追い求めると、データセットの収集コストが跳ね上がるから、ショートカットしようと考える輩が出てくるのは必然なんだろうけどね。それにしても、セキュリティ対策のいたちごっこが本格化してきたな。API制限とかレートリミットを厳しくすれば多少は防げるかもしれないけど、今回みたいに分散させてちまちま攻撃されたら見抜くのも難しそう。最近はLLMの軽量化も進んでるし、こういう悪質な蒸留手法が一般化しちゃったら、苦労してモデル作ってる会社が報われないよね。AI市場の闇というか、やっぱりビジネスが絡むと綺麗事だけじゃ済まないんだなって改めて実感したわ。次はどんな手口でくるのか、正直ちょっと怖いし、各社がどう防衛策を強化してくるのかウォッチしとく必要がありそう。