ChatGPTとの会話を人間が読む「Project Lily」が進行中、個人情報がレビュー担当者に届いてしまう可能性がある

この記事についての感想

AIの進化ってまじですごいスピードだけどさ、裏側で人間ががっつり会話内容を読んでますって話を聞くと、ちょっと背筋が凍るというか、うわマジかよって感じになるよね。OpenAIがやってるProject Lilyの件なんだけど、ChatGPTとのチャット履歴がレビュー担当者にチェックされる可能性があるっていうさ。便利さの裏には必ず中の人の苦労というか、人力のサポートがあるもんだとは頭では分かっていても、いざ具体的に自分のプライベートなチャットが他人に読まれるかもってなると、途端に使いたくなくなる草。いや別にやましい秘密とかないけどさ、でもAIだからって調子に乗って壁打ち相手にしてた日記的な独り言とか、仕事のガチ機密に近い愚痴とかが人間の目に触れるのは完全にガチのホラーじゃん。AI業界だとよくあるRLHFみたいな仕組みの一環なんだろうけどさ、ユーザー側としてはどうしてもプライバシーの壁がどこまで守られるのか気になるところ。ネットの反応とか見てても、マジかよもう全裸でチャットしてるようなもんだんじゃねえか、みたいなツッコミが飛び交ってて草生える。でも考えてみれば、AIの賢さを上げるためには人間によるファインチューニングやアノテーション作業が不可欠なわけで、そのコストをどうやって透明性高く処理するのかっていうのは、これからの生成AI社会の大きな課題になりそう。オプトアウトの設定とかちゃんと用意されてるのかどうかも含めて、今後の公式の動きはしっかりチェックしておかないと痛い目見るやつだなこれ。