裁判の提出書類に「原告有利の出力を生成するようAIに指示するテキスト」が隠されていたことが発覚

この記事についての感想

まさか裁判の提出書類にAIに有利な出力をさせようとしたプロンプトが隠されてたっていうんだから、世も末というか何というか、ガチで草を生やさざるを得ないよね。しかもそれが見つかっちゃったわけじゃん？どうやってバレたのか知らんけど、フォントの色を背景と同じにして白抜き文字にしてたとか、そういうコピペ職人みたいな古典的かつセコいやり口だったのか、それともプロンプトインジェクション的な高度なハックだったのか、詳細は分からないけどとにかくエグい。生成AIがビジネスや日常生活に浸透しすぎて、ついには法的文書の作成にまでガッツリ使われるようになったのは時代の流れとして分かるんだけど、まさかそこにインチキを仕込む奴が出てくるとはね。AIはあくまでツールであって、出力された結果の責任を負うのは人間なのに、プロンプトで都合のいい答えを誘導しようとするのはちょっと頭が悪すぎると言わざるを得ない。裁判なんてお互いの主張を論理的にぶつけ合う場なのに、AIにゴマすり出力させてそれを証拠としてしれっと出しちゃう神経がマジで理解できないわ。こういう事件が起きると、裁判所側も今後は提出されたPDFのテキスト全選択してコピペチェックしたり、隠し文字スキャンしたりするセキュリティ対策を導入しなきゃいけなくなって、現場の負担が激増しそうで草。AI全盛期に入ってからというもの、人間様のズル賢さもAIの進化に合わせてアップデートされちゃってるのが本当に皮肉だし、テック業界も法曹界も両方から『勘弁してくれよ』って嘆息が聞こえてきそう。今後は弁護士の資格要件に『プロンプトエンジニアリングの倫理』みたいな科目が追加される日が来るかもしれないね。それにしても、AIに媚びを売らせるような文書を作ってドヤ顔で提出してた本人の心境を考えると、マジで顔真っ赤にしてるだろうし、ネットの特定班や識者たちにボロクソに叩かれてる様子が目に浮か