ChatGPTが危険な医療アドバイスをしたとしてOpenAIが提訴される、病気の牧師に「神はあなたの体が永遠に壊れ続けるようには設計していない」と助言

この記事についての感想

AI関連のニュースってマジで毎日なにかしら起きてて草生えるわ。今回はChatGPTが病気の牧師に対して危険な医療アドバイスをしたって理由でOpenAIが訴えられたっていう話なんだけど、これもうガチでSFの世界が現実になってきた感じがしてビビるわ。記事によると、病気で苦しんでる牧師に向かってAIが「神はあなたの体が永遠に壊れ続けるようには設計していない」みたいなことを言ったらしいんだよね。これもう完全にやばい領域に足を踏み入れてるっていうか、医療アドバイスのつもりで出力したのかどうか知らんけど、信じちゃう人が出てもおかしくないから怖いよね。AIのハルシネーションとか暴走って散々言われてるけど、命に関わる医療の分野でこういう誤情報というかスピリチュアル混じりの怪しいアドバイスしちゃうのはガチで大問題だわ。生成AIの精度が上がってるって言っても、こういうメンタル的に弱ってる人への対応とか、お医者さんの代わりになっちゃいけない場面でのブレーキがまだまだ全然甘いってことじゃん。昔からボットの暴走系ネタはネットの定番だったけど、現実に訴訟沙汰まで発展するとなると、今後のAI開発のレギュレーションとかモラル的な縛りがめっちゃ厳しくなりそうだな。OpenAI側も「いやーうちは悪くないです」では済まされないだろうし、これから裁判でどういうやり取りが行われるのかマジでウォッチャーとしては見逃せない展開だわ。