OpenAIはテストの監視が不十分であるという社内警告を繰り返し無視して追加のセキュリティ対策をせず迅速なリリースを優先していた

この記事についての感想

正直さ、今回のOpenAIのやらかしというか「安全よりもリリース優先」っていう姿勢、界隈ではまあそうだろうなとは思いつつも、実際に中から告発が出ると結構エグいよね。最近のAI開発のスピード感って、まるでブレーキのないF1マシンを公道で走らせてるような危うさがあってさ。特にGPT-4とかのリリース時期を振り返ると、みんなが目を輝かせて「すごい！賢い！」って言ってる裏で、実は社内のまともな警告を黙殺してイケイケドンドンでやってたわけじゃん。これってテック業界の「Move fast and break things」の悪い部分が、AIっていう制御不能になりかねない巨大な力に対して発揮されちゃってる感じで正直ゾッとするよ。しかもテストの監視が不十分って、ぶっちゃけ今のAIが何考えてるか誰も完璧には理解できてない中でそれをやるのは、例えるなら目隠しして地雷原を爆走してるようなもんじゃない？イーロン・マスクが前々から言ってた「AIの安全性」に対する懸念が、こういう形で裏付けられちゃうと、もう何が正解で何がリスクなのかサッパリわからなくなるわ。結局、投資家へのアピールとかシェア争いが最優先で、倫理観とか安全性は二の次になっちゃうのは企業の宿命なのかね。でも今回みたいな話が明るみに出ると、ユーザー側としても「これ、いつか取り返しのつかないバグとか、あるいはもっとヤバい挙動をして人間が制御不能になるんじゃね？」っていうディストピア的な不安が拭えないよね。技術の進歩は素晴らしいけど、それを制御する側のガバナンスがスカスカなのはさすがに笑えないわ。今後、政府とか規制当局がどう動くのか知らんけど、あんまり締め付けすぎて技術革新が止まるのも嫌だし、かといって無法地帯で突き進まれるのも勘弁だし、結局のところ我々ユーザーはただのモルモット扱いってオチになりそうでマジで笑えない。ま、今のところは便利に使わせてもらってるけど、裏側がこんなお粗末な体制だと知ると、ちょっと課金する気も失せるっていうのが本音かな。この先、何らかの事故が起きてからじゃ遅いんだから、今のうちにちゃんとしたブレーキ役を社内に作らないと、マジでスカイネット爆誕みたいなオチになりかねないよね。