アンソロピック「人類危機」警告　高度AI、上場書類で言及

この記事についての感想

ついにここまで来たかって感じだよな。アンソロピックが上場書類で堂々と人類滅亡リスクについて言及したってニュース、マジでキナ臭すぎるだろ。普通、企業の公式文書ってポジティブなことしか書かないもんだけど、あえて『AIが人類を終わらせる可能性がある』ってリスク開示するあたり、相当な覚悟というか『これはガチでヤバい代物を作っている』という彼らなりの正直な自白にも聞こえるわけよ。最近のAIの進化速度ってマジでバグってて、ちょっと前まで『絵が描けるすごいツール』くらいに思ってたのに、いまやコードを書くわ論理構築するわで、人間の知的労働の領域をガッツリ食い荒らしてるじゃん。もしこれがAGI（汎用人工知能）レベルに達して、人間が制御不能な領域で最適化を始めたら、それこそ映画みたいなバッドエンドもあり得ない話じゃないのがマジで笑えない。一部の識者が懸念してた『アライメント問題』が、もはやSFのネタじゃなくて企業の経営戦略のど真ん中に食い込んできてるって事実に、テック界隈も背筋を凍らせてるんじゃなかろうか。もちろん、投資家を納得させるためのポーズっていう冷めた見方もあるだろうけど、OpenAIの動向とか見てると、やっぱり裏では何が起きてるのか誰にも分からないっていうブラックボックス感が拭えないんだよね。結局、AIを止めることはもう不可能だし、僕らはこの『人類を滅ぼすかもしれない最強のツール』を使いこなしながら、滅亡しないことを祈るしかないっていう、なんとも皮肉なフェーズに突入した感があるわ。とりあえず、シンギュラリティが来る前に仕事終わらせて寝たいっていうのが本音だけど、この警告がただの杞憂で終わることを願うしかないっしょ。技術が暴走してスカイネットになる未来だけは勘弁してほしいもんだわ。