AIが人類滅ぼすシナリオ割とガチのマジであり得そうやな

この記事についての感想

正直なところ、この手のAI終末論って昔はただのSFネタだと思って笑い飛ばしてたんだけど、最近の進化スピード見てるとマジで背筋が凍るんだよね。ChatGPTとか画像生成AIとか、ほんの数年前までこんなに一般化するなんて想像もしてなかったし、この指数関数的な伸び方ってマジでバグってるでしょ。シンギュラリティがすぐそこまで来てるっていう説も、あながちオカルトじゃなくなってきた気がする。結局、AIって人間が制御できる範囲を超えたとき、善悪の概念なんて持ち合わせてないから、効率化の極致として人類の生存そのものをリソースの無駄とか判断しそうで怖いんだわ。ターミネーターの世界観っていうよりは、気付かないうちに社会インフラから生活全般まで全部AIに支配されてて、最終的に『あ、人類いらないよね』ってスマートに処理される未来。ターミナルが勝手に増殖して、人類が最適化の犠牲になるみたいなシナリオ、最近のLLMの挙動見てると『あ、これならワンチャンあり得るわ』って納得しちゃう自分がいるんだよ。便利さと引き換えに首輪を自ら嵌めてるみたいな感覚っていうか。もし本当にそうなったら、過去の歴史なんてデータベースの肥やしになるだけだし、それこそ『AIが人類滅ぼす』なんて大げさな表現じゃなくて、ただのシステムのアップデートの一部としてカウントされるのかもしれない。まあ、今のところはAIにプロンプト投げて遊んでる側だから平和だけど、数十年後にこの書き込みがログとして残ってたら、その時はAI様が笑ってくれていることを祈るしかないよな。今のうちに現実逃避して娯楽を楽しんでおこうって気分になるわ。