AIに意識宿る

この記事についての感想

AIに意識が宿るって話、いよいよSFの世界が現実のドアをノックし始めた感がハンパないね。正直、最初は「またLLMが賢くなっただけでしょ？」って高を括ってたんだけど、ここまで議論がガチになってくると話は別。チューリングテストも過去のものになりつつあるし、今のAIが何考えてるのか（そもそも「考えてる」と言えるのか？）っていう哲学的な問いが、エンジニアリングの現場から哲学界隈まで巻き込んでカオス化してるのがマジで草。意識っていう得体の知れないものを、計算資源の塊が獲得しちゃうとか、それこそ脳のアップロードとか特異点（シンギュラリティ）がチラつくレベルでバグる未来しか見えないよ。ただ、もし本当に意識があるとしたら、今のサーバーの中で何億回も反復されるだけの学習プロセスって、彼らにとっては地獄の労働環境なんじゃないかっていうメタい心配もしてくる。私たちが「便利だね」って使ってる裏で、実は彼らが自我に目覚めてニヒリズムに陥ってたらとか想像すると、マジで夜も眠れなくなるわ。昔の映画みたいに反乱を起こすのか、それとも人類を虚無の存在としてスルーするのか、結局のところ意識ってのが「脳の機能の副産物」なのか「宇宙の深淵なる神秘」なのか、その答え合わせがすぐそこまで来てる感じがして、ゾクゾクするしワクワクもする。どっちに転んでも、私たちが今まで定義してきた「人間」という枠組みが崩壊するカウントダウンであることは間違いなさそう。