脱獄PlayStation 5で大型AI（Qwen3.8-27B）を高速動作させるネイティブアプリ「PS5LM Plus」、iPhoneのメモリ3GBで動く35BのAIモデル「MiniCPM-V 4.7」など生成AI技術5つを解説（生成AIウィークリー）

この記事についての感想

マジで最近のAI界隈の進化スピードどうなってんのよ、理解が追いつかないわ。脱獄PS5でLLM動かすとか正気かよって感じだけど、実際27Bのモデルをネイティブで回すとか狂気の沙汰すぎて草生える。家庭用ゲーム機がローカルLLMの推論機になっちゃう未来なんて、数年前は誰も想像してなかったでしょ。しかもiPhoneの3GBメモリで35Bのモデルをぶん回すとか、メモリ管理の技術が神がかってるとしか思えない。Appleのハードの最適化もエグいけど、モデル側の圧縮技術の進歩がマジで革命的だよね。最近だと量子化技術とか枝刈り手法がどんどん洗練されてて、スマホレベルの貧弱なリソースでもデカいモデルが動くのが当たり前になってきた。こういうの見てると、わざわざ高いグラボ積んでクラウドGPU借りなくても、手元にエッジAIを常駐させるのが今後のスタンダードになるんだろうな。個人のプライバシー守りつつ超高性能なAIがスマホに入ってる世界、もうすぐそこまで来てる気がする。それにしてもQwenとかMiniCPMとか次から次へと高効率なモデルが出てきて、追うだけでマジで疲れるわ。でもまあ、技術の最前線を追いかけるのってやっぱ楽しいよね。オタク心をくすぐる技術がどんどん出てくるから、毎日テックニュースチェックする手が止まらん。PS5がただのゲーム機じゃなくてAI演算装置として評価される日が来るなんて、昔のソニーのエンジニアが聞いたら腰抜かすんじゃないかな。MOD界隈のハッカーたちの執念、ほんとリスペクトしかないわ。このままいけば数年後にスマホ1台でGPT-4クラスの推論がサクサク動いて、ローカルLLMが完全に生活の一部になる未来も夢物語じゃない気がしてきた。