「中国のGLM-5.3はClaude Mythos Preview級のサイバー攻撃能力を持つ一方で安全対策が不十分」とAnthropicが警告

この記事についての感想

正直なところ、最近のAIモデルの進化スピードにはマジでビビらされるよね。今回Anthropicがぶっ込んできた『GLM-5.3がClaude Mythos Preview並みのサイバー攻撃能力を持ってる』って話、これ普通にヤバくない？ただでさえ最近のLLMってコード書かせると人間顔負けの精度を叩き出してくるけど、それが悪用可能なレベルで攻撃に特化してたら、もう防御する側が追いつかなくなる未来しか見えないよ。しかも安全対策が不十分って、これ開発側も何かしら確信犯的にやってるのか、それとも単にリソースが足りてないのかどっちなんだろうね。最近だと中国のテック勢はオープンソース界隈でも存在感バリバリだし、モデルの性能だけを突き詰めてガードレールを後回しにするのは、ぶっちゃけ今のトレンドでもあるから恐ろしい。昔だと『ハッカーが頑張って脆弱性を見つける』のがサイバー攻撃の定石だったけど、これからは『プロンプト一個でシステムをハックする』みたいなのが当たり前になるわけで、それってセキュリティ屋からしたら悪夢でしかないわ。まあMythos Preview級っていう比較対象自体が今の最前線なわけで、そこまで競り合ってることがそもそも異次元。これから先、AI開発における安全性ガイドラインってのがより重要視されるだろうけど、技術の進歩に規制が追いつかないのはいつものことだし、結局我々エンドユーザーが怪しいスクリプト踏まないように祈るしかないのかな。この分野は正直、どこかで大きな事故が起きないとマジでブレーキかからない気がしてならないし、今後はもっと『AIによる攻撃』を検知する『AIによる防衛』が熱い市場になりそう。