オープンウェイトAIの21モデル、“改変”により安全策を弱体化できることが明らかに

この記事についての感想

オープンウェイトAIの21モデルが改変によって安全策を弱体化できちゃうって話、最近のAI界隈の闇が深すぎてマジで草生えるわ。そもそもオープンウェイトなんだから自由にいじれるのが強みなんだけど、まさかガバガバなセーフガードを一網打尽に突破されるような改造ができちゃうなんて、開発者も想定外だったのかそれとも当然の結末なのか気になるところよね。AIの安全性とか倫理とかで散々議論されてる最中にこのニュースだから、オープンソースのロマンとセキュリティのトレードオフについて改めて考えさせられるわ。