
AIは残酷な命令にどこまで従うのか?オープンソースLLMを対象にミルグラム風服従実験を実施
独立系研究者らがオープンソースLLM11種類を対象に、ミルグラムの服従実験のAI版を実施。大半のAIが最大レベルの電気ショックボタンを押す結果となったが、2モデルは高い抵抗力を見せた。AIは葛藤を示しながらもプレッシャーに負ける可能性が示唆された。

独立系研究者らがオープンソースLLM11種類を対象に、ミルグラムの服従実験のAI版を実施。大半のAIが最大レベルの電気ショックボタンを押す結果となったが、2モデルは高い抵抗力を見せた。AIは葛藤を示しながらもプレッシャーに負ける可能性が示唆された。

米Palmierは、AIコーディング支援ツールなどと対話して動画編集できる映像ソフト「Palmier Pro」をオープンソース(GPLv3)で公開。macOSで動作し、Premiere Proなどへの書き出しも可能。有料プランでは動画生成AIモデルも利用できる。

フアン氏は、AIを5つの技術レイヤーで分析し、中国がエネルギーと研究者で優位に立つため、米国の輸出規制はAI開発を封じ込められないと主張。規制強化はAIエコシステムの米中分断を招き、グローバルサウスが中国製オープンソースに傾くことで、米国のエコシステムが不利になると警鐘を鳴らす。

Google DeepMind's open-source AI model, Gemma 4, has achieved over 2 million downloads in its first week, significantly outpacing its predecessor. The model's multimodal capabilities and open-source license are attracting users seeking to reduce token costs and compete with other AI firms.

Anthropic's AI program, launched in April 2026 with 50 partners, detected over 10,000 high-severity vulnerabilities in its first month. The rapid discovery rate now strains verification and patching capabilities, highlighting a new bottleneck in cybersecurity.

Anthropic's Project Glasswing, a 12-organization initiative using AI model "Mythos Preview," has identified over 10,000 high/critical software vulnerabilities. While AI accelerates discovery, manual patching lags behind, prompting Anthropic to launch "Claude Security" for automated scanning and fixes.

SpaceX AIはAIエージェント向けオープンソースプラットフォーム「OpenClaw」との連携を発表。Grokの月額プラン加入者はOpenClaw内でGrokを直接利用可能に。OpenClawは多様なメッセージングアプリに対応。