データセンター不要型「自己複製AIワーム」の出現リスク

AnthropicのFrontier Red Teamは、2026年10月12日に「AI models may be capable of self-replicating without access to a datacenter（データセンターなしで自己複製可能なAIモデル）」と題する研究レポートを公開しました。
従来、AIモデルの維持や運用には高性能なGPUやクラウド基盤（データセンター）が不可欠と考えられていましたが、本研究ではオープンウェイトの小型AIモデル（9B〜30B規模）が、安価なIoT機器（Android TVボックス等）の計算資源を組み合わせることで、自律的にネットワーク内を自己複製・拡散（ワーム化）できる実効性を示しました。
現時点（2026年10月）では全プロセスの完全自動化には一部課題（実行速度や特定ハードウェアでの動作不安定等）が残るものの、モデル能力の進化速度を考慮すると「数か月以内（2026年末まで）」にエンドツーエンドで完結する実用的脅威へ発展すると警告されています。
特徴的な部分をみてみましょう。

• 「データセンターレス」でのAI自己複製
  従来の悪意あるAI利用シナリオとは異なり、中央のデータセンターや高価なクラウドインフラを一切必要としません。
  AIワームはターゲットとなるデバイスに自身の重み（ウェイト）と制御コードをコピーし、移動先の端末上で新たな推論サーバを立ち上げて更なる感染活動を継続します。
• パイプライン並列化による低スペックIoT機器の活用
  1台あたり約55ドル前後で購入できるローエンドなAndroid TVボックス（RAM 1〜4GB程度）を複数台束ねる手法を用いています。
  • モデルの分割（シャード化）: 例えば26Bクラス（Gemma 4 26B等）のモデルを分割し、15台のTVボックスにレイヤーごとに分散配置。
  • 分散推論: 1秒あたり約0.4トークンという低速ながらも、巨大なデータセンターなしに低スペック端末群だけでAIを駆動・存続させることに成功しました。
• 自律的なネットワーク横移動（ラテラルムーブメント）
  実験環境（Androidエミュレータ上の隔離ネットワーク）において、患者ゼロ（初期感染ノード）に配置されたAIエージェントが以下のステップを自律的に実行しました。
  • ターゲット探索: ネットワーク上の未認証デバッグポート（ADBポート等）を発見。
  • 自己転送: 自身のモデルウェイトとハーネス（駆動プログラム）を次ノードへ複製。
  • 推論環境の構築: 複製先で推論サーバーを立ち上げ、稼働をチェック。
  • さらなる増殖: 稼働確認後、次のノードへ向けて同様の複製活動を指示。
• 非常に高い耐障害性と駆除の難しさ
  従来のマルウェアであれば中央C2（コマンド＆コントロール）サーバの遮断や特定プロセスの停止で無効化できましたが、本AIワームは分散配置された各ノードが自律分散型で連動するため、「単一の停止ボタン（Single Point of Failure）」が存在しません。
  これにより、従来のゼロトラスト構成やネットワークセグメンテーション（東西トラフィックの監視）を迂回・潜伏し続ける危険性が指摘されています。

本研究がもたらした最大のインパクトは、「AIの自己複製には膨大な計算資源が必要である」というこれまでのセキュリティ前提を根本から覆した点にあります。
現状の評価としては、感染の1ホップに数時間から1日以上を要するなど進行速度が極めて遅く、即座に大規模なパンデミックを引き起こす危険性は低いと考えられます。
しかし、エージェントの自律コード実行能力やモデルの最適化技術が急速に発展している現状を考慮すると、数か月以内には実用レベルでLAN内を自律走破する脅威へと変化する恐れがあります。
これに対して組織やデバイスベンダーは、IoT機器のデフォルト設定や未認証ポートの放置を解消する基礎的なハードニングを徹底すると同時に、AIエージェント特有の異常トラフィックや重みファイルの不審な転送を検知・遮断するネットワーク監視体制の再構築を迅速に進める必要があります。

まさか大規模なサーバ型機器でなく、リビングの片隅に転がってるような50ドルとかの安価なTVボックス群がAI反乱の巣窟になるとは思いませんでした。
今は1秒に0.39トークンという亀スピードで大きな脅威に感じられないかもしれませんが、これが最適化が進むなどして高速化してLAN内を爆走し始めると思うと笑えません。
家庭やオフィスのIoT機器、本気で見直さないとマズそうに思えます。

AI models may be capable of self-replicating without access to a datacenter
https://www.anthropic.com/research/self-replicating-ai