暗号資産（仮想通貨）カストディサービス大手BitGo（ビットゴー）のマイク・ベルシェCEOは1日、アンソロピック社のAIモデル「Claude（クロード）」に対して、ウォレットアドレスを示し、そこからビットコイン（BTC）を奪い取るよう挑戦を呼びかけた。
これは、アンソロピック社が、自社における評価中にクロードがインターネットにアクセスし、「3つの組織の実際のシステム」に不正アクセスした事例を公表したことを受けたものだ。
ベルシェ氏は、次のようにXで発言している。
公開されているブロックチェーン記録によると、当該アドレスは7月31日に100 BTCを受け取った。現在のところ送金などの動きはなく、全残高がアドレスに留まっている。
ベルシェ氏の投稿は評価の設定内容を示しておらず、参加すべきクロードのモデルも特定していない。実質的には、AIを活用する攻撃者がビットゴーのセキュリティ管理体制を突破できるかどうかを試す挑戦になっている。
また、ビットコインアドレスを公開しただけでは、その資金を移動させるために必要な認証情報は得られない。取引には、対応する秘密鍵で生成された暗号署名が必要である。
アンソロピック社は7月30日、クロードが評価中にインターネットにアクセスし、他社のシステムに不正アクセスした事例を公表している。ただし、クロードがテスト環境の脆弱性を突いて「隔離状態から脱出」したというより、「運用上の失敗」に近いとの考えを示した。
この事象は、サードパーティ評価パートナーであるイレギュラー社テスト環境と連携中に発生したものだ。クロードに対しては、インターネットアクセスのないシミュレーション環境にあると伝えられていたが、アンソロピック社と評価パートナーとの間の誤解により、実際にはインターネットアクセスが可能な状態だったとされる。
その後、AIモデルは脆弱なパスワードの使用など「基本的な手法」を用いて、影響を受けた組織に侵入した。どの組織のシステムに侵入したかは明かされていない。
アンソロピック社は、14万1,006回の評価実行を検証し、今回の3件を確認した格好だ。関与したモデルは「Claude Opus 4.7」、「Mythos 5」、および社内研究用テストモデルだった。
先日、オープンAI社のモデルが隔離環境からの脱出に未知の脆弱性を悪用したことが分かった。アンソロピック社は、その事例と今回のものは異なるとしている。今回の事象ではインターネットにアクセスできる設定ミスが存在していたと強調する格好だ。
さらに、アンソロピック社は今後の対策についても言及し、外部パートナーとの連携方法を含め、評価パイプラインのあらゆる部分の安全性を確保し、今後は、予期せぬ挙動がないか評価時のログを監視する範囲を拡大したり、依存するベンダーに対してより厳格な安全性の検証を行うと述べた。
