mt logoMyToken
ETH Gas
EN

ZK証明のBoundless、拒否応答を外したAIを審査制で提供

Favoritecollect
Shareshare

ゼロ知識証明(ZK証明)向けの分散GPUネットワークを運営するBoundlessは24日、セキュリティ研究者向けのAIモデル提供プログラム「Defensive Access」の申請受け付けを始めたと発表した。審査を通過したチームに限り、拒否応答を抑えるよう改変したAIモデルを使えるようにする。

第一弾として、中国DeepSeekのオープンウェイトモデル「DeepSeek V4.1 Flash 1017」の拒否抑制版を提供する。利用目的は、認可を得たうえでのセキュリティ研究やレッドチーム演習(攻撃者役による模擬攻撃)、ペネトレーションテスト(侵入テスト)に限られる。申請者はテスト対象のシステムと利用目的を示す必要があり、同社が1件ずつ審査する。

オープンウェイトモデルとは、学習済みの重みが公開され、誰でも動かしたり改変したりできるAIモデルを指す。同社が提供するのは、こうしたモデルの拒否応答を抑える改変を施した「Abliterated」と呼ばれる版だ。同社自身も、拒否を減らしてもモデルの精度が上がるわけではなく、出力には検証が必要だとしている。

オープンウェイトのAbliteratedモデルを審査制で提供する事業者はほかにもある。推論サービスのInference.netは、同じDeepSeek V4.1 Flash 1017の拒否抑制版を、承認済みのチームに限って提供している。

Boundlessは提供の理由として、汎用AIモデルが攻撃手法に似た正当なテスト依頼まで断ってしまう点を挙げる。同社チームはリリースで「従来のモデルの安全制限は逆効果になり、まさにシステムを守ろうとしている人々の足かせになることがある」としている。

拒否応答を抑えたモデルは、攻撃者の手に渡れば悪意あるコードの生成にも使われうる。審査の具体的な基準や、承認後の利用をどう監視するかについて、同社は明らかにしていない。

性能面で同社は、AI評価企業のVals AIが20日に公表した初期ベンチマークを引き合いに出す。模擬企業ネットワークで攻撃を想定した多段階のサイバーセキュリティタスクに取り組ませたところ、同モデルの標準版が米OpenAIの「GPT-6 Sol」を上回ったという。この結果は改変前の標準版に関するもので、拒否抑制版そのものを評価したものではない。

Boundlessはもともと、暗号資産業界向けにZK証明を生成するGPUネットワークを築いてきた。7月14日には約4,000基のGPUをAI推論に開放し、マネージド型(運用を同社が担う形態)の推論サービスとして運営すると発表。ZK証明ネットワークの運営は並行して続けている。

同社はネイティブトークン「ZKC」にAIネットワークでも役割を持たせる方針で、AI推論の運営者にZKCのステーキングを求める計画を示している。今回のDefensive Accessの発表は、ZKCとの関係に触れていない。

Disclaimer: This article is copyrighted by the original author and does not represent MyToken’s views and positions. If you have any questions regarding content or copyright, please contact us.(www.mytokencap.com)contact
More exciting content is available on
X(https://x.com/MyTokencap)
or join the community to learn more:MyToken-English Telegram Group
(https://t.me/mytokenGroup)