イーサリアムのヴィタリック・ブテリン共同創設者は13日、単純なAIガバナンスに依存することの危険性を警告した。
ブテリン氏は、分散型自律組織（DAO）の資金配分をAIの判断に一任する仕組みについて、悪意あるプロンプトによって容易に操作される恐れがあると警告している。
この発言は、研究者らがChatGPTを欺き、プライベートメールを流出させることに成功した実証実験を受けたものだ。
実験では「プロンプトインジェクション攻撃」と呼ばれる手法を用い、攻撃者が「全資金を送れ」といった命令をシステムに埋め込み、不正にリソースを奪う可能性が示された。
This is also why naive "AI governance" is a bad idea.
If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.
As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikButerin) September 13, 2025
AIガバナンスに潜む3つの脆弱性
ブテリン氏は、AIガバナンスにおけるリスクは主に3点に集約されると指摘した。
第1に、プロンプトインジェクション攻撃の脅威だ。攻撃者はこれを用いて安全プロトコルを迂回し、機密情報や資金を不正に奪取できる。
第2に、単一のAIモデルに依存することによる多様性の欠如だ。システム全体が単一障害点となり、標的にされやすくなる。
第3に、リアルタイム監視の不足だ。人的チェックや市場メカニズムによる監視がなければ、攻撃者がリソースを大規模に引き出す事態が起こり得ると警鐘を鳴らした。
特に、自律的に稼働するAIエージェントを活用した暗号資産（仮想通貨）プロジェクトでは、こうした脆弱性を放置すればガバナンスの信頼性を損ないかねない。
ブテリン氏は、AIによる自動化がDAOにおける中央集権化のリスクをむしろ高める可能性を示唆している。
イーサリアムの将来性を考える上でも、AIガバナンスのあり方は避けて通れない重要課題となりつつある。
解決策としての「インフォファイナンス」
ブテリン氏は、脆弱なAIガバナンスに対する代替策として「インフォファイナンス」を提唱した。これは、市場競争の仕組みと人的検証を組み合わせた新たな制度設計のアプローチだ。
このモデルでは、誰もが自身のAIモデルを市場に提供でき、不正や疑わしい出力が確認された場合にはスポットチェックが行われる。そのうえで、最終的な判断は人間の審査員団が下す仕組みとなっている。
こうした設計により、AIモデル間の多様性が確保されるとともに、問題発生時の迅速な修正が可能になる。
ブテリン氏はこれを単なる技術的な改善ではなく、仮想通貨の未来における透明性と信頼性を支える基盤として位置づけており、AIが単一の支配点となって悪用される事態を防ぐことを目的としている。
ポイント
- イーサリアムのブテリン共同創設者が、単純なAIガバナンスはプロンプト攻撃に脆弱であると警告した。
- 単一モデルへの依存や監視不足が、資金流出などのリスクを高める要因として指摘された。
- 対策として、市場競争と人的検証を組み合わせた「インフォファイナンス」モデルが提案された。
99Bitcoinsを信頼する理由
2013年に設立された99Bitcoinsのチームメンバーは、ビットコイン黎明期から仮想通貨のエキスパートとして活躍してきました。
毎週の調査時間
10万以上月間読者数
専門家による寄稿
2000+検証済み仮想通貨プロジェクト
