FINRAをモデルにした「標準化団体」構想
ハサビス氏が提案するのは、米国の証券業界における自主規制機関FINRA(Financial Industry Regulatory Authority)をモデルにした新たな「標準化団体(Standards Body)」です。FINRAはSECの監督下で証券会社を規制する民間の業界資金による自主規制組織で、ハサビス氏はこれと同様に、AI業界自身が資金を拠出する形での運営を構想しています(出典)。
「AIに関連する技術的リスクの緩和は、我々が力を合わせて取り組める課題だと確信している。ただしそれには、この重要な次のステップを正しく踏み出すための時間と余地を自分たちに与える必要がある。現状、業界としても社会全体としても、それができていない」(ハサビス氏)
提案では、まず技術専門家とオープンソース関係者からなる理事会を設置し、フロンティアモデルの評価に必要なハードウェアを確保できるだけの資金をAI業界から調達します。
「フロンティアラボ」認定と段階的な義務化
この標準化団体の主な役割は、独自に定めるベンチマークをもとに「フロンティアモデル」の定義を確立し、その評価プロトコルを策定することです。ベンチマークを満たす組織は「フロンティアラボ」と認定され、モデルカードの技術詳細公開、強固な社内サイバーセキュリティ体制の維持、主要人材の身元審査、安全性・セキュリティ研究への十分なリソース配分といったベストプラクティスの採用が推奨されます(出典)。
TechCrunchの報道によれば、当初はフロンティアラボがリリースの30日前までに標準化団体へ任意でモデルを共有する形で始まり、評価プロトコルの有効性・堅牢性が実証された段階で正式な制度化に移行し、最終的には米国市場での展開にこの審査の合格が必須になる可能性があるといいます(出典)。
| 段階 | 内容 |
|---|---|
| 初期 | フロンティアラボがリリース30日前までに任意でモデルを提出 |
| 中期 | 評価プロトコルの有効性が実証された段階で制度化 |
| 将来 | 米国市場での展開に審査合格が必須化される可能性 |
ベンチマーク自体の策定にも、当初はフロンティアラボが協力する形を想定していますが、いずれは標準化団体が「ラボから独立した保留テスト(held-out tests)」を自前で構築し、ベンチマークへの過学習(オーバーフィッティング)を防ぐ体制を目指すとしています。
この提案は、AnthropicのMythosモデルやOpenAIのSolモデルに対して米政府がこれまで場当たり的に実施してきたレビューを土台にしたものだといいます(出典)。
「AGIは数年先」という前提への留保
ハサビス氏はこの提言の前提として、汎用人工知能(AGI)は「おそらくあとわずか数年」で実現すると述べています。もっとも、この「おそらく」という言葉にはかなりの含みがあると受け止めるべきでしょう。
同氏は2025年初めにも「AIが設計した薬剤のヒト臨床試験が同年中に実現する」と予測していましたが、これは実現していません。商業的に成立する核融合発電や実用的な誤り耐性量子コンピューティングと同様、AGIの実現時期は常に「もう少し先」であり続けているという指摘もあります。
またFINRA自体についても、業界資金で運営されているがゆえに「実効性の乏しい内輪の互助組織」だという批判があることは念頭に置くべきです。この構造をAI版標準化団体にそのまま持ち込んだ場合、同様の資金・利益相反の問題を抱える可能性は正直否定できません。
それでも、フロンティアAIの安全性・リスクを分類する国際標準を確立すべきだという主張自体の骨子は理にかなっており、真剣に議論する価値があるとは感じます。米政府(トランプ政権)も既に同種のフロンティアAIモデル事前テスト案を提案しており、この分野での制度設計競争は今後さらに活発になりそうです。