カリフォルニア州で施行された世界初のAI安全開示法「SB53」とは何か？
2026年1月1日、カリフォルニア州のギャビン・ニューサム知事が前年9月に署名して法制化した世界初の「先端AI安全開示法・SB53」が施行されました。世界をリードするAIモデル開発企業がひしめくカリフォルニア州で施行された「SB53」とは、一体どのような法律なのでしょうか。「SB53」施行による他州への影響などを含めて解説します。
「SB53」とは？
「SB53」とは、カリフォルニア州で施行されたAI開発者に対する各種の規則や罰則規定を定めた包括的パッケージ法です。正式名称はTransparency in Frontier Artificial Intelligence Act（最先端AI安全開示法）で、通称「SB53」と呼ばれています。「SB53」は、サンフランシスコ選出の民主党系州議会議員スコット・ウィーナー議員が起草したもので、大規模AI開発者がAI開発を行う際に「透明性」（transparency）や「責任」（accountability）などについて厳守すべきルールを定めています。
「SB53」は、特に「透明性」の確保にフォーカスしており、大規模AI開発者が新たなAIモデルを開発する際の「壊滅的リスクについての評価」「壊滅的リスクが生じた場合の結果」などの重大な情報の開示を求めています。ルールに違反した際の罰則規定も設けられており、違反者には違反行為一件につき最大100万ドル（約1億6000万円）の罰金が課せられます。
「SB53」が施行された背景
「SB53」が施行された背景ですが、現在進行中の大規模AIモデル開発における「壊滅的リスク」の脅威が、いよいよ現実的になってきたことが挙げられます。「壊滅的リスク」について、「SB53」の起草者のウィーナー議員は次のように説明しています。
「私は、新たなAIモデルが誕生して稼働し始めた段階から安全な存在であるとは考えていません。（中略）そして、我々の社会の中にはAIを悪用して人類に危害を加えようとする人が一定数存在しています。そのようなAIを悪用して悪事を働こうとする人を未然に防ぐ仕組みを用意する必要があります」
ウィーナー議員は、AIが暴走などによって人類に危害を加えるといったリスクよりも、人間がAIを悪用して人類に危害を加えるリスクをより重視しているように見えます。具体的には、「サイバー攻撃、バイオウェポン、AIを使ったハッキングや詐欺などの犯罪などの驚異」を挙げています。
爆増しているAIを使った犯罪
ウィーナー議員が危惧するように、実際にAIを使った犯罪件数は世界的に増加しています。世界国際フォーラムのレポートによると、AIによるディープフェイクを使った詐欺事件は、2024年度のアメリカ大陸において前年比1740%増加しています。AIによるディープフェイク動画や画像の生成技術は日々進化しており、詐欺の手口も巧妙かつ高度になっています。
ハッキングなどのサイバーアタックも増加しています。2025年度の全世界のサイバーアタック件数は前年比で47%増加しており、増加傾向に歯止めがかかっていない状態です。AIを活用したサイバーアタックは大規模になりつつあり、犯罪集団などが組織的に行う傾向が強まっています。
AIを使った核兵器や生物化学兵器などの大量破壊兵器の開発については、今のところ実際に行われた事象は発生していないようです。しかし、専門家の多くはAIの普及と性能向上により大量破壊兵器の開発のハードルが下がっていると指摘しており、テロリストなどの犯罪集団が実際に活用する可能性は決して低くないとしています。筆者の私見としては、AIによる「壊滅的リスク」の中でも大量破壊兵器の開発がもっとも実現してほしくないリスクで、「SB53」などの法的ガードレールに防いで欲しいと願うものです。
「SB53」の他州への影響
なお、世界初の「AI安全開示法」となった「SB53」ですが、早くも他州へ影響を与え始めています。ニューヨーク州では「SB53」に似た「AI安全開示法」の「RAISE法案」が上程され、議会で審議が進んでいます。「SB53」と同様に大規模AI開発者に「リスク評価と開示」特に「壊滅的危害のリスク」の開示を求める同法案は、間もなく州知事の署名を得て施行される予定です。
ニューヨーク州以外でも、これまでにコロラド州、ユタ州、テキサス州、バージニア州などで「AI安全開示法案」がそれぞれの議会に上程され、審議が進んでいます。いずれも「SB53」と内容が類似しており、「SB53」が事実上の「AI安全開示法」のデファクトスタンダードとして機能している形です。
なお、ドナルド・トランプ大統領は「SB53」を「イノベーションを阻害する」などとして非難しており、アメリカ全体を対象とした単一の「AI安全開示法のナショナルフレームワーク」の制定を求めています。しかし、「AI安全開示法」の連邦法制化については反対する声も根強く、実現には困難が伴うと見られています。筆者の見たところ、アメリカにおける「AI安全開示法」は、カリフォルニア州を筆頭に法制化のモメンタムが生じ、いずれは全米50州へ波及して事実上の「ナショナルフレームワーク」になると予想しています。
いずれにせよ、アメリカにおける「AI安全開示法」の行方については今後も注目です。
前田 健二（まえだ・けんじ）
上席執行役員
シニアマーケティングコンサルタント（北米統括）
大学卒業と同時に渡米し、ロサンゼルスで外食ビジネスを立ち上げる。帰国後は複数のベンチャー企業のスタートアップ、経営に携わり、2001年に経営コンサルタントとして独立。事業再生、新規事業立上げ、アメリカ市場開拓などを中心に指導を行っている。アメリカ在住通算七年で、現在も現地の最新情報を取得し、各種メディアなどで発信している。米国でベストセラーとなった名著『インバウンドマーケティング』（すばる舎リンケージ）の翻訳者。明治学院大学経済学部経営学科博士課程修了、経営学修士。
