政府が、AIを開発する会社に罰則をつける方向で検討していることが、11月11日に分かりました。

共同通信が速報で伝えたもので、出てきたのは見出しと3段落の短い記事だけ。

それでも「またセルフ経済制裁みたいなことやんのか」「海外事業者に、どう罰則させるんか」という声が、あっという間に広がっています。

ソフトを作っただけの人が、使った人の違法行為を手助けしたとして逮捕された、2004年の「Winny」事件を思い出した人も多いようです。

ただ、短い記事を一文ずつ読むと、罰が向いているのは「AIを作ったこと」ではありませんでした。

今回は、AI開発の罰則検討の中身と、海外の会社にどう届かせるのかを、わかりやすく解説していきたいと思います。


罰則が向くのは「国に従わない会社」

速報に書かれていたのは、この3点でした。

  • 高性能なAIが起こすリスク、とくにサイバー攻撃への悪用や暴走に備える
  • 開発する事業者に、安全を確保する義務を課すことも視野に入れる
  • 国が必要に応じて強制力のある命令を出し、違反したら罰則を適用する

この3点はどれも「検討」の段階で、話し合っているのは、政府がAIの制度を議論するために開いている非公開の作業部会。

年末までに、法改正を含めた見直しの全体像を示す予定とのこと。

 

2025年5月に成立したAI法（正式名は人工知能関連技術の研究開発及び活用の推進に関する法律）には、罰則の規定がありません。

法律は4つの章でできていますが、罰則の章そのものが無い法律です。

国にできるのは、問題が起きた事案を調べて、事業者に指導や助言をするところまで。

しかも、その調べに応じるかどうかは、会社の協力しだいです。

法律の第7条は、AIを使って製品やサービスを作る事業者に、国の施策へ「協力しなければならない」と書いています。

ところが、協力しなかったときにどうなるかは、どこにも見当たりません。

 

罰則の議論が表に出てきたのは、10月26日でした。

日本経済新聞によると、この日に関係省庁と有識者による「AI専門調査会」が規制強化の議論を始めていて、国の調査に応じない事業者への罰則も検討の対象とされています。

早ければ2027年の通常国会に改正案を出す見通しで、日経は、AIを悪用したとみられる不正アクセスが相次いで明らかになっていることを、急ぐ理由に挙げていました。

同じ10月26日には、企業へのサイバー攻撃が相次いでいることを受けて、高市総理もサイバーセキュリティの関係閣僚会議を開いています。

サイバー攻撃に使われたのがどのAIで、どう使われたのか。

それを後から確かめようとしても、会社が答えなければ、国は手がかりをつかめないまま。

いま検討されている罰則は、国に聞かれても答えない会社や、国の命令に従わない会社に向けたものになっています。

 

Winny事件と違う罰の順番

ネットには「winny事件、再び。」という声もありました。

Winnyの開発者だった金子勇さんは、2004年5月に著作権法違反ほう助の疑いで逮捕されています。

一審は罰金150万円の有罪で、最高裁が検察の上告を退けて無罪が確定したのは2011年12月のことでした。

あのとき問われたのは、刑法の「ほう助」、つまり手助けの罪です。

ソフトを使った誰かの違法行為を、作った人が手助けしたことになるのか、という問いで、捜査はいきなり作った本人に向かいました。

今回の速報が想定している順番は、それとは違うもの。

速報の3点目にあったとおり、まず国が命令を出して、その命令に違反したときに初めて罰則が出てくる形です。

作った時点で罰がつくのではなく、国の命令を無視した時点で罰がつく、という順番になります。

 

ネットには「まさか俺達がバグをだしたら罰則とかじゃねぇだろうな」という心配もありました。

速報が対象として名前を挙げているのは「高性能AI」の開発事業者で、アプリにAIを組みこんでいる会社まで含むのかは、まだ書かれていません。

対象をどこまで広げるかで、心配する必要のある人の数はまるで変わってくるはずです。

他人の絵や文章を勝手に学習させることへの罰則を求める声も多く見かけましたが、今回の速報が挙げている脅威は、サイバー攻撃への悪用と暴走でした。

AI法も、著作権の侵害を心配すべき事態のひとつとして挙げてはいるものの、今回の罰則の話は、学習の問題とは別の話です。

 

そのうえで、安心しきれない点もひとつ。

速報には「安全を確保する義務」という言葉も入っていました。

義務の中身がふわっとしたまま罰とつながると、どこまでやれば守ったことになるのか、作る側には分からなくなります。

Winnyの最高裁が示したのは、悪用される一般的な可能性があるというだけでは、作った人の責任にはならないという考え方でした。

その考え方が、今度の義務の書き方にも反映されるかどうかは、まだ分かりません。


海外の会社にどう罰則をかけるのか

ネットで何度も見かけたのが、この疑問でした。

ChatGPTも、ほかの大きなAIも、作っているのは多くが海外、とくにアメリカの会社です。

日本の法律で罰則を決めても、国内の会社にしか届かないなら、足かせを付けられるのは日本の会社だけになってしまいます。

 

いまのAI法には、海外の会社をどう扱うかの決まりがありません。

日本と海外のAIの決まりを並べた投稿でも、日本の欄には「罰則ほぼなし」と書かれていました。

では、日本の法律は海外の会社にまったく手が出せないのかというと、そうでもありません。

前例のひとつが、電気通信事業法です。

2021年4月に施行された改正で、海外の会社が日本で通信のサービスを営むときは、日本国内の代表者か代理人を決めて国に届け出ることになりました。

届け出をせずにサービスを続ければ、6か月以下の拘禁刑（それまでの懲役と禁錮をまとめた刑）か50万円以下の罰金。

海外の本社へ直接罰を届けにいくかわりに、日本の中に窓口を置かせて、そこを通して話をする仕組みです。

EUのAI法も同じ考え方で、EUの外にある会社が汎用のAIをEUで出すときは、その前にEUの中の代理人を書面で任命しておくよう求めています。

日本の前例もEUも、海外の会社を相手にするときは、まず手の届く場所に窓口を作らせるところから始めているんです。

 

日経の10月26日の記事も、アメリカのオープンAIやアンソロピックなど、海外の開発事業者に制度をどう当てはめるかも検討すると書いていました。

罰則があるかないかより、海外の会社にどう届かせるかが、本当の争点です。

窓口を置かせる形にするのか、置かせないまま国内の会社にだけ効く形になるのか。

ネットで多くの人が首をかしげたこの点に、政府はまだ答えを出していません。

 

日本だけが足かせを付ける話なのか

「海外はどんどんAI開発していくのに完全に取り残されるな」という声も目立ちました。

ところが海外では、罰則のある決まりがもう動き出しているところ。

EUのAI法は、会社がEUの中にあるかどうかを問わず、EUでAIを出す会社に義務をかけています。

汎用のAIを出す会社が違反すれば、前年の世界の売上の3%か1500万ユーロの、どちらか高いほうまでの制裁金がありえるとのこと。

アメリカには国としての法律はありません。

それでもカリフォルニア州では、最先端のAIを作る会社に安全の枠組みの公表を求める州法が2026年1月から動いていて、違反1件あたり最大100万ドルの民事罰（裁判を通じて払わせる制裁金）があります。

11月10日には、オーストラリア政府も、最先端のAIを作る会社に安全対策や事故の報告を義務づける方針を出しました。

EUやカリフォルニアで事業をする会社には、すでにそこの決まりがかかっています。

罰則が一行も無いいまの日本は、この並びの中ではゆるい側。

「アメリカが規制方向に傾いてるからそれの後追い？」という見方もありましたが、日経によると、日本がめざしているのはEUのような包括的な規制でも、中国のような事前の審査でもない形です。

重大なことが起きたあとの調査と、高性能なAIの評価を強める制度を探っているとされています。

評価を担う政府の機関「AIセーフティ・インスティテュート」の体制も、あわせて強めるそうです。

それでも、足かせという心配が外れているとは言い切れません。

罰則が国内の会社にしか届かなければ、同じ速さで走る海外の会社の横で、日本の会社だけが足かせを付けて走るはめになります。


年末に出てくる全体像で見る3つ

最初に出てきた非公開の作業部会は、年末までに見直しの全体像を示す予定です。

日経が11月10日に出した記事の見出しは「AI規制は『サイバー防御を捨てるに等しい』　ホワイトハッカーの警鐘」で、攻撃の手口を使って守る側に立つ技術者からも心配の声が出ています。

年末の全体像で見ておきたいのは、次の3つでしょう。

  • 対象は「高性能AI」を作る会社だけか、AIを使う会社まで広がるのか
  • 国が命令を出せるのは、どんなことが起きたときか
  • 海外の会社に、日本の窓口を置かせるのか

この中でいちばん大事だと僕が感じるのは、3つ目。

窓口が無いまま罰則だけができれば、ネットで心配されていたとおりの形になってしまいます。

逆に海外の会社にも同じ決まりが届くなら、話は「日本だけ足かせ」から「世界と同じ土俵に乗る」へ変わるでしょう。

 

Winnyの事件で日本の技術者は終わったと思った、という声は、今回の速報が出る前から広く読まれていました。

今回の罰則が、あの記憶をもう一度呼び起こすのか、それとも、どこの会社にも同じ線を引く仕組みになるのか。

年末の全体像では、罰則の重さより先に、海外の会社にどこまで届くのかを一緒に見ておきたいところですね。