生成AIにおける、学習方法や出力に不正があった場合の罰則規定を法律で定めて欲しい！

■ はじめに

あなたは想像したことがありますか？

長い時間と労力をかけて描き上げた作品たちを、生成AIユーザーによって、集中的に生成AIに学習させられ、本人が意図しない性的なイラストに改変させられ、「AIに描かせたイラストのほうがお前(本人)よりも上手い」などと誹謗中傷され、殺害予告までされ、自殺未遂をするまで精神的に追い込まれた事案があることを。

コスプレイヤーさんたちの写真が、生成AIユーザーに裸にされ、本人にわざと送りつけられ、執拗に嫌がらせをされ続ける人たちがいることを。

さらに、卒業アルバムの写真を裸にし、SNSで売買の取引をしたり、女子児童は上記と同様、性的な画像に改変された嫌がらせをされたり、男子児童も性的な加害をしているような画像に改変され、性的脅迫をされている事案があることを。そしてこの事件は、大人が起こしているだけでなく、未成年の児童たちがそれぞれ関与していることもあるのです。

そして、前岸田首相がディープフェイク動画を作られたことで、話題になりましたが、標的になるのは有名人や政治家だけではありません。ロマンス詐欺や特殊詐欺の成りすましにあなたの顔や音声、身体のデータを使われている可能性もあります。

本当に、あなたから縁遠い、対岸の火事の話だと思いますか？これらの事案は、日本で実際に起こっていることです。4年前から現在進行形で未だ解決していません。あなた自身も、何気なくSNSにアップした写真や卒業アルバムから裸にされているかもしれず、自身の子供たちが被害やあるいは加害に加担しているかもしれません。

日本の生成AIによる性的被害は米国、韓国に続いて世界で三番目に多いのです。

私はこの3年間、SNSで嫌と言うほど、彼らの阿鼻叫喚を目の当たりにしてきました。「次はいつ自分が標的にされるのか？」そう思いながら、筆を折るイラストレーター、無力感から希死念慮に苛まれるクリエイターの嘆きをずっと、ずっと見続けてきました。もちろん、私自身も怒り、ときには無力感に苛まれ、直接的な被害に遭ってはいないものの(見つけていないだけかもしれない)、まるで自分が被害に遭ったかのような苦しさと共に過ごしてきました。

■ 活動立ち上げの背景・理由

内閣府は、官邸主導で知的財産戦略本部を立ち上げています。その中に「AI時代の知的財産権検討会」という組織があり、そこで主に生成AI事業に関して、他国から遅れを取らないようにどう推進していくか、ということを話し合っています。

私たちは、前述したような被害を何度も政府に訴えてきました。文化庁が実施した「AIと著作権に関する考え方について」というパブリックコメントには、約2万5千件の意見が寄せられました。全員が規制を訴えるものではありませんが、約70~80％が何らかの規制を訴えており、その殆どが個人の意見です。

そして、2025年の4月に国会にて、「人工知能関連技術の研究開発及び活用の推進に関する法律（ＡＩ法）」が可決され、6月から公布・一部施行されました。この法律には、罰則規定が全くなく、個別の事案を刑法や著作権法などの現行法で対処し処罰するという方針です。生成AI事業者にも殆ど縛りがありません。メディアでは「悪質な事業者は名前を公表する」という報道がなされていますが、AI法 第3条4項を読んでいただければお分かりのとおり、そんなことは一切書かれていません。

■ 社会（提出先）がかかえる問題点は何か？

「AIと著作権に関する考え方について」というパブリックコメントが実施されていたのは、2023年の3月です。AI法が成立する1年以上前から、既に多くの実害が認識されていたにも関わらず、政府は全く聞く耳を持ちませんでした。生成AIに関するパブリックコメントはこの2023年が一番多く募集され、文化庁に留まらず、様々な省庁から広く募集されていました。私たちはその都度、生成AIの学習データ自体が海賊版データやその他犯罪に関与したデータなど、世界中から無差別に収集されている非倫理的・非人道的なデータで構成されていることを念頭に、著作権侵害やディープフェイク、性的被害等の実害を訴え続けてきたのです。

端的に言えば、政府は海賊版データで構成された生成AIだと知っていながら、それを見て見ぬふりをし、「技術の革新やイノベーションを阻害する」と言って、敢えて罰則を与えない方向で推進し続けているのです。

皆さんは、「海賊版データであることを知りながら、アップロードしたりダウンロードや録音・録画したり販売などをした場合は、著作権侵害となります」と教わりませんでしたか？生成AIは、どうして有名なアニメのキャラを生成できるか考えたことはありますか？答えは簡単です、ネット上にアップロードされている有名な作品も無断で収集して大量に学習させているからです。そうです、私がSNSで見続けた、専業・兼業、有名・無名問わず、漫画家やイラストレーターたちが悲鳴を上げているのと同じように、当然大衆が知っている国民的作品も学習しているのです。

現在の生成AIは、米国製・中国製問わず、大きな海賊版である、と言えるのです。この事実を、国内メディアが報道するのは本当に遅かったのです。新聞やネットニュースが報道し始めても、テレビが大々的に時間をかけて報道したケースは殆どないのではないでしょうか。何故、知らせたくないか…皆が知れば、利用する全員が「著作権侵害の対象」となるからです。厳密に言えば、「ディズニー風」「ジブリ風」と著作権を持っている企業の名前を指定しているだけで、著作権侵害の対象に見なされる場合もあり得ます。皆、お咎めがなかったのは、ディズニーやジブリが個々のユーザーを訴えていないからです。

他国では、強度は違えど、生成段階に罰則を設ける法律を次々と成立させています。先ほど、米国や韓国は世界的にディープフェイク被害が多いと書きましたが、両国には悪質な生成に罰則を与える法律が存在します。被害が多いのに、罰則を設けていない国は日本だけです。

日本の場合、「著作権法30条の4が、AI学習のために作られた規定だから“合法”である」という言い訳がまかり通っていますが、これは専門的な話になるので、読み飛ばしてもらって結構ですが、「開発の試験的段階であったり、思想や感情を享受させる目的でない、著作権者の利益を害するとならないのならOK」と言っているに過ぎません。イラストや小説、動画を生成して、クリエイターを名乗ったり、「これはAIで作った“作品”です」と言って、生成しているのであれば、それは「思想や感情を享受させる(楽しんでもらったり感動してもらえるような)目的」ではないのでしょうか。

明らかに30条の4違反だと、私個人的には考えています。

法律の拡大解釈をし、大衆を誤認させるようなやり方で、推進するやり方には容認できません。実害の殆どが、弁護士や弁理士さんに相談しても、「この法律で対処可能だ」という確定的なものがないため、泣き寝入りせざるを得ない状況です。

AI法を法改正し、罰則規定を設ければ、本人が意図しない改変(ディープフェイク)を処罰することが可能です。

生成AIの危険性は、著作権・著作隣接権・肖像権侵害の問題だけではありません。生成AIのために巨大なデータセンターを都心部に建設し、生活する人々の生活が脅かされる問題も起きています。台湾では、農家がデータセンター運営のために大量の水が必要なため、米作りを停止させられた事例、米国では、データセンターの大量電力消費や冷却水消費のために、光熱費が高騰し、抗議の声が上がっています。

情報ソース、その他のニュース記事はこちら↓

【2026/1/10修正・追記】生成AI規制に関心がある方のための情報ガイド

■ 活動内容の詳細

この署名活動を通じて、生成AIの危険性を周知させること、政府・各省庁に国民の怒りを可視化させることが主な目的です。署名を各提出先に直接渡す予定です(あくまで現時点での予定で、面会が叶うかどうかは不透明ですが)。

法改正の具体的な案としては、

・学習データの中身を公開させ、権利者が学習させたくないコンテンツを削除もしくは権利侵害であることを報告できるようにすること(オプトアウト方式)。もしくは学習において事前に権利者の許諾を必ず得ること(オプトイン方式)

・個人情報の学習は禁止

・ユーザーを実名登録制にすること(身分証を提出させるなど)

・R18、グロテスクなど、いかなる目的を問わず、ディープフェイクを生成禁止

・公的機関のプロパガンダとしての生成を禁止

・差別目的、政治思想を強調するような目的での生成を禁止

・生成AIを部分的にでも使用した場合は、その旨を明記することを義務づけること(出所表示義務)

・消費者に誤解を与える生成をすることを禁止

・権利者の成りすましをし、権利者の名誉・尊厳を貶め、経済的利益を損失させるような生成をすることを禁止

・サイバー犯罪や、詐欺等の犯罪行為に利用することを禁止

最低でも、これらを遵守しなかった場合、産業財産権四法の侵害と同等の罰則を求めます。企業には売上の10％の制裁金を求めます。理由としては、文化的影響だけでなく、産業にも影響を及ぼすほど大量生産が、生成AIにはできてしまいます。当然、特許・実用新案・意匠・商標権を侵害する事案も出てくる可能性があるからです。

■エールの使用法

・印刷費

・交通費

・その他活動費や雑費

にあてさせて頂きます。皆様のお気持ちに心より感謝いたします。

ご寄付は任意ですので、ご署名だけ頂くことでも全く構いません。

それでももし頂けるようでしたら、お気持ちに感謝し、大変ありがたくお受け取りさせて頂きます。

また、皆様のお気持ちを無駄にしないよう、最後まで一層の責任を持って提出させて頂きたいと思います。

■ 団体（代表）プロフィール

生成AIの無断学習と悪質な出力に罰則規定を求める有志の会

発起人 蓮見セイ

特定の決まった人間が運営している団体ではありません。発起人である私が、署名活動をしやすいように別途命名しただけです。この活動は私1人だけでは、成し得ることは難しいので、たくさんの方の協力を必要とします。ですので、個人名での発起を控えた次第です。

私の体調や精神的状態によっては、他の方にお任せすることもあるかもしれませんが、基本的に私が署名提出まで遂行できれば良いな、と考えています。

私自身、蓮見セイ名義としては、創作を中心に活動しておりますが、性的被害サバイバーでもあります。生成AIは、クリエイターだけの問題ではなく、世界的な人権問題であり、環境問題であるということがもっと広まって欲しいと願っています。

■ SNS

Bluesky : https://bsky.app/profile/seihasumi.bsky.social

Xfolio : https://xfolio.jp/portfolio/seihasumi

Youtube : https://www.youtube.com/@sei.nomoreGenAI258