内閣委員会

令和七年五月二十七日（火曜日） 　　　午前十時六分開会 　　　　───────────── 　　　委員の異動 　五月二十二日 　　　　辞任　　　　　　　　　補欠選任 　　　　　三上　えり君　　　　　奥村　政佳君 　　　　　窪田　哲也君　　　　　河野　義博君 　五月二十七日 　　　　辞任　　　　　　　　　補欠選任 　　　　　太田　房江君　　　　　藤木　眞也君 　　　　　河野　義博君　　　　　窪田　哲也君 　　　　───────────── 　　出席者は左のとおり。 　　　　委員長　　　　　　　　　和田　政宗君 　　　　理　事 　　　　　　　　　　　　　　　　磯崎　仁彦君 　　　　　　　　　　　　　　　　酒井　庸行君 　　　　　　　　　　　　　　　　山本　啓介君 　　　　　　　　　　　　　　　　木戸口英司君 　　　　　　　　　　　　　　　　竹谷とし子君 　　　　委　員 　　　　　　　　　　　　　　　　青木　一彦君 　　　　　　　　　　　　　　　　石井　浩郎君 　　　　　　　　　　　　　　　　今井絵理子君 　　　　　　　　　　　　　　　　友納　理緒君 　　　　　　　　　　　　　　　　藤木　眞也君 　　　　　　　　　　　　　　　　山谷えり子君 　　　　　　　　　　　　　　　　石垣のりこ君 　　　　　　　　　　　　　　　　石川　大我君 　　　　　　　　　　　　　　　　奥村　政佳君 　　　　　　　　　　　　　　　　鬼木　　誠君 　　　　　　　　　　　　　　　　窪田　哲也君 　　　　　　　　　　　　　　　　片山　大介君 　　　　　　　　　　　　　　　　柴田　　巧君 　　　　　　　　　　　　　　　　竹詰　　仁君 　　　　　　　　　　　　　　　　井上　哲士君 　　　　　　　　　　　　　　　　大島九州男君 　　　国務大臣 　　　　　　　国務大臣 　　　　　　　（内閣府特命担 　　　　　　　当大臣（科学技 　　　　　　　術政策））　　　　城内　　実君 　　　副大臣 　　　　　　　内閣府副大臣　　　辻　　清人君 　　　大臣政務官 　　　　　　　防衛大臣政務官　　小林　一大君 　　　事務局側 　　　　　　　常任委員会専門 　　　　　　　員　　　　　　　　岩波　祐子君 　　　政府参考人 　　　　　　　内閣府科学技術 　　　　　　　・イノベーショ 　　　　　　　ン推進事務局統 　　　　　　　括官　　　　　　　渡邊　昇治君 　　　　　　　内閣府科学技術 　　　　　　　・イノベーショ 　　　　　　　ン推進事務局審 　　　　　　　議官　　　　　　　徳増　伸二君 　　　　　　　警察庁長官官房 　　　　　　　審議官　　　　　　大濱　健志君 　　　　　　　警察庁生活安全 　　　　　　　局長　　　　　　　檜垣　重臣君 　　　　　　　こども家庭庁長 　　　　　　　官官房審議官　　　竹林　悟史君 　　　　　　　こども家庭庁長 　　　　　　　官官房審議官　　　源河真規子君 　　　　　　　総務省大臣官房 　　　　　　　総括審議官　　　　恩田　　馨君 　　　　　　　総務省大臣官房 　　　　　　　審議官　　　　　　下仲　宏卓君 　　　　　　　法務省大臣官房 　　　　　　　審議官　　　　　　吉田　雅之君 　　　　　　　文部科学省大臣 　　　　　　　官房学習基盤審 　　　　　　　議官　　　　　　　日向　信和君 　　　　　　　文部科学省大臣 　　　　　　　官房文部科学戦 　　　　　　　略官　　　　　　　中原　裕彦君 　　　　　　　厚生労働省大臣 　　　　　　　官房審議官　　　　尾田　　進君 　　　　　　　経済産業省大臣 　　　　　　　官房審議官　　　　奥家　敏和君 　　　　　　　防衛省大臣官房 　　　　　　　サイバーセキュ 　　　　　　　リティ・情報化 　　　　　　　審議官　　　　　　家護谷昌徳君 　　　　　　　防衛装備庁技術 　　　　　　　戦略部長　　　　　松本　恭典君 　　　　───────────── 　　本日の会議に付した案件 ○政府参考人の出席要求に関する件 ○人工知能関連技術の研究開発及び活用の推進に関する法律案（閣法第二九号）（衆議院送付） 　　　　─────────────

○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。 　委員の異動について御報告いたします。 　昨日までに、窪田哲也君及び三上えりさんが委員を辞任され、その補欠として河野義博君及び奥村政佳君が選任されました。 　　　　─────────────

○委員長（和田政宗君）　政府参考人の出席要求に関する件についてお諮りいたします。 　人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府科学技術・イノベーション推進事務局統括官渡邊昇治君外十四名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認め、さよう決定いたします。 　　　　─────────────

○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。 　質疑のある方は順次御発言願います。

○酒井庸行君　皆さん、おはようございます。自由民主党の酒井庸行でございます。 　早速質問に入りたいというふうに思います。 　ＡＩ法案というものですね、それこそ委員会も終盤迎えたわけでございますけれども、これまで指摘された点も踏まえて、本当に素朴な疑問をさせていただきたいというふうに思いますので、率直にお答えをいただきたいと存じます。 　ＡＩに関する技術の進歩というのは本当に目覚ましく、毎日毎日進歩しているというのが本当のところだというふうに思います。特に、二〇二〇年には生成ＡＩというのがインターネットにも匹敵するぐらいの技術革新で進んでいるというふうに言われておって、労働力不足などがですね、大変社会的な問題の解決にも貢献するというふうにも私は思います。 　ＡＩというのは便利なものだというふうに思いますし、この先考えれば、何か音声でも質問できるようになるなど、ますます使いやすさは出てくるというふうに思います。そこから考えると、国民は老若男女を問わずしてできる限りＡＩを使えるようになった方がいいというふうには感じます。 　このため、いわゆるリテラシー教育というのがありますけれども、情報を適切に理解できる、理解して活用するというような重要性というのは何度も質疑があったというふうに思いますけれども、私は、行政や学校が作る教材だけで教えるのではなくて、家族や友達同士で教え合えて文化を形成していくことが非常に重要だというふうに考えます。このＡＩの使い方を、それこそお年寄りや孫が会話をするというような、いい話題ができたのかもしれません。ＡＩ、デジタルの時代だからこそ、改めて家族と友達とのコミュニケーションの重要性が増しているということも感じています。 　それで、そこからですけれども、政府や有名人の人たちがあれこれと言うよりも、やはり草の根的にいい使い方、良い使い方、悪い使い方について情報が広まっていくというのはいいかもしれませんけれども、そういう、広まる方がいいんでしょうけれども、そういう時代が来たというか、そういう時代なのかなということも私は感じています。 　そこで、ＡＩの使い方に関しては、良い使い方、悪い使い方というような様々なチャンネルの中で、情報提供や、友達同士が教え合ったり家族の間の先ほど申し上げましたようなリアルなコミュニケーションの機会を図っていくことが重要だというふうに考えますけれども、大臣の見解をお伺いしたいと存じます。

○国務大臣（城内実君）　まず、酒井委員におかれましては、自民党の内閣第二部会長として、この法案の成立に向けて、党内、御尽力いただきましたこと、改めて感謝申し上げたいと思います。 　ＡＩの適切な利用の浸透を図る上では、行政による取組のみならず、御指摘のとおり、友達や家族といった身近にある多様なチャンネルを通じた、また世代を超えた情報提供を行ったり、教育、学習の機会を持つことも有効な手段の一つと考えております。 　その上で、私自身、ＡＩ時代におきましても人間同士のリアルなコミュニケーションが図られることの重要性は全く変わらないというふうに考えております。酒井委員御指摘のとおり、むしろそのＡＩがきっかけとなって人間同士のリアルなコミュニケーションが、御指摘のように例えばお年寄りと孫が会話するとか、そういった形で促進する場合も十分あり得ると考えております。 　いずれにしましても、政府といたしましては、人間中心の考え方の下、さらに草の根の下、ＡＩの活用が人間にとってのメリットになりますよう、ＡＩ活用の適正な実施の確保にしっかり努めていく考えであります。

○酒井庸行君　今の大臣の答弁を踏まえてなんですけれども、そこに、国民の責務という問題が第八条で出てきていますよね。これを読みますと、本法律案では、国民は、基本理念にのっとって、人工知能関連技術に対する理解と関心を深めるとともに、国及び地方公共団体が実施する施策に協力するよう努めるものとしていると。なお、国及び地方公共団体の施策への協力に関し、活用事業者については施策に協力しなければならないと規定されているんですが、国民については、施策に協力するよう努めるものというふうに規定をされていますよね。 　そこで、これまでの質疑の中で、国民の責務については、国の施策への協力を強制してはいけないという懸念の声もあったというふうに思います。だからといって、国の言うことは無視してもいいというわけでもないという答弁は政府側はできないでしょうけれども、その立場は理解はします。でも、これまでの質疑で、国の施策に協力できるか否かが焦点だったようにも私は思います。 　その前に、まずは国の施策がいいものとやっぱりなってもらわなきゃ困るので、国民の意見が受けられることが重要だというふうに思います。それが前提と言ってもいいんじゃないですかね。まずは、国の施策をつくるときに、国民あるいは専門的な知見を持ったいわゆる有識者の方々の声を聞いていくことが大変大切だというふうに思います。 　その上で、ＡＩに関しては、いわゆる国民が被害者にも加害者にもなり得るということが十分に考えられるわけですから、できる範囲で協力をしてほしいということをいろんな機会を捉えて国民の皆さんにきちっと説明するということが大変大事だというふうに思いますけれども、その点どんなふうにお考えになられますでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　委員御指摘のとおり、国民の皆様に御協力をいただくためにも、施策をつくるときに、御協力いただけるような、いただきやすいような施策をつくる努力をまずはしていきたいというふうに思っております。また、実際に、基本計画の策定に当たりましては、やはり有識者の方ですとか、あるいは国民からパブリックコメントを取る等の方法によりまして、国民の御意見もお伺いしていきたいというふうに考えております。 　また、できる限り分かりやすく国の取組を説明していくことが大変重要だというふうに考えておりまして、今のその基本計画の中でも分かりやすく書いていきたいというふうに考えておりますし、また、この様々な調査研究を行って、その結果をこれもやはり分かりやすく公表していきたいというふうに考えておりますし、また、機会を見付けましてその説明会ですとかシンポジウムとかそういうところにも出ていって、分かりやすい説明をしていきたいというふうに考えております。

○酒井庸行君　本当にそこがこの法案、国民にとっても非常に重要なところに来るというふうに思いますので、その点だけはよく話をしておいて、させていただきたいと思います。 　次に、それをやっていく中で、調査ですよね、調査という中で、これ質疑の中にもいろんなことがありましたけれども、ビッグテックの安全対策だとか、重要な産業におけるＡＩ活用の実態だとか、国民の権利利益を害するようなケース、そしてＡＩの良い使い方、新たな技術等に関する調査ということでありますけれども、これに関して、権利利益を侵害するようなケースに関する調査というのが、案件が見付かるたびに事後的に実施するものもいいんだけど、つまり、悪質な、悪い事案が起こりそう、増えそうということを予測して、個別案件ではなくてある種の事象や現象について調査するというのも私はアイデアだというふうに思うんですけど、これ何かサイバーセキュリティーと同じですよね、防御、それこそ能動的ということだというふうに思います。 　現在考えられている調査の大体、まあ概略というか、今のようなことでいいのかどうか、ちょっとお答えをお願いいたします。

○政府参考人（渡邊昇治君）　調査につきましてお答えを申し上げます。 　今委員御指摘のとおり、まずは皆さんが使っているメジャーなＡＩについて安全対策がどうなっているかということで、ビッグテックからの、ビッグテック等からの情報収集というのをやりたいというふうに考えております。また、重要な産業でＡＩがどのように使われているかという実態の調査ですね、何か課題がないか、どう対応していくかという調査もさせていただきたいというふうに思っております。 　また、国民の権利利益が侵害されるような事案が生じた場合には、もちろんしっかりとその分析をして対策を検討していきたいというふうに思いますけれども、この場合、どうしても事案が生じてからの事後的な調査ということになってしまいますので、そうではなくて、今御指摘ありましたとおり、予想される場合に、個別の事案がまだないんですけれども、その事象として、現象として調査をしていくというのもあり得るかなと思います。また、そういう危険な事例だけではなくて、むしろ良い使い方というか、ベストプラクティスみたいなものについても調査をして公表していくということを考えたらよいかなというふうに思っております。 　いずれにしましても、調査のやり方につきましては、先ほどと同じですけれども、その有識者の皆様の意見を聞きながら調査の方法を考えて対応していきたい、各省とも議論しながら考えていきたいというふうに思います。

○酒井庸行君　そこで、先ほども、その国民の責務と関連してまいりますけれども、国民の皆さんたちにですが、後で言葉を出しますけれども、安心という、これは大丈夫だよというようなことを感じてもらえるということも含めてこの調査というのは非常に大切になってまいります。 　やはり、その何かあったときということを考えたときに、戦略本部というものもあるんでしょうけれども、その有識者の方たちがその調査を進めていく中で、というか進めていかなきゃならぬのですけれども、一方で、迅速な、早急な対応も必要だというふうに思います。いつまでも調査、調査と言っているわけにもいかないというふうに私は考えます。 　で、一つ提案なんですけれども、戦略本部や有識者会議が動いていく前であっても、これは先ほどお答えが少しありましたけれども、国は、必要な調査とか、あるいは仮調査とか試行的な調査という形でもいいので始めた方がいいんじゃないかというふうに思います。本当に毎日毎日どんどんどんどん日々進んでいるわけですから、それはやっぱり思い切ってやっていかなきゃいけないんだろうというふうに思うんですね。皆さんたちの審議の中で取り上げられましたけれども、性的なディープフェイクをする生成ＡＩだとか、それから雇用でのＡＩの活用というのがありますよね。こういう、そういう実態について調査をするということは非常に大切、重要だというふうに思いますので、もう少し調査のテーマとして精査しなきゃいけないところはあるかもしれませんけれども、やっぱり突っ込んで調査をしていくということはそんなに皆さん反対するということじゃないというふうに思いますので、その辺はどうですか、調査をやろうと、大臣。

○国務大臣（城内実君）　お答えします。 　ＡＩの技術の進展は極めて速いことから、本法案が成立した暁には、内閣にＡＩ戦略本部を速やかに設置する予定であります。 　加えて、酒井委員御指摘のとおり、ＡＩ戦略本部が設置される前であっても、今政府参考人からの答弁もありましたけれども、必要に応じて試行的に調査に取り組み、調査手法や情報の公表、非公表の扱い等に関する知見を得て、本部設置後に本格的に実施する調査の質の向上等につなげていくことが有用と考えております。 　例えば、性的なディープフェイクを生成するＡＩや雇用でのＡＩ活用についてはこれまで本法案審議においても度々取り上げられてきているところでありまして、今後我が国におけるＡＩの適正な研究開発、活用の推進を図っていく上で避けて通れないテーマであると考えております。 　いずれにしましても、調査を実施するテーマについては今後精査を図り決定していくことになりますけれども、今申し上げた二つのテーマについては、まずは内閣府において関係省庁の取組をよく確認した上で、緊密な連携を図りながら、調査内容等について検討を進め、酒井委員御指摘、御提案のとおり、試行的な調査を進めていきたいと考えております。

○酒井庸行君　ありがとうございます。 　本当にそれは積極的にやっていかなきゃいけないという、サイバーセキュリティーもそうですけど、このＡＩは、本当に国民と、若い人たちを含めて直結をしていますので、すぐに、しかも毎日のようにいろんなことが起きているということでありますので、それは本当に積極的にどんどん進めていただきたいというふうに思います。 　そして、次は、先ほどちょっと申し上げました戦略本部に関しての役割についてちょっとお尋ねをしたいというふうに思います。 　時間がなくなってきたので早口でしゃべりますけれども、その戦略本部が国民に向けてがあんと強いメッセージを出すから大丈夫だと先ほどちょっと言いましたけれども、安心してくださいというアクションもあり得るというような御意見もありましたけれども、ＡＩが安全になってほしいと思う一方で、一方で、安全性が高まるとＡＩを無条件で信用してしまうという人も増えてしまうのは考えられますよね。それは、安全性にとっては逆効果といったことも、複雑な現象が起きるかなというふうにも考えられます。 　そこで、単純には答えられない問題かも分かりませんけれども、国民の皆さんが、多くの人たちが被害に遭うということが確実に実現を、実施されたときに、緊急に国民への広報が必要な事案が生じたときですよ、ときに、ＡＩ戦略本部は何をやって、各省庁に対して何をやるのかという例えばシミュレーションみたいなものをしておかないといけないんじゃないんですかと。非常に難しいことかも分かりませんけれども、その点についてもちょっと御意見をいただきたいと思います。

○政府参考人（渡邊昇治君）　お答えいたします。 　まずは、ＡＩ戦略本部をつくるということが国民に対する非常に強いメッセージだというふうに思っておりまして、本部から強いメッセージを出していくということが大切だというふうに思っております。 　また、シミュレーションというのは非常に重要でございまして、私、実は大学のときに火事に遭ったことがあるんですけど、私の使っている建物が火災になったときに、私、たまたま外でお昼御飯を食べていまして戻ってきたときだったんですけど、同級生みんな避難階段使って下りてこないんですね。何でですかと聞いたら、やっぱりふだん使っていない階段の方には足が向かないと言って、みんな目を押さえながら、使っている階段を下りてくると。 　ですから、緊急事態が発生したときに急に対応しようとしても、頭で分かっていてもなかなか動けないということもあろうかと思いますので、机上訓練ですとかいろんな形で事前にスキームを決めて訓練をしていくことが重要だなというふうに思っております。 　重要な御指摘ありがとうございます。

○酒井庸行君　ありがとうございます。 　今のお話を聞いて、もう大臣に、時間がないのでちょっと質問したいんですけれども。 　初めてＡＩについて作る法案ですよね。せんだって山谷先生からもチャットＧＰＴの話があって、まずはこのあれは、評価としては七十五点だという話がありました。先ほどから私がとにかく前向きに、積極的にこちらから、政府から動くんだという話をしましたのは、百点を取らなきゃ駄目だというんじゃなくて、もうとにかくスタートをさせてどんどんどんどん詰めていくんだということが非常に重要だというのが一つと。 　もう一つは、この間の参考人質疑の中であったのは、ＡＩはクリエーティブにはならないと、できないと言った。じゃ、それがどんどんどんどん進んでいったときに、人間はそのクリエーティブさが失われるかなと私は思っちゃうの、考えないんだから。そのことについて、大臣として、今後ＡＩを進めていく戦略の中で、いわゆる人としてのことをどう考えるというふうに思われるかというのを、お考えを示していただければと思います。

○国務大臣（城内実君）　やはりＡＩは人間中心にということをこれから強く掲げていくことでありますので、そして、人間とＡＩの調和に向けて、これやっぱり英知を結集すれば一歩ずつ前進できるというふうに考えております。 　また、ＡＩとの関わりにより社会や人間の考え方がどう変わるのかと、いろいろ御懸念する向きもありますけれども、そういったリスクはしっかり対応しながら、これまでの我が国の歴史も振り返りますと、日本人としての基本的な考え方とか、あるいは海外事例も参考にしながら、新たな制度、技術、文化等を積極的に取り入れ、これまでの御審議にもございましたけれども、日本人らしさとか日本人の情緒とか、そういったものもしっかりＡＩに取り込んで、日本独自にアレンジ、発展、進化させていくということが私はできるのではないかと思いますが、いずれにしても、ＡＩはあくまでも人間を中心に、便利なツールとして、人間の社会をより豊かにするためにしっかり使っていくということではないかというふうに思います。

○酒井庸行君　もうこれで終わりますけれども、場合によっては、この基本計画だとか制度というものも見直していくことを検討するということも必要だというふうに思いますので、そのことをお願いしておきます。 　以上です。

○木戸口英司君　立憲民主・社民・無所属の木戸口英司です。どうぞよろしくお願いを申し上げます。 　まず最初に、ＡＩのガバナンスをめぐる国際的な動向、それを踏まえた我が国の立場、役割、責務ということを大臣に何点か問うていきたいと思います。 　二〇一六年五月の伊勢志摩サミットに先立ち、同年四月に高松市で開催されたＧ７情報通信大臣会合において、日本からＡＩの開発原則に関する議論が提案され、二〇一九年五月、ＯＥＣＤでＡＩ原則の合意に至っていると。日本発信ということを評価していいんではないかと私は思っております。 　この原則は、包摂的な成長、持続可能な開発及び幸福、人間中心の価値観及び公平性、透明性及び説明可能性、堅牢性、セキュリティー及び安全性、アカウンタビリティーから成り、ＡＩに関する世界初の国家間の基準として採択され、翌月開催のＧ20大阪サミットにおいても同内容でＧ20ＡＩ原則として承認されているという流れがあります。 　当時のＡＩのガバナンスをめぐる国際的な動向に対する認識、そして我が国の立場について説明を大臣に伺います。

○国務大臣（城内実君）　お答えします。 　木戸口委員御指摘のとおり、平成二十八年、二〇一六年当時、ＡＩの開発、利用が国境を越えて進展している状況を踏まえまして、ＡＩが人間や社会にもたらす便益を増進しつつリスクを抑制することを目的に、同年四月、Ｇ７情報通信大臣会合におきまして、当時の高市総務大臣がＡＩ研究開発の原則となるガイドライン案を世界に向けて提唱したところでございます。また同時に、ＯＥＣＤのデジタル経済政策委員会におきましても、同様の議論を我が国が提起し、ＡＩに関する原則の検討、策定が進められたところでございます。 　日本政府といたしましては、同委員会においてＡＩの開発者が研究開発の際に留意すべき事項をまとめたＡＩ開発原則、そしてサービス提供事業者を含むＡＩの利用者が利活用段階において留意すべき事項をまとめたＡＩ利活用原則、さらには、ＡＩ社会原則の一つの在り方として人間中心主義を提示し、ＡＩの研究開発や社会実装において考慮すべき点を列挙した人間中心のＡＩ社会原則、これらの概念を当該勧告に盛り込むよう提案し、この提案がベースとなりまして、令和元年、二〇一九年五月にＯＥＣＤ理事会勧告として取りまとめられたものでございます。 　こうしたことから、当時、我が国が国際的な議論の具体化や進展などに中心的かつ主導的な役割を果たしたものと考えております。

○木戸口英司君　そうですね。これが広島ＡＩプロセスにつながっていくわけでありますし、今その日本の立場というものもまだ守られているということを感じております。 　その上で、二〇二三年五月に開催されたＧ７広島サミット、生成ＡＩに関する議論のための広島ＡＩプロセスを立ち上げて、同年十二月、広島ＡＩプロセスの下で、全てのＡＩ関係者向けの広島プロセス国際指針、高度なＡＩシステムを開発する組織向けの広島プロセス国際行動規範等を含む広島ＡＩプロセス包括的政策枠組みがＧ７首脳声明で承認されていると認識しております。 　広島ＡＩプロセスは、二〇二四年のイタリアでのＧ７においても引き継がれ、自主的に国際行動規範を遵守するＡＩ開発企業等の履行状況の報告枠組みを開発、導入するための議論が行われた結果、運用開始に至っているということも理解しております。 　改めて、この広島ＡＩプロセスのＡＩのガバナンスをめぐる国際的な意義と我が国が果たしてきた役割について、所見をお伺いいたします。

○国務大臣（城内実君）　お答えします。 　生成ＡＩは、生産性の向上などのメリットをもたらす一方で、偽情報、誤情報の拡散などのリスクも存在するため、安全、安心で信頼できるＡＩを実現するためのルール形成が極めて重要であります。また、ＡＩの開発、活用は国境を越えて広がるため、各国のルールについて国際的な相互運用性、これを確保する必要がございます。 　このため、我が国は、令和五年、二〇二三年、Ｇ７議長国として、生成ＡＩに係る国際的なルール形成を行う枠組みである広島ＡＩプロセスを立ち上げ、ＡＩの開発、利用について守るべき原則や、その具体的な行動例を定めた国際指針及び国際行動規範を取りまとめるなど、国際的なルール作りを主導してまいりました。 　我が国としては、引き続き、ＡＩの開発、利用に関する国際的なルール作りを主導してまいる考えであります。

○木戸口英司君　その流れの中で、二〇二四年五月、ＯＥＣＤ閣僚理事会で、安全、安心で信頼できるＡＩの実現に向けて、広島ＡＩプロセスの精神に賛同する国々の自発的な枠組みである広島ＡＩプロセス・フレンズグループの設立が表明されたと。十二月末時点で、五十五か国・地域が参加していると認識しております。 　本年二月、東京において、広島ＡＩプロセス・フレンズグループの初の対面会合が開催されております。その成果と今後の展開についてお伺いをいたします。

○国務大臣（城内実君）　我が国は、Ｇ７を超えて開発途上国を含む国々とのＡＩ分野における連携を強化するため、令和六年、二〇二四年五月に広島ＡＩプロセス・フレンズグループを立ち上げ、現時点で五十六の国・地域にまで賛同国が拡大しております。 　木戸口委員御指摘のとおり、本年二月には初の対面会合を東京で開催いたしまして、フレンズグループを通じた国際連携強化の重要性が再確認されるなど、活発な議論が行われました。私自身もこの会合の一部に参加させていただきました。 　なお、この対面会合の際に、ＡＩ関連企業あるいは国際機関などがメンバーとなって、フレンズグループの活動を支援する新たなパートナーズコミュニティ、これが立ち上がったところでございます。 　今後は、このパートナーズコミュニティも活用しつつ、グローバルサウス向けの人材育成を進めていくなど、このフレンズグループの活動を一層充実させるとともに、世界各国への働きかけも引き続き継続いたしまして、賛同国の更なる、五十六を更に参加国を増やしていくということを図ってまいる考えであります。

○木戸口英司君　さきの法案、能動的サイバー防御法案でありました。やはり日本は、どちらかといえば後発という部分の中で、私たちからも、国際的なルール作り、それを、むしろ日本だからできるそういうルール作りの先導役ということを私は期待を込めて申し上げたところでありますし、今回、ＡＩをめぐる議論においても、日本の立ち位置、少し後発であり、これからというところ、国民の理解もこれからという部分であります。むしろそれを進めていくためにも、日本が積極的に今国際的なガバナンスの体制づくりを先導しているということ、これはポジティブに捉えて、国民にも説明をしながら、そして世界的に日本的なやり方で進めていくことということは私はこれポジティブに捉えていいんではないかと、そう思いますので、大臣には更にこれを発信していくこと、この推進法の成立、今日するんだと思いますけれども、これを契機に更に臨んでいただきたいと思います。 　そこで、この広島ＡＩプロセス等の取組を通じて、我が国はＡＩのガバナンスをめぐり国際的に一定の主導的な役割を果たしてきたと私も考えます。今次のＡＩ推進法の基本理念、第三条五項では、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすよう努めるとしています。我が国として目指すべき役割とその責務について、改めて、考え、所見を伺います。また、主導的な役割を担うため、我が国の課題は何でしょうか。 　また、その前段には、人工知能関連技術の研究開発及び活用は、我が国及び国際社会の平和と発展に寄与するものとなるよう国際協調の下に推進することを旨としとありますが、そのことを達成するためにどのような取組が必要か、所見をお伺いいたします。

○国務大臣（城内実君）　まず、我が国が目指すべき役割とその責務についてですが、我が国は生成ＡＩのガバナンスに関しまして、既に述べたとおり、初めての国際的合意となる広島ＡＩプロセスを令和五年、二〇二三年にＧ７議長国の立場で取りまとめたところでございます。また、今、木戸口委員から御指摘がございました本法案第三条第五項の基本理念に基づきまして、我が国はこうした世界における主導的な役割、これを今後も絶えず務めていく必要があると考えております。 　また、なお、我が国が今後も国際的な議論において主導的な役割を担っていくためには、やはり国際的な交渉に対応できる人材の確保、これが一つの重要な課題であると考えておりまして、官民双方において適切に人材を育成、確保していくことが不可欠だと考えております。 　そして、どのように取り組んでいくかについてですが、国際的な人材の育成、確保に向けましては、例えばＧＰＡＩなどの官民の関係者に国際的に対話する場、あるいはネットワークを活用するなどを通じまして、関係府省庁、さらには産業界、アカデミアなどの幅広い人材が国際経験を積むことのできる機会を今後とも積極的に増やしていく考えであります。

○木戸口英司君　この国際協調の点については、質問しておりましたが、いかがでしょうか。

○政府参考人（渡邊昇治君）　国際協調につきまして、お答えを申し上げます。 　今、各国でそれぞれ、それぞれの歴史的な背景とか文化的な背景があるのでやむを得ないところはありますけれども、それぞれの国でそれぞれ異なった法体系ですとかルールが議論されております。ＡＩは国際的に流通する製品、サービスでございますので、これですと使いにくい、開発しにくいということになってしまいます。かつ、分かりにくい制度を持っている国があると非常に不安だということになります。ですので、Ｇ７だけではなく、ＯＥＣＤですとかあるいは国連のＩＧＦですとか様々な会議がございますので、そういう場でできる限りこのルールを合わせていこうという主張をしていきたいと思います。 　ただ、ここで一つ問題になりますのは、ルールは合わせるんですけど、その守り方につきましては、やはり各国のそれぞれの考え方、法体系がございますので、そこについては各国がそれぞれ自主的に考えるということになるのかなと思います。 　こういう問題が大変難しいのは、余りハイレベルのボールを投げると参加する人が減ってしまう、ボールが低過ぎると意味がないというのがありまして、そこの調整をしながらできる限りの国際協調を目指していくというふうに考えております。

○木戸口英司君　ここの法文に平和と発展ということがうたわれております。国際社会の平和ということ、ここをやはり日本としては一番旨として進めていくということ。 　それから、人材の話が大臣からありましたけれども、この間、参考人質疑の中でもやはりそこが一番キーポイントでありました。明日あさってにすぐ人材というのは育つものではありませんので、中長期のことの計画もしっかり立てながらそのことには取り組んでいただきたいと思います。 　それでは、その質疑を受けまして、いろいろ具体的に聞いていきたいと思います。 　様々調査の中で国民のＡＩに対する意識というものはこの委員会の中でも紹介されてきております。多くの国民がＡＩに対して不安を感じているということもこの数字の中で示されているところです。 　本法案は、強制力を伴う規制を盛り込まず、事業者の自主性を尊重する考え方を採用しています。一方で、ＥＵのＡＩ法は、ＡＩによるリスクを四段階に分けて、最もリスクの高いＡＩの市場への投入を禁じ、罰則を設けるなど、ＡＩに対する包括的かつ厳格な規制を設けているということ。ここはいろいろ比較されるところでありますけれども、衆議院での審査でも政府は答弁していましたけれども、単に規制といっても、定義をどう捉えるか、罰則付きの厳しい規制や事業者による自主的な取組を促す自主規制など、考え方は様々だと捉えております。 　国民が求めるＡＩに対する規制をどのように政府としては認識しているのか、その上でこの法案が提案されていると思います。国民が求める規制を適切に把握できていなければ、ＡＩに対する国民の懸念を払拭し、活用を促進することにはつながらないと考えますけれども、いかがでしょうか。

○国務大臣（城内実君）　お答えします。 　国民の皆様の意見に関し、例えば昨年十二月二十七日から本年一月二十三日にかけまして実施いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめ案に対するパブリックコメントにおきましては、著作権、ディープフェイク、偽情報、誤情報に関するものを中心に、個人の回答者から規制に関する意見が数多く寄せられました。 　これらの御意見があったことを踏まえまして、著作権、ディープフェイク、偽情報、誤情報をめぐる状況について改めて精査、検討を行ったところ、既存法令において一定の対応が図られるということが確認されたところでございます。 　その上で、ＡＩ技術がもたらす全てのリスクが予測不可能であることやイノベーションを阻害しない仕組みとすべきこと等を勘案しまして、厳格な規制を設けるのではなく、指針の策定や情報収集、調査といった柔軟な枠組みを通じまして、リスク対応の実効性を担保していくことが適当であると判断されました。こうしたことは中間とりまとめにも明記され、これを踏まえて本法案を提出しているところでございます。 　また、法案の運用に当たりましても、国民の皆様が求める取組を適時適切に把握していくことはもちろん重要でありまして、この点についてもしっかり取り組んでまいる考えであります。

○木戸口英司君　そうですね、今ありましたとおり、国民と双方向で理解を求め、また、どういうことに理解がされていないのか、国としてしっかりと把握していくことということが重要だと思います。 　その上で、事業者に対してでありますけれども、事業者による自主的な取組に委ねる場合、政府の策定する指針やガイドラインを遵守する事業者とそうでない事業者が、あってはならないんですけれども、結果的にそういうことが起き得る可能性はあるわけです。その他の事業者がこれらを遵守しなければ、結果としてリスク対策等にコストを掛ける事業者が不利な立場になるということは懸念としてあると思います。 　生成ＡＩの開発において、米中を始めとする海外企業が国際競争をリードする中、法令遵守の意識が高いとされる我が国の企業が不利な立場にならないようにするには、指針やガイドラインを遵守する事業者に対する何かしらインセンティブ等を考えられないのか、検討する必要があるんではないかと思いますが、いかがでしょうか。

○国務大臣（城内実君）　ＡＩの導入に関するリスクは、その導入によって、仕方によってもまた千差万別であります。このため、それぞれの事業者におきまして、リスクを特定して多面的に評価し、事故時の対応等を含むＡＩガバナンスポリシーを自ら策定、実施していただくことがまずは重要と考えております。本法案第十三条に基づきまして整備するこの指針には、こうした考え方をしっかりと盛り込むことを検討しております。 　その上で、木戸口委員御指摘の指針やガイドラインをしっかり遵守する事業者にインセンティブをもたらす手法、これについては、例えば、充実したＡＩガバナンスポリシーを自ら策定、実施している事業者に対しまして、優良事例として広く公表、紹介し、同様の取組を他の事業者にも奨励をするといったことなど、御指摘も踏まえてしっかりと検討してまいる考えであります。

○木戸口英司君　しっかりと取り組んでいっても、結果としていろいろ、ＡＩの成長過程でいろんなことがあってということで、なかなかそのインセンティブを与えるということも、これもまた技術的に難しい部分はあると思うんですけれども、やはりその努力ということを評価していくということを、その上で、政府側もまたリテラシーが高まってくるということもあると思いますので、これはお互いに事業者とやり取りをしながらこのことを考えていくということも必要なんではないかと、そう思います。 　そして、規制サンドボックスに係る検討についてお伺いいたしますけれども、ＥＵのＡＩ法は、先ほど述べた規制に加えて、隔離された限定的な環境の下で革新的なＡＩシステムの開発やテストなどを可能にするＡＩ規制サンドボックスについても規定していると、イノベーションの促進の観点も踏まえた内容となっていると認識しております。我が国にも、ＩｏＴ、ブロックチェーン、ロボット等の新たな技術の実用化等において、規制官庁の認定を受けた実証を行い、実証によって得られた情報やデータを用いて規制の見直しを行う規制のサンドボックス制度が存在しています。 　このように、規制とイノベーションの両立を図る手法として、包括的な規制を設けた上で限定的に規制を緩和する手法も考えられると思いますけれども、本法案の立案に当たり、こうした手法を採用することは検討しなかったのでしょうか、お伺いをいたします。

○国務大臣（城内実君）　お答えします。 　本法案は、技術の変化が大変速いＡＩについて、イノベーションの促進とリスクの対応の両立を図るため、包括的な規制を設けるのではなく、イノベーションを阻害する過剰な規制を避けつつ、リスク対応のために必要な措置を講じていくという柔軟な仕組みを採用したものであるということはこれまで何度も述べたところでございます。 　なお、規制や制度について、時代やその技術進歩に応じて不断に見直し、イノベーションを生み出す環境を整備することは重要と認識しておりまして、ＡＩ関連事業については、既存のサンドボックス制度を活用すること自体は可能であると認識しております。このため、当該制度を重ねて法案に盛り込むことは行わなかったものであります。

○木戸口英司君　いろいろ利用していくということは分かりました。 　次は、インシデント情報の収集ということについてお伺いをいたします。 　本法案の第十六条では、不正な目的、不適切な方法によるＡＩの研究開発、活用に伴って国民の権利利益の侵害が生じた事案等について、国が調査等を行い、指導、助言、情報提供等の措置を講じる規定が盛り込まれていると承知しております。 　この点について、Ｇ７広島ＡＩプロセスの国際行動規範では、産業界、政府、市民社会、学界を含む高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されております。 　本法案の制度設計のベースとなった有識者会議の中間とりまとめ案に対するパブリックコメントでは、ＡＩの利用に起因するインシデント発生時の報告窓口を一本化する等、事業者側の業務が煩雑にならない制度整備とこれらに対応できる体制づくりを望むとの意見も寄せられておりますけれども、法案に基づき、政府は具体的にどのような方法、体制により情報収集を行う考えか、またこうした意見にどのように対応するのか、お伺いをいたします。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　まず、一つの事業者に対して、例えば産業政策の観点ですとか安全保障の観点とか、いろんな観点から調査が行ってしまうというケースは当然想定されるところであります。 　今回も、ＡＩ、非常に多くの省庁に関係するものですから、一つの事業者に対して複数の事業者からＡＩに関する調査がばらばらと来るということですと、大変答えにくいということにもなりますし、不必要な負担を掛けてしまうことになるかもしれませんので、まずは、この調査をしていくのに際して関係省庁と連携をしながら、ＡＩ戦略本部の下でしっかり連携をしながら、非常に簡潔明瞭で、不必要な手間を掛けない調査というのを目指したいというふうに考えております。 　また、事業者からその調査に関する意見というのも、事業者の意見にも耳を傾けて、分かりやすい調査フォーマットを作るですとか様々な工夫を講じてまいりたいというふうに考えております。

○木戸口英司君　広範多岐にわたる問題に直面するんだと思います。各省庁にまたがるいろんな業者、業界もありますし、ただこれを、政府が縦割りのままでこれを受けるということでは本当に事業者としては迷惑でありますので、やはりしっかりと一本化を図りながら、各省庁との問題であればそれぞれが対応する、しっかりそれを割り振るという作業が政府には求められると思いますが、これは強く求めたいと思います。 　その上で、広島ＡＩプロセスの国際行動規範では、生成ＡＩの高度なＡＩシステムを開発する組織に対し、システムの導入後に第三者やユーザーが問題や脆弱性を発見し報告することを促進することの検討が奨励される、組織はさらに、他の利害関係者と協力して、報告されたインシデントの適切な文書化を維持し、特定されたリスクと脆弱性を軽減することが奨励されるとしています。 　こうした内容は、政府が国際規範の趣旨に即して整備する指針、第十三条ですね、にも盛り込まれるものと考えますが、第三者やユーザーがインシデントに関する情報を報告してもＡＩ開発事業者等による適切な対応が取られるとは限りませんけれど、その点に対して政府としてどのように考えますか、お伺いいたします。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　ただいま御指摘の点につきましては、国が整備する指針の中で、その製品とかサービスを市場に出した後もインシデント情報をモニタリングして、見付けたときにはその報告をしてくださいと、そういったことをＡＩ会社に対して求めていきたいというふうに思っているところであります。 　一般的には、多くの方が使っているＡＩでございますので、不適切な事例があったときには、基本的には、その事業者さんはやっぱり評価を気にされると思いますので、評判に対してちゃんと対応するということであろうというふうに思いますけれども、真摯に対応していただけるというふうに思いますけれども、一方で、やはり不適切な状態が放置されて、それで国民の権利利益を侵害するというようなことになってはいけませんので、国としても、そういった事案につきましては、原因究明ですとか分析とか、対策の検討をしっかりとやっていきたいというふうに考えております。

○木戸口英司君　しっかりとお願いを申し上げます。 　その上で、中間とりまとめ案に対するパブリックコメントでは、不安や懸念、あるいは実際の悪用事例や被害などを相談できるような政府の窓口があるとよいとの意見も寄せられております。政府に情報提供の窓口があれば、政府が速やかに被害情報等を把握して本法案の第十六条に基づく調査等を実施するなど、被害の拡大防止に向けて迅速な対応を取ることが可能になると考えます。 　二十日の本委員会で鬼木委員から、本法案の第八条で国民の責務と規定した理由について質問があった際、城内大臣からは、国や地方公共団体が推進する施策が十分な効果を得るためにも国民の皆様の協力が不可欠である、今後様々なＡＩが多くの国民の皆様に利用されていくことを踏まえると、例えば不適切な動作を行うＡＩを発見した場合に関係機関に情報提供をしていただくなど、適正なＡＩ利用環境の維持に向けた取組に可能な範囲で国民の皆様に御協力をしていただくことも想定される、こうした観点から国民の責務と規定しているという答弁がありました。 　今後様々な分野でＡＩの活用が進んでいくことが見込まれますが、国民が不適切な動作を行うＡＩを発見したとしても、所管する省庁や役所が分からない場合や、報告しようとしてもたらい回しにされるなど、懸念があるのではないかと思います。なかなかやはり、政府に物を言うというのはやはり相当壁が高いと思います。困ったときには我々のところに来たりするわけですけれども、国等が実施する施策への国民の協力が不可欠だということは言うまでもありません。 　国民の責務と規定しているのであれば、不適切なＡＩを発見した場合や被害に遭った際に一元的に対応する政府の窓口を整備する必要があると考えますが、政府の所見、対応をお伺いいたします。

○政府参考人（渡邊昇治君）　お答えを申し上げます。 　まず、その指針によりまして、そのインシデント等が起きた場合には、まずはその開発事業者、提供事業者が情報を収集をして対処していただくということが重要だと思いますけれども、やはり政府としてもそういった情報を収集して分かりやすく皆様にお示しをしていくということが大変重要だというふうに思っておりまして、まずはウェブサイトを作ると、分かりやすいウェブサイトを作るということがまずは出発点かなと思います。これ、政策だけではなくて、法律も含めて全て、ＡＩについて分かりやすいホームページを作るということではないかと思います。 　それと、今の御指摘の中で一つ気付いた点としましては、分かりやすいだけでは駄目で、多分、親しみやすいというか、やっぱり国に何かを言っていくというのはハードルが高いというのは確かだと思いますので、親しみやすいということも併せて考えていきたいと思います。 　ちなみに、一つ案としては、ＭＲＩの装置に子供が入るのをすごく怖がって入らなかったときに、そのＭＲＩの装置の周りに動物の絵を描いたら、滑り台だと思って子供が入っていったという話がありまして、要はユニバーサルデザインという研究がございまして、そういうことに、ちょっとした工夫で皆さんが意見を言いやすくなるというのがありますので、私どものホームページ、どうしても硬い感じがしますので、ちょっと今の御指摘を踏まえて反省をして考えていきたいというふうに思っております。

○木戸口英司君　是非、いや、大丈夫、柔らかい雰囲気ですよ。その雰囲気で是非お願いをしたいと思います。 　やはり、先ほど何回も言うとおり、やはり双方向で、日本のＡＩへのリテラシーといいますか、政府も事業者も国民もお互いに高めていくという機会になれば、私はまたいいものになってくると思いますので、お願いをしたいと思います。 　その上でお聞きしますが、衆議院での審査では、調査研究等における国外の事業者への対応についても議論となったわけです。我が党の橋本議員の質問に対し、城内大臣は、問題事案が発生した場合の海外事業者への対応については、現時点においては、海外に存在する当該事業者の本社に対し、あらゆるチャンネル、手法を用いて連絡を取ることを想定している旨答弁がありました。 　日本法人のあるビッグテックなどに関しては、必要な調査等を行えないという事態は考えづらいと思います。しかし、いろいろな業者があるわけですので、ＡＩを利用したサービス等は国境のないインターネット上で数多く提供されており、日本法人や代理人を持たない海外の事業者が国内でサービス等を提供する場合、どのように調査の実効性を確保するのかが課題となると思います。 　ＥＵのＡＩ法は、ＥＵ域外に拠点を置く提供者がハイリスクＡＩシステムをＥＵ市場に投入する際、ＥＵ地域に代理人を設置することを義務付けております。また、本年一月に制定された韓国のＡＩ法でも、海外から韓国に向けてＡＩサービスを提供する一定の事業者は韓国国内に代理人を設立しなければならないという要件が盛り込まれていると承知しております。 　本法案にこうした規定を盛り込まなかったということになりますけれども、なぜでしょうか。また、どのようにして事業者に対して確実に連絡、また接点を持っていくのか、その点をお伺いいたします。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　今現実に日本のＡＩユーザーはインターネットを経由して海外のＡＩを直接使うということがございまして、結構メジャーで名前の知られている、信頼できると言われているそのＡＩ事業者であっても、国内に、日本の国内には拠点がなくて、でもそれを日本のユーザーが使っているというケースはございます。実際に使っているというケースがございますので、事業者に過度な負担というか規制を課さないという、回避するという観点で、海外事業者に国内法人ですとか国内事業所の設置までは求めていないということになります。 　ただし、私どもが整備したいこの指針では、日本にサービスをする場合に、海外の事業者、拠点を持っていなくても当然その指針の対象になるというふうに考えておりまして、例えば指針の中で連絡先ですとか事業者の緊急通報先みたいなものを明らかにすることとか、そういったことをその指針の中で求めていきたいというふうに思います。 　その上で、そうはいっても、やはりなかなか言うことを聞いてくれなくて連絡が取れないという事業者もあるかと思います。こういうときは、防御といいますか、こういう事業者がこういう悪質なものを流しているので気を付けましょうと、そういう情報提供みたいなことはやっていきたいというふうに今考えております。被害の防止に対してそういった情報提供というのが有効なのではないかというふうに考えております。

○木戸口英司君　やっぱりそういった点も、国民のＡＩに対する不安ということ、懸念というところにもつながっていると思いますので、なかなか、やはり民間企業、事業者相手ということですので、政府がどこまでそこを縛れるかというのは難しい部分もあることも承知しますけれども、何かあったときにやはり丁寧に対応してもらえるんだということにつながってくれば私はいいのだと思いますので、先ほど来の質問とつながってくるところでもあると思います。どうか、まずできる限りの対応をお願いしたいと思います。 　それで、ちょっと時間もなくなってきましたので少し質問を飛ばしまして、どこまで飛ばすかといいますと、あと七分、ちょっと大臣に残り三問ありますので、十六番です、よろしいですか。 　国内のＡＩ開発の強化ということでお聞きしたいと思いますが、ここまでＡＩのリスク等について質問もしてまいりました。こうしたリスクへの対応を講じた上で国内の研究開発等を強化していく必要があるということは、もう何度も今回の委員会で質疑があったところです。私からも改めてお聞きしたいと思います。 　政府の法案資料によれば、二〇二三年の日本の民間企業によるＡＩへの投資額は世界で十二位と、ＡＩの研究開発の遅れが指摘されております。まず、政府が目指す世界で最もＡＩを開発、活用しやすい国とは具体的にどのような国なのか、説明をお願いいたします。

○国務大臣（城内実君）　お答えします。 　ＡＩを開発しやすい環境といたしましては、例えば、ＡＩに係る人材あるいは資本、これが集まりやすいことや、ルールが明確であることなどにより、事業者によって事業の予見性が高くなること、これが、こういったことが挙げられるかと思います。 　また、ＡＩを活用しやすい環境といたしましては、例えば、安全、安心で信頼できるＡＩが普及していることや、ＡＩを活用するに当たって留意すべき事項等が利用者に、先ほど政府参考人からも説明がありましたが、分かりやすい、親しみやすいといった形で提供されるなどにより、ＡＩ活用のハードルが低くなることなどが挙げられるかと思います。 　このように、事業者がＡＩの開発、活用に関する事業を行いやすく、また、国民の皆様を始めとする利用者の方々がＡＩに対して不安や抵抗を感じることなく活用できる、こうしたことが世界で最も進んでいる国となること、これをしっかり目指していく考えであります。

○木戸口英司君　その上で、私、一番最初に、その国際的なルール作り、ガバナンスの在り方を日本が主導していくということ、こういった姿がまたこの開発、活用しやすい国ということに先導していく大きなテーマであろうと思いますので、改めてこの点を確認をさせていただきたいと思います。 　そして、次ですけれども、ＡＩ研究開発の推進における数値目標の設定については、十六日の参議院本会議で我が党の杉尾議員の質問に対し、城内大臣は、ＡＩの開発動向は刻々と変化しており、具体的な目標や指標の設定については適時適切に議論する必要がある、今後、ＡＩ基本計画を策定する際、具体的な目標等の設定を含めて検討していくという答弁がありました。 　今年三月二十四日の本委員会で、政府が進めるＥＢＰＭの取組について、私、平大臣、赤澤大臣と議論したことがありました。その際、ＥＢＰＭの課題として、厳密なエビデンスに基づくロジックモデルを確立することが困難であることや、法律の制定や予算の獲得等、あるいは予算の削減等に重点が置かれる、効果的な政策が実施できなくなるプラン偏重主義に陥りやすいということも私から指摘をさせていただきました。 　ＡＩ政策については、城内大臣が述べているとおり、刻々と技術の状況が変化しており、特に、中長期的な計画を立てて政策を進めていくことが難しい分野だと理解しております。こうした政策分野において、エビデンスに基づき、説明責任を果たしつつ効果的な政策を実行していかなければならない一方で、基礎研究やスタートアップにも種をまき、トライ・アンド・エラーを繰り返していかなければイノベーションは生まれないということも事実であります。 　城内大臣は、ある意味で矛盾した政策のかじ取りを担っていかなければならないわけですけれども、このＥＢＰＭという観点からＡＩ政策をどのように向き合っていくのか、見解をお伺いしたいと思います。

○国務大臣（城内実君）　お答えいたします。 　ＥＢＰＭ、エビデンスに基づく政策立案、これは非常に重要だと思いますが、いずれにしましても、本法案は我が国におけるＡＩに特化した初めての法案でありまして、今後発生し得る様々な変化に的確に対応しながら、政策のかじ取りを行っていく必要があるというふうに考えております。 　まずは、本法案が成立した暁には、関係省庁とも連携しながら、本法案に基づくＡＩ基本計画の策定や、適時適切な情報収集と情報提供等の取組を通じて、国民の皆様への説明責任をしっかりと果たしていく考えであります。 　今後も技術の急速な進展を始めとする環境変化にしっかり対応することを前提に、例えば基本計画を適時適切に見直したり、あるいは有識者の御意見も伺ったりしながら、ＡＩ政策のＰＤＣＡサイクルを回して効果的な政策の実行に、エビデンスなども活用しながらしっかり努めてまいる考えであります。

○木戸口英司君　もう時間になりましたので、質問はもう終わりにいたします。 　我が国の国民生活の向上と国民経済の発展という目的であります、ＡＩですね。アジャイルな視点で我が国のＡＩ戦略をリードしていっていただきたいと思います。 　私からの質問はこれで終わります。

○奥村政佳君　立憲・社民・無所属の奥村政佳です。 　改めて申すまでもないですが、昨今のテクノロジーそしてＡＩを取り巻く環境の変化の速さには目をみはるものがあります。 　先週、様々な、この質問の準備の中でインターネットの記事とかも見ていますと、先日、アメリカの起業家イーロン・マスクさんが自律型の人型のＡＩロボットを発表して、話題となっていました。テスラ・オプティマスというロボットだそうです。このロボットは、シム・トゥー・リアル、シミュレーション・トゥー・リアルや強化学習を用いてまさに自分で考えて自分で動くと、そんなロボットとなっています。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　つまり、今までは、初めての動きに対しては人間の動きをロボットに覚えさせたり、実際に試行錯誤をする中で、従来であれば現実のロボットで何千回も失敗をして微調整をしていくような課題を、ロボット自体の頭の中でアイデアを、自分の頭の中でシミュレーション学習をして、それで即実行に移していくというサイクルを回すと。つまり、高精度なシミュレーションをすることによって、練習をしなくても一発でできるようになるといったようなロボットだそうでございます。 　このアイデアというのも、インプットするんじゃなくて、人間の映っている動き、これ動画データを見て、それを基に学習をして、こういうことかなと見てまねて、練習をしないでできちゃうということで、すごい時代だなというふうに思っております。 　さらに、自律型エージェントに基づいて決定を下す最新のソフトウェアが組み込まれている、そんなロボットが普及するのは、じゃ、数年後かなと思いきや、実際にはもっと早くて、何と今年中にはテスラは社内向けに千台、そして二〇二六年には外部に発売をするということで、もう僅か数年前にはＳＦのようだったことが目の前に起こってまいります。 　そして、これからは様々なデバイスにもこのＡＩが組み込まれるような世界が当たり前となって、様々な機器が何を考えているか分からないブラックボックスとなっていく未来はもうすぐそこに来ています。世界各国でＡＩの開発競争が激化している中で、いいところ、そしてさらにはＡＩの負の側面というのも表面化をしていくのかなというふうに思っております。 　さらに、このブラックボックスは何を引き起こすかというと、安全保障上のリスクでもあります。 　　　〔理事磯崎仁彦君退席、委員長着席〕 　例えば、ハードウェアでいうと、先週の衆議院内閣委員会では立憲民主党の藤岡委員が、昨日の参議院の決算委員会でも柳ヶ瀬委員が質問をしていたんですけれども、中国製の太陽光発電システムの一部に何か不審な通信機器が接続されている、搭載されているというロイター通信の報道を取り上げて、こういう通信機器の遠隔操作によって広域の停電が発生するおそれなんかも指摘をしていました。更に一歩進んで、ひょっとすると、将来、ＡＩが組み込まれたこういう機器が、遠隔操作をしなくても自分の判断で止まってしまう、発電を止めてしまうみたいなことも技術的には可能になっていくのかなというふうに思っております。 　昨日の質問に対しては、当該機器の設備が含まれる設置者に対し保安上必要な対応を求めると武藤経産大臣は答えておられましたけれども、もうブラックボックスになってくるとそれもできてこないということで、まさにこれから想定外を想定をするということも必要なのかなというふうに思っております。 　このようなこともあるということをちょっと皆様にも共有をしながら、順次質問を進めていきたいと思います。 　さて、まず一問目伺いたいと思います。 　先ほどはそういうハードウェアの話をしましたけれども、一方で情報戦ですね、海外で明らかになったＡＩを利用したプロパガンダ事案について政府の見解をお聞かせをください。 　二〇二四年、オープンＡＩ社の発表では、ロシアや中国など複数の国、組織が生成ＡＩを使って偽情報、偽の情報をＳＮＳ上にばらまこうとしていたという報道がありました。それはストップ、事前にストップすることができた、幸い現時点で大きな成果は上げられなかったということでしたけれども、これはひょっとすると氷山の一角かもしれません。 　参考人質疑でも市川参考人が、日本において直近のＡＩリスクとして、偽情報、誤情報の問題やディープフェイクなどが重要な課題と指摘されていました。 　この悪意ある者がＡＩを用いてこういう情報を拡散する現実が既にあるという中で、この国際的なＡＩプロパガンダの動きがある中で、日本政府として危機感を持っているのか、こういう事案についてまずは率直な所見をお伺いしたいと思います。この日本の世論や国民が標的にされた場合の備えなんかも考えていかなければいけないと思いますが、いかがでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　ただいま御指摘のございました件は、生成ＡＩを提供する非営利団体が、ロシアと中国とイランとイスラエルに関係する五つのグループがこの団体の生成ＡＩを利用して世論操作ですとかプロパガンダの活動を行っていたと、これ特定をいたしましてこの活動を阻止したというふうに、オープンＡＩですけどね、発表されているところでございます。二〇二四年の五月三十日ということでございます。 　こういった事例がやはり増えていくということが大変懸念されると、それから巧妙化して多様化していくということがまず懸念材料の一つとしてはございます。 　もう一つは、これ教訓といいますか、この団体がＡＩの悪用を防ぐために実はＡＩを使っているんですね。つまり、ＡＩを使ってその悪質なものを探したということを言っておりまして、そういう意味では、その悪質な、これ参考人質疑でもございましたけれども、ＡＩに対してＡＩという技術で対抗していくというテクノロジー化、テクノロジー・ベースド・アプローチみたいなものの重要性というのを非常に感じているところでございます。

○奥村政佳君　本当にそういう意味では、そういうところにもだんだんと、いわゆるリアルな戦争ではなくて、そういうところにもしっかりと対応していく必要があるのかなというふうにも思っております。 　その中で、仮にこの自律型のＡＩというものもあります。要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。 　先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっとするとＡＩ同士がそういう認知戦を行う可能性すら指摘をされています。 　今回、この法案は利活用の促進というのを主眼としていますが、一方で、参考人質疑でも、世界的には将来の強力なＡＩへの規制議論が進む一方で、日本では現に現実化している偽情報拡散への対応こそ喫緊の課題だとも示唆をされました。 　直接ＡＩに指令しなくても、ある入力を基に、例えば、何でしょうかね、こういう考えを広めたいんだというのを基に認知戦を、国内でＡＩが世論操作を始めた場合に、政府としては現行法やこの法案でどのように対処をし得るのかということも考えておく必要があると思います。一旦そういうところに入ってしまうと、エコーチェンバーとかフィルターバブルという言葉もある中で、もう本当に洗脳されてしまう、ＳＮＳで洗脳することも可能だということです。 　考え得る方法としては、こういうのがおかしいよねと、その発言を事業者が削除したら、それに対して例えばＡＩが、これは言論の自由の侵害だということを打ったら向こうがある意味尻込みするぞと、そういうことも考えられるという中で、いろんなことを考えていく必要があると思いますが、現時点で政府の見解はいかがでしょうか、お伺いします。

○国務大臣（城内実君）　奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。 　生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。 　こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠でありまして、本法案第十六条に規定いたします情報収集や調査等を適時適切に実施するとともに、新たに設置されるＡＩ戦略本部の下で関係府省庁が緊密に連携することで対応していくことができるものと考えております。 　また、ＡＩをめぐるリスクへの対応につきましては、技術からのアプローチ、これもまた重要でありまして、偽情報の対処等につながる技術の研究開発も含めて、本法案第十一条では研究開発の推進がうたわれ、規定されておりまして、これを基本的施策として位置付けているところでございます。本法案に規定されたイノベーション促進とリスク対応の双方の施策を通じまして、偽情報、誤情報による情報操作等に適切に対処してまいる考えであります。 　いずれにしましても、先ほど奥村委員御指摘のとおり、想定外のこともあらかじめしっかり想定して準備をしていくということは、これ非常に大事なことだというふうに私も思います。

○奥村政佳君　想定をしていく、しっかりやっていくということは伺ったんですけれども、実際、ＳＮＳ上でこういう発言というか、ＡＩの場合は発信というんでしょうか、これを行うＡＩについて政府はどういう対応を検討しているのか、実際の場合というのをお伺いしたいと思います。 　自動で不適切な出力をするＡＩ、最近は、ＡＩアカウントが人間に成り済ましたりとか、チャットボットというものが暴言を吐いて、海外では炎上するということもあります。悪意はＡＩにはないんですよね。ただ、おかしな学習をして、差別的な投稿やデモ情報というのをツイートするということがあると。ＡＩ自体には責任は問えないというところで、じゃ、操作者なのか、開発者なのか、どこが責任を負うのか、それを放置しておくのかというものは、現行の法制度では、ＡＩがネット上で発言、拡散する有害情報にどう向き合うか、明確にはなっていません。 　私は、ＡＩだろうと人間であろうと、社会に影響を与える以上は何らかのルールや責任の所在というのが必要だと思います。政府として、このＡＩが不適切発信を行っていくというこの新たなリスクに対して、どういうふうなシナリオを想定しているのか、また対応策を取っていくのかということも伺いたいと思います。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　まず、今ＳＮＳ上で誹謗中傷をするような口論、まあＡＩなので口論と言うかどうかはちょっとあれなんですけど、そういうものが実際に行われていまして、ＡＩを使ってＳＮＳ上で誹謗中傷し合うというようなことがあります。ＳＮＳのメンバーがＡＩに限定されていて、ＡＩ同士でバトルしてそれを人間が観察するという、そういうようなＳＮＳもあるというふうに伺っています。 　こういう事案に対してどのように対応していくかということなんですけど、大変難しい課題ではあるんですが、まずは、ネット上に流通している情報というのは、ＡＩで作られたもの、あるいは不適切なものがたくさん流通しているということを、これを周知徹底すると、国民に対して広報していくということが重要なのではないかというふうに、これは非常に深刻な問題ですので、非常に重要ではないかというふうに思います。 　そしてまた、この法案では、指針を整備して、その中で、開発者に対してできる限り不適切な出力をしないようにＡＩに工夫をしていただくというのがあるかなと思いますし、また、必要な調査を私どもがやって、事業者に対する指導ですとか国民に対する情報提供をしていきたいというふうに考えているところでございます。 　そしてまた、責任の所在の御指摘もございましたけれども、これにつきましても、いろんなケースがあるので、多様なケースがあるので大変難しい検討ではあるんですけど、典型的なケースを選びながら、ＡＩが問題を起こしたときの責任の問題についても関係省庁と協力をしながら議論をしていきたいというふうに思います。 　なお、最後に、私、ある国際会議のときに、実はＡＩの暴走問題を議論していたときに、最後、電源を切れば問題ないんじゃないかという言い方をしたんですけど、それはもう渡邊さん甘いよと言われまして、えっ、どういうことですかと言ったら、政府も使っている、金融機関も使っているＡＩを何かちょっと暴走したからといっていきなり電源を切るということになったら何が起こるか想像してみてくださいと言われて、なるほどと思ったわけですね。ですから、簡単に切っていいかというと、ほかの人も使っているかもしれないので、簡単に切っていいかというとそういう問題でもないですし、そもそも、政府がＡＩを多用するようになってくると、停電に対応して無停電で動くようにされている可能性があるんですね。 　ですから、これからＡＩを導入していく方が、もしそういうことが起こったときにどうするのかと、電源を切るのか、あるいは部分的に何か止めることをするのか、そういうことをちゃんと考えた上でＡＩを導入していくということをしていかなきゃいけないというふうに考えております。

○奥村政佳君　今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしいなというふうに思いました。 　少し質問の内容を変えて、次は著作権の問題についてちょっとお話伺いたいと思います。 　著作権法第三十条の四、享受を目的とする利用と享受を目的としない利用、つまり非享受目的の利用との線引きについてお尋ねをします。 　御承知のとおり、現行法では、著作物から情報やデータを引き出すための利用であれば、非営利、有償、無償問わず、著作権者の許可をなく利用可能というふうになっています。要するに、学習ですね、学習で直接何か利益を生み出すものじゃない場合というのはいいよというふうになっているんですけれども、一方で、その利用が著作物そのものの鑑賞、享受が目的という場合は許されないということになっているんですけれども、この区別ってすごく難しいなと思うんですね。 　生成ＡＩの学習の中において、現場からは、この線引きが分かりにくいという意味ではクリエーターからも声が上がっています。例えば、あるソースを学習していく中で、ある小説の一節をＡＩが読んで学習をするというのは、それだけだと非享受目的なんですけれども、その結果、ＡＩが原文と同じような文を結果的に吐き出すというようなら享受と変わらないのではないかといったような懸念でございます。大屋参考人も、アメリカの例を引きつつ、既存の著作物を学習に用いて、それで市場で競合するコンテンツを作るのは公正利用の範囲を超えるというふうに指摘をされました。 　この日本の著作権法三十条の四において、享受目的か否かの判断、これはどのように定義をしているのか、ちょっと分かりやすい言葉で説明をしていただきたいと思います。ＡＩ開発者やクリエーターが安心できる明確な線引きというのが必要と思いますが、これを伺いたいと思います。

○政府参考人（中原裕彦君）　お答え申し上げます。 　著作権法第三十条の四におけます享受を目的とした行為といいますのは、著作物の視聴等を通じて視聴者等の知的、精神的欲求を満たすという効用を得ることに向けられた行為でございまして、ＡＩ開発のような情報解析等は、通常そうした著作物に表現された思想又は感情の享受を目的としない非享受目的と解されるところでございます。 　しかし、令和六年三月に取りまとめたＡＩと著作権に関する考え方におきましては、ＡＩの開発、学習段階において、学習データに含まれる著作物の創作的表現の全部又は一部を出力させることを目的とした追加的な学習を行う場合など、一定の場合には享受目的が併存すると評価されまして同条が適用されない場合があるとの考え方を、との考えをお示しをしているところでございます。 　また、ＡＩの生成、利用段階において、その学習された著作物と創作的表現が共通した生成物の生成が著しく頻発するといった事情は、ＡＩの開発、学習段階における享受目的の存在を推認する上での一要素となり得るものとの考え方もお示しをさせていただいているところでございます。 　文化庁としましては、このようなＡＩと著作権に関する考え方につきまして、引き続き丁寧に周知をしてまいりたいと存じます。

○奥村政佳君　やっぱり、曖昧な線は曖昧なんですね。頻発にというのは、じゃ、どれぐらいかというのもありますし、目的とさせなくても結果的に出力をされた場合というのは、これはクリエーター側としては、いわゆる、何でしょう、言葉を選ばず言うと、あっ、パクられたというふうになるわけですよね。そういうところを本当に考えると、このＡＩの問題、そして学習というのは非常にセンシティブなところの線引きがあるのかなというふうに思います。 　関連して、ちょっともう一点伺いたいと思います。 　現行の法制度上は、先ほどもおっしゃられたように、データ分析目的であれば無断の利用が許容されるような立て付けになっております。とはいえ、自分の描いたイラストや文章が勝手にＡＩの学習素材に使われているというようなこと、そして、それによって、先ほど、目的としないと、頻繁ではないという話がありましたけれども、まねた作品が出てきた場合には、クリエーターとしては看過をし難いものがあります。 　参考人質疑で大屋参考人は、表現する以上それが他者に利用される事態は避けられないとしつつも、例えば手塚治虫先生の作品で、偽の手塚作品を生成し販売するような用途は不適切であり、禁止すべきとも強調をされておりました。 　この創作物の無断学習利用には倫理的な問題提起もあります。この生成ＡＩの学習データとして自分の作品を例えば使われたくないというふうなことも権利としてはあるとは思うんです。これをクリエーターが望む場合には、今どのような対応策、手段があるのでしょうか。お願いします。

○政府参考人（中原裕彦君）　お答え申し上げます。 　著作権法第三十条の四におきましては、著作権者の利益を不当に害することとなる場合には適用されないとされておりますところ、例えば、インターネット上のデータが情報解析に活用できる形で有償提供されている場合に、有償で利用することなくその創作的表現が認められる一定の情報のまとまりを情報解析目的で複製する行為、あるいは、その著作物の複製等を防止する技術的な措置が講じられている等、一定の事情から情報解析に活用できる形で将来販売される予定があることが推認されるような場合におきまして、この技術的な措置を回避して当該データベースの著作物の複製等をする行為が著作権者の利益を不当に害する場合に該当し得ると考えられまして、クリエーター側はこれを踏まえた対応を講ずることが考えられると存じます。 　このほか、ＡＩと著作権に関する考え方におきましては、自身の作品をウェブサイトにアップする際に、ウェブサイト内のファイル、ロボッツテキストにＡＩクローラーをブロックする記載をすることや、あるいはＩＤ、パスワード等によるログインが必要な環境にアップロードすることなど、クローラーによるその収集を防止する手段についても紹介をさせていただいているところでございます。

○奥村政佳君　やっぱり、でも、クリエーター側が、そのロボッツとかクローラーという話がありましたけれども、それだけじゃないわけですよね、情報を得る手段というのは。その中で、やっぱりクリエーター側が自分の作品はＡＩに学習をさせないでほしいと表明できる仕組みとか、逆に学習に使った場合には知らせたりとか、作り手としては何らかの還元があってもいいなというふうには思っております。 　例えば、私自身もミュージシャンなんですけれども、例えば音をサンプリングをして、自分の演奏したものを一部を取って、そういうものを使って再構成するというときには、サンプリングといって権利が発生するわけです。著作者が著作物の利用を認める際に、そういう利用者にその使用料を求めることも可能なわけです。 　更に言うと、いわゆるクリエーターのものを人が見てやるときというのは、そこにはリスペクトがあったりするわけですよね。ただ、ＡＩって恐らくリスペクトはなくて、例えば、僕のやった演奏を後輩が見て、先輩のを見て練習しましたと言ってくれると、まあ別にお金はくれとは言いませんけれども、あっ、でもそうだよね、じゃ、みんなで頑張っていこうとなるわけですよ。ただ、それが、今このＡＩが入ってくると、ただ勝手にいろんなものを吸い取られて、そこにはある意味クリエーターの、何というんでしょう、尊厳というか、というものがなくなっていくというのがやっぱりあるなと、自分自身が作っていたから思っております。そういう思いを、やっぱりクリエーター、多く持っていると思うんですよね。 　そういう意味でいうと、今回のこの法案を作ってそして議論をしていく中で、やっぱりクリエーターの不安というのを放置してはいけないかなというふうに思っていますが、ちょっとこれ通告はしていないんですけれども、クリエーターもしっかりと守っていくと、場合によってはちょっとこの文化芸術分野にもしっかりと還元をしていく仕組みも考えていくみたいなことがやっぱりあるといいなと思うんですが、大臣、いかがでしょうか。

○国務大臣（城内実君）　奥村委員の御質問にお答えしますが、実は私、知的財産戦略担当大臣でもありクールジャパン戦略担当大臣でありまして、クリエーターの方から様々な、現時点におけるいろいろな不安や心配なども伺っているところでございますので、奥村委員の御指摘も踏まえてしっかりと、クリエーターの方にも立場に立ってしっかりと対応していくようにしていきたいというふうに考えております。

○奥村政佳君　ありがとうございます。 　やっぱり、ＡＩの世界が広がって、今度そのクリエーターが物を作る、何でしょうね、その原動力であったりとか気持ちというのがなくなってくると、今度はＡＩの方も衰退をしていくわけで、やっぱりそういうことがないように、こういう議論をしていく中では、しっかりと、作った人、創造をする人、人間を守っていくというここの観点を忘れずに、もちろんＡＩを使う世界というのはすばらしいかもしれませんけれども、その一方でそういう側面があるということも議論をする中で忘れないでいただきたいなというふうには強く思います。 　では、次の質問に移りたいと思います。 　一方で、生成ＡＩで作ったものを使うときに、ユーザー側のリテラシー教育と開発者の側の責任というのも必要なのかなというふうに思います。今後ますますＡＩで生成した文章や画像に触れる機会が増えてくる中で、それをある意味、うのみにせずにというか、適切に、あっ、これはＡＩだなとか評価、活用できる人材の育成というのは必要なのかなと思います。 　そして、ユーザーばかりではなくて、ＡＩを提供する開発者、事業者にも責任のある対応が求められます。例えば生成ＡＩ、何かプロンプトを入れてそれで出てきたものに関しては、それを世の中に出すときには著作権がやっぱり絡んでくるわけですよね。誰かの作品に非常に似ているものが出てきた場合に、それを、あっ、これは自分のものだと思って出した場合に訴えられたりすることも場合によってはあるかもしれない。それを使った本人が知らなかったというのはちょっとなかなか誰も幸せじゃないなと思うと、例えば、出力したものに関して、このＡＩが出力したものの責任はあなたにありますと、発表とか使用には十分な注意が必要ですよといったような例えば注意喚起をすることというのも必要なのかなと思います。あとは、ガイドラインをしっかりと示したりすることもあると思います。 　永沼参考人は、ＡＩの開発者、提供者、利用者、それぞれの役割と責任分担をやはり明確化していくことが重要だというふうにも述べられました。もう私もまさにそのとおりだと思います。 　そこで伺いますが、政府として、生成ＡＩの利用に関するリテラシー教育、これをどういうふうに推進をしていくお考えでしょうか。先ほど私、ＳＮＳの子供たちに対する教育という話もしましたけれども、このＡＩ開発者、提供者がユーザーに対してリスクや注意点を周知する取組を促すなど、何らかの責任ある姿勢というのを示させる方策について見解をお伺いしたいと思います。せっかく便利なＡＩも、使い方を間違えれば社会に混乱を招きかねませんので、使う側、作る側、双方への視点も必要かなと思っております。お願いします。

○国務大臣（城内実君）　奥村委員御指摘のとおり、生成ＡＩを用いての情報の出力を行うに当たりましては、その利用者自身がＡＩが不適切な出力をしないように留意すること、これ非常に重要だと考えております。このため、本法案に基づき策定する指針にはその旨を記載し、国としてこれを周知徹底していきたいと考えております。 　また、ＡＩの利用者のみならず、そのＡＩを開発する事業者におきましても、利用者が不適切な出力をしないよう注意喚起を行うことが重要となるため、その点についても指針にしっかりと記載する予定としております。その際には、ＡＩ開発事業者が利用者に対して具体的にどのような形で情報提供をしていくべきかについて、このことについても今後しっかり検討していく必要があると考えております。 　具体的な方法として一例を挙げますと、例えば、利用規約の形を通じて事業者から利用者に対する注意喚起を行うこと、あるいは、利用者がＡＩから情報を出力する際にＡＩにより生成された情報であることをきちんと表示していただくなどの方法が考えられますが、いずれにしましても、ＡＩ戦略本部の下で、関係省庁としっかり緊密に連携しながら適切な方法を検討していく考えであります。

○奥村政佳君　今方針を言っていただきましたけれども、これ毎日毎日たくさんの恐らく作品が、作品というかＡＩの出力がやっぱり生まれているような状況で、これを急いだ方がいいのかなと思うんですけれども、この議論に関してちょっと急いで進めるといったようなことも大臣の口から伺いたいと思います。

○国務大臣（城内実君）　まだ戦略本部はこれからですけれども、昨年からもう既に関係省庁会議が設置されておりますので、そういったところでしっかりとこの問題についても議論をして、先ほど、繰り返しになりますけれども、いろんなことがもう既に起きていますので、しっかり対処するように努めてまいる考えであります。

○奥村政佳君　ありがとうございます。 　クリエーターの保護というところでもそれは本当に大切になってくるかなと思いますので、是非よろしくお願いします。 　それでは、次の質問に移ります。 　自治体におけるこのＡＩ活用というのも進めていくということが規定をされていますけれども、このＤＸ推進とか人材確保についての国の支援策というのも大切かなと思っております。 　国や自治体でも行政手続へこのＡＩ、ＩＣＴ活用というのが叫ばれているんですけれども、正直、自治体によってかなり温度差があるのかなというふうにも思っております。大規模な自治体などでは、このＡＩのチャットボットであるとかＲＰＡ、業務の自動化ですね、これを積極的に導入し始めていますけれども、小規模な自治体では、人材もいないしシステムも入ってこないといったような現状もあると聞きます。 　村上参考人は、東京のような大きな自治体は安全性の保証、検証も含めて先んじて取り組むことができるけれども、小さい自治体が自力で全部やるのは難しいと、だからこそ政府が主導して、先行する自治体と後発組が共に進めるように支援すべきだという話を、期待を述べられていましたけれども、まさにそのとおりで、自治体間でこのＤＸの格差が広がれば、いわゆる、そうですね、石破総理がずっとおっしゃっているその一極集中を何とかしたいということにも逆行していくようなことにもなってくると思います。 　総務省としても、この自治体への具体的な支援策というのがあったりするといいのかなと思うんですけれども、具体的にどういうことを取り組んでいるかというのを聞きたいと思います。専門人材の派遣制度や研修支援、財政的な優遇措置など、人材、資金両面で後押しが必要と考えます。全国どこに住んでいても先端ＩＴの、そしてＡＩの恩恵を受けられるように、国として責任を果たしていただきたいと思いますが、いかがでしょうか。

○政府参考人（恩田馨君）　お答えを申し上げます。 　自治体のデジタル人材の確保、育成を図るため、総務省におきましては指針を策定いたしまして、デジタル人材の育成、確保に関する留意点を盛り込みまして、各自治体において取組を進めていただいておるところでございます。 　一方で、総務省の調査におきましては、五万人以下の市町村のうち二百十一の団体が、ＤＸ担当者が一人以下という回答をしております。特に、こうした小規模な市町村からは、独力で専門的な人材を確保することが困難であるという声も伺っておるところでございます。 　こうした状況を受けまして、都道府県と市町村が連携し、ＤＸ推進体制を構築し、その中で、都道府県において市町村支援を行うための専門人材のプールをさせていただくような形を強化したいというふうに考えてございます。 　具体的には、総務省におきまして、全国的に人材、協力企業の掘り起こしを行うとともに、デジタル庁とも連携いたしまして、採用のノウハウの提供なども行ってまいりたいと考えております。また、自治体におけますＤＸの取組の中核を担う職員の育成に必要な経費につきましては、財政措置を講じるとともに、自治大学校や地方公共団体情報システム機構等でのデジタル分野の研修の充実などに取り組んでおるところでございます。 　各自治体におきまして、ＡＩの活用も含め、ＤＸの推進に必要な人材が着実に確保され、その恩恵を全国に広げていくことができるよう、総務省の関係部局において連携しながら引き続き取り組んでまいりたいと考えております。

○奥村政佳君　人材のプールという話がありましたけれども、このいわゆるデジタル人材というのは、先般のアクティブサイバーの議論の中でも育成が急務だという話がありましたけれども、負担もどんどん大きくなってくると思うんですね。サイバーディフェンスもしなきゃいけない、ＡＩの開発もしないといけない、そこに対応しないといけないという中で、先ほど一人以下という話、ＤＸの人材がですね、平均するとという話がありましたけれども、ここは差がどんどん生まれていると思います。例えば、神戸の事例ですと、ＤＸ人材がもう二〇二四年の四月の段階で内部が七十四人、外部で二十六人、百人いると。そこにとても大きな差が今生まれているわけです。 　よくこういう話をすると、横展開をしていきますという話があるんですけれども、事例の紹介だけじゃなくて、しっかりとそれが実効性のあるものにしていかないと、やっぱり一極集中というものがどんどんどんどんと逆の方向に進んでいくと思います。不公平ですので、そこをしっかりと国が責任を持ってやっていただきたいと思います。 　それでは、最後の質問に移っていきたいと思いますが、この自治体向けの支援策としてこれまで特別交付税措置がとられていたというふうに承知をしています。その中で、自治体職員の定型業務を効率化するためのＡＩが入ってきたと。普及がだんだんと進んでいるというのもデータで拝見をしました。 　その中で、この制度による自治体のＡＩの導入の進捗というか、どういうふうな成果が特別交付税措置によって得られたかということを伺いたいと思います。そして、この導入状況や特別交付税措置の算定額、これ増減傾向なんかも伺えますでしょうか。

○政府参考人（下仲宏卓君）　お答え申し上げます。 　総務省では、自治体ＤＸ推進計画において、自治体のＡＩ、ＲＰＡの利用推進を地方自治体が重点的に取り組む事項として位置付けております。自治体のＡＩ等の技術の導入や活用を推進するため、自治体におけるＡＩ等の導入ガイドブックをまとめ、好事例、良い事例の横展開、普及を図るとともに、ＡＩ等の導入に対する財政措置や外部人材による支援などを行っております。 　御指摘のＡＩ等の導入に対する特別交付税の措置については、毎年度の導入経費に対するものであります。先ほど申し上げました様々な取組もありまして、ＡＩ導入団体数が平成三十年度の百六団体から令和五年度で九百二十六団体に増加し、人口カバー率は八八・一％となるなど、着実に推進、進展していることなどもありまして、特別交付税の措置額はおおむね減少傾向となっています。 　総務省としては、ＡＩを含むデジタル技術の活用を通じて、一層住民の利便性向上や自治体の業務効率化が実現されるよう必要な施策に取り組んでまいります。

○奥村政佳君　事前には聞いていなかったんですけれども、横展開という言葉また出てきましたけれども、それを実効性あるものにするということをしっかりやってほしいということを改めてお話をしたいと思います。 　その交付税措置、一応令和七年度までというふうに承知をしておりますけれども、それは間違いないでしょうか、今のところ。

○政府参考人（下仲宏卓君）　お答え申し上げます。 　現時点では、令和七年度までということになっております。 　以上です。

○奥村政佳君　引き続きこれを推し進めていくということを、先ほど言った横展開を実効性あるものにしていくために考えていってほしいと思います。 　この補助率に関しても、やっぱりこの三割というのはなかなか自治体の負担が大きいという話もあります。そういうところも含めて、支援の強化、先ほど八八％でしたっけね、お話をしましたけれども、残り一二％ございますので、そこの格差、埋めていくようにお願いをいたします。 　時間がもう押してきましたので、ちょっと最後やっぱり改めてもう一度、大臣のこのクリエーターをしっかりと保護をしていくというところの決意を改めて伺いたいと思います。この議論をしていく中で、やっぱり本当に物を作っていく人たちというのをしっかりと保護をしていくというのは、もうこれは必須なことだと思うんですね。最後、城内大臣、よろしくお願いします。

○国務大臣（城内実君）　お答えします。 　日本のまさにクリエーター、そしてそのコンテンツの競争力、本当に多くのクリエーターの皆様のもう本当に血のにじむ努力と汗の結晶だと思いますので、クリエーターの皆様の知的財産権については適切に保護していくことは、これは重要な課題だというふうに考えております。 　本法案が成立した暁には、これまでの取組に加えまして、ＡＩ戦略本部が司令塔としてＡＩに関する政策を総合的かつ計画的に推進していくことになっておりますので、必要に応じて著作権に関するものを含めた点についてもしっかり検討し、取り組んでまいる考えであります。

○奥村政佳君　司令塔、しっかりよろしくお願いします。期待しております。 　これで質問を終わります。

○竹谷とし子君　公明党の竹谷とし子です。 　先週に引き続き質問させていただきますが、本日は、生成ＡＩがもたらす負の側面、特に人権を、負の側面をどう防ぐか、特に人権を守るという観点から質問をいたします。 　生成ＡＩなどの技術で子供や女性などのわいせつな画像や動画を作り出すいわゆる性的ディープフェイクをめぐって、対策を求める声が出ています。韓国やアメリカでは法律ができたということでございます。日本にはまだ明確なものがありませんので、必要だというふうに思います。 　まずは、日本における現行制度の対応を確認させていただきます。 　生成ＡＩで作られたポルノ画像は、いわゆるリベンジポルノ法で私事性的画像に含まれますでしょうか。

○政府参考人（吉田雅之君）　私事性的画像記録の提供等による被害の防止に関する法律第二条の私事性的画像は、犯罪構成要件の一部を成すものでございまして、特定の画像がこの私事性的画像に該当するか否かは、犯罪の成否に関わるものでございます。 　そのため、収集された証拠に基づいて個別に判断されるべき事柄でございますのでお答えは差し控えさせていただきたいと存じますが、あくまで一般論として申し上げますと、この私事性的画像は、衣服の全部又は一部を着けない人の姿態であって、殊更に人の性的な部位が露出され又は強調されているものであり、かつ、性欲を興奮させ又は刺激するもの等が撮影された画像のうちで、撮影対象者、写っている方ですが、撮影対象者において、撮影をした者、撮影対象者及び撮影対象者から提供を受けた者、この三者以外の者が閲覧することを認識した上で、任意に撮影を承諾し又は撮影したものではないもの、そのように任意に承諾等をしていればこの要件を満たさないということでございますが、先ほど申し上げたような人の姿態の画像のうち、撮影対象者が、先ほど申し上げた三者以外の者が認識することを認識した上で、任意に撮影を承諾等したものでないものが当たるということでございます。 　この法律は議員立法により制定されたものと承知しておりますが、立案された議員の方が執筆された公刊物の解説を見ますと、次のような記載がなされております。ある人の顔と別の人の裸体画像等を合成して作成したコラージュ画像については、合成された部位ごとに検討する必要があります、顔や頭部のみが写っている人については、その人との関係においては、二条一項各号に掲げる姿態が撮影されたものではありませんから、同人を撮影対象者とする私事性的画像記録には当たりませんというような記載があるところでございます。

○竹谷とし子君　リベンジポルノと共通する課題がある事項として児童ポルノがあります。このことについては衆議院でも質疑がありましたので本日は控えますけれども、性的ディープフェイク、いずれもインターネット上の拡散によって人権侵害されるリスクという問題があります。被害者としては、一刻も早く削除してもらいたいというものであります。 　改正情報流通プラットフォーム法、四月一日に施行されています。この法律では、誹謗中傷などの権利の侵害があった場合に投稿の削除の申出を受け付ける窓口を整備し、削除の申出があった場合、速やかに調べて、七日以内に判断して被害者に通知することを事業者に求めていますが、リベンジポルノ法における私事性的画像記録、また、児童ポルノ法における児童ポルノも対象に含まれますでしょうか。

○政府参考人（下仲宏卓君）　お答え申し上げます。 　ＳＮＳ上の権利侵害情報は、短期間で広範に流通、拡散し、重大な影響を及ぼす深刻な課題であると認識しております。このようなインターネット上における権利侵害に対処するため、本年四月一日に施行された情報流通プラットフォーム対処法では、大規模なプラットフォーム事業者に対して、被害者からの申出に対し、一定期間内に応答する義務等を課しています。 　委員御指摘の私事性的画像記録や児童ポルノが権利侵害情報に該当する場合も、被害者から削除のお申出があった場合、大規模なプラットフォーム事業者は、当該削除の申出に対し、七日以内に判断し、被害者に通知することが求められます。 　以上です。

○竹谷とし子君　いわゆるリベンジポルノや児童ポルノに該当するのかどうかという判断、そしてプラットフォーム事業者が権利侵害情報に該当するかどうかという判断があるということで、なかなか被害者にとってはたらい回しになるというふうに感じる場面もあるというふうに推定をされます。 　次に、生成ＡＩによる日本の子供のポルノ画像による犯罪はあるかどうか、警察庁に伺います。

○政府参考人（檜垣重臣君）　お答えいたします。 　警察におきましては、例えば男子中学生が生成ＡＩを使用して同級生女子生徒の着衣写真を裸の画像に加工しＳＮＳで複数の同級生に拡散した事案、これは名誉毀損罪を適用しておりますが、そうしたことで検挙するなどしている例を把握しております。 　このような加工した性的画像を悪用する事案につきましては、被害者に寄り添いつつ、法と証拠に基づき適切に対処することはもとより、関係機関と連携してこのような事案の未然防止を図ってまいりたいと考えております。

○竹谷とし子君　名誉毀損に当たるとして検挙した事例があるということでございました。レクをさせていただいたときには、あると思われますがということでありましたが、調べていただいて御回答いただいたことに感謝をしたいと思います。 　このように、しっかり調査をしていくということが重要であると思いますし、氷山の一角である、検挙に至っていない、むしろ子供たちが抱え込んでいて警察にも相談していないということも水面下ではたくさんある可能性があるというふうに思いますので、調査が必要であるというふうに思います。 　次に、学校教育に関して伺いたいと思います。 　生成ＡＩによる児童ポルノの作成、所持の防止のため、学校教育における注意喚起はどのように行われているのか、文科省に伺います。

○政府参考人（日向信和君）　お答えいたします。 　子供たちが児童ポルノの作成、所持を始めとした犯罪に巻き込まれないようにすることは重要と考えております。 　学校現場における生成ＡＩの利活用については、昨年十二月にガイドラインを改訂しており、学校現場において押さえておくべきポイントとして、関係法令を遵守した利用を前提として生成ＡＩサービスの適正な利活用を行うことが重要としております。さらに、同ガイドラインにおいては、生成ＡＩの登場を踏まえて、犯罪被害を含む危険の回避など、情報を正しく安全に利用できるよう、情報モラルに関する教育を一層充実することとしております。 　文部科学省としては、引き続き、ガイドラインの内容を教育委員会や学校に対して研修などの機会を通じて周知を徹底するとともに、情報モラル教育の充実に努めてまいります。

○竹谷とし子君　今、教育現場では、先生たちに大きな負担が掛かっています。ＩＴの教育ですとか、またいじめの問題ですとか、また発達などの障害があるお子さんたちへの対応とか、大変負担が掛かっているのを減らさなければならないという方向になってきている中で、教育現場でこの生成ＡＩがもたらすリスクを防止するために、先生方の過度の負担にならないようにしなければならないというふうに思います。内閣府によってしっかりと性的ディープフェイクの対策を行うべきであるというふうに考えます。 　生成ＡＩによる性的ディープフェイクの被害者を生まないようにするということが必要でございます。ＡＩで生成された私事性的画像や児童ポルノの判断に関する課題について、内閣府の認識を伺いたいというふうに思います。 　先ほど来質問させていただいているように、このＡＩで生成されたものがリベンジポルノや児童ポルノに当たるのかどうかという判断ですとか、またそれが権利侵害に当たるのかという判断ですとか、あるいは子供を始めとする国民にそういった問題を周知をして被害を防いでいく、被害者にも加害者にもならせないように国民に対して周知をしていくということ、様々な課題があるというふうに思っております。こうした課題についてどのように内閣府として認識をされているのか、伺いたいと思います。

○政府参考人（徳増伸二君）　お答えいたします。 　今し方各省からの答弁にあったとおり、対象となるか否かはケース・バイ・ケースであり、証拠等に基づき個別に判断されるべき事柄であると考える次第であります。その際、特定の画像が法律に抵触するものであるかどうかについて判断するに当たっては、個別の事案ごとに関係する法令の要件を満たしているかなどについてよく精査をし、慎重にかつしっかりと検討を行う必要があると認識しております。 　なお、ディープフェイクに関して、本法案においては、第十三条に基づき整備をする指針において、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制等の取組を努めることについて盛り込むことを検討している次第であります。

○竹谷とし子君　大臣に伺いたいと思います。 　当法案には、生成ＡＩによる児童ポルノ所持の防止、また生成ＡＩによる児童ポルノや私事性的画像提供の防止ができるように対策し得る措置が盛り込まれているかどうか、伺いたいと思います。 　また、ＡＩによる性的ディープフェイク、先ほど来質問させていただいておりますように、被害者も加害者も生まないようにすることが必要でございます。法施行後直ちに調査分析し、対策のための立法措置も含めて必要な措置を迅速に行っていただきたいと思います。どのような措置を行うことを想定しているか、大臣に伺います。

○国務大臣（城内実君）　お答えします。 　まず一点目の、法案に児童ポルノ所持等の防止対策措置が盛り込まれているかどうかについてでありますが、生成ＡＩを悪用しましたいわゆる性的ディープフェイクの問題につきましては、個別の事案ごとに、刑法やいわゆる児童ポルノ禁止法、リベンジポルノ防止法等の既存の法令にのっとり適切に対処されていくべきものと考えております。また、既存法による対処が難しい場合であって国民の権利利益が侵害されるおそれのある事案につきましては、法案第十六条に基づきます調査を行い、指導、助言、情報提供等を行うことが想定されております。 　また、措置についてでありますが、法案第十六条に基づく調査の内容につきましては今後精査を図り決定していくこととなりますが、まずは内閣府が主体となって、例えば偽画像を生成できるＡＩの実態調査といった特定テーマによる試行的調査を実施する考えであります。この点については、今朝冒頭の酒井委員からの御質問にもお答えしたところであります。 　この試行的調査の結果を基に、関係府省庁が緊密に連携して、必要な対応を検討することになると考えております。

○竹谷とし子君　このインターネット上では、デジタルタトゥーという言葉があるように、拡散するということが大変問題でありますので、迅速性が求められるというふうに思います。 　本日質問させていただきましたように、リベンジポルノ法、児童ポルノ法、情報流通プラットフォーム法で、警察やプラットフォーム事業者にこれまで訴えがあり、判断されてきた事案の積み重ねがあるというふうに思います。また、個人の方々、被害に遭ったと感じている方もいるというふうに思われます。実態をしっかりと速やかに調査をして、対応を検討していただきたいというふうに思います。 　これまでの法律では対応できないことに対策できるということがこの法律ができる趣旨の一つでもあるというふうに思いますので、しっかりとしていただきたいというふうに思いますので、それらをいつまでに行うか、担当、城内大臣に伺いたいと思います。

○国務大臣（城内実君）　本法案が成立した暁には、速やかにＡＩ戦略本部を設置するなど体制をしっかり整えて、関係省庁とも連携して必要な対応を進めてまいりたいと考えます。 　また、現に存在する深刻な課題に迅速に対応するためにも、ＡＩ戦略本部の設置を待たずとも、まずは内閣府が中心となって可及的速やかに試行的な調査を進めていく考えであります。

○竹谷とし子君　日本でしっかり検討をして、諸外国とも、インターネットの世界は海外ともつながっていますので諸外国とも連携をして、生成ＡＩによるディープフェイク対策を今後世界で日本がリードしていくというぐらいの取組をお願いしたいというふうに思います。 　最後に、ＡＩ開発と利活用におけるジェンダー平等の実現に向けた考えと取組を大臣に伺いたいと思います。 　この法案の参考人の方からも、しっかりＤＥＩの考えを踏まえてＡＩ等の開発、利活用を進めていくべきであるというお話もございました。開発や利活用段階で、男性の固定観念というか、ステレオタイプな考えに基づいてつくられてしまった場合に、ジェンダー不平等となるような、そういったアウトプットが出てきてしまうといったような問題も指摘をされているところでございます。このバイアスが掛からないようにしていく必要があるというふうに思っております。城内大臣に伺いたいと思います。

○国務大臣（城内実君）　お答えします。 　ＡＩが持つリスクの一つとして、いわゆる今御指摘があったバイアス、これを含んだデータをＡＩが学習した際に、バイアスの掛かった結果をＡＩが出力すると、こういうことが挙げられると思います。 　このため、例えば採用活動にＡＩを活用した際に、学習に使用した過去の応募者のほとんどが男性であったことから、ＡＩが男性を採用することが望ましいと出力したような事例があると承知しております。 　こうしたことから、事業者に対しましては、本法案第十三条に基づき整備する指針等を通じまして、バイアスの抑止に努めることを求めていく考えであります。また、ジェンダー差別を助長する出力をするようなＡＩの開発や活用がなされないよう努めてまいります。 　また、ＡＩを開発、活用できる女性の人材をしっかりと育成、確保していくことも重要と考えております。内閣府においても、例えば女子中高生や女子学生の理工系分野への進路選択を支援する取組を関係省庁と連携して進めているところでございます。 　こうした取組を通じまして、ＡＩ分野における女性の参画と活躍を促し、御懸念のようなＡＩのバイアスの発生抑止にもつなげてまいりたいと考えております。

○竹谷とし子君　本法第十三条に基づいて整備する指針等を通じてバイアスの抑止に努めることを事業者に対して求めるということでございますけれども、実効性を持たせるということが大事であるというふうに思っております。やっていることをしっかりと評価をしていくといった取組も必要であるというふうに思っております。 　このＡＩ開発と利活用におけるジェンダー平等についてもしっかり取り組んでいただきたいということを要請いたしまして、質問を終わらせていただきます。 　ありがとうございました。

○委員長（和田政宗君）　午後一時に再開することとし、休憩いたします。 　　　午後零時五分休憩 　　　　　─────・───── 　　　午後一時開会

○委員長（和田政宗君）　ただいまから内閣委員会を再開いたします。 　休憩前に引き続き、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。 　質疑のある方は順次御発言願います。

○片山大介君　日本維新の会の片山大介です。 　今回の法案は、これ技術の激しい、先の見えないＡＩ技術のガバナンスに日本として初めて取り組もうという法案なので、そういう意味ではとても意義のある法案だというふうには思っています。今日でもう質疑も終わりなので、今日は持ち時間の中で、どうしてもいろんな論点はあると思います、イノベーションの促進やリスクへの対応など、こうしたものをできる限り時間内で聞いていきたいなというふうに思っています。 　まず、私は、法案策定の意義からちょっと始めたいと思います。 　これまでの日本のＡＩをめぐる対応というのは、ガイドライン中心でやってきたんですね。例えば、それは去年四月に総務省と経産省で取りまとめたＡＩ事業者ガイドラインだとか、各府省庁の所管に係るガイドラインによって、法的な根拠を求めない、こういうのをいわゆるソフトローというんですけど、ソフトローによって行われてきた。 　今回は、それを改めて法律の方で規定をしようというのが今回の法案なんですが、じゃ、この意義は何かと思ったら、大臣がこの前、私、本会議で聞いたときに、国としての意思を明確に示し、そして現状低迷している日本のＡＩの利活用を打開していくというか克服していくと言われた。 　ただね、ただ条文を見てみると、その利活用や開発が大きく動くほどのダイナミズムというのは余り感じられないし、日本のＡＩをめぐる課題というのは、解決というのはそんな簡単でもないと思うんですけれども、改めて、そうした課題と今回の法案の意義、これについてどうお考えか、教えていただけますか。

○国務大臣（城内実君）　片山委員からの御質問にお答えしますが、改めてこの法案の策定の意義について御説明させていただきますが、やはり今最も重要なことは、ＡＩの研究開発、そして活用の適正性、これをしっかり確保してＡＩに対する国民の不安を払拭することであり、また、先進国の中では遅れている我が国のＡＩの研究開発、活用を強力に促進していくこと、これに尽きると思います。 　このＡＩの開発、提供、利用に携わる事業者や個人、さらには海外事業者など多様な関係者が存在する中で、これを確実に実現するためには、既存の法令やガイドライン等による対応に加えまして、新たな法律が不可欠でございます。 　具体的には、ＡＩ政策の司令塔となるＡＩ戦略本部の設置、またＡＩ政策の基本的方針となるＡＩ基本計画の策定、さらには、ＡＩの適正性確保のための指針、これの整備、そして、ＡＩに関する情報収集や権利利益を侵害する事案の分析や調査の実施、そして調査結果を踏まえた活用事業者への指導、助言や情報提供、これらを国が行うこととなっております。 　更に具体的に申し上げますと、例えばＡＩ基本計画には、国の基本的な方針や重要施策に加えまして、今後、日本の社会や産業がＡＩでどのように変化していくか、そういうことについても分かりやすく書き込んで、適切に発信していくことも想定しております。 　こうしたことを通じまして、国民の皆様の不安感の解消やＡＩの活用促進につなげるものになるというふうに考えております。

○片山大介君　大臣が言われたことというのは、ちょっと何かふわっと分かるんですけれども、だけどやっぱり、それで、じゃ、事業者サイドからとかユーザーサイドからすると、何が変わるのかというのがやっぱりよく分からない。やっぱりガイドラインでも同じようなことが書かれているわけですよね。 　それで、確かに戦略機能、戦略本部を立てるだとかなんとか、まあそういう体制をつくるというのは分かりますけど、じゃ、それがどういうふうに実社会に下りていって、日本の社会をどう変えようとするのかという部分も余り見えてこない。やっぱりそこら辺をどう考えているのか。 　それで、一つ、大臣がやっぱり答弁でもう一つ、司令塔機能が強化されることでＡＩの研究開発及び活用に関する施策を関係府省庁が一丸となって総合的かつ計画的に推進することが可能になると。これは確かに一つそうなのかなと思ったんですが、じゃ、これも具体的にどのようなことをイメージしているのか、これを、じゃ、教えていただきたいんですが。

○国務大臣（城内実君）　お答えします。 　ＡＩはあらゆる分野で活用されていることから、これまで関係省庁ではそれぞれの個別のその所掌範囲においてイノベーション促進やリスクへの対応に関する施策を講じてきた経緯がございます。そのような経緯から、ＡＩに関連するガイドライン等については各分野の、例えば総務省とか経済産業省、そういった所管省庁においてそれぞれ個別に整備されてきたわけでございます。 　そうした中で、今後適正なＡＩの研究開発及び活用を政府全体で進めていくために、例えば本法案第十三条に基づきます指針を整備するに当たっては、これまでの既存のガイドライン、その位置付けを体系的かつ分かりやすく整理するなどの工夫を図ることで実効性を高めていきたいということを考えております。 　さらに、安全、安心で信頼できるＡＩの研究開発を推進するための取組、あるいはリスクに関する情報収集、調査、その結果に伴う対応など、法案に規定された様々な取組について、総理を本部長とするＡＩ戦略本部でありますので、そういった強力な体制の下でしっかりと、全ての関係府省庁がばらばらではなくて一丸となって進めていくことができるというふうに考えております。

○片山大介君　やっぱりイメージ付かないところがあって、ちょっとこれもう少し、例えばこんなことができるようになるよとか、こんなことをやるよとか、こんなふうなことを目指すというのが分かるよとか、何かちょっとそういうの、もし分かれば教えていただければ。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　今、主要なガイドラインとしましては、事業者向けのガイドライン、あるいは初等中等教育向けのガイドライン等がございます。そのほかにもガイドライン以外の文書も含めてたくさんあるわけですけど、これ政府の中で十幾つかあるんですけど、それぞれどういう文書であって、誰に対してどういうことを求めているかということを、まず鳥瞰図みたいなものを、全体を俯瞰するようなものを作って、それを全体を束ねて、今回整備する指針を見ていただくと、こういうことをやる人はこれを見ればいいみたいなことが明確になるようにしたいというふうに考えております。

○片山大介君　なるほど。ちょっと余りイメージ湧かないですけど。 　じゃ、ちょっと次に、もう具体的な条文で幾つか話しますと、まず私が条文をざっと見て、今回二十八条なので、条文はすごく短いなというふうに思いながら見ました。 　それで、まず気になったのが、第二条のＡＩの定義なんですね。ＡＩ関連技術とは何て書いているかというと、人工的な方法による技術というふうに書かれているんですよ。これ、何でこういう言い方したのかなと思ったら、これまでの法律、官民データ活用推進基本法だとかデジタル社会形成基本法だとかでもＡＩの説明にはこの言葉が使われてきたということなんです。だから、単に踏襲しているだけなんですよね。 　ですけど、今回はＡＩに特化している法案なので、何かこれはすごく漠としている感じで、これ、ＥＵのＡＩ法に比べるとやっぱりこれ定義、すごくシンプルになっちゃっているんですよ。それで、これだと人間以外のものが全て適用されてしまうんじゃないかというふうにも思ってしまう。 　これ、事前に実は内閣府さんの方に聞いたら、ＡＩは日々進化していくので、ですから、その定義を限定した書き方にするとすぐに改正が必要になっちゃうからと言われて、まあまあそうなのかなと思ったんですが、ただ、定義が漠としていると、その定義の下で行われる施策の対象もやっぱり漠としちゃうんじゃないかというふうに思っている。それは、ＡＩの定義というのは技術の進展によって変わっていくものなんだとは思いますけれども、こうしたその、何というの、その曖昧さの残る定義だと、その対象もやっぱり理解しづらいんじゃないかと思うんですが、ここについてはどのようにお考えでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　定義につきましてこれ広めに取ったのは、広めに書いておけば頻繁に法律を改正しなくていいとか、まあそれも、そういう思いを持っている職員もいるかもしれませんけれども、私は決してそういうことではなくて、やはり技術の進化が速い中で、限定的な定義をするのがむしろ難しいというか現実的ではないということだと思います。 　定義につきましては、ほかの法令でも定義はございますし、またＩＳＯとかでも人工知能については定義をしているところであります。そういう中で、そちらの定義もやはり広めには書いておりまして、人工知能技術が大きく変化したとしても、それは適用できる定義というのを使っていると思います。 　くれぐれもあれなんですけれども、決して人間以外のものが全部人工知能とか、そういうことを申し上げるつもりはございませんで、人間のその知的な能力を模倣したといいますか、代替できるような、そういう機能を持ったものを人工知能というふうに定義をしまして、さらにそれを関連技術ということで少し広めにしておりますけれども、それは人工知能の周りにいろんな周辺技術が付いてきますので、それを含めて法律の対象にしているということでございます。

○片山大介君　分かりました。 　それで、もう一つ、この定義には、生成ＡＩには全然触れていないんですよね。というか、この定義に限らずなんですけど、今回の条文全てに生成ＡＩという言葉、一言も実は入っていないんですよ。私、これも若干違和感を持った。今、世の中の人というと、ＡＩというと、大体みんなすぐ真っ先に思い浮かべるのは生成ＡＩなんですよ。だけど、これ全く入れていない。 　それで、これもどういうことなのかというふうに聞いたら、今後この法案が成立したら、基本戦略を作るわ、それから指針、ガイドラインも作るわ、その中に書き込んでいくんだというふうには言っているんですけど、やっぱり基となる法の中にこれ生成ＡＩ入っていないのは何となく違和感ありますけど、そこら辺はどのようにお考えでしょうか。

○政府参考人（渡邊昇治君）　まず、大変鋭い御質問でお答えが大変難しいんですけれども、海外では生成ＡＩを含むアドバンストＡＩシステム、先進ＡＩシステムみたいな言い方をすることが多くて、やっぱり生成ＡＩを含むんだけど、もうちょっと広めに取っているというのが一般的ではないかと思います。 　要は、生成ＡＩというのは、質問に対して情報を作り出すみたいなそういうことなんですけれども、人間が質問しなくても情報を作り出すようなＡＩというのもあり得ると思いますので、そういうものも含めて、その高度なＡＩというのを割と法律の、そういうルールの対象にしていこうという動きが、海外でもそういう動きがあるんではないかなというふうに思います。 　しかしながら、御指摘のとおり、今これだけリスクが多様化して問題化しているのはやはりこの大規模汎用生成ＡＩが出てきたからでありますので、この法案を作るに際しては、当然その生成ＡＩがあることを意識をして当然作っているわけであります。 　ただ、じゃ、なぜその生成ＡＩに限定した条文というか、生成ＡＩを意識したような条文になっていないかというと、これはやはり、先ほど御指摘がありましたような技術進化によって生成ＡＩが、もしかしたら生成ＡＩですら陳腐化するかもしれない、一般化するかもしれないということもございますので、生成ＡＩに特化した、生成ＡＩだけを意識したような条文というのは考えていないというところでございます。 　ちなみに、今世界ではもう、生成ＡＩの次でもうエージェントＡＩというのが出てきているとか、あるいはＡＧＩ、いわゆる汎用人工知能とかＡＳＩ、人工超知能、もう議論はそっちだよみたいなことをおっしゃる方もいまして、そういう意味では、生成ＡＩに限定したような形の条文にしなくてそこはよかったのかなとは考えているところでございます。

○片山大介君　だから、それで今回書いていないと。 　そうなると、今回のこの法ができた後に、だから、基本計画、それからやっぱり指針、ガイドラインを作る、このやっぱりガイドラインがすごく大切になってくるんだと思います。そこには生成ＡＩも入れるんだとかとおっしゃっていましたけれども、そうすると、じゃ、このガイドラインをどのようなレベルまで詳しく作って、そしてそれをいつ頃までにやるのか、それで生成ＡＩについてはどのようなことまで落とし込むのか、これを併せて教えていただきたいんですが。

○政府参考人（渡邊昇治君）　済みません、先ほどちょっと具体性がないということでお叱りを受けましたので、ちょっと具体的に申し上げます。ちょっと五つぐらいのことを申し上げます、ガイドラインに盛り込みたいということで。 　一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。 　二つ目は、そのＡＩを、製品を市場に出した後もインシデントとか問題がないかのその情報を集めて、それで必要に応じて改善をしていくということであります。この改善の方法というのもいろいろございまして、いわゆるチェックツールみたいなものを使って、ソフトウェアでその安全性がないかどうかをチェックするとか、レッドチームみたいなものをつくって、会社の中で敵対的に攻撃するチームをつくってチェックするとか、あるいはＡＩ同士で戦わせて安全かどうかをチェックするとかいろんな方法が提案されていますけど、いずれにしましても、そういう安全性を高めるということをやっていただくと。 　それから、各ＡＩ開発者とか提供者がＡＩの概要とか、どういうリスクがあるかとか、こうやって使ってほしいとか、こうやって使っちゃ駄目だとか、そういう情報を開示するということも重要だと思います。そして、出てきたインシデント情報を関係者間で共有するとか、そして一番申し上げたかったことは、事業者ごとにやっぱりリスクは全然違いますので、事業者ごとにそのガバナンスポリシーみたいなものを作って、それを公表して実践していくということが重要なんではないかと思います。 　ほかにもいろいろ定めたいことはございますけれども、そういったことをそのガイドラインに分かりやすく定めたいと思います。どうしても分かりやすくというのがありますので、分量的に余り長くなってしまうとかえって分かりにくくなるので非常に難しい部分ではありますけれども、いろんなことをなるべく分かりやすく書いていきたいというふうに考えております。

○片山大介君　そうすると、その生成ＡＩの部分はどんなふうに書き込むのか、ちょっとここをもう少し教えてもらえると有り難いんですが。

○政府参考人（渡邊昇治君）　現時点では、生成ＡＩが出てきたことを念頭に作るガイドラインになると思いますので、生成ＡＩとそうじゃないものを書き分けるということは今の時点では想定していないんですけれども、これから指針の策定作業に入っていって、その間に例えばＡＧＩがかなりもう具体化してきたとか、それから、生成ＡＩ以外のＡＩでも、過去のというか、以前の一般的なＡＩもいろいろ問題が起きているよということであれば、それは何かその指針の中でちょっと別のセクションを作って注釈を付けるとか、そういう方法もあり得るかなと思っていまして、まさに今後有識者の意見等も聞きながら検討させていただきたいというふうに思います。

○片山大介君　是非それはしっかりやっていただきたいというふうに思います。 　それで、あと、その次に、今回の法案の審議でもやっぱり一番議論にもなったかなと思うのが、これ第十六条の調査研究の部分なんですよね。それで、これ条文見ると分かるんですが、ここの条文だけ物すごく長くなっているんですよ。妙に長くなっている。 　それで、ちょっとこれ皆さんに紹介したいなと思って読むんですが、これでも略して読むことになるんですけど、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の分析や、それに基づく対策の検討、それにＡＩの推進に資する調査研究を行い、それらの結果に基づき、事業者に指導や助言や情報の提供その他の必要な措置を講じるとなっている。 　これ読むと、やっぱり何言っているか正直言ってよく分からなかった、最初に。それで、これ全部一つの文章ですからね。一つの文章の中に、これ権利利益の侵害という言葉も入っていれば、もう一つ、ＡＩの推進に資するという言葉も書いてあって、そうすると、この条文で言いたいことが推進なのか、それとも権利侵害などの不正への対策なのか、どっちか全く分からないんですよ。 　それで、今回の法案はあくまでも推進法なので、やっぱり不正対策みたいなのを独立させるとこれ規制法と捉えられかねないからというのがあったんだとは思うんですけど、余りにもこの書き方分かりづらい。何でこのような書き方にしたのか、改めて教えていただきたいんですが。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　今御指摘ございましたように、十六条には複数のことが書いてあるんですけど、四つの、大きく分けて四つのことが書いてございます。一つは、例えばビッグテック等からの情報を収集するという、ＡＩの開発とか活用に関する情報収集です。二つ目は、例えば悪質な、いわゆる悪質事案といいますか、そういったものに対応する分析、あるいはその対策の検討ということでございます。そして三つ目は、その他のもっと一般的な、例えば重要な産業でどういうふうにＡＩが使われているかとか、あるいは新しい技術でどういうものがあるかという、そういう調査ということになります。最後に四つ目に、そういう調査の結果を踏まえて、事業者に対する指導ですとか助言とか国民に対する情報提供とか、そういうことが盛り込まれているところでございます。 　これがなぜ四つもあるのにこれを全部一つの条文でくるんでいるかというと、このいずれも目的はＡＩの適正な開発、活用のためでございまして、この目的は同じであります。したがって、同一の目的に資する行為ということで、一つの条文にくくるということにしています。ただ、大変分かりにくい長い条文ということでございますので、今後、基本計画ですとかあるいは指針、あるいは逐条解説も作っていくことになると思いますので、御指摘の点を踏まえまして、説明する努力をさせていただきたいというふうに考えております。

○片山大介君　それで、この条文の中で一つの、何というのか、焦点になったのが、情報の提供というところなんですね。これ、新聞とかでは国民への公表みたいな形で書いてあるんですけど、これ条文なので、情報の提供と分かりづらい書き方しているんですが。 　じゃ、この公表というのは、例えば悪質な事業者に対してその事業者名を公表するかどうかというやつなんですけど。それで、新聞によっては事業者名公表すると書いているのあれば、これきちんと、これも内閣府に事前に聞いたら、いや、公表するかどうかは決まっていないんだと、ケース・バイ・ケースで個別の案件については対処していくんだというふうに言ったんですけど、私はその個別案件によって決めていくという方が危険じゃないのかなというふうに思った。その方が、公表する際の、その何というか、基準だとか、そうした何か線引きというのをこれ明確にしなきゃいけないから、それはできるのかなと。 　しかも、それ明確にしないで、ある事業者が公表なんかしたら、これ恣意的に行われたというようなことを訴えてくる可能性もあるし、かえってこれって分かりづらくなっちゃう、難しくなっちゃうんじゃないかと思いますが、そこら辺についてはどのようにお考えでしょうか。

○国務大臣（城内実君）　お答えします。 　悪質事案の調査結果を踏まえました事業者名の公表の是非につきましては、個別の事案ごとに判断することを基本的な方向としております。 　ただ、御指摘のとおり、その判断が恣意的なものとなってはならないわけですから、そうならないように、公表基準につきましては、関係省庁等の意見も聞きつつ、しっかりと検討していくこととしたいと思います。

○片山大介君　是非それはしっかりと検討をしていただかないと、かえって動けなくなっちゃうというか、できなくなっちゃう可能性を感じます。 　それと、あと、それで今回基本的に罰則もこれ設けていないから、総じて規制の面から見るとこの法律緩くなってしまっているんです。それで、ただ一つちょっと気になったのが、私が本会議で質問したときの大臣の答弁で、罰則を設けなくても悪質な事案に対しては現行法令に基づく措置で対処可能というふうに述べているんですよね。これ気になったところで。 　そうすると、そのＡＩ対策としては、今の現行の法令で、法令で全て対処は可能なのかという話になってしまうんですけど、いや、現行の法令で対処できないグレー部分があるからこそ、今回のこの法律であって第十六条のはずなんですけど、そこの答弁はどういうことなのか、そこの整合性は合っているのか、教えてもらえますか。

○国務大臣（城内実君）　罰則を設けなくとも悪質な事案については現行法令に基づく措置によって対処可能と、この基本的な考え方は変わっておりませんが、その上で、ＡＩは技術変化が大変速いことから、現行法令では対応が困難な事案が発生する可能性がありまして、そのような事案に臨機応変に対応する必要があることから、本法案を提出したものであります。法律に基づく指針の整備や調査といった取組を政府が強い意思を持って実行することが極めて重要でありまして、そのためには本法案が必ず必要になってくるというふうに考えております。 　この本法案が成立した暁には、現在十分に対応できていないリスクあるいは潜在的なリスクについて、技術進展の動向も見ながら、関係府省庁が一丸となって迅速かつ適切に対応してまいる考えであります。

○片山大介君　大臣、いま一つ分からない、もう一回整理して聞きたいんですが。 　そうすると、今の現行法令で全て対応できるというわけではなくて、より悪質な事案に対しては適用できるものもあるけど、そうじゃないものはこの法案できちんとカバーすると、こういう立て付けということでよろしいんでしょうか。

○国務大臣（城内実君）　そのとおりで、そういう解釈でよいかと思います。

○片山大介君　分かりました。 　それで、いずれにしても、総じてこれ規制は緩くなっているのが今回の法律のこの特徴だと思います。一方、海外を見ると、ＥＵだとか中国だとかというのはもう罰則付きの規制法をきちんと作っている。それから、アメリカでは、連邦法ではないけれども、州法ではそういった規制をきちんと入れているものがあるんですよね。 　じゃ、そうするとどうなるかというと、これグローバル的な動きとしてはやっぱり例えば、何でしたっけ、個人データの保護に関する規則でＧＤＰＲというのがあったように、そのときも、ＥＵが導入をしたら結構グローバルプレーヤーはそっちに流れていって、そっちが世界標準になったというケースがあったんですよね。だから、今回もやっぱりそういうふうになっていくんじゃないかというふうに思う。 　でも、そうじゃなくて、いや、そうじゃなくて、やっぱり日本の場合はそれでも緩い方にしていくというんだったら、緩いようにしたそれなりの理由があるわけなんですけれども、それは、この前から、うちも、あと隣の柴田議員も参考人のときに質疑させていただいたですけど、やはりその規制を緩くすることによって日本にＡＩの開発というのを呼び込もうと。日本はどうしてもＡＩに対しての人材も足りないし、それから、ＡＩ先進国とは言えないから呼び込もうというようなのが念頭にあるというふうに思うんですが、そこら辺はどのようにお考えでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　ＥＵのＧＤＰＲにつきましては、確かにＥＵで個人情報に関するルールを作ったときにグローバルなプレーヤーはそれに従うようになりまして、そうすると、グローバルなプレーヤーはほかの国でも同じ方法でやるということでＥＵのＧＤＰＲが広がっていったという評価、そういうことをおっしゃる学識経験者の方もいらっしゃいます。 　ただ、一つは、これは少し個人的な解釈にもなりますけれども、個人情報の保護というのは割と、国が変わっても、ほかの国であってもそれはやっぱり保護された方がいいよねと思う方は多いと思うんですね。ただ、じゃ、ＡＩはどうかというと、どういうＡＩが良くて、どういうＡＩが良くないかみたいなところは、やはり文化的にというか、国によってもかなり差異があると思っておりまして、ＥＵで何かルールを作ったらそれが広がっていくかどうかというと、そこはまだ分からない部分だと思います。実際に、グローバルのプレーヤーでも、ＥＵでは一部のサービスはしないというふうに今宣言しているところもありますので、まだそこは分からない部分があるかというふうに思います。 　その上で、この今回のＡＩ法案は規制法ではございませんので罰則もございませんけれども、先ほどから御答弁申し上げていますように、日本でＡＩを開発するときには既存の法律も当然適用されますので、やり方を間違えますとその既存の法律の罰則が適用されるということも当然あるわけであります。つまり、日本が決して何かゆるゆるの国ということでもないわけであります。 　大切なことは、先ほど大臣からも御答弁申し上げましたけれども、ほかの法令も含めて日本の法体系全体がどういうふうになっているかということと、それが開発者にとって分かりやすくなっているかと、明確になっているかという、法解釈が明確になっていて、国家が何か恣意的なことをしないとか、そういうことが明確かということが大事なのではないかというふうに思っておりまして、これは決して海外の企業だけじゃなくて、日本の企業が開発するときにも非常に重要なことでありまして、つまり日本の企業が活動しやすいようにそのルールを作っていけば、それは海外の事業者も来やすいということになりますので、もちろん海外の事業者にたくさん来ていただきたいと思いますけれども、日本の事業者にとって活動しやすいものを作るということがまずは出発点ということではないかというふうに考えております。

○片山大介君　国によって違うといっても、基本的にこれＡＩとかはもうグローバルな、一緒なので、ちょっと国によっての違い方というのが、どういうふうに関わってくるのかが分からないと思いますし、それからもう一つ、今回は総じて、今言われたのは、今回のＡＩ法とそれから既存法の何か全体でリスクの対応をしていくと言っていますけど、じゃ、そもそもＡＩに対するリスク評価というものを今回の法を作るに当たってきちんとできているのかどうかというのが疑問になっちゃう。だから、ＡＩのどちらかというと振興の方が目的になっちゃって、ＡＩリスクの評価の議論というものは何かちょっと置いてきぼりになっちゃったような気がするんです。それで法の枠を作ったように見えるのが今回の法案なんだと思うんです。 　基本的に、その技術において、やっぱりリスクのある技術というのは社会で受け入れられないわけです。だから、その技術における規制というのはリスクを低減させていく手段みたいなものであって、それをきちんと行うことによってＡＩの利用促進をやっていくと、まあ前にもアメリカの自動車産業の関係で言ったように、ということをやっていかなきゃいけないんです。 　だから、まあ一番難しいところではあると思います。確かに、ＡＩの技術というのは変化が激しいし、先も全く読めないから、どこまでリスクを評価できるのかという部分はあるかと思うんですけれども、ただ、今回の法案を作るに当たってどこまでリスクの議論をしたのかというところはやっぱり疑問に思ってしまうんですが、そこら辺どのようにお考えでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　リスクにつきましては、明確に規制の目標が描けて、かつそれをクリアするための技術がある程度めどが付いているということであれば、これはその規制を作ることによって技術開発を誘導するということは可能ではないかと思います。 　ただ、ＡＩにつきましては、まだその明確な目標というのが、まず作りにくいという問題もありますし、それを作ったとして、それをクリアする技術があるかどうかというところも難しい部分があろうかと思います。 　ただ、だからといって何もしないというわけにもいきませんので、今回の法案のような、ある種のその指針、こういうものを作ってそれを、自主的な取組を尊重して対応していくということでございます。自主的取組ということの意味は、事業者が自発的に新しい技術をどんどんチャレンジできるということでもございますので、そういう形でございます。従来のちょっと規制とは違う形の考え方だということでございます。 　これまで政府がどのようなそのリスク評価をしてきたかということでありますけれども、おととし、二〇二三年末から、内閣府の方では、主要な産業について、このＡＩの導入実態あるいはそのリスクに対しての調査研究を行いまして、昨年の夏からはＡＩ戦略会議の下に制度研究会をつくって、そこで関係省庁の協力も得ながら、典型的な、典型的なリスクについてはテーブルにのせて議論をしてきたわけであります。 　その結果として、典型的なものについては既存の法令で対処できるんではないかということではありますけれども、御指摘のとおり、本当に多様なリスクがありますので、これについては指針を作って、その中で事業者ごとにリスク評価をして、事業者ごとにもうリスクの内容違いますので、事業者ごとにリスクをして、事業者ごとにガバナンスポリシーを作って、それを開示して実践していくということが重要ではないかと思っていまして、そういったことを求めていきたいというふうに考えております。

○片山大介君　おっしゃるとおりかなと思います。ですから、今回は、そのガイドラインを作って、そこにリスク評価の手法というのも考えてやって、ただ、それがもう絶えず変化していくと思うから、絶えずＰＤＣＡを掛けていかなきゃいけないというのはあると思います。 　それで、リスクの一例を、じゃ、挙げると、これ実は、こども家庭庁さんにちょっと来てもらったんですけど、三月に導入を見送ることにした児童虐待の判定のＡＩシステムというのがあるんですね。 　それ具体的にどういうものかというと、これ、虐待が疑われる子供の一時保護の必要性というものをＡＩに判定させようというものなんですよね。具体的には、虐待が疑われる子供のそのけがの有無だとか、けがの部位だとか、あとは過去の虐待歴だとか、そういう大体九十項目ぐらいの情報を入力すると、それに応じて零点から百点の間で判定をするということになっているんです。 　それで、これ、じゃ、実際にどうかというので、二〇二一年度から四年掛けて十億円ぐらい掛けてやってきたんだけれども、判定テストだと、何だっけ、六割が、テスト段階で判定ミスが六割に上って、実用化は困難だというふうに、まあ実用化を諦めたというわけではないですけど、取りあえずの実用化は困難だということになった。 　ここから言える教訓は何だと思いますか。

○政府参考人（源河真規子君）　お答え申し上げます。 　今御紹介のありました御指摘のＡＩツールは、令和六年度に協力自治体における試行、検証を行った結果、事前に定められた一定の項目に該当するかだけでは、けがの程度や範囲など一時保護の判断に影響する情報を正しく反映できないという課題があり、子供の命に直結するとともに、全国に提供するツールであることも踏まえ、現在の判定精度では十分ではない、更なる改良が必要と判断して、リリースを延期したものでございます。

○片山大介君　これもっと言うと、あれ、学習量がすごく少なかったんですよね。五千ケースでしたっけ。やっぱりこれＡＩはもう膨大な量を、何というか、学習させなきゃいけないので、やっぱり五千で判定というのは難しいと思いますよ、基本的に。というのがまず一つある。 　それから、あともう一つ言えば、ＡＩは、もう万能、魔法のつえでも何でもなくて、やっぱり本当に、まず、その開発するんだったら、事前に本当に実現可能なのかどうかというのはきちんと検証するというか、吟味する。その上で緻密に制度設計やっていかないと、これ、ＡＩというのはなかなか実は本当に機能しないというか、機能できない。今回は、そういう意味では、事前にそのリスクを発見して一応導入を見送ったというのでは、まあ良いケースなのかなというふうに、良いケースと言えるのかどうか分からないですけど。 　ただ、怖いのは、こういう精度の悪いＡＩがどんどん世の中に出てくるのがやっぱり一番怖いんです。こういうリスクをやっぱり、何というか、止めなきゃいけなくて、そのためには、先ほど言われたようなやっぱりガイドラインとかで、きちんとリスクをどうやって判定するのか、リスクの評価方法というのもしっかり書いて、しかも、それに合わなくなっていったらどんどんＰＤＣＡで修正をしていくというのをやらないと、こういうことがしょっちゅうほかの民間でも起きてしまうと思うんですが、そこの点についてはどのようにお考えでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　ガイドライン、指針に基づきまして事業者ごとにリスク評価をやっていただきたいと思っていまして、そのことは指針の中にも分かりやすく盛り込んでいきたいと思っているところなんですけれども。 　具体的に申し上げますと、例えば、企業でＡＩを搭載したロボットを導入したとします。このロボットが誤動作をする可能性もあるわけですね。そういうときに、もし誤動作をしたら誰にどういう影響があるかとか、誤動作をしたという情報をどうやって集めるかとか、それが集まったときに、今度その社員はどういうふうにそれに対して対処していくのかと、こういったことをきちんと各事業者がそのポリシーを作って、しかも開示をして、開示したとおりにちゃんと実行していると、そういうことを明らかにしていくということが重要でありまして、これを、そういったことを分かりやすく指針に盛り込みたいということでございます。

○片山大介君　是非ちょっとそこはしっかりやっていただきたいなと思います。 　ちょっとあと時間なくなってきたので、それであと、今回のこの法案、もし成立して施行されると、これ適用されるのは、もちろん日本でサービスを提供している海外の事業者に対しても適用されるんですよね。 　それで、大臣は本会議の答弁で、日本の企業は法令遵守意識が高いと述べていた。これはそうだと思いますよ。だけど、これ問題は、そうではない海外の事業者の場合どうするのかということが問題なんだと思います。それで、その海外の事業者の中でも日本に法人を置いていないところもあるわけですよね。ここの場合、そうしたその事業者が問題を起こしたときはどのような対応をするのか、教えていただけますか。

○国務大臣（城内実君）　お答えします。 　悪質な事案や事象が発生した場合には、日本に法人や事業所のない国外の事業者に対しましても、本法案に基づく国の調査等を行う方針となっております。 　また、友好国ではない国に存在する、所在する事業者が悪質な事案や事象を発生した場合であったとしても、あらゆるチャンネルや手段を尽くして、例えば広島ＡＩプロセスに基づく広島フレンズグループ、五十六か国プラス地域もありますので、そういったネットワークなども活用しながらしっかりと調査等を実施していく考えであります。 　また、事案の発生後に行う個別の調査だけではなくて、リスクの高い事象や現象をあらかじめ予測し、関係するＡＩをまとめて調査したり、その結果を公表することで広く国民の皆様に周知を図り、事案が拡大することを防止するなど、考えられると思います。

○片山大介君　これ日本に限らず、まあ日本の企業でも事業者でも海外の事業者でも、その事業者に対しての、これ、第七条で責務というのが定められているんですよね。それで、国のそうした調査とかに対して協力しなければいけないと言っている。これ、この手の条文の中では珍しく、しなければいけないまで、かなり強い表現になっているんですよね。 　ですから、そういった意味ではそれしっかりやってもらおうと思っているんですが、ただ、今、大臣、この前の答弁でもあったんですが、例えば友好国であれば、そうしたその情報の共有だとか連携とかは恐らくできるでしょう。だけど、今回の法案で恐らく念頭に置いているのは、友好国よりもどちらかというと友好でない国の方なんだと思うんです。 　そこに対して、大臣のあのときの本会議の答弁では、可能な限りという言い方、可能な限りとかと言われちゃうと、最初から駄目なことを想定しているんじゃないかなとこっちは思っちゃうんですけれども、じゃ、そこはどうするのか教えていただけますか。

○国務大臣（城内実君）　友好国でない国としては、例えば権威主義的な国とか日本と価値観を共有できていないような国があるとすれば、そういうところに対しても、全く国交のない国と国交がある場合もあると思いますので、いろんなチャンネルを使って、外交手段を使ったり、先ほど申しましたように、我々とは友好国じゃないけれども、先ほど申しました広島フレンズグループ、五十六か国・地域がありますので、その中にその国との関係が深い国があれば、そういった国を通じて問題提起をするだとか、いずれにしましても、いろんなケースがあるかと思いますが、あらゆる手段を使って可能な限り対処することとしたいと考えております。

○片山大介君　是非頑張っていただかないといけないなというふうに思います。 　それで、じゃ、あと、アメリカのビッグテックとかはどうなのかと。逆にアメリカのビッグテックとかは、かなり日本のこの法案に対しても気に掛けているというふうにちょっと聞いています。 　それで、これ、ビッグテックは、例えばＥＵの規制法が去年五月に適用されたら、例えばアップルは一部のＡＩ機能のＥＵ域内での提供をやめたりだとか、あと、メタもそのマルチモーダルモデルの投入を見送ることを決めただとかという感じで、結構敏感なんですよね、ビッグテックはね。 　日本の法案は、これまで言ってきたように、そんな規制を掛けるわけではないので、そんなに心配していないのかもしれないですけど、どのような反応があるのか。彼らもいろいろ言ってくるんじゃないかなと思いますけど、どうでしょうか。

○政府参考人（渡邊昇治君）　お答えを申し上げます。 　私のうぬぼれではないことを期待して申し上げますと、おおむね海外の事業者からは好意的な印象で受け止めていただいていると思います。 　それは、今大臣からお話がありましたような、決して国の、何か国家による検閲みたいなそういう法律にもなっていないし、細かな基準みたいな、過剰規制的なものでもないですし、また、逆に全くルールがないかというと、国が明確にその方針を定めて指針を定めてということになっておりますので、そういったところへの安心感といいますか、そういう部分で事業者さんは日本の法案に対して評価をしていただいているというふうに考えております。

○片山大介君　それで、あと最後に、この同盟国であるアメリカのこの最近のＡＩをめぐる動きというのは本当に極端に振れてきているなと思うので、ちょっとそこを聞きたいんですけど、そもそもバイデンさんのときは法規制しようという話だったんだけど、トランプさんになってそれをやめて、なおかつＡＩの推進を打ち出すようになったと。 　それで、実は先週、アメリカで、その下院で、ワン・ビッグ・ビューティフル・ビル、大きく美しい法案という予算調整法案が可決されて、この中には、州や自治体のＡＩ規制を十年間、十年間ですよ、禁止する条項というのが設けられる。これ、まだその上院の方が可決されていないから結局成立するかどうか分からないですけど、ここまで大きくぶれているというのが今後の日本の施策に与える影響というのはこれどのように考えているか、最後にこれ聞いて終わりにしたいと思いますけれども。

○政府参考人（渡邊昇治君）　日本の法案は、イノベーションの促進とリスク対応、これ両方、両立している法律でございますので、海外でいろんな動きはあると思いますけど、その影響は受けにくいというふうに考えております。 　ただ、当然、ＡＩは、国際的に流通する製品でありますし、海外の事業者が作ったものが日本の、日本人が使うということになりますので、海外のその動向につきましてももちろん注視してまいりたいと思います。

○片山大介君　じゃ、終わります。

○竹詰仁君　国民民主党・新緑風会の竹詰仁です。 　私も最後の質問になると思いますので、よろしくお願いいたします。 　これまでの議論と重複するところは御容赦いただきたいと思うんですけれども、先ほど渡邊統括官の御回答の中にも、どういうＡＩがいいか悪いかというのは国によっても違うし、必ずしも統一的なことは難しいというか、そういう話があって、私もなるほどと思って、やっぱり日本人あるいは日本は、この人間中心のＡＩというのはとっても大事にしてきたし、これからも大事にすべきであると思います。 　ＡＩに人間が支配されてはいけないとか、こういったことはずっと普遍的に大事にしなきゃいけないと思っていまして、今日の議論も聞いていまして、改めて、やっぱり私たちは、このリスクというのを感じながら慎重に進めてきたからこそ、例えばその製造業においても、非常に緻密にその安全のこととかも考えながら製造してきた、物を作ってきた、加工してきたとか、それが日本の製品というのが評価されているということだと思います。車もそうですけど、いろんな意味で、日本の製品とか日本が作ってきたものは何で世界で評価されているかというと、やっぱり日本らしいということが、一言で言えば日本らしいことが付加価値を生んでいると。 　後ほどクリエーターの話もするんですけれども、ＡＩが例えばアニメとか作れるようになったとしても、じゃ、何で日本のアニメはここまで売れているかというと、やはり何か日本人が作った琴線があるというか、やっぱり日本が作った、日本人が作ったものはほかのものとは違うからこそ価値があって、こうやって外国からも評価されるんじゃないかと思っています。 　一方で、今回の法案は、略称ＡＩ推進法というふうに言われているので、私もこの後、賛成討論の予定なんですけど、賛成はするんですけれども、でも本当に、赤澤大臣の言葉を借りれば、ゆっくり急ぐとおっしゃいましたっけ、このトランプ関税のことについても。やらなきゃいけないんだけれども、でも、何でもやっていいわけじゃないということがやはりこのＡＩの基本なのかなというふうに思っています。 　ちょっとそれを踏まえて質問させていただきたいんですけれども、今回の皆様の、いただいた資料の中にも、日本の場合はＡＩの利用率が低いという話が書いてありまして、利用率が低いし、かつ、使っているＡＩも、オープンＡＩとかグーグルとかマイクロソフトのような外国製品、外国の生成ＡＩが多いということなんですけれども、この二つの点ですね、大臣、先に、この日本人がＡＩの利用率が低いということと、あとは、この低いことによって生じる課題について、大臣の見解を先に教えてください。

○国務大臣（城内実君）　竹詰委員御指摘のとおりで、我が国では、他の主要国と比較して生成ＡＩを活用している個人あるいは企業の割合が少ない状況にございます。 　このＡＩの利用率が低い主な理由として、例えば、国民、多くの国民がＡＩに対して不安を感じていること、また、ＡＩの持つメリットが不透明であるため企業経営者が投資してきていないこと、そして、日本人の慎重さ、例えば誤った出力をするＡＩや個人情報が収集される可能性があるＡＩは使いたくないという意識、これらが挙げられるかと思います。 　ＡＩは、その適切な活用によって我が国の経済成長や国民生活の発展に直結する極めて重要な技術でありまして、国民のＡＩの利活用が低迷する状況を一刻も早く克服する必要があると考えております。そのためにも、ＡＩに対する国民の不安を払拭し、ＡＩの研究開発と活用を強力に進めていく必要がございまして、今般、イノベーション促進とリスク対応を両立するＡＩ法案の提出を行っているところであります。

○竹詰仁君　御回答ありがとうございます。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　後半に、そのＡＩの開発という言葉も今大臣の中で触れていただいたんですけれども、先ほど、ＡＩの利用率低い、使っているのもほとんど外国製品のＡＩだということの中で、では、国産のＡＩはどうやって開発していきますかということで本会議でも質問させていただいたんですけれども、国産の生成ＡＩの研究開発に当たっては、この外国産の生成ＡＩを基に開発するのか、あるいはゼロベースで純粋な国産の生成ＡＩを開発するのか、どちらもあり得るんだと思っています。私は、日本は日本らしく、ゼロベースで純粋な国産生成ＡＩというのが望ましいんじゃないかと私個人的には思っております。 　一方で、この生成ＡＩの技術は日進、まさに日々進歩しているので、将来的には人間以上の知能を持って高度な作業も自動で処理することができる人工超知能の誕生も予測されていると、これまでの議論にもございました。他方で、人工超知能の誕生は、ＡＩの性能が全人類の知性の総和を超える転換点、シンギュラリティーという言葉もこれまでの議論もあったんですけど、そういったことから、人類にとって大きな影響を与える可能性があると同時に、人類の存続を脅かす可能性も指摘されているというところです。 　この国民の間には、今大臣の御答弁の中で不安を感じているという言葉もあったんですが、まさにこの人間の制御が及ばなくなるんじゃないかと、生成ＡＩが、そういった不安というのも私も聞いているところなんですけれども、ＡＩを、であればですね、このＡＩを使用した製品について国が事前の評価を行い、リスク評価を行って、不適切なものを事前に排除する、いわゆる市場に出さない、こういったやり方もあるんじゃないかと思うんですけど、こういった国による規制についてどのようにお考えなのか、教えてください。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　法案に基づいて指針を整備しまして、ＡＩ開発者に対しては、不適切な出力をＡＩがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。その方法としては、今一般的に言われていますのは、評価ツールというソフトウェアを使うという方法と、あと外部監査等を使うということだと思います。 　この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。そしてまた、民間企業でこういったその評価ツールを使って安全性の検証サービスというのを行う会社も幾つか出てきているところであります。 　ただ、ＡＩは国際的に流通する製品でございますので、やはりそういう評価制度というのが国際的に認められたといいますか、整合性のある制度となることが必要ではないかというふうに思っています。今後、そういった国際的に認められた第三者認証制度が確立された場合には、その利用を事業者に義務付けるのか否か、そういった検討が行われることになるのではないかと思います。 　ただ、ちょっと現時点では、その制度の熟度とか、多様性に対応できるかとか、あるいはそのコスト、費用対効果とかの問題もございますので、ちょっと簡単には申し上げにくいんですけれども、ちなみに今年の二月のＡＩ制度研究会の中間とりまとめの中でも、この第三者認証制度については、一つの重要な視点ということで認識されていると考えております。

○竹詰仁君　今すぐには難しいというお話でしたけど、でも今、その第三者の認証制度は検討は必要じゃないかという、そんな議論もあったというのはお聞きしましたので、その議論は是非やめずに進めていただきたいと思います。 　今時点のということであれば、このソフトローとハードローのどちらを中心に、またどのようなバランスで規制していくのかというのが、このＡＩの開発とその利活用双方にとって重要なテーマだと思っております。この生成ＡＩの開発及び利活用を進めるに当たっては、無断学習あるいは無断利用といった権利侵害の懸念について、あるということで、このことについて伺いたいと思います。 　やりながら考える、何か起きたら考えるという、そういったやり方もあるかもしれないんですけど、例えば自動車というものが世の中に出てきたときに、自動車というのは画期的で大変便利な乗り物なんですけれども、ただ、道路交通法というこの規制によって初めて適正に運転できると、またそれは、運転しない人、例えば歩行者、歩行者にとっても道路交通規制法があるから安心して歩けるということもあると思うんですね。ですので、使う人間も使わない人間も、規制があることによって実はそれがちゃんと守られるというか、安全に運転できるということもあるかと思うんです。 　この急速に発展する生成ＡＩ、まさに今時点での規制は、これまでの議論でも今時点では難しいということだったんですけれども、ただ、実際に、私もクリエーターの方とかのお話や、あるいはメールとかも私が質疑に立つということで送ってくださる方もいて、やはり、自分は学習されたくないんですと、そういう御意見があったんですね。 　この学習されたくない人、あるいはそのデータとか情報ということについて、無断で学習された情報については、その権利者が自身で削除する様式をオプトアウトという様式というふうに言われるらしいんですけれども、この権利侵害がされているかどうかは自分が確認しなきゃいけない、この場合は。これは非常に難しいと、ずっと自分が見ていなきゃいけないことになってしまうので。他方で、開発者や事業者が権利者から必ず事前に許可を得る方式、これはオプトインと言うそうでありますけれども、こういった保護の方が権利保障に資するんじゃないかということなんですけれども。 　この生成ＡＩに学習されたくない人、あるいはデータ、情報の権利保護について、大臣の見解を教えてください。

○国務大臣（城内実君）　昨今のＡＩをめぐる技術革新、これ非常に著しく、文章や絵画などの創作物、そして肖像や声などについて、生成ＡＩによりオリジナルに類似した、オリジナルに近い生成物を容易に生成し利用することができるようになってきております。このような中、御指摘のように、クリエーターなど生成ＡＩの学習に用いるデータの権利者の中には、許諾を得ることなくデータが使われることなどに対し、知的財産権の侵害であるとの懸念の声があるということは私も承知しております。 　このため、生成ＡＩと知的財産権をめぐる懸念への対応につきましては、内閣府において、ＡＩ時代の知的財産権検討会、これを開催し、昨年五月に本検討会で中間とりまとめを策定したところであります。その中で、ＡＩ技術の進歩と知的財産権の適切な保護の両立に向けて、法的ルールの正しい理解を土台にしつつ、法、技術、契約の各手段を適切に組み合わせて対応することが重要であることをお示ししたところであります。 　その上で、この中間とりまとめでは、生成ＡＩに対する知的財産法の適用の考え方を解説するとともに、例えば一つの具体的な例として、画像に特殊な処理を施すことで学習を妨げる技術を紹介するなど、無断でデータを学習に使われたくない場合の対応の参考となる情報も盛り込まれております。 　引き続き、この中間とりまとめの内容について周知を行うとともに、関係省庁としっかり連携して生成ＡＩの活用動向に関する情報の収集や共有を行って、必要に応じて具体的な対応策を検討してまいりたいと思います。

○竹詰仁君　大臣、ありがとうございました。 　今の大臣の御答弁の中にもしかしたらもう包含されているのかもしれませんが、ちょっともう少し詳しく、次に政府参考人にお尋ねしたいんですけれども。 　仮に、権利者が無断でデータや情報を学習された場合に権利侵害を認識するためには、学習データが開示されていないと、それだよということが指摘できないわけですね。事前に了解があったとしても、あるいはその了解した内容のとおりに使われたかどうかということもまた問題になるということです。 　この学習したデータが開示されても、あるいは途中で変えましたと、元のデータを加工しましたといった場合もあると思うんですね。その場合は、加工した履歴がないと、元々のそのデータが本当は学習されたくないということも分からないということなんですけれども、この生成ＡＩが学習したデータや情報についての開示義務、あるいは履歴の保存とか、こういうことを義務化することについては政府としてどのようにお考えなのか、教えてください。 　　　〔理事磯崎仁彦君退席、委員長着席〕

○政府参考人（渡邊昇治君）　お答え申し上げます。 　学習データにつきましては、大変膨大なデータでございますので、これをどのぐらいの粒度で開示をしていただくかというのはございますけれども、私どもが整備する指針の中では、この学習データとかあるいはその開発プロセス、あるいはシステム開発中に行われた意思決定について、こういったものにつきましては、トレーサビリティーといいますか、履歴の確認ができるようにしてほしいということをその指針の中で求めていきたいというふうに思っております。 　また、ＡＩで作られた画像につきましては、電子透かしという技術がありまして、ＡＩで作ったかどうかが分かる技術なんですけれども、これも使うことを指針の中で求めていきたいというふうに思っていまして、例えば、仮に似たようなコンテンツがあったとして、やっぱり芸術家御本人が作ったものとＡＩで作ったものですということによって評価は全然違いますし、見たときの感動も違うと思いますので、午前中もそういう御質疑がありましたけれども、そういったＡＩで作ったものだということが分かるような工夫というのも考えていきたいというふうに思います。

○竹詰仁君　ありがとうございました。 　その透かしのことは私も尋ねようと思ったんですけれども、御回答の中に入っていましたので、ちょっと次に、それが、私は学習されたくない、あるいは無断で使われたといった場合に、じゃ、その方に対する補償、あるいはそのデータとか情報に対する補償はどうするのかなということで次にお尋ねしたいと思うんですけれども。 　学習されたくないデータ、あるいは情報が学習されたというときに補償をするかしないかということで、これは個人に対してもそうなんですけれども、恐らくＡＩの開発というのがずっと進んでいくと、事業者対事業者という問題もあると思うんですね。個人の、私がクリエーターだったら、私のものが使われたという、これに対する補償もありますけど、ある会社が開発したものが無断で別の会社に使われたという場合は、今度は企業対企業という関係も出てくると思うんですが、こういった無断で学習された場合、あるいは利用された場合、あるいは許可した内容とは違う内容で利用された場合、これについての補償については政府としてどのように考えていくのか、教えてください。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　データが無断で学習、利用されて、それによって第三者が不利益を被った場合、即時に補償というスキームは現状見当たらないと承知をしております。一方、ＡＩの研究開発や活用の各段階におきまして、権利者が許諾していないデータの学習、利用が行われた場合には、権利者による侵害の申立てや権利行使など、個別の事例によってその権利者の取り得る手段や対応等は異なるというふうに今認識をしています。 　現状、データの無断学習等が発生した場合には、個別の具体的内容に応じまして既存法や既存のガイドライン等で対応するということが基本だと考えておりますけれども、この法案で規定された情報収集とか調査とか、そういった取組も活用しまして関係省庁と連携して適切に対応してまいりたいと思います。 　御指摘の意図しない利用があった場合の更なる対応策につきましては、今後、必要に応じて有識者の意見を聴取するなどしていきたいというふうに考えております。

○竹詰仁君　これからの指針だとか、今有識者の意見も聞くというお話もしていただいたので、是非、ＡＩを推進するんであればこそ、できるだけ心配事というのは排除した方がいいと思うので、その学習されたくない、あるいはされない権利とか、あるいは開示義務、保存義務、そして補償、救済についてもしっかり考えていただきたいと思います。 　続いて、ディープフェイクの対応についてお尋ねいたします。 　これも私、本会議でディープフェイクの対応について大臣にお尋ねしたんですけれども、ちょっと鳥取県の一例を御紹介したいと思うんです。 　この令和七年四月一日に鳥取県の青少年健全育成条例というのが改正されたというのがありまして、それをホームページで調べてみますと、青少年がＳＮＳやインターネットを通じて、闇バイトによる犯罪やいじめ、誹謗中傷、オンラインカジノ等に巻き込まれ、また、生成ＡＩによる児童ポルノ等の被害が発生していることに鑑み、青少年を被害者にも加害者にもさせないため、この県議会の中で改正を行ったということで、この鳥取県では、生成ＡＩ等を利用して実在する青少年の顔画像を加工したディープフェイクポルノを禁止することが条例で定められたということなんですけれども。 　この鳥取県の例にあるように、条例で禁止するということと、あとは法律あるいは制度によって禁止されているということのこの関係も含めてちょっとお尋ねしたいんですが、ディープフェイクポルノを含むディープフェイクの作成や配布等を現行法で処罰するということは可能であるかどうか、これを政府参考人にお尋ねいたします。

○政府参考人（吉田雅之君）　御指摘の条例の内容については、所管外ということもございまして申し上げることは差し控えざるを得ないことを御理解いただければと存じますが、御指摘のようなディープフェイクポルノを含むディープフェイクについて、一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法に規定されている罰則ですとか児童ポルノ禁止法に規定されている罰則など、関係法令の趣旨や内容を踏まえて刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処していくものと承知しております。

○竹詰仁君　今の政府の答弁がそうだなというふうにお聞きいたしました。 　この偽情報とか偽画像は、これまで例えば選挙においてもこういった課題になっているということで、実は今日この会議の後、また各党協議会ということで選挙に関する各党協議会もあるんですけれども、私はこの偽画像、偽情報対策というのは、やっぱり早くやれるものをやっていただかないと、もう世の中的な、社会的な影響力が非常に大きいというふうに思いますので、これはもう是非待たずにやっていただきたいというふうに思います。 　大臣にもう一度、大臣の答弁の中でもう一度御答弁いただきたいのは、このディープフェイク対策、今後考えていくということじゃなくて、もうすぐにやらなきゃいけないという意味で、大臣の見解、改めて教えてください。

○国務大臣（城内実君）　我が国においては、ディープフェイクポルノであれ、選挙に係るディープフェイクであれ、これを悪用した事案の対応については、個別の事案ごとに刑法などの既存の法令にのっとり適正に処理、対処されるべきものと考えております。 　その上で、これまで答弁しているとおり、本法案におきましては、ＡＩ政策の司令塔機能を強化するとともに、内閣府が関係省庁と連携して、ＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとなっております。 　また、本法案第十三条に基づき整備する指針におきましては、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制に努めることや、ＡＩ開発者及び事業者が、偽情報、誤情報の作成、流通を抑制するために、電子透かしや来歴管理等を記入することなどを明記することを検討しているところであります。 　本法案が成立した暁には、関係省庁や有識者の皆様の意見を聞きつつ、政府が一丸となって既存の法令やガイドラインの遵守、徹底や、ＡＩ開発者等による自主的取組の促進、新たな技術の開発導入など、総合的に対策を進め、迅速かつ適切にディープフェイクの対応を図ってまいりますが、ただ、当然、もう既に関係省庁会議もございますので、試行的に、今後このディープフェイク問題について、どういう対応をするかということはもう既に着手しておりますし、今後、今申し上げた体制ができて、更に総合的に対策を取り組んでまいる所存でございます。

○竹詰仁君　大臣、御答弁ありがとうございました。 　まさに、そういう対策をもうやっているし、やるよという、そのちゃんとルールというか、やってはいけないことが定められることがむしろ推進する方の力になると思いますので、今の御答弁もいただきましたので、まさにやっていただきたいということを改めてお願いしたいと思います。 　企業においては生成ＡＩどうやって活用していくかということで、これは経済産業省さんにお尋ねしたいんですが、経済産業省さんとしては当然、このデジタル、ＤＸとかですね、こういったことを進める側のお立場であると理解しているんですけれども、この経産省の中にデジタル時代の人材政策に関する検討会というのがございまして、去年、令和六年六月に、生成ＡＩ時代のＤＸ推進に必要な人材・スキルの考え方二〇二四、変革のための生成ＡＩへの向き合い方という報告書が公表されております。私もこれを読みました。 　私の感想としては、まさに経産省ならではの検討会であり、端的に言いますと、生成ＡＩを活用してＤＸを推進し経済を成長させる、そのための人材育成、企業による人への投資を促すというふうに私は読み込んだんですけれども、この中で、生成ＡＩを利活用しているか、余りしていないかで実際に企業の業績や成長に明らかな差が生じていると、そのように捉えていいのか、ちょっと経産省さんの見解をお尋ねいたします。

○政府参考人（奥家敏和君）　お答え申し上げます。 　生成ＡＩの利活用は企業ＤＸの中核となっていくものと考えておりますけれども、その取組はまだ緒に就いた状況ということでございます。 　したがいまして、いただいた御質問につきましては、企業のＤＸの進捗度合いと企業価値の関係というところでちょっと見てみたいなと思うわけでございますけれども、少し古いデータになるんですが、中小企業庁が行った調査では、デジタル技術を用いた経営の高度化などに取り組んだ企業群は、二〇一五年から五年間で売上高が一三・八％上昇したということが明らかになっています。また、ＡＩにつきましては、民間のコンサルティング会社によりますと、ＡＩ導入など変革に向けた準備が整っている企業は、平均収益成長率が二倍以上高いという報告もあります。 　一方、委員御指摘の報告書で触れておりますけれども、ＡＩの利活用を進めるに当たっては経営層の関与を努めるということが必要でございまして、そういった意味では、生成ＡＩなどデジタル技術を活用した経営の重要性を啓発していく必要があるだろうというふうに考えております。

○竹詰仁君　ありがとうございました。 　ちょっと時間の関係であと一問か、一問ぐらいしかできないので、ちょっと飛ばさせていただくことを御容赦いただきたいと思います。時間がもしあればまた戻りますので、最後に、人事分野のＡＩの活用について。ちょっと飛ばさせていただきます。 　私も本会議でこの人事分野についてどうやってＡＩ活用をしていくのかということで質問させていただいたら、福岡厚労大臣から、ＡＩを活用する場合においても労働関係法令が適切に遵守されることが重要であると考えており、ＡＩ等の最新技術による労務管理の実態を把握するために、ヒアリング調査を行い、事例を把握するなどの取組を行っていますという答弁だったんですけれども、ここで、もうちょっと具体的に、ＡＩ等による労務管理の実態把握のためのヒアリング調査、あるいは事例を把握する取組ということについて、ちょっと具体的に御説明いただきたいと思います。

○政府参考人（尾田進君）　お答えいたします。 　厚生労働省におきましては、令和六年度に企業の労務管理におけるＡＩの活用の実態等を把握するための調査事業を実施したところでございます。この事業の中で、労務管理分野でＡＩを搭載したサービス、システムを提供している企業、そして実際にＡＩを労務管理に活用している企業等に対しましてヒアリング調査等を実施し、活用の実態や導入の効果などを把握いたしました。 　ＡＩの導入の効果といたしましては、採用、配属、人材開発などにおきまして、ＡＩを活用することで業務効率化やコスト削減が図られていることや、人事部門の業務の品質や精度が向上しているということなどが挙げられた一方で、課題として企業側からは、労働者の情報の扱いやＡＩ導入の効果の検証に苦慮している、そのような声が聞かれたところでございます。 　今後とも、ＡＩ等の新たなテクノロジーが企業の人事労務分野の業務に与える影響につきまして注視してまいりたいと考えております。

○竹詰仁君　あと一分あったので、ちょっと経産省さんにもう一回戻って。 　この経産省さんの報告書の中で一言、私、なかなか厳しい言葉だなと思ったのは、経営層の姿勢ということに触れられていて、この企業のＡＩの推進に当たって経営層というのはどうあるべきだということがこの報告書の中で述べられているか、ちょっと経産省さんに最後質問させていただきます。

○政府参考人（奥家敏和君）　お答え申し上げます。 　委員御指摘のとおり、生成ＡＩの利活用推進に当たりましては、経営層の役割はもう極めて重要です。 　そのため、経済産業省では、生成ＡＩの活用を含む企業ＤＸの推進に向けて、経営者の意識改革を促す観点から、ＤＸの要諦集ともなっておりますデジタルガバナンスコードにおきまして、ＤＸに投じる資金はコストではなく、価値創造に向けた投資と考えよ、ＤＸ推進はＩＴ部門ではなく、経営陣や取締役会の役割であるといった意識を持つべきである、自社のＤＸ戦略について、社内外のステークホルダーと積極的な対話を行うことといった経営層のあるべき姿勢を明確に打ち出しています。こうした経営層のあるべき姿勢の啓発という観点では、まさに、今週五月三十日に、ＤＸ優良企業の表彰と経営層同士の交流会の開催を実施する予定になっています。 　こうした取組に加えまして、更なる優秀事例の発信などを通じまして、経営層のあるべき姿勢、こういったものについて浸透を図っていきたいというふうに考えております。

○竹詰仁君　回答ありがとうございました。 　終わります。

○井上哲士君　日本共産党の井上哲士です。 　法案は、基本理念に、ＡＩ技術は安全保障の観点からも重要な技術としております。今日は防衛政務官来ていただいておりますが、このＡＩによる殺傷兵器の開発、活用についてお聞きいたします。 　お手元に資料ありますように、今年の二月十八日に開かれたＪＧＳＤＦフォーラムで森下陸上幕僚長が、陸上自衛隊の取組と今後の方向性と題して講演をしております。これ、二十二回目となるフォーラムでありますが、初めて防衛産業など産官学の参加が求められました。この講演の中で、お手元にあります、その理由を、将来戦には国家の総力による研究開発速度の向上が求められている危機感があるからだと強調をし、戦場の変化に適合するため、新技術を実戦投入するまでの時間短縮が不可欠だと、こう述べております。 　さらに、講演では、一枚目の右側でありますけれども、ＡＩ、無人化がもたらす戦い方は、従来の戦闘様式とは大きく異なる変化が予期されるため、新しい装備による各種能力や機能を駆使して、新たな戦い方を創造し、それを実現していくことが必要ですと、こういうふうに強調をしております。 　そして、これ別のページなんですけれども、今後、ＡＩを搭載したドローンや自律型装備の活用が進み、監視、攻撃、防御の自動化や戦場のリアルタイム分析も向上するだろうと、こう述べております。 　そこで、防衛政務官、お聞きしますが、防衛大臣は本会議で、ＡＩの有用性を最大化し、活用を進めていくと答弁いたしましたが、この講演で述べているように、このＡＩを搭載したドローンや自律型装備の活用という新技術を実戦投入するために防衛産業と一体で進めていくということなんでしょうか。

○大臣政務官（小林一大君）　お答えをさせていただきたいと思います。 　委員御指摘いただきました、令和七年二月十八日の陸上自衛隊フォーラムにおける森下陸幕長によるＡＩを搭載したドローンや自律型装備の活用という発言は、我が国周辺の情勢等の変化を踏まえた戦闘様相の動向の説明における一例というふうに認識をさせていただいております。これは、諸外国を含め、今後、安全保障分野においてＡＩや無人アセットの活用が一層進んで、戦闘様相の在り方が変化していくことを説明させていただいたものだというふうに承知をしております。 　防衛省・自衛隊としては、ＡＩや無人化技術を含む先端技術を活用し、防衛力の抜本的強化を進めていく考えであります。この際、防衛産業、特に優れた民生技術を有するスタートアップ企業等との連携を今後も強化をさせていただきたい方針であります。

○井上哲士君　防衛産業との連携を強めていくというお話でありますが、様相のあれこれの論評ではないんですよね。事実、これが進んでおります。 　お聞きしますけれども、これまで防衛省は、無人機を導入する際には、監視活動などに限っておりました。しかし、今年度初めて陸自に攻撃型の無人機の導入予算が計上されました。 　お聞きしますけれども、現在防衛省が保有する無人機の数、及び、そのうちミサイルなどの火器類を搭載する能力を保有している数はどうでしょうか。

○大臣政務官（小林一大君）　お答えをさせていただきます。 　防衛省・自衛隊において、令和七年三月末現在で、偵察用を含む小型無人機等を約千六百機保有をさせていただいております。一方、いずれの機種も、ミサイルなどの火器類を搭載する能力は保有しておりません。

○井上哲士君　千六百あるけれども、火器類を保有する能力はこれまでゼロだったと。そこに今年度初めてこの攻撃型の、初めてですね、攻撃型の無人機の導入予算が計上されたと。これに講演で述べているような攻撃の自動化という能力が組み込むならば、これ重大な変化となると思うんですね。 　これ、何を目指しているのかという問題でありますが、この資料の二枚目の左側を見ていただきますと、安保三文書に基づく将来の戦争の様相を示して、その上で、今後の陸自の強化に係る方向性として、アジリティー、それからリーサリティー、レジリエンシーの三つの方向性を高めると、こういうふうに明記をしているんですね。 　ちょっと、政務官、追加してお聞きいたしますけれども、リーサリティーというのは要するに殺傷性なんですよ。私、軍事分野では違う意味があるのかなと思ってＡＩで調べてみますと、一般に殺傷性を意味する言葉ですと、軍事においては兵器や軍事作戦がどれだけ高い殺傷力を持つかを示す際に使われますと、こうなっております。 　つまり、これが三つのこれからの方向性の一つに明記してあるということは、私、本当に重大だと思うんですね。要するに、講演で述べているのは、陸自全体の殺傷性を高める、そのためにＡＩを活用した殺傷性の高い自律的兵器を導入することに国家の総力を結集をすると、こういう意味になるんじゃないですか。政務官、いかがですか。

○大臣政務官（小林一大君）　お答えをさせていただきたいと思います。 　どのような形の防衛装備品を入れるかは、我が国周辺の情勢等の変化を踏まえた戦闘様相、先ほど申し上げましたけれども、戦闘様相や国際人道法を含む国際法及び国内法等の観点から適切に判断を確保するといったことを総合的に考慮し、今後検討しなければならないというふうに承知をしております。

○井上哲士君　いや、今後の検討じゃなくて、今後の方向性ともう言っているんですよ、陸上幕僚長が。 　このフォーラムには金子政務官が参加をしているわけですね。防衛省として当然承知をしていると思うんですが、こういう言わば殺傷性を高めるということが陸上自衛隊の方向性だということ、防衛省の方針でいいんですね。

○政府参考人（家護谷昌徳君）　防衛省としましては、そのＡＩや無人化技術を含む先端技術を活用して、防衛力の抜本的強化を進めていく考えでございます。

○井上哲士君　一般的な抜本的強化じゃないんです。殺傷性を高めると明確に言っているんですよ。 　これは単に、突然出てきたものではありません。今年三月末の日米防衛相会談の会談後の記者会見で、ヘグセス・アメリカ国防長官は、日本が必要な能力について正しい決断をすることを確信していると、緊密に協力しながら共に戦闘力、殺傷力、即応力を高めることを大きく期待していると会談後の記者会見で述べているんですね。 　アメリカから殺傷力を高めるということを求められたんじゃないですか。

○政府参考人（家護谷昌徳君）　リーサリティーという単語につきまして、確かに殺傷力というように日本語に解されるというふうに思います。 　他方で、一般的に、防衛省なり米軍との協議の中で使われる意味としましては、お互いのその能力を高めていくことの一環としてのリーサリティーというような形で使われておるところでございます。

○井上哲士君　そういうことを言われるんじゃないかと思って、私はＡＩで調べたんですね。例えば、ある兵器のリーサリティーが高ければ、それだけ多くの敵兵を殺傷できる可能性を示唆します。まさに殺傷力を高めるということが明確なんですよ。それを目指すと、アメリカも要求をしていると。これは本当に重大だと思いますよ。その中にＡＩが位置付けられていると。 　殺傷力を高めるということは防衛省としては考えていないということなんですか、政務官。

○政府参考人（家護谷昌徳君）　一般的に、殺傷力が高まりますと、我々のその人的な損害というのが減少するという意味で、殺傷力を高めるということも一つのアイデアだというふうに考えております。

○井上哲士君　一つの方向だということを認められました。殺傷力を高めると。そのためにＡＩの活用を言われているわけですよ。 　昨年七月の防衛省のＡＩ活用推進基本方針では、重点的にＡＩを活用する七分野の第一に、目標の探知、識別が掲げられておりますが、一方、安保三文書によって敵基地攻撃を可能とし、その能力の保有が今進められております。 　お聞きしますが、この基本方針の第一の目標の探知、識別というのは、敵基地攻撃の際の相手の国の施設や人物なども含まれるということではありませんか。

○大臣政務官（小林一大君）　お答えをさせていただきます。 　昨年の七月に発表させていただいた防衛省ＡＩ活用推進基本方針における七分野でございますけれども、ＡＩの機能や特徴を踏まえつつ、防衛省では、既に進行しているＡＩを使った取組、また他国でのＡＩ活用事例、並びに国家防衛戦略や防衛力整備計画で示されている具体例を踏まえさせていただいて、防衛省の所管、所掌事務や自衛隊の任務に照らして活用分野について整理を行い、七つの分野に大別をさせていただいたものであります。 　このうち、委員が今御指摘をいただいた目標の探知、識別については、レーダー情報や航空画像情報など多岐にわたるセンシング情報や、装備品等の高性能化に伴う目標情報の増大に対応し、目標の探知、識別能力の向上や迅速化を図るために、ＡＩ技術を活用する等の取組を念頭に記載をさせていただいたものであります。 　また、反撃能力にはスタンドオフ防衛能力等の自衛隊の能力を活用することとしていますが、スタンドオフミサイルの運用に係る具体的な要領等については、現在検討をさせていただいているところであります。 　いずれにしましても、防衛省・自衛隊としては、ＡＩ技術を適切に活用して、防衛力の抜本的強化を今後も進めていく所存であります。

○井上哲士君　かつて、敵基地攻撃能力に何が必要かと、当時の防衛、河野大臣に質問しましたら、幾つかの要素がありますけれども、相手の基地であるとか、そういう施設、そういう場所などをしっかり把握をするということが一つの要素だと、こういうふうに言われたわけですよ。 　ですから、私お聞きしますのは、そういう相手の施設であるとか人物などもこの目標に含まれるんではありませんかということを聞いているんです。

○大臣政務官（小林一大君）　繰り返しになって誠に恐縮でありますけれども、防衛省ＡＩ活用推進基本方針におけるＡＩを重点的に活用する七分野のうち、目標の探知、識別は、レーダー情報や航空画像情報など多岐にわたるセンシング情報や、装備品等の高性能化に伴う目標情報の増大に対応し、目標の探知、識別能力の向上や迅速化を図るために、ＡＩ技術を活用する等の取組を念頭に置かせていただいたものであります。 　反撃能力にはスタンドオフ防衛能力等の自衛隊の能力を活用することとしておりますが、スタンドオフミサイルの運用に係る具体的要領等については、先ほども申し上げたとおり、現在検討中であります。その上で、防衛省・自衛隊として、専ら反撃能力のための独自の防衛力整備を行ってきているわけではないことについては、御理解をいただきたいと思います。 　いずれにしろ、防衛省・自衛隊としては、ＡＩ技術を適正に活用し、防衛力の抜本的強化、進めてまいります。

○井上哲士君　結局、ですから、アメリカなどからいろんな情報をもらわないと目標も定められないということだと思うんですが、いずれにしても、これに、探知、識別をする目標に相手の施設や人物などは含まれないということは、二度同じことを言われましたけれども、答弁はございませんでした。 　ですから、米国からこの殺傷力などを高めるという要求を受けて、相手国内も含めて攻撃目標の探知や識別を行うこともあり、そして殺傷能力を持つＡＩ兵器の開発を進めるということが私はこの陸上幕僚長の講演の中身だと思うんですよ。 　これ実際、防衛省とアメリカ国防省は、二三年十二月に、無人航空機に適用するＡＩ技術に係る日米共同研究に関する事務取扱取決めに署名をしております。この点について衆議院では、パイロット等の指揮の下、自律的に行動するためのＡＩ技術について、日米共同研究を実施していると答弁がありました。 　ここでお聞きしますが、この間、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないと繰り返し答弁がありましたけれども、ここで、衆議院で答弁しているように、完全自律型ではないけれども、パイロット等の指揮下であれば自律型の致死性の兵器は開発をするんだということなんですか。

○大臣政務官（小林一大君）　お答えをさせていただきたいと思います。 　自律型致死兵器システム、いわゆるＬＡＷＳでありますけれども、ＬＡＷＳについては、その定義、特徴、国際人道法上の課題、規制の在り方等について、今まさに国際的な議論が行われているというふうに承知をさせていただいております。 　その上で、人間の関与の在り方にとって重要な点は、指揮官等が意図した形で兵器システムを運用できる状態を確保することだというふうに考えています。人間の関与は、兵器システムの使用に対する責任の明確化の前提となるものでありまして、また、兵器システムの意図しない動作を予防又は是正する手段を確保するためにも極めて重要であります。 　この観点から、人間による責任ある関与の下で指揮官等が使用する兵器システムに関する情報を十分に掌握して、国際人道法を含む国際法や国内法、安全保障の観点から適切な判断を確保することが必要であるというふうに考えています。 　防衛省としては、装備品の取得や研究開発を行っていくに当たり、この考え方に基づいてしっかりと適切に対応してまいりたいと思います。

○井上哲士君　かつて、一つの戦闘機の周りに複数の自律型の戦闘機が編隊を組むような図も私見たことがありますが、今のお話でいっても、要するにパイロット等の指揮があるならば、そういう自律型の致死性の兵器の開発については否定をされなかったと思うんですね。 　ＡＩを使った自律型兵器というのは、重大な問題が世界でも指摘をされてきました。民間人の殺害や病院、学校の破壊など、国際法に違反する行為があったときに、一体誰が法的な責任を負うのかが不明確です。それから、この誤作動や判断ミスがあると。 　先ほど、この致死性の高い武器を持てば兵士の死傷者を減らせるという趣旨の主張がありましたけれども、それが逆に戦争の安易な開始を助長することになると、こういうことが指摘されて、国際的にも規制の議論してきたわけです。私は、この半自律型であってもこうした問題は同じことが起きると、こう思うんですね。 　そこで、城内大臣にお聞きいたしますが、この間、殺傷兵器に使われるＡＩの研究開発、活用についてはこの法案では想定をしていないという答弁が繰り返されてきましたが、一方、今のやり取りにありますように、防衛省は、この殺傷兵器に使われるＡＩの研究開発、活用を、まさに国家の総力を挙げた研究開発速度の向上、これを陸上幕僚長も掲げて推進をしているわけですよ。ですから、この法案がそうした自律的な致死性兵器の研究開発、活用を促進するものになるのではないかと。 　私は、憲法九条を持つ国として、こうした殺傷兵器へのＡＩ技術の使用は禁ずるべきだと思っておりますけれども、大臣の御見解をお聞きします。

○国務大臣（城内実君）　今回のこのＡＩ法案は、国民生活の向上及び国民経済の健全な発展に寄与することを目的としているものであります。 　ＡＩ技術はデュアルユースでありまして、その技術が経済社会のためになり、また安全保障のためにもなるという両方の可能性がありますが、専ら兵器に使われることを目的とするＡＩの研究開発及び活用の推進につきましては、私どものこの内閣府の法案では想定しておりません。

○井上哲士君　いや、想定をしていないなんて言われますけど、こういう推進をするということが、結局、専ら兵器に使われる、そういうＡＩのことに、の促進になるということを申し上げておりまして、明確に政府としてこういうような殺傷兵器へのＡＩ技術の使用を禁ずるという姿勢を示すべきだということを繰り返し申し上げておきたいと思います。 　防衛省、ここまでですので、政務官、ここまでで結構でございます。

○委員長（和田政宗君）　小林防衛大臣政務官におかれましては、退席なさって結構です。

○井上哲士君　続いて、ＡＩの推進と著作権の擁護について聞きます。今日、何人かからも御質問がありました。 　まず文科省、お聞きしますが、この著作権法の第一条は、文化的所産の公平な利用に留意しつつ、著作者等の権利の保護を図り、もって文化の発展に寄与すると規定をしておりますが、この著作者の権利をなぜ保護するのか、その理由、そしてその権利保障がなぜ文化の発展に寄与するということなのか、まずお述べください。

○政府参考人（中原裕彦君）　お答え申し上げます。 　著作物は、人間の知的、精神的活動の所産でございまして、文化の形成とその発展の基盤を成すものでございますため、著作物の無許諾利用を防止できるよう、創作者の権利を保護する必要があるということでございます。その一方で、公益性の高い利用など一定の場合には、広くその活用の道を開いて社会一般の利用に供することが必要でございます。 　このように、著作権法は、適切な権利保護によって創作の促進を図り、権利の制限によって公正な利用を確保することで文化の発展に寄与するということを目的としてございます。

○井上哲士君　公正な利用で文化の発展に寄与すると、こう言われましたけれども、二〇一八年の著作権法の改定で、著作物権利者の権利規定を柔軟化する規制緩和が行われました。ＡＩの学習目的であれば、原則、著作物の収集を権利者の許諾なく行うことが認められることになりました。 　実際は、この規制緩和によって、この公正な利用を促進することと権利者の利益を保護することという当時の文化庁次長の答弁と違って、ＡＩを利用する事業者によって、ネット上で公表されている新聞記事やイラストなどの著作物が権利者の許諾なく収集、利用されることが広がっているのが実態だと思いますけれども、城内大臣、現状への認識はいかがでしょうか。

○国務大臣（城内実君）　お答えします。 　著作権法につきましては私の所掌でないため、可能な範囲でお答えさせていただくことを御了解いただきたいと思います。 　御指摘の平成三十年、二〇一八年の著作権法改正におきましては、著作権者に不利益を及ぼさないものや及ぼし得る不利益が軽微なものについては権利者の許諾なく著作物の利用を可能とする一方で、権利者の利益を不当に害することとなる場合には権利者の許諾を必要とするなど、権利者の保護に配慮しつつ、著作物の利用の円滑化を図るため、柔軟な権利制限の規定が整備されたものと承知しております。 　その上で、御指摘のような権利者の懸念の声があることも踏まえまして、昨年三月に文化庁におきまして、ＡＩと著作権に関する考え方について、これが取りまとめられました。例えば、生成ＡＩとの関係で、著作権者の利益を不当に害することとなる場合の解釈に当たって一定の考え方を示すなど、著作権の権利の実現を図っていく上で有益な内容となっております。 　現在、文化庁では、分かりやすい形での周知啓発に取り組んでいると承知しており、こうした考え方につきまして関係者の理解醸成を図るための取組は、権利者の懸念を払拭していく上でも重要であると考えております。 　いずれにいたしましても、著作権法では、著作者等の権利利益の保護と著作物等の公正、円滑な利用とのバランスを踏まえた制度設計がなされているものと承知しており、文化庁において引き続き同法の適切な運用が図られていくことが重要であると考えております。

○井上哲士君　バランスとかいろいろおっしゃるんですけど、やっぱり結局、この権利規定の柔軟化が、適用範囲が抽象的で判断が困難になると。その結果、司法の場に判断が委ねられることになって、もう泣き寝入りをせざるを得ないという方が増えているというのが実態だと思うんですよね。 　裁判を起こさないと著作物権利者の権利が守られないという環境ができちゃって、かえって不公正な著作物の無断利用が助長されたのではないかと思いますけれども、いかがでしょうか。

○国務大臣（城内実君）　今お答えしたとおり、私どもこの著作権法の所掌ではないんですが、いずれにしましても、権利者の保護に配慮しつつ、著作物の利用の円滑化を図るための重要な権利制限の規定が整備されたものと承知しておりますが、いずれにしても、個々の事案についてはそれぞれ司法の場において判断がなされるものというふうに理解しておりますが、こういった著作権法の問題については、また文化庁とも緊密に連携しながら、特に個別具体的な事案につきましては、関係省庁会議等の場でも議論をするなり情報共有するなりして取り組んでまいる考えであります。

○井上哲士君　個々の技術者とかだけじゃないんですよね。日本新聞協会も声を上げております。二月に政府に対して行った意見書はこう述べております。 　文化審議会がＡＩと著作権に関する考え方で整理した法的ルール、新聞社のウェブサイト上の報道記事の収集、読み取りを拒否を表明する技術的な措置を講じていれば、生成ＡＩ事業者が無断で記事等を複製した場合は著作権侵害に当たる可能性があると、こうあるのを踏まえて、新聞協会は、大手プラットフォーム事業者に対して開示を求めたものの対応されなかったと、もうデータの収集、利用状況が把握できず、契約の前段階でつまずいていると、こういうふうに新聞協会も述べているわけですよ。 　まさに、さっきの答弁と違って、ガイドラインでは対応できない事案が広がっているというのが実態ではありませんか。重ねてお願いと。

○国務大臣（城内実君）　今、井上委員から御指摘ありましたように、日本新聞協会からそのような御意見をいただいているものと承知しております。 　報道機関がコストを掛けて取材し制作したコンテンツが無断でＡＩの学習に利用されたり、そのＡＩが報道機関に代わって情報提供を行うことにより報道機関の経済的不利益につながる可能性が指摘される一方で、ＡＩの活用により多量の情報を瞬時に処理することができるなど、従業者の業務負担の軽減につながるといったメリットが指摘されていることも承知しております。私自身は報道機関を所管する立場にないため、報道機関の業務にＡＩを活用した場合の影響についてこの場で見解を示すことは差し控えたいと思います。 　なお、万が一、日本新聞協会が懸念するようにＡＩの活用に伴って国民の知る権利に対する侵害が生じた場合には、本法案に基づきＡＩ戦略本部が調査や情報提供を行うなど、必要な措置を講ずることで適切に対処する考えであります。

○井上哲士君　万が一と言われましたが、今もう既に広範に起きているというのが新聞協会の皆さんの指摘していることなんですね。 　ですから、現行の法体系がもう生成ＡＩ時代に沿ったものとは言い難いと新聞協会は指摘をされておりまして、もうＡＩ事業者による自主的な取組やガイドラインなどのソフトローでは対処、対応し切れないとした上で、二つ言っています。一つは、無断学習を認める著作権法を改正し、事前に権利者からの許諾を得ること、それから、自らの著作物が学習データに使われているかどうか開示請求できる権利を明記するなど、著作権法の改正を始めとしたこの生成ＡＩ時代に沿った法整備を政府全体で打ち出すべきだということでありますけれども、これについてはいかがでしょうか。

○国務大臣（城内実君）　お答えします。 　ＡＩと著作権の関係につきましては、クリエーターなど著作権の懸念の、済みません、クリエーターなど権利者の懸念の声を受けまして、昨年三月に文化審議会の小委員会におきまして、ＡＩと著作権に関する考え方についてが取りまとめられております。 　その中では、権利者の懸念を払拭する観点から、ＡＩ学習のための著作物の利用であっても、例えば意図的に学習データに含まれる著作物の創作的表現を出力させることを目的としている場合など、事前に権利者から許諾を得ることが必要な場合があり得ることなどが示されております。 　また、昨年五月に内閣府が公表いたしましたＡＩ時代の知的財産権検討会中間とりまとめ、これにおきましては、ＡＩと知的財産権をめぐる課題への対応においては、法、技術、契約の各手段を適切に組み合わせて対応することが重要であることをお示しした上で、例えば画像に特殊な処理を施すことにより学習を妨げる技術など、自らの著作物が無断で学習データに使われることを防ぐための技術を紹介しております。 　いずれにしましても、著作権法につきましては文化庁の所管であるため、その改正について私からこの場でコメントをすることは差し控えさせていただきたいと思います。 　その上で、内閣府としては、文化庁とも連携しつつ、これまでにＡＩと知的財産権をめぐる課題に関して取りまとめた内容の周知を行うとともに、事例の集積やＡＩに関する技術の発展、諸外国における検討状況の進展などを踏まえながら、必要に応じて具体的な対応を検討してまいる考えです。

○井上哲士君　被害が拡大してからではなくて、まずは現状を把握して積極的な調査を行う必要があると思いますが。 　最後、様々な調査、実態把握が言われておりますけれども、このＡＩ開発、利活用事業者の実態把握やガイドラインが遵守されているかの点検など、計画的、網羅的に調査を行うべきだと思いますが、そういう調査の人員体制や調査対象となる事業者はどこなのか、調査計画についてはどのようにお考えでしょうか。

○国務大臣（城内実君）　お答えします。 　本法案第十六条に基づく調査研究等の詳細につきましては、その内容や方法、実施体制等について現在検討を進めているところでありまして、この場で詳細を説明することは現時点でちょっと難しいなというところでございますが、現時点で想定される調査としては、例えば、企業等におけるＡＩの活用に関する実態調査、技術発展や社会解決課題に貢献する先進的なＡＩの研究開発、活用などの動向調査、国民の権利利益の侵害に関わる悪質な事案に対する調査などが考えられます。 　いずれにしましても、本法案が成立した暁には、本調査の実施が、我が国における安全、安心で信頼のできるＡＩの研究開発及び活用の推進に向けて意義あるものとなるよう、有識者の皆様からの御意見も伺いつつ、関係省庁とも連携しながら適切に検討を進めてまいる考えであります。

○井上哲士君　時間ですので終わりますが、必要な人員をしっかり取って、実効ある対策を取っていただきたいと思います。 　終わります。 　　　　─────────────

○委員長（和田政宗君）　この際、委員の異動について御報告いたします。 　本日、河野義博君が委員を辞任され、その補欠として窪田哲也君が選任されました。 　　　　─────────────

○大島九州男君　れいわ新選組、大島九州男でございます。 　最後の質問になりましたが、質問に入る前に、小林政務官、これ、政務官としてじゃなくて、御住職なんですね。いやいや、先ほど井上委員から質問されている話をちょっと聞かせていただいていて、リーサリティーね、殺傷性を高めると。仏に仕える身として、仏教では、殺生は全ての生き物の命を奪う行為を指し、戒律の中で最も重い罪として禁じられていると。それで、それこそ、その不殺生戒ね、五戒、八斎戒、十戒と最初に掲げられて、在家の人も、これはしっかり守らなきゃいけないという非常に重い戒律のような、そういった部分で教えられているんですけど。 　私は、政務官が防衛政務官になられたというのは、そういう気持ちをというか、教えを受けた方だからこういうお役をもらったのかなというふうに話を聞いていて思ったんですけど、説法するときにやっぱりそういう説法されますよね。

○大臣政務官（小林一大君）　済みません、所管外でありますのでなかなかお答えはできませんけれども、少なくとも、殺生が決してない世の中、平和な世の中にするために現在の仕事を務めさせていただきたいと思います。よろしくお願いします。

○大島九州男君　ありがとうございます。 　そういう、ちょっと後でまた法案の質疑はされますので、そのままとどまっていただければと思います。 　それでは質問に入りますが、城内大臣は衆参の委員会や本会議で、この法律に規定された施策等を全力で進めて、ＡＩのイノベーション推進とリスク対応の両方をしっかり図って、我が国が世界で最もＡＩを開発、活用しやすい国となることを目指してまいる考えだということを繰り返し答弁をされていらっしゃいます。 　具体的に、じゃ、どうなのと、それを実現するに政策的な裏付けが示されているのかと。いろんな質問に対しても、やはり所管外だとお断りをしながらそれぞれの見解を述べられていますが、この本部は、そういったものを含めてのＡＩに関わるいろんな問題を総理のリーダーシップで解決をしていくという、そういう点だというふうに思っているわけですが。 　この我が国が世界で最もＡＩを開発、活用しやすい国となる、その目標を超えていくには数々の課題があると思うんですけれども、大臣は、どういう課題があって、それをどう乗り越えようというふうなお考えでしょうか。

○国務大臣（城内実君）　大島委員御指摘の課題についてですが、イノベーション促進とリスクの対応、それぞれの観点からお答えしたいと思います。 　まず、イノベーション促進の観点からは、どのように開発環境を整備していくかが課題の一つとして挙げられると思います。これについては、例えば、データセンターやデータセット等の整備、共用、これを促進するなど、ＡＩ開発を行いやすい環境を整えることによって、ＡＩ開発に対する多くの挑戦を促してまいりたいと考えております。 　また、もう一つのリスク対応に関しましては、不適切な出力をどのように抑止していくかが課題の一つであると、一つとして挙げられます。これについて言いますと、例えば、本法案に基づき整備する指針を通じまして、ＡＩ開発者に対し、開発段階におけるレッドチーミング、すなわちセキュリティーの脆弱性をテストするというようなレッドチーミング及び評価ツールの使用や、市場への導入後のインシデントの特定と、そこで特定された問題への対応を奨励するなどによって、不適切な出力を抑制し、ＡＩの安全性を向上させてまいる考えです。 　このように、様々な課題を一つ一つ解決していくことで、世界で最もＡＩを開発、活用しやすい国を実現してまいる考えであります。

○大島九州男君　様々な問題があるという中で、今、具体例でデータセンターの話がありましたが、全国各地で計画が持ち上がる中で、事業者と住民との対立が顕在化しているところもあるというふうに聞き及んでおります。 　データセンターには、サーバーを冷やすための空調設備から排熱、騒音、データセンターの建物による日照権の問題、いろんな問題があります。それが、事業者による地域住民への説明が十分でない場合に問題がやっぱり起きているんじゃないかと。 　こうした点について、こういった事情に詳しい佐藤教授が、騒音に関しては工場の規制ルールを参考にできるんではないかとする一方、空調設備からの排熱については、現状では国の規制がないと、所管省庁を明確にした上で新たな基準作りの必要性を強調されています。 　地域と共生を図るためのデータセンターの設置の在り方について、今後、経済産業省などとも対応を協議する必要があると思いますが、この問題についてはどのように考えて対応されますか。

○国務大臣（城内実君）　大島委員御指摘のとおり、このデータセンターの問題、これ非常に重要な問題というか、課題であるというふうに思っております。 　データセンターは、今後の我が国の産業競争力の向上と社会課題解決に必要不可欠となるＡＩ活用を始めとするＤＸの推進のため、日本国内に効率的に整備していく必要があると考えております。また、その際、データセンターを分散立地していくことが、地方の産業振興や災害時のリスク分散などの観点から利点があると認識しております。 　他方で、大島委員御指摘のとおり、そのデータセンター建設に当たって、一部の地域住民の皆様から、景観や日照、そしてデータセンターから出る排熱や騒音等を心配される声があることも承知しております。 　データセンターの整備につきましては、経済産業省及び総務省の所掌、所管業務とはなりますが、ＡＩ政策を担当する私としても、その整備に当たっては地域との共生をしっかり考えていくことが不可欠だと考えております。 　今後、ＡＩ本部の下でも、関係省庁との連携を図りつつ、必要がありますれば、例えばデータセンターの設置を進める企業に立地地域での丁寧な説明を促すなどの対応をしっかり図ってまいりたいと考えております。

○大島九州男君　地方公共団体への責務とか国への責務とか国民の責務というのがありましたら、当然企業の責務としてこういったことは大事なことでありますから、本部もそういったところを踏まえてしっかりとリーダーシップを発揮していただきたいということをお願いしたいというふうに思います。 　そして次には、先ほども話がありましたが、ディープフェイクポルノについて、ＡＩ技術を悪用したディープフェイクポルノ、とりわけ児童の画像等を使用したものへの対策については、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼を強化すること、また、同対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な措置を講ずることと附帯決議が付されておりますが、世界で問題化しているディープフェイクの現状について政府はどのように受け止めているか。 　また、英国は今年、子供の性的ディープフェイクを生成するＡＩツールの作成や所持等を世界で初めて違法とする法律を制定する方針を示したとの報道も出ていますが、こうした英国の動きをどのように把握し評価しているのか、御答弁をお願いします。

○国務大臣（城内実君）　いわゆる性的ディープフェイクを含めたＡＩによるディープフェイク問題につきましては、複数の省庁に関係する重要な課題であると認識しております。 　ディープフェイクポルノに関する内容を含めました衆議院の附帯決議については、今月十四日に開催されましたＡＩ戦略推進関係省庁会議において、関係省庁との間で早速、情報共有を行ったところであります。 　また、御指摘の、その英国において児童に関するディープフェイクポルノを生成するＡＩツールの所持、作成、配布等を違法とする内容を含む児童性的虐待資料を取り締まる法律が成立されたことは我々も承知しております。 　英国のようにディープフェイクポルノの流通等が規制されている国もありますが、各国の法制度は、各々の法体系、そして社会的、歴史的背景に応じて取り組まれるものであり、また、様々な制度が存在しているのが現状でありますので、他国の法制度について評価することはこの場では差し控えたいと思います。 　いずれにしましても、ディープフェイクポルノを含むディープフェイク問題については、これは極めて重要な課題であるというふうに認識しておりますので、我が国においては、このＡＩ法案に基づき有識者からの意見聴取や関連技術の動向調査などを通じて実態を詳細に把握し、関係府省が連携して必要な対策を早急に講じていくことが重要であると認識しております。

○大島九州男君　他国にいろんな制度だとかいろんな状況があるから評価はしなくても、やはり我が国の国民、特に子供たち、やはり幼いときに受けた心の傷というのはもう本当にずっと尾を引くんですよね。 　だから、そういう意味において、即対応するということは非常に必要だし、そういったことをした人には重いやっぱり罰を与えていくというのはこれは必要ですよね。だから、そういったことをしっかりやっていくという意味において、そういった法律を作って規制をしていくということは必要なことだというふうに誰もが思うと思うんです、誰もが。だから、そういう意味においては、英国等の法律も参考にしながら、やはり我が国の子供たち、健全な育成のために、ＡＩ本部もいろいろアンテナを張って情報収集して、法務省とも連携しながら、我が国の子供たちの健全な育成、こども家庭庁もありますが、そういった部分で本部が力を発揮をしていきたいというふうな思いがあるというような答弁があったらいいなと思ったんですけど、どうですか、大臣。

○国務大臣（城内実君）　今、大島委員が御指摘した認識と全く同じだというふうに思っております。

○大島九州男君　まあ、大臣が答弁書読まなければそういうあれが出てきたんだろうと思うので。 　まあ、私がこの日本の官僚機構と官僚政治に対してどうこう言うわけじゃないですけど、私がいつも特に政務官とか副大臣をお呼びしてやり取りするのは、官僚の書いた答弁ばかり読まないでねという思いがあっていつもお呼びをしているわけであります。別に、数字聞いたり何か嫌な質問をしていじめるようなことは決してございませんし、ああ、これは参考人に聞いた方がいいなと思うやつは参考人を指名して質疑をしております。 　今日は、そういう意味においては、小林政務官も大臣も誠意を持って政治家としてお答えいただいていることに感謝をしたいなというふうに思いますが、引き続き。 　今年の二月に、警察庁が外国の捜査機関などを招いた子供の性被害防止セミナーを開いて、その場でユーロポールの捜査官は、ＡＩの脅威は無視できない、社会で議論が必要だと述べたと報じられています。今年二月のセミナーで、情報交換を含め、ディープフェイクの問題について警察庁はどのように把握しており、今後どのように対処していく考えなのか。そしてまた、あわせて、ディープフェイクポルノ、とりわけ児童の画像等を使用したものに、対応について、こども家庭庁はどのような検討を行っているのかを教えていただければと思います。

○政府参考人（大濱健志君）　お答えいたします。 　御指摘の子供の性被害防止セミナーにつきましては、国内外の関係機関、団体もお招きいたしまして、子供の性被害防止対策に関する理解と連携の促進を目的として毎年開催しているものでございます。本年二月に開催した同セミナーでは、ＡＩなど技術の進展も踏まえ子供を性被害から守る取組についての情報交換がなされたものでございます。 　また、警察では、過去には、ＡＩ技術を悪用しアダルトビデオの出演者の顔部分を女性芸能人の顔にすげ替え、サイト上で公開していた者を名誉毀損罪と著作権法違反で検挙しており、また最近では、男子中学生が生成ＡＩを使用して同級生女子生徒の着衣写真を裸の画像に加工し、ＳＮＳで複数の同級生に拡散した事案を名誉毀損罪で検挙するなど、徹底した取締りを図っているところでございます。 　いずれにいたしましても、今後とも引き続き、被害者に寄り添いつつ、法と証拠に基づき適切に対処することはもとより、関係機関とも連携いたしまして広報啓発を行うなど、このような事案の未然防止を図ってまいりたいと考えております。

○副大臣（辻清人君）　済みません、こども家庭庁に対する質問のあった部分でお答えします。 　大島委員御指摘のように、いわゆるディープフェイクポルノ、青少年がこの問題に巻き込まれることなく安全にインターネットを利用できる環境を整備することは大変重要だと考えています。 　こども家庭庁では、昨年十一月に、有識者や関係省庁を構成員とするインターネットの利用を巡る青少年の保護の在り方に関するワーキンググループを設置して以降、青少年のインターネット利用をめぐる課題についてここで議論を行っているところでございまして、御懸念の生成ＡＩを用いた児童の性的ディープフェイク等は、このワーキンググループにおいてもリスクに係る課題の一つとして位置付けておりまして、引き続き丁寧な議論を行ってまいりまして、夏頃をめどに、課題と論点を整理した上で法制上の対応の必要性の有無や各論点に応じた所管省庁への検討要請等を含め、司令塔としての役割を引き続き果たしてまいりたい考えでございます。

○大島九州男君　警察庁は、こういった欧州刑事警察機構、ユーロポールなんかを呼んでやっているというのは非常に評価のできることでありますし、特に、本当に子供たちの心を傷つけるようなこういう犯罪行為についてはやはり徹底的に厳しく、そしてまた、そういうものが起こる前に、サイバーじゃないけれども、未然に防止するということにいろんな力を今後も注いでいただきたいというふうなことをお願いをしておきます。 　そしてまた、こども家庭庁においては、辻副大臣、やはりこども家庭庁というのも何かそれぞれの省庁の寄せ集めというようなことで大丈夫かというふうに常に思っているところがあったんですけれども、今副大臣の御答弁であった、リーダーシップを発揮してしっかりやっていくという、やっぱりそういう、政治家はそういった決意をやっぱり述べていただかないと国民は安心できませんから、是非そういった部分の思いでしっかり強いリーダーシップを持って、警察庁であったりとか文科省その他の省庁をまとめて、こういった犯罪に子供が巻き込まれないようにやっていただくことをお願いしておきます。 　次に、結局こういうふうな犯罪を防止するには、やはり厳しい罰則があって抑止効果を持たせるというのも必要だなという部分があるわけですね。 　読売新聞の社説に、自民党内にも悪質なＡＩ開発企業とかに罰則を科すべきだといったような声もあったけど、政府が慎重で、罰則は見送られたと。強制力のある措置を設けずに、開発企業やいろんな人が政府の指導に従うのかというふうに率直に疑問を投げかけた上で、法案を修正して実効性を高めていくことも選択肢とすべきだというような意見もあったと。 　罰則を設けること、また設けないことにはもちろんメリット、デメリットがありますが、両者を比較して政府としては今回罰則を設けないという結論に至ったというふうに思うんですけれども、こういう意見、批判的な意見に対して、どういうふうな御意見ですか。

○国務大臣（城内実君）　お答えします。 　ＡＩは経済成長や国民生活の発展に寄与するものであることから、ＡＩの社会実装を進め、イノベーション促進ということが重要であります。 　このため、本法案では、イノベーションを阻害する過剰な規制は避けつつ、政府として柔軟かつ適切にリスクを対応、対応を行うため、必要となる措置を講じることとなっております。 　具体的には、ＡＩを利用した悪質な事案につきましては、刑法等の既存法令に基づき対応を行うとともに、本法案におきましては、ＡＩ開発者、活用者が遵守すべき事項等を含む指針を整備し、ＡＩの研究開発、利用の透明性及び適正性の確保を図るほか、国民の権利利益の侵害が生じたなどのケースについては国が調査し、結果に応じて事業者に対して指導、助言、情報提供するなどの措置を講ずることとされておりまして、本法案に罰則はなくてもリスク対応の実効性を十分に高めることができると考えておりますし、また、戦略本部、これは総理大臣のリーダーシップの下に設置されるわけですが、その下で、関係省庁も緊張感を持って、各省の垣根を越えて、いろんな具体的な事案についてはしっかり情報共有をし、実際もう既に局長級の関係省庁会議がありますので、そういった様々な組織形態を使いながらしっかり対応すれば、罰則はなくてもリスク対応が十分できるというふうに考えております。

○大島九州男君　是非、垣根を越えてということがすごく重大なことだと、重要なことだと思いますので、引き続き頑張っていただきたいと思います。 　人材の育成について。この法律を成立させていただいた暁には、内閣府が司令塔となって関係省庁、地方公共団体、研究開発機関、活用事業者と緊密に連携して人材の育成、確保の取組を更に推進していきたいというふうにおっしゃっていますが、令和八年度予算の概算要求にもこういうものを盛り込んでいるのか、こういう点についてもう一歩踏み込んだ答弁を、大臣、お願いします。

○国務大臣（城内実君）　お答えします。 　ＡＩ人材の育成、確保に当たりましては、やはり基礎的なリテラシーを身に付ける段階からエキスパートの段階まであらゆるレベルでの取組が重要でありまして、政府としては、教育関係の施策やリスキリングの施策、ＡＩリテラシー向上に向けた施策等について取り組んでまいりました。 　本法案第十四条においても人材の確保等に係る規定を置いておりまして、今後は、内閣府が司令塔となって、関係省庁、関係機関等との更なる連携の下、取組をしっかりと推進していく考えであります。 　具体的な例を挙げますと、現在、ＡＩに特化したものではありませんが、ＳＴＥＡＭ教育や女子中高生、女子学生の理工系分野への進路選択を支援する取組などにつきましては内閣府と文部科学省等が連携して進めており、こうした取組の充実をしっかりと図ってまいる考えであります。 　また、ＡＩ技術の進展は速く、必要となる人材育成の取組を常に議論し、実行に移していくことが重要であります。例えば、現在、文部科学省の中央教育審議会においては、生成ＡＩを始めとするデジタル技術が飛躍的に発展する中で、児童生徒の情報活用能力の抜本的向上を図る方策につきまして具体的な議論が進められているものと承知しており、こうした取組をしっかりと促してまいりたいと思います。 　ＡＩは極めて重要な技術であることから、社会のあらゆる分野でＡＩを開発、活用し、新たな価値を生み出すことのできる人材を、あらゆる手段を使ってしっかりと人材を育成、確保してまいる考えであります。

○大島九州男君　そのあらゆる手段ですけど、結局、子供たちが何かを目標にして進もうとしたときに、親も、そうだね、頑張れよと言えるような環境づくり、簡単に言うと、何か野球を好きな子には、おまえ、頑張ってプロ野球選手になって、イチローとか大谷選手のようになったらこんなに稼げるぞみたいに言われて頑張るような子もいっぱいいるわけですよ。 　やっぱり大学とか専門学校とか行ったら、就職とか進路、そういったものを目指して入学するというのもありますよね。だから、これは多様な人材、裾野を広げるという、特にこういうコンピューター系なんというのは、今なかなか、普通に学校行かなくても、技術とかそういった独創性を高める人材ってたくさんいると思うので、そういう進路を何か新たな、普通の高校、大学に行って就職するという進路じゃなくて、そういった何か能力を評価されて、そして、そういうところで社会に出ていけるとか貢献できるというような、それがあらゆる進路という、人材を、裾野を広げるという、そういうところにつながると思うんですけど、大臣、どうですか、そういう考えは。

○国務大臣（城内実君）　一つの例を挙げますと、例えば引きこもりというケースがありますけど、意外とその引きこもりをしている人たちがそういった一つの分野に非常に能力を持っていて、そういったことを、もうちょっとこの能力を引き出して、全ての分野には精通していないけれども、例えばこのＡＩについてはエキスパート並みの能力を持っていて、それを社会実装、あるいはいろんな企業やあるいは団体等で、あるいは地方公共団体でもいいですけれども、活用するというようなことも十分考えられると思いますので、繰り返しになりますけど、あらゆる手段を講じてしっかり適切な人材確保をしていくことが重要だというふうに考えております。

○大島九州男君　もう是非それを進めていただきたいということをお願いしておきます。 　それでは、最後になりますが、小林政務官、よろしくお願いしますね。 　昨年十二月、ＡＩに関する国連の安全保障理事会会合において、グテーレス国連事務総長は、いかなる国も、国際法、人道法、人権を侵害するような、武力紛争におけるＡＩの軍事利用を設計、開発、配備、使用すべきではありませんと述べられたとされています。グテーレス事務総長の発言は非常に重要な指摘であり、ＡＩをめぐる技術競争が世界の平和と安全を不安定にする方向に進んではならないといった点について、先進主要各国のリーダーたちは一歩立ち止まって考えるべきだというふうに考えます。 　その一方で、令和五年十二月、防衛省とアメリカの国防省は、無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めの署名を行ったことに加え、翌令和六年七月には、防衛省は、防衛省ＡＩ活用推進基本方針を公表していると承知しております。 　こうしたＡＩの軍事利用に前のめりとも思える防衛省の近年の動きは、ＡＩの平和的な利用という考え方に真っ向から反するものと思われますが、防衛省は、ＡＩの軍事利用の危険性、世界平和への影響についてどのように考えているんでしょうか。 　また、グテーレス国連事務総長の発言についてどのように受け止め、それを政策にどう反映していく考えか。例えば、防衛省ＡＩ活用推進基本方針にグテーレス国連事務総長の発言を反映して、ＡＩの平和的な利用を明記する形で改定するといったことをしたらどうでしょうか。

○大臣政務官（小林一大君）　御質問ありがとうございます。お答えをさせていただきたいと思います。 　科学技術が急速に進展をしている中、ＡＩは、その有用性から、諸外国においては民生分野に加えて安全保障分野における活用も進んでおるという現状はあります。私たち防衛省においても、防衛力の抜本的強化に当たりＡＩの活用を進めていることは事実であります。 　他方、ＡＩの活用については、その中で、一定の誤りが含まれることによる信頼性の懸念のほか、学習データの偏りなどに起因するバイアスなどの課題やリスクも指摘されているところであります。防衛省としましては、こうした課題やリスクに関わる政府内や国際社会における議論をしっかりと注視をしながら、リスクを低減する取組を進めながら、ＡＩの有用性は最大限に活用していく所存であります。 　そして、もう一点、今ほど議員からお話しいただきましたグレーテス国連事務総長の話でありますけれども、委員御指摘の昨年十二月の国連安保理の会合におけるグテーレス、ごめんなさい、グテーレス国連事務総長の発言については我々も承知をしております。 　防衛省ＡＩ活用推進基本方針には、防衛省・自衛隊としては、国際人道法の原則は、新興技術を活用するものも含め、あらゆる兵器に適用されるという考えであり、当然のことながら国際法や国内法により使用が認められない装備品の研究開発及び導入を行うことはないと明記をしているところであります。 　これは、委員御指摘の国連事務総長の発言と整合しているものと考えており、委員御提案のような改定が必要であるというふうには我々は考えておりません。 　なお、我が国は一貫して、憲法の基本原理である平和主義の理念の下で防衛政策の推進に努めてまいりました。これは、ＡＩの活用においても今後とも変わることはないということを申し添えたいと思います。 　ありがとうございます。

○大島九州男君　小林政務官のおっしゃることですから、それはしっかりと私も受け止めさせていただきたいというふうに思いますが、ちょうど、新興という言葉がありました。その新興というのは、進める行いじゃなくて心の信仰に沿った、こういう政策で行けば当然人をあやめることがない、やはりそういう平和利用。だから、特にこの防衛省が考えるＡＩ、先ほど井上委員の指摘にありましたけど、殺傷性を高めていくというような何かイメージは、やっぱりこれは国民にとっても世界にとっても非常に誤解を与えるというか、やはり防衛省というのはそういう軍事利用、平和、ＡＩを軍事利用にして戦争に活用しようとしているんだというふうにそれを受け取りますよね。 　だから、そういうことではなくて、本当にこのＡＩを平和利用にやっていくと、人のその生命を傷つけるようなことのない技術として専守防衛、その日本の防衛のために活用していくんだということを明快にやっぱり発信していくべきだというふうに思いますし、このＡＩ本部もきちんとそういったところを、総理大臣のリーダーシップの下、平和憲法を持った日本の役割として世界にＡＩの平和的利用をしっかりと推進していく、そういう本部なんだというような発信をしていくぐらいのことをやっていくべきだというふうに思っておりますので、大臣、最後、決意を述べていただいて、質問を終わります。

○国務大臣（城内実君）　ＡＩの軍事利用については、これ必ずしも私の所掌ではありませんけれども、科学技術政策を担当する大臣の立場からお答えさせていただきたいと思います。 　先ほども答弁いたしましたけれども、ＡＩはデュアルユース技術でありまして、本法案においても経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であるとした上で、その研究開発能力の保持や関連産業の国際競争力の向上を図ることを基本理念の中で示しているところでございます。 　こうした基本理念に基づき、ＡＩの研究開発及び活用に関する施策の総合的、計画的な推進をしっかりと進めてまいる考えであります。

○大島九州男君　ありがとうございました。終わります。 　　　　─────────────

○委員長（和田政宗君）　この際、委員の異動について御報告いたします。 　本日、太田房江さんが委員を辞任され、その補欠として藤木眞也君が選任されました。 　　　　─────────────

○委員長（和田政宗君）　他に御発言もないようですから、質疑は終局したものと認めます。 　これより討論に入ります。 　御意見のある方は賛否を明らかにしてお述べ願います。

○井上哲士君　私は、日本共産党を代表して、ＡＩ推進法案に対し、反対の討論を行います。 　急速に発展するＡＩは、多分野で深刻な問題を引き起こしています。大量の個人情報の収集、分析、漏えいによるプライバシー権の侵害、学習データによっては間違いや偏った判断を下すＡＩが人間にもたらす差別や不利益、著作権などの知的財産権の侵害、偽情報、誤情報の流通、選挙や世論誘導、軍事利用、大量の電力消費による地球温暖化への悪影響などです。 　今必要なのは、ＡＩの発展に遅れることなく、予防的な観点も含めて、権利保護の強化やリスクに応じた規制を行うことです。ＡＩに関する意識調査を見ても、現状はＡＩを安心して利用できる環境にない、規制が必要だというのが多数の声です。それにもかかわらず、本案はＡＩ推進一辺倒です。 　法案は、ＡＩの機械学習用のデータセットを整備することを国の責務とし、情報の対象は、国、研究開発法人、大学に及び、個人情報も含まれます。自治体の責務規定、国民の責務規定まで盛り込み、行政、学術、国民の広範な情報をＡＩの研究開発、活用のために整備、提供することを促進するものです。プライバシー権侵害の危険性を高めるものだと言わざるを得ません。 　また、国の責務として、行政事務の効率化のためＡＩ技術の積極的な活用を進めると明記しています。ＡＩにはリスクがあり、判断を委ねる利活用には慎重な対応が必要です。 　さらに、法案がＡＩ技術を安全保障の観点からも重要と位置付けていることは重大です。審議では、自衛隊の陸幕長が講演で、陸自の強化方向として殺傷性の強化を挙げ、ＡＩを搭載した自律型兵器の活用の必要性を述べていることが明らかとなりました。法案は、殺傷兵器の研究開発、活用も含めてＡＩを推進するものであり、認められません。ＡＩの軍事利用は禁止することを求めます。 　法案の基本理念で、ＡＩ技術の研究開発、活用を、産業の国際競争力を向上させることを旨に行うと掲げているとおり、ＡＩ技術を、国民の権利を守り、生活や福祉を向上させるためではなく、産業界の利益のために使うことを推進するものです。だからこの法案には、実効性のある新たな法規制がないのです。 　ＡＩ推進一辺倒では、国民の権利を侵害し、社会への悪影響を拡大させる危険を高めるものだと言わざるを得ないことを申し述べ、反対討論とします。

○木戸口英司君　立憲民主・社民・無所属の木戸口英司です。 　会派を代表して、人工知能関連技術の研究開発及び活用の推進に関する法律案に対し、賛成の立場から討論を行います。 　ＡＩは、我が国が抱える人口減少などの社会課題の解決や経済の活性化につながる可能性を秘めており、その研究開発、活用を進めることは、我が国の持続的な経済成長と国際競争力強化にとって極めて重要であると認識しております。 　一方で、ＡＩの研究開発、活用をめぐっては、ディープフェイクポルノの生成、バイアスによる差別や偏見の助長、個人情報の不正な取扱い、軍事利用の危険性、雇用に与える影響など様々なリスクが指摘されています。 　また、本法案は、既存法令による規制を活用しつつ、事業者の自主的な取組を尊重する内容となっており、特に海外事業者の協力を得られない場合等、その実効性に課題も残ります。 　さらに、本法案の第八条では、国民の責務として、ＡＩ関連技術に対する理解と関心を深めるとともに、国等が実施する施策に協力するよう努めるものと規定していますが、多くの国民がＡＩに対する不安を抱える中、国民に責務を課すという表現は国民の間に無用の懸念を生じかねず、政府のより丁寧な説明が必要です。 　以上のように、本法案には懸念点や課題が残ることから、これまでの質疑を通じ、我が党は、ＡＩが抱えるリスクに対し必要な措置を講じるよう政府に求めてきました。 　また、我が国のＡＩの研究開発、活用の推進が急務となる中において、本法案はＡＩのイノベーション促進とリスク対応の両立を目指す第一歩となるものであり、その重要性については理解できるものです。 　その上で、政府には、これまでの議論を踏まえ、本法案成立後に策定されるＡＩ基本計画や指針、そして各種制度の運用において、国民の権利利益を守り、人間中心のＡＩ社会原則にのっとった対応を徹底することを求めます。 　また、本法の基本理念に、ＡＩの研究開発及び活用は我が国及び国際社会の平和と発展に寄与すること、国際的協調の下に推進すること、我が国が国際協力において主導的な役割を果たすこととあり、政府には、その実現に向け、人材の育成を含め、施策の強力な展開を求めます。 　我々立憲民主党は、ＡＩをめぐる制度や規制の在り方について、国民の理解と協力の下、時代や状況の変化に応じて果断に見直しを行っていくことをお約束し、賛成討論とさせていただきます。

○大島九州男君　れいわ新選組を代表し、いわゆるＡＩ推進法案について、反対の立場から討論を行います。 　反対の第一の理由は、人工知能戦略本部が政府の思惑どおりに機能し、我が国がＡＩで米中に肩を並べるようになることが、残念ながらイメージできないからです。 　本法律案では、内閣に人工知能戦略本部を置くと規定し、内閣総理大臣を本部長として、全ての閣僚を本部員にすることになっています。しかしながら、これは最近の常套手段であり、単に内閣府を肥大化させるだけではないかと感じます。確かにＡＩは多くの分野にまたがるので、内閣総理大臣を本部長として、全ての閣僚を本部員という形は理解できなくもありませんが、肝腎なのは、具体的にどのような政策を講じていくかではないかと考えます。 　特に、企業は六百兆円を超える内部留保を抱える中でＡＩへの投資が芳しくないのはどうしてなのか、大胆な投資減税を打ち出すなどの必要があるのではないでしょうか。幾ら戦略本部を創設してオールジャパンで頑張りますと言ったところで、肝腎の政策が伴わないのでは意味がありません。 　反対の第二の理由は、ＡＩの平和的な利用が担保されていないからです。 　昨年十二月、ＡＩに関する国連の安全保障理事会会合においてグテーレス国連事務総長は、いかなる国も、国際法、人道法、人権を侵害するような、武力紛争におけるＡＩの軍事利用を設計、開発、配備、使用すべきでありませんと述べたとされています。グテーレス事務総長の発言は非常に重要な指摘であり、傾聴に値すると思います。 　その一方で、防衛省は、令和五年十二月にアメリカの国防省と無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めの署名を行うなど、ＡＩの軍事的利用に前のめりではないかと危惧いたします。アメリカの言いなりになるのではなく、ＡＩの平和的利用の大切さを我が国は明確に打ち出すべきではないでしょうか。 　反対の第三の理由は、ＡＩ人材の育成、確保についても期待が持てないからです。 　政府は、ＡＩの人材育成、確保についても具体性に欠ける答弁でありました。二十二日の参考人質疑では、参考人が、重要な会議はいつも同じ人がやっていて次世代のＡＩ専門家が育っていないというふうに率直に述べていたことが印象的ですが、こうした流れを変えるといった政府の意気込みは、残念ながら感じることはできませんでした。 　主にこうした三点から、れいわ新選組はＡＩ推進法に反対することを申し述べ、討論といたします。

○片山大介君　日本維新の会の片山大介です。 　私は、ＡＩ推進法案に賛成の立場から討論します。 　今回の法案は、イノベーションの促進とリスクへの対応など、変化の激しい、先の見えないＡＩの技術に対するガバナンスに日本が初めて取り組む法案で、意義のある法案だと思います。 　ただ、今回のこの法案は、あくまでもＡＩに対する枠組みでしかありません。これからの執行や運用において臨機応変に対応していけるかが重要になってきます。 　そのために必要なことは、まず、法成立後に策定される基本計画や指針、ガイドラインにおいてしっかりとビジョンを示すことです。我々はＡＩを活用してどのような社会を目指していくのか、そのためにＡＩは具体的にどのように使われ、それにはどのようなメリットがあり、リスクはどのように抑制させるかのビジョンです。予測が難しい技術であるからこそ、ビジョンを描く必要があります。 　もう一つは、ＡＩに対するリスクへの評価です。 　ＡＩの性能が高まったこと、安価や無料で誰でも使用できること、そしてオープンソースのＡＩも多数あることから、誰でも高性能なＡＩの使用が可能になり、ＡＩを悪用した犯罪の増加や巧妙化が懸念されています。それは、偏見や差別的な情報の出力を始め、偽情報の流布、さらには武器や兵器開発のＡＩ利用など安全保障面にまで及びます。このようなＡＩに関する多様なリスクをリストアップした上で評価し、そしてしっかりと対応してほしいと思います。 　日本のＡＩ活用が遅れている背景には、日本人の持つ慎重さのゆえ、ＡＩに対する不安感があると言われ、それを払拭するためにも必要です。想定されるリスクをリストアップし、可能な法令やガイドラインを適用する、それ以外に対しては今回の法案を活用してほしい、そう思います。 　今後、普及が進むと見られる自律的にタスクを実行して問題を解決するエージェントＡＩを始め、ＡＩが高性能化すればするほど、そして、ＡＩへの依存度が高まれば高まるほど、社会への影響は大きくなります。それだけに、ＡＩによる誤判断やＡＩと人間との意見対立など、予測不能の事態が起こるおそれもあります。近い将来は、人間の能力を超えるＡＳＩ、人工超知能が実現する時代も訪れます。先が見えないため、完璧な解は誰にも分かりません。 　だからこそ、前例にとらわれることなく迅速に対応する、そしてその結果を予測し迅速に修正していく、今回の法案によってそうした対応が可能になり、日本の英知が集約されていくことを期待して、賛成討論とさせていただきます。

○竹詰仁君　国民民主党・新緑風会を代表して、いわゆるＡＩ推進法案について賛成の立場から討論をいたします。 　ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後、更に大きな変化を生み出すことは確実になっています。ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。我が国が国際社会で競争力を維持拡大していくためには、ＡＩの研究開発と活用を最重要課題として位置付け、推進していくことが極めて重要となります。本法案がＡＩ推進法案と言われるように、政府が先頭に立ってＡＩの開発と利活用を推進していくことを期待いたします。 　参考人の御意見及び質疑においては、様々なリスクを恐れる余りＡＩを使わないリスクが一番のリスクとの御指摘がありました。一方で、ＡＩの利活用を後押しする環境整備とリスク対応の両立が重要との意見もありました。これまでの議論を通じ、私は、ＡＩの開発及び利活用において、正しく恐れることがキーワードだと思っています。政府においては、本法案を契機に、ＡＩのリスクを分かりやすく広く周知し、同時に、機密情報の流出、詐欺への悪用、偽情報、誤情報の流通、拡散、知的財産権の侵害、資格の侵害、バイアスの再生産、再生成など、何をやってはいけないのか伝えるとともに、法令違反や倫理的違反に対しては厳正に対処することを求めたいと思います。 　また、参考人からは、国際的なＡＩ指針の策定に積極的に参加し、日本独自の強みを生かせる国際指針を形成すべきとの意見がありました。人間中心のＡＩは今後も普遍的な考えであるべきであり、ソフトローとハードローの適切な組合せなど、日本がＡＩの開発と利活用についてリーダーシップを発揮していただきたいと思います。 　本法案は、今後に検討、今はまだ分からないことが多く含まれています。ＡＩ戦略本部の設置、ＡＩ基本計画の策定、国、地方公共団体、研究開発機関及び活用事業者との連携施策、ＡＩ人材の確保、教育の振興等など、精力的に進めていただくことを求めます。あわせて、生成ＡＩに不可欠なデータセンターは消費電力が大規模であり、電力の安定供給も重要な課題であることも指摘します。 　最後に、ＡＩは経済成長のための重要な要素であるからこそ、海外に依存しない国産ＡＩの開発と利活用を強力に後押しすることを求め、賛成討論といたします。

○委員長（和田政宗君）　他に御意見もないようですから、討論は終局したものと認めます。 　これより採決に入ります。 　人工知能関連技術の研究開発及び活用の推進に関する法律案に賛成の方の挙手を願います。 　　　〔賛成者挙手〕

○委員長（和田政宗君）　多数と認めます。よって、本案は多数をもって原案どおり可決すべきものと決定いたしました。 　この際、石垣さんから発言を求められておりますので、これを許します。石垣のりこさん。

○石垣のりこ君　私は、ただいま可決されました人工知能関連技術の研究開発及び活用の推進に関する法律案に対し、自由民主党、立憲民主・社民・無所属、公明党、日本維新の会及び国民民主党・新緑風会の各派共同提案による附帯決議案を提出いたします。 　案文を朗読いたします。 　　　　人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議（案） 　　政府は、本法の施行に当たり、次の諸点について適切な措置を講ずるべきである。 　一　ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライメントの観点に基づいた研究開発を推進すること。 　二　本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リスクの最小化のみならず、我が国におけるＡＩの導入促進による便益についても十分考慮すること。 　三　生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリスクを有していることに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等について、事業者や国民に対して十分に周知すること。また、リスクの把握を含めたＡＩの適切な利活用の方法について、学校教育や社会教育等の場を活用することにより、ＡＩに関するリテラシー教育を積極的に推進すること。 　四　ＡＩの利活用の推進により、雇用の代替や経済格差の拡大が懸念されていることを踏まえ、ＡＩの普及が雇用や産業構造に与える影響について分析を行った上で、民間事業者による新産業の創出に向けた支援を実施するとともに、新たな人材需要に対応するためのリカレント教育を推進する等、必要な施策を講ずること。 　五　ＡＩ技術を悪用したディープフェイクポルノ、取り分け児童の画像等を使用したものについての対策として、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な情報の削除依頼の強化に加え、被害者による告訴等の負担軽減、被害発生防止に向けた教育啓発等の措置を講ずること。また、対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必要な対応を図ること。 　六　我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語での出力に課題がある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生成ＡＩサービスの実用化に向けた研究開発及びデータ整備の一層の推進に官民を挙げて取り組むこと。 　七　ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタートアップを含む新規参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。 　八　国際競争力の強化を図るため、ＡＩを国家戦略上の重要分野と位置付けるとともに、ＡＩの基盤的技術やモデルの研究開発及び海外展開を積極的に支援すること。 　九　ＡＩの普及等に伴い需要の増大が見込まれるデータセンターの整備については、電力需給を踏まえ戦略的に推進すること。また、稼働に伴う環境負荷の低減に向けた取組を実施するとともに、日照権や排熱の問題について、設置者による立地地域の住民及び地方公共団体への十分な情報提供を行うことを始め、地域との共生を図るためのデータセンター設置の在り方について検討を行い、必要な措置を講ずること。 　十　ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ人材の育成を強化し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人材の育成・確保に向けた官民の十分な投資を確保するため、財政上の措置その他必要な措置を講ずること。 　十一　ＡＩの利活用が行政サービスの質の向上、業務の効率化及び高度化並びに社会課題の解決等に資することに鑑み、国、地方公共団体及び民間事業者等によるＡＩの積極的な利活用が可能となる環境の整備に努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏まえて、個人情報の保護その他の国民の権利利益の保護を図りつつ、適正性についても確保するとともに、業務効率化による安易な人員削減につながらないよう十分に留意すること。 　十二　差別や偏見の助長、偽・誤情報の拡散等、ＡＩのもたらし得るリスクを低減させる技術の研究開発及び社会実装を一層推進すること。また、活用事業者等に対し、透明性の確保及び不適切な出力の防止に関する対策の実施を促進するとともに、関係者間の連携の強化や好事例の周知等、官民一体となった安全性の確保に向けた取組を実施すること。 　十三　活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等に係る営業秘密等の知的財産の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること。 　十四　国民の権利利益の侵害が生じた事案等について、調査、指導及び助言等を行うに当たっては、活用事業者やＡＩサービスの利用者等から迅速な情報収集を行うとともに、平時より関係者間での情報共有を図り、事故発生やその可能性を早急に検知し、適切な対策を講ずるための体制整備を推進すること。また、海外の事業者や指導・助言等に応じない活用事業者等への対応に関しては、国際連携の強化等に努めるとともに、実効性ある措置の在り方について検討し、その結果に基づいて必要な措置を講ずること。 　十五　広島ＡＩプロセス国際行動規範の「報告枠組み」に基づき報告書を提出する活用事業者等に対しては、既存の国内法制度に基づく報告義務に最大限活用することで、報告の重複を軽減する仕組みを導入することなどにより、国際的な整合性や効率性を確保すること。 　十六　ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上及び国民経済の健全な発展に資するものとなるよう、また、新たなリスクに適時に対応するためにも、本法その他の関連規定、ＡＩ基本計画及び指針について不断の見直しを行うこと。 　十七　ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る一体的な施策を推進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りによる弊害を排除するとともに、事務局に民間のＡＩ人材の積極的な登用を図ること。 　十八　ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構成される会議体を早期に設置すること。また、有識者の人選については、ＡＩの倫理的、法的及び社会的課題について知見を有する者など多様な主体の参画を図ること。 　十九　ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応について不断の検討を行うこと。また、既存の法令やガイドライン等によっては対応が困難な新たなリスクが顕在化した場合においては、そのリスクの程度に応じて規制の度合いを変えるリスクベースアプローチに基づいた規制的措置の導入も含め検討し、その結果に応じて必要な措置を講ずること。 　二十　ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外国における検討状況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必要な措置を講ずること。その際、特に権利者の権利が適切に保護されるよう十分考慮すること。 　　　右決議する。 　以上、委員各位の御賛同をお願いいたします。

○委員長（和田政宗君）　ただいま石垣さんから提出されました附帯決議案を議題とし、採決を行います。 　本附帯決議案に賛成の方の挙手を願います。 　　　〔賛成者挙手〕

○委員長（和田政宗君）　多数と認めます。よって、石垣さん提出の附帯決議案は多数をもって本委員会の決議とすることに決定いたしました。 　ただいまの決議に対し、城内内閣府特命担当大臣から発言を求められておりますので、この際、これを許します。城内内閣府特命担当大臣。

○国務大臣（城内実君）　ただいま御決議のありました事項につきましては、その趣旨を十分に尊重してまいります。

○委員長（和田政宗君）　なお、審査報告書の作成につきましては、これを委員長に御一任願いたいと存じますが、御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認め、さよう決定いたします。 　本日はこれにて散会いたします。 　　　午後三時三十八分散会