内閣委員会

令和七年五月二十日（火曜日） 　　　午前十時開会 　　　　───────────── 　　出席者は左のとおり。 　　　　委員長　　　　　　　　　和田　政宗君 　　　　理　事 　　　　　　　　　　　　　　　　磯崎　仁彦君 　　　　　　　　　　　　　　　　酒井　庸行君 　　　　　　　　　　　　　　　　山本　啓介君 　　　　　　　　　　　　　　　　木戸口英司君 　　　　　　　　　　　　　　　　竹谷とし子君 　　　　委　員 　　　　　　　　　　　　　　　　青木　一彦君 　　　　　　　　　　　　　　　　石井　浩郎君 　　　　　　　　　　　　　　　　今井絵理子君 　　　　　　　　　　　　　　　　太田　房江君 　　　　　　　　　　　　　　　　友納　理緒君 　　　　　　　　　　　　　　　　山谷えり子君 　　　　　　　　　　　　　　　　石垣のりこ君 　　　　　　　　　　　　　　　　石川　大我君 　　　　　　　　　　　　　　　　奥村　政佳君 　　　　　　　　　　　　　　　　鬼木　　誠君 　　　　　　　　　　　　　　　　河野　義博君 　　　　　　　　　　　　　　　　片山　大介君 　　　　　　　　　　　　　　　　柴田　　巧君 　　　　　　　　　　　　　　　　竹詰　　仁君 　　　　　　　　　　　　　　　　井上　哲士君 　　　　　　　　　　　　　　　　大島九州男君 　　　国務大臣 　　　　　　　国務大臣 　　　　　　　（内閣府特命担 　　　　　　　当大臣（科学技 　　　　　　　術政策））　　　　城内　　実君 　　　副大臣 　　　　　　　内閣府副大臣　　　辻　　清人君 　　　　　　　防衛副大臣　　　　本田　太郎君 　　　大臣政務官 　　　　　　　内閣府大臣政務 　　　　　　　官　　　　　　　　友納　理緒君 　　　事務局側 　　　　　　　常任委員会専門 　　　　　　　員　　　　　　　　岩波　祐子君 　　　政府参考人 　　　　　　　内閣府男女共同 　　　　　　　参画局長　　　　　岡田　恵子君 　　　　　　　内閣府科学技術 　　　　　　　・イノベーショ 　　　　　　　ン推進事務局統 　　　　　　　括官　　　　　　　渡邊　昇治君 　　　　　　　内閣府科学技術 　　　　　　　・イノベーショ 　　　　　　　ン推進事務局審 　　　　　　　議官　　　　　　　徳増　伸二君 　　　　　　　警察庁生活安全 　　　　　　　局長　　　　　　　檜垣　重臣君 　　　　　　　個人情報保護委 　　　　　　　員会事務局長　　　佐脇紀代志君 　　　　　　　デジタル庁審議 　　　　　　　官　　　　　　　　井幡　晃三君 　　　　　　　総務省大臣官房 　　　　　　　地域力創造審議 　　　　　　　官　　　　　　　　望月　明雄君 　　　　　　　総務省大臣官房 　　　　　　　審議官　　　　　　近藤　玲子君 　　　　　　　総務省大臣官房 　　　　　　　審議官　　　　　　下仲　宏卓君 　　　　　　　法務省大臣官房 　　　　　　　審議官　　　　　　堤　　良行君 　　　　　　　法務省大臣官房 　　　　　　　審議官　　　　　　吉田　雅之君 　　　　　　　文部科学省大臣 　　　　　　　官房学習基盤審 　　　　　　　議官　　　　　　　日向　信和君 　　　　　　　文部科学省大臣 　　　　　　　官房審議官　　　　奥野　　真君 　　　　　　　文部科学省大臣 　　　　　　　官房審議官　　　　松浦　重和君 　　　　　　　文部科学省大臣 　　　　　　　官房文部科学戦 　　　　　　　略官　　　　　　　中原　裕彦君 　　　　　　　経済産業省大臣 　　　　　　　官房審議官　　　　奥家　敏和君 　　　　　　　防衛省大臣官房 　　　　　　　サイバーセキュ 　　　　　　　リティ・情報化 　　　　　　　審議官　　　　　　家護谷昌徳君 　　　　　　　防衛装備庁装備 　　　　　　　政策部長　　　　　坂本　大祐君 　　　　───────────── 　　本日の会議に付した案件 ○政府参考人の出席要求に関する件 ○人工知能関連技術の研究開発及び活用の推進に関する法律案（閣法第二九号）（衆議院送付） ○参考人の出席要求に関する件 　　　　─────────────

○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。 　政府参考人の出席要求に関する件についてお諮りいたします。 　人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府男女共同参画局長岡田恵子君外十七名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認め、さよう決定いたします。 　　　　─────────────

○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。 　政府から趣旨説明を聴取いたします。城内内閣府特命担当大臣。

○国務大臣（城内実君）　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案につきまして、提案理由及びその内容の概要を御説明いたします。 　人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術をめぐる国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となっております。 　この法律案は、このような背景を踏まえ、人工知能戦略本部を内閣に設置するとともに、政府が人工知能基本計画を定め、これを推進するなどの所要の措置を講ずることにより、人工知能関連技術の研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目的とするものであります。 　以下、この法律案の内容につきまして、その概要を御説明いたします。 　第一に、人工知能関連技術の研究開発及び活用の推進について、基本理念及び国の責務等を定めております。 　第二に、基本的施策として、研究開発の推進、施設及び設備等の整備及び共用の促進、人工知能関連技術の研究開発及び活用の適正性の確保、人材の確保、教育の振興、情報収集及び調査研究等の実施、国際協力の推進等を規定しております。 　第三に、政府は、基本理念にのっとり、基本的施策を踏まえ、人工知能基本計画を定めるものとしております。 　第四に、人工知能基本計画の推進体制として、内閣に人工知能戦略本部を設置することとし、内閣総理大臣を本部長とするなど組織、所掌事務等を規定しております。 　以上のほか、所要の規定の整備を行うこととしております。 　以上が、この法律案の提案理由及びその内容の概要でございます。 　何とぞ、慎重御審議の上、速やかに御賛同あらんことを切にお願い申し上げます。

○委員長（和田政宗君）　以上で趣旨説明の聴取は終わりました。 　これより質疑に入ります。 　質疑のある方は順次御発言願います。

○山谷えり子君　自由民主党、山谷えり子でございます。 　質問の時間をいただき、感謝いたします。 　人工知能関連技術の研究開発及び活用の推進に関する法律案、日本初のＡＩ関連法、推進法案であります。 　今、社会の様々な場でＡＩの利用が急速に進んでいます。しかし、日本は、ＡＩの分野で世界的に後れを取っている。ＡＩへの投資、開発を進め、国民の生活水準の向上や経済の健全な発展に資するよう、さらに、世界にも貢献していく国としたいものです。 　イノベーションの推進とリスク管理のバランスを取ったこの法案は世界のモデルになり得るということですが、改めて、本法案の提出の目的、効果、必要性についてお考えをお示しください。

○国務大臣（城内実君）　お答えいたします。 　ＡＩは、我が国の経済社会の発展に必要となる基盤技術であるとともに、安全保障の観点からも不可欠な技術であります。一方で、ＡＩがもたらす様々なリスクも懸念されており、多くの国民がＡＩに対して不安を感じているとともに、我が国のＡＩの研究開発と活用は他の主要国と比べて低迷している状況であります。このような状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なＡＩの開発を進めることで国民の皆様のＡＩに対する不安を払拭し、ＡＩの研究開発と活用を強力に進めていくことが重要と考えております。 　こうしたＡＩにつきまして、これまで我が国においては、既存の刑法や個別の業法等によりＡＩに係るリスクに対応するとともに、ＡＩ戦略の策定などを通じまして政策の推進を図ってきたところであります。 　他方で、昨今のＡＩの技術進展の状況等を踏まえますと、既存の法令等による対応に加えて、ＡＩ政策の司令塔機能を強化するとともに、ＡＩ関連技術の研究開発と活用の推進に係る施策を総合的かつ計画的に推進する必要があることから、今般のＡＩ法案を提出させていただいたところであります。

○山谷えり子君　本日はＡＩ関連法についての審議ですので、チャットＧＰＴをいろいろ活用してみたいと考えています。 　まず、城内大臣のこの意気込みはいかがですかとチャットＧＰＴに聞きましたところ、強い意欲を示していますとあって、何月何日にこういう記者会見をやったというのがずらっと書かれておりまして、そして、法案に対して積極的な姿勢を示し、日本がＡＩ技術の分野で世界をリードするための取組を進めていますというふうに結ばれています。 　また、国会質疑において三十分でどういう質問をしたらいいですかというのも聞いてみました。そうしましたら、非常に細かくて、一番、総論に対して五分、二番、ＡＩ利活用の促進に関して五分、リスク、規制、透明性に関して十分、人権、倫理、プライバシーへの配慮に関して五分、国際連携、技術革新、今後の展望について五分と書いてありまして、必要であればパワーポイントやスライドの要約資料も作成可能ですと、非常に細かい項目も出ているんですね。 　そして、この法案への取組、何点だと思いますかと聞きましたら、七十五点と書いてありまして、評価ポイントは、イノベーション推進とリスク対応の両立を目指す姿勢、国際協調と柔軟性のある制度設計、それから司令塔機能の強化とあります。 　では、課題と懸念、減点要素は何ですかと聞くと、罰則規定の欠如による実効性の懸念、リスク対応の具体性不足、市民の権利保護への配慮不足というのが書いてありまして、なるほどと思う一方、データをどこからどう取って組み合わせたのかなという違和感がある部分もございます。出典先が書いてあるものもないものもあります。回答は必ずしも正しいとは限りませんとも書いてあるんです。 　例えば、法案をチャットＧＰＴに作らせる、国の方向性を決めることに使うと、ディスインフォメーションとかディープフェイクとか、あるいは外国からの干渉など、意図が入った場合に恐ろしいことになるということは肝に銘じなきゃいけないかなというふうにも思いましたけれども、今、このチャットＧＰＴのもろもろもろもろ、城内大臣はどんな感想をお持ちになられましたか。

○国務大臣（城内実君）　感想を申し上げますと、ＡＩは、ある程度の出力によって、必ずしも全部ディープフェイクではなくて、適切な客観的事実に基づく情報を出力し提供してくれている反面、やはりそれが全てが全部正しいとは限りませんし、誤情報、偽情報も時々混入するやに伺って、認識しておりますので、そういった点からは、やはり、最終的には人間が、人間中心のＡＩということをうたっておりますので、人間がしっかりとチェックする、しないとその分リスクの対応に追われることになるのではないかと思いますが。 　ただ、他方で、数年前に比べて、出力する、出てくる情報の精度はかなり上がって、どうしてこんなことまで分かっているのかなという。例えば、私自身について数年前に問いただしたら半分ぐらいが全く偽情報だったんですが、最近はかなり正確に出力が出ていますので、そういう点では相当程度進歩しているなというふうな感想であります。

○山谷えり子君　成立すれば、基本理念の下、ＡＩ戦略本部が基本計画を策定し、施策を進めていくわけですけれども、この基本計画の考え方、作成へのプロセス、スケジュール、御説明いただけますでしょうか。

○国務大臣（城内実君）　お答えします。 　委員御指摘のＡＩ基本計画は、各府省庁によるＡＩの研究開発から活用に至るまでの幅広い施策を政府として一体的かつ横断的に進めるために策定するものであります。 　具体的には、本法案に定める基本理念や基本的施策を踏まえまして、ＡＩの研究開発、活用の推進に関する施策の基本的方針や、その基本的方針の下で政府が総合的かつ計画的に講ずべき施策等について定めることとしております。 　また、その策定に当たりましては、全ての閣僚から成るＡＩ戦略本部での議論に加えまして、有識者の御意見を伺うなどのプロセスを丁寧に進めていきたいと考えております。 　他方で、ＡＩの進展の速さを踏まえますとできる限り早期に策定する必要があると認識しており、本法案が成立した暁には、まずは本年、本年内の策定を目指して関係府省庁で一丸となって精力的に取り組んでいく考えであります。

○山谷えり子君　ありがとうございます。スピード感を持って、そして関係省庁の連携、よろしくお願いいたします。 　発展が見込まれるＡＩ活用の分野についてチャットＧＰＴでまた聞いてみたんですね。そうしましたら、八分野挙げられていまして、一、医療、バイオヘルス、二、製造業、三、農業、漁業、四、教育、五、交通、モビリティー、六、金融、七、創作、エンタメ、メディア、八、行政、公共サービスと書いてありまして、それぞれにまた細かく書いてございます。 　例えば、医療、バイオヘルスだと画像診断、ロボット手術など、そして交通、モビリティーですと自動運転車、それから金融などではクレジットスコア、ローンの審査、資産運用、行政、公共サービスでは災害予測と対応、避難支援などといろいろ書いてありまして、確かに効率化、生産性上がることが期待されるわけですけれども、しかし、ＡＩを組み込んだ製品などが間違った判断をする、またＡＩによる差別的な取扱いが起きる可能性もある。 　生成ＡＩによる証券口座乗っ取りとか詐欺とかいろいろ今あるわけですけれども、命に関わる事故やミスがあった場合、責任の所在、救済、補償についてどう考えるか、今後どういうふうに検討していくか、お教えください。

○国務大臣（城内実君）　ＡＩの利活用によって生じる損害に対する責任の考え方を救済や補償の在り方を含めて明確化させていくことは、ＡＩの開発や利活用を促進していく上で非常に重要な視点だと考えております。 　こうした観点から、個別の分野につきましては、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等につきましては産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。 　今後、司令塔たるＡＩ戦略本部の下で、自動運転車以外の様々な分野についても、ＡＩの利活用によって生じる損害に対する責任の捉え方、考え方を明確化させるべく、関係省庁と緊密に連携しながらしっかりと取り組み、検討を深めてまいる考えであります。

○山谷えり子君　本当に驚きの進化とどう向き合っていくか、速い、速く進展をするＡＩでございます。今見えているリスクだけがリスクではない、情報収集と対応、臨機応変の素早さが求められていくというふうに思っております。 　続きまして、教育についてお伺いしたいと思います。 　個別最適化学習の支援ということが言われているところですけれども、基本計画に教育をどう位置付けていくのか。多くの学生生徒がＡＩを使っている状況でございます。 　今回質問するに当たって、ちょっと中学生たちにヒアリングをしてみたんですね。使っているかと聞きますと、多くの中学生が使っているよって。例えば最近どんなことに使ったのと聞きましたら、浅草に社会科見学に行くから浅草について調べろって先生から言われたから、それをチャットＧＰＴで出してもらった。でも、チャットＧＰＴっぽいから、もっと中学生っぽくやってと言ったら、またそれを出してくれた。それから、浅草で外国人の観光客と会うかもしれない、そのときに浅草の魅力を三十くらいの英単語で説明してと言うと、またさっと出てくると、すごく便利だと言うんですね。 　私は、いや、それじゃ記憶に定着しないでしょうと言ったら、それはすぐ忘れればいいんだと、また必要なら出してもらえば、チャットＧＰＴで聞けばいいんだし、一生それが必要なければそれでいいじゃないという答えを聞きまして、いや、何というか、学びへの姿勢が変わってきているし、これからも変わっていくだろうなというふうに思いました。 　脳科学、発達心理学の立場からは様々な研究が出ておりまして、例えば東北大学加齢医学研究所教授の川島隆太先生、「スマホが学力を破壊する」、私も読みましたけれども、インターネットを使う時間が長いほど前頭葉、側頭葉の発達が止まって、情報伝達の役割を果たす部分、脳全体にわたって止まると、自尊心、自己肯定感、感情抑制力が低くなると。ほかにもいろいろな研究、欧米でもなされておりまして、記憶力や集中力、探求心が低くなるとも言われております。 　昨年十二月、文科省は、生成ＡＩ利活用ガイドライン、初等中等教育段階におけるガイドラインで、ＡＩは使い方によって人間の能力を補助、拡張し、可能性を広げると捉えるべきと記しておりますけれども、楽観的過ぎないかなというふうに思います。また、先生も御指導本当に困っておられます。 　これから学習指導要領の議論もあると思いますけれども、デジタル学習やＡＩの取扱いについては、発達年齢、段階を踏まえて、脳科学者、心理学者、教育者、保護者など加えながら慎重によく検討してほしいと思いますが、どのように考えを整理していかれるのでしょうか。

○政府参考人（日向信和君）　お答えいたします。 　生成ＡＩを始めとする様々なデジタル技術が急速に普及する中、デジタル化の負の側面等の顕在化も指摘されており、それらに適切に対応していくことが重要であると考えております。 　現在、中央教育審議会におきまして、生成ＡＩを始めデジタル技術が飛躍的に発展する中で、デジタル化による負の側面も踏まえ、情報活用能力の抜本的向上を図る方策について、情報モラルやメディアリテラシーなどの育成強化も含め、具体的な検討を行っているところです。 　例えば、フィルターバブルなどのデジタル化社会の負の側面に対し情報モラルの育成など、情報技術を適切に扱うことができるようにすることなど具体的な議論を進めていただいているところでございまして、このような議論を踏まえながら引き続きしっかりと検討を進めてまいりたいと考えております。

○山谷えり子君　教育のデジタル化は、今、先進的に進めた諸国で見直しの動きが進んでいます。 　城内大臣も先日、四月十一日の衆議院の内閣委員会で、脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されておりますとも答弁されておりますので、教育の場でのデジタル教育やＡＩの利活用についてはしっかりした、いろいろ複合的な視点から考えながら検討をしていただきたいというふうに思っております。 　さて、ＡＩ学習用の言語のデータベース、コーパスの整備についてでございます。 　ＡＩは英語の大規模言語モデルが軸となっていると言ってもいい現状でありまして、日本語は英語に変換されて、解析して日本語にして出力されることも多い。 　日本語、文化、表現のニュアンスは非常に繊細でありまして、日本語のデータベースも増えてきてはおりますけれども、例えばチャットＧＰＴで赤、赤の色、伝統色について尋ねると、緋色、朱色、紅色、紅、赤紅、濃紅、えんじなんて出てきます。雪の表現、言葉、言い回しを聞きますと、粉雪、綿雪、ぼたん雪、細雪、吹雪、みぞれなんて出てきますけれども。 　なかなか出てきているなという部分と、いや、もっともっとあるだろうという部分とあるわけでございますけれども、日本語のデジタル基盤整備事業はどうなっているのか、また今後どんなふうに取り組んでいくのか、方向性をお示しください。

○政府参考人（中原裕彦君）　お答え申し上げます。 　文化庁におきましては、国立国語研究所が過去に整備しました現代日本語書き言葉均衡コーパスにつきまして、令和六年度から五年計画で直近二十年分の約一億語分のデータを追加しまして、言語コーパスの充実を図る事業というのを実施させていただいてございます。 　この事業は、現代日本語の書き言葉の縮図となりますよう、統計的手法によりまして対象を選択し、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。これらのデータは、信頼度が高く、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニングなどでの活用も想定しております。 　今後も、本事業の着実な実施に向けて取り組んでまいります。 　また、方言と申しますのは、その地域の文化の基盤を成すものでございますけれども、その衰退が著しく、消滅の危機にあるとユネスコに認定されているものもございます。そのため、文化庁におきましては、そうした方言の保存、継承にも取り組み、記録を蓄積してまいりました。 　加えて、全国的に方言の衰退が進んでいる現状を踏まえまして、今後は大規模言語モデルでの活用も想定した全国方言の記録及びデータベースの作成の計画にも着手してまいりたいと存じます。

○山谷えり子君　着実な実施をお願いしたいと思います。 　基本理念として掲げるのが、人間中心のＡＩなんですけれども、ちょっと抽象的過ぎて何を意味しているのかよく分からない部分がありますので、具体的に説明をお願いします。

○政府参考人（渡邊昇治君）　人間中心についてお答えをいたします。 　この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。 　一つは、この人権を例に取って御説明しますと、差別的な発言をＡＩに作らせようとすると、ＡＩの方でそれを拒否するというのが一つございます。これはどういう技術かといいますと、何通りかパターンがあるんですけれども、そもそも偏見、差別的な情報をＡＩが学習しないようにすると、これはＡＩ開発者が努力するというのがございます。それともう一つは、フィルターを使いまして、何か不適切な質問に対しては、それをフィルターではじくとか、あるいはその不適切な出力をフィルターではじくと、こういう技術がございます。こういうことで、人権を侵害しないような努力というのを開発者はやっています。 　もう一つの例は、これは私が最近体験したものなんですけれども、私がある数学の問題をＡＩに解かせようとすると、ＡＩは、あっ、なかなか難しくていい問題ですねと、じゃ、一緒に考えましょうかという回答が来まして、いや、分からないから質問したのに一緒にって言われても。ただ、これ、そのＡＩ開発者の方に聞いたところ、要はやっぱり人間にも考えさせる、人間をサポートするというのがそのＡＩの重要な部分なので、そういうパターンで答えているんじゃないかというふうに言われました。 　こういう形で、人間がＡＩ依存症に安易に陥らないように、そういうＡＩ開発者の方で工夫はされているということでございまして、こういう取組を是非政府としても推奨させていただきたいというふうに考えております。

○山谷えり子君　ありがとうございます。大分具体的に説明をしていただきまして、ありがとうございます。 　また、チャットＧＰＴに人間中心のＡＩについて聞いたんですね。五点明示されておりまして、一が倫理性の重視、プライバシーの尊重、公平性、透明性、説明責任、差別やバイアスを防ぐ設計が求められる。二番、人間の福祉の促進。三番、人間の関与と制御の維持、意思決定において人間の最終判断を尊重する、例えば自動運転でも緊急停止ボタンが人にある、完全な自律よりも協働を目指す。四番、透明性と説明可能性、ＡＩの判断や行動が理解できるように説明されること、利用者や関係者がＡＩの仕組みや限界を知ることができる設計。五、インクルーシブな設計、特定の層に偏らず、誰もが恩恵を受けられるように開発される、弱者や少数派にも配慮したアルゴリズム設計。 　まあ本当になるほどなとは思うんですが、しかし、ＡＩの開発者、事業者、提供者、利用者に対して適切に自主的に取り組むようにと言われてもなかなか難しいんではないかなと、今本当にかなり具体的に御説明いただいたんですけれども、それがそれぞれの皆様に徹底されるかというと、なかなか難しいかなというふうに思います。 　また、情報提供の場合、これはＡＩで作成しましたというクレジットを入れる必要もあるんじゃないかなとか、いろんなふうに思うんですが、どんなデータを入れてこうなったという明示も必要で、人間中心といっても、本当にどこまでも難しいと思いますが、この今の現状をどのように皆様に理解してもらう努力をしていこうとお思いですか。

○政府参考人（渡邊昇治君）　最近のＡＩは、先ほどちょっと御紹介がありましたけれども、出典、この回答の出典はここですというのを表示するようなＡＩが結構メジャーになりつつありまして、そういうことによって、信頼できる情報かどうかを改めて人間がもう一度確認をするということができるようになっています。こういう技術を私どもとしては広報していきたい、広報活動をしっかりやっていきたいというのもございますし、分かりやすいコンテンツを作ってリテラシー教育に貢献をしていきたいというふうに思っています。 　ただ、一つ私どもの悩みは、ＡＩ技術とか倫理問題に詳しい方というのは、詳しいので、すごく難しく、難しい言葉を使う傾向がございまして、こういうＡＩ技術とか倫理とか法律とか政策とか、すごく幅広い知識を持っていて、しかもそれを分かりやすく教えると、そういう方をやっぱり増やしていくということも大変重要だと思っていまして、そういう活動に是非取り組んでいきたいというふうに思います。

○山谷えり子君　続きまして、海外の悪質な事業者への対応についてお聞きいたします。 　協力責務があるといっても、これ、悪質な事業者に対しては大丈夫かなと思うんですが、いかがでしょうか。

○政府参考人（渡邊昇治君）　私どもの法案が成立いたしますと、不正な目的あるいは不適切な利用によって被害が生じた場合には国としてしっかり調査をするということになると思いますけれども、これ、当然、その事業者が外国籍事業者、日本に法人を持たない、あるいは事業所を持たない場合であっても調査をしていきたいというふうに思います。仮に友好国ではない国の企業が問題を起こした場合には、なかなか難しい問題がございますけれども、可能な限りの手段を尽くして調査等を実施してまいりたいというふうに考えております。 　また、なかなかその調査で正確なことが分からなかったとしても、こういう懸念があるものがはやり始めているということをしっかり情報提供させていただくということが重要かなというふうに思っております。

○山谷えり子君　実効性を高めていくように、不断の見直し、努力をお願いしたいというふうに思います。 　続きまして、日本のマーケットだけでは狭うございます。日本は東南アジアとのつながりも強くて、衆議院の参考人の意見聴取で、東京大学大学院工学系研究科人工物工学研究センター松尾豊教授などは、例えば東南アジアの諸言語をつなぐ大規模言語モデル、ラージ・ランゲージ・モデル、ＬＬＭができればビジネスも増える、日本がイニシアチブを取っていくべきではないかと述べられておりますけれども、民間の取組の支援、日本の強みを生かす勝ち筋を求めていくことについては、政府はどう考え、取り組んでいかれますでしょうか。

○政府参考人（奥家敏和君）　お答え申し上げます。 　国内の事業者により開発されたＡＩを海外に展開していくことは、若い技術者などの活躍の場を広げるとともに、我が国の産業競争力の強化の観点からも重要であるというふうに認識しています。 　御指摘のとおり、特に東南アジアは有望な市場と認識しております。経済産業省では、これまで、マレーシア工科大学やバンドン工科大学における日本のトップＡＩ専門家によるＡＩ人材育成プログラムの実施、また、アジアのＩＴサービス関連業界団体の全体会合、こちらにおいて日本のトップＡＩスタートアップを紹介し、協業を提案すると。さらに、グローバルサウス補助金を活用しまして、我が国の優れたＡＩ開発企業と東南アジアの現地ユーザー企業とのマッチング、そして実証、こういった取組をしています。 　具体的な実証事業の一例としまして、日本のフィンテック企業のココペリ、こちらがＡＩスタートアップのイライザと連携しまして、ビジネスマッチングプラットフォームにタイ語と日本語を理解した生成ＡＩを搭載してタイへの展開を進めていると、こういった事業に支援をしているというところでございます。 　引き続き、こうした取組を推進して、国内事業者の東南アジア展開を促進していきたいというふうに考えています。

○山谷えり子君　力強く未来を切り開いていただきたいと思います。 　生産年齢人口減少の中に、ＡＩ技術が経済に対する貢献というのは大きいと思います。しかし、リスクも不安も大きいわけでありまして、二〇二五年二月四日の内閣府のＡＩ戦略会議発表の中間とりまとめの中の意識調査では、ＡＩには規制が必要が七七％、悪用や犯罪に対して法的対策の強化の必要が六六％と出まして、既存法で対応できない場合、速やかに法的措置も考えていく必要があると考えます。 　ＡＩの活用戦略を確かなものとしていくために、既存法令、ソフトロー、ガイドラインでの対応、関係省庁の連携、ますます重要でありますが、最後に、城内大臣、審議を通じて感じていらっしゃることをお伝えください。

○国務大臣（城内実君）　まず、この本法案、ＡＩのイノベーションの促進とリスクの対応、これ両立を図るということでありまして、やはり我が国が目指すべきは、世界で最もＡＩを開発、活用しやすい国となることを目指すことであって、そういう意味でこれは非常に重要な法案であり、しっかり丁寧に審議を進めていく考えであります。 　まずは、本委員会においてこの法案をお認めいただけるよう、その趣旨はもちろんのこと、実施する取組内容についてもまずはやはり御理解いただけるよう尽くしていきたいというふうに思います。 　その上で、この本法案が成立した暁には、研究開発の推進、人材育成等、本法案に規定された施策等を全力で進めていくことが大事ではないかなというふうに考えております。その際、やはり我々が人間であり日本人であることをしっかりと意識し、それを誇りに持って取組を進めていく考えであります。 　例えば、ＡＩ研究開発については、ＡＩは国民生活や経済社会に密接に関係することから、やはり日本語で、先ほど山谷委員の御指摘にあったように、日本語を重視して、日本の文化や商習慣等を正確に回答できる、日本人の心、日本人の情緒を持った国産ＡＩをしっかりと開発していくことが私自身は重要だというふうに認識しております。 　いずれにしましても、国際社会の中で我が国がリーダーシップを発揮できるような形でＡＩ政策の推進を図ってまいる考えであります。

○山谷えり子君　司令塔をしっかりし、よろしくお願いいたします。 　ありがとうございました。

○石川大我君　おはようございます。立憲民主・社民・無所属の石川大我でございます。 　私のこれからの質問は、チャットＧＰＴなど生成ＡＩは使っていないということをまず初めに申し上げたいというふうに思っております。人力で作らせていただきました。 　ＡＩ新法ですけれども、このＡＩというものがこれからの我々の社会をより良い方向に導いてくれるのか、それとも悪い方向に導いてしまうのかというのは、なかなか分からないところがあるというふうに思います。 　もちろん、私はこのチャットＧＰＴなど使って、そして生成ＡＩを使って、ＡＩというものがより良い日本の国、そして世界というものをつくっていただきたいなというふうに思っております。当然、それは世界が平和になり、あるいは差別とか貧困というものがなくなり、そして世界の人々が豊かに暮らすというような未来像を夢見ていることは、もうこれは間違いないと、皆さんがそう思っていることは間違いないと思うんですが、今日の質問は、少しやはり心配な部分というのがありますので、是非その辺りも聞かせていただきたいというふうに思います。 　まず、ＡＩの平和利用についてお伺いをしたいと思います。 　ＡＩを活用したことによって平和な社会が来たんだということになればいいんですけれども、それが、五十年後、百年後の皆さんが今日の議論を聞いたときに、ああ、あそこでこの議論をしていたから世界が平和になったんだというふうに思っていただけるような、そんな五十年後、百年後の皆さんに向けた質問でもあるのかなと思っておりますけれども、このＡＩを活用したことによって安全保障環境が悪化してしまっては仕方がないということで、私たち日本は、憲法前文そして九条の平和主義を持つ国として、ＡＩの利用の限界についてまず政府の考えを教えてください。

○副大臣（本田太郎君）　お答えいたします。 　現在、科学技術が急速に進展する中、ＡＩはその有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでいます。 　防衛省も、防衛力の抜本的強化に当たり、ＡＩを積極的に活用することとしています。具体的には、防衛省においては、一般行政事務から装備技術、部隊運用まで、広範多岐にわたる分野でＡＩを活用していくこととしています。 　なお、我が国は一貫して憲法の基本原理である平和主義の理念の下で防衛政策の推進に努めてまいりました。これからも、ＡＩの活用においてもこのやり方は変わることはございません。

○石川大我君　法文の三条を見ますと、基本理念で、安全保障の観点からも重要な技術であることに鑑み、人工知能関連技術の研究開発を行う能力を保持するとともに、人工知能関連技術に関する産業の国際競争力を向上させることを旨として行うというふうに書いてあります。 　ＡＩに関連する防衛産業についても積極的に購入などを含めて検討されるのか、また日本企業がＡＩに関する防衛産業の一翼を担うということを期待をしているのかということをお答えください。

○副大臣（本田太郎君）　ＡＩを含む科学技術の急速な発展が安全保障の在り方を根本的に変化をさせ、従来の戦闘様相が大きく変化する中におきまして、我が国にとって新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題となっております。 　このような認識の下、防衛省では、ＡＩ等の先端技術を取り扱う企業、中でもスタートアップ企業との連携を重視しておりまして、具体的な施策といたしましては、経済産業省の支援を得て、防衛産業へのスタートアップ活用に向けた合同推進会等において防衛省・自衛隊とスタートアップのマッチングを推進すること、また、早期装備化事業のための取組においては、自衛隊の装備品への活用を念頭に優れたスタートアップの技術の活用を図ること、さらには、安全保障技術研究推進制度において、防衛分野での将来における研究開発に資することを期待してスタートアップの先進的な基礎研究を支援すること、また、政府全体の取組に倣い、技術力のあるスタートアップ企業が一定の要件を満たせば随意契約を結ぶことを可能とする制度を昨年十二月に導入したことなどが挙げられます。 　こうした取組が功を奏し、現在防衛省では、ＡＩや無人機、ドローン、宇宙などの各種のスタートアップ企業との間で契約を締結しており、防衛省としてこうした取組を今後も進めてまいります。 　同時に、ＡＩの活用に伴う課題やリスクについては、政府においても、また国際社会においても様々な議論が行われていることに留意する必要があり、この点も踏まえつつ、ＡＩ等の先端技術の活用について防衛産業に関わる企業とのコミュニケーションを密にして対話を進めていく方針であります。

○石川大我君　今お伺いして、かなり前のめりなのではないかなというふうに不安に思います。 　令和六年七月のこの防衛省作成の防衛省ＡＩ活用推進基本指針について副大臣からも御説明がありましたけれども、新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題であるですとか、人員の効率的な活用など、ＡＩの意義をも強調しまして、これ、ＡＩを軍事利用を際限なくすることの危険性というのは非常にあるんじゃないかというふうに思っております。 　平和国家日本として許されない一線というのはこれどういうふうに捉えておるんでしょうか。

○副大臣（本田太郎君）　防衛省は、意思決定の迅速化や情報収集・分析能力の向上などの効果を狙いとして、各種の分野においてＡＩの活用を重点的に推進することとし、様々な事業を進めているところであります。 　そして、この際、昨年七月に策定した防衛省ＡＩ活用推進基本方針においても、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されているとおり、ＡＩ活用推進に当たっては人間中心の考え方の下で進めることが不可欠であると認識しています。 　防衛省といたしましては、ＡＩ事業者ガイドラインも参考としつつ、人間の関与に係る議論を含め、政府内、国際社会などの議論にも注意を払い、ＡＩの活用に取り組んでまいる、そのような考え方で進めております。

○石川大我君　昨日の防衛省さんとの打合せの中でも、国際規約を守るとか、あと、先ほどからお話しになっている人間中心の考え方というようなお話が出ているんですが、ここから先はもうやれないと、平和国家としてここはやらないんだというようなお話は最後まで出ませんでした。 　例えば、ＡＩが独自に判断をして相手を攻撃するような自律型のそういった防衛装備品というんですかね、そういったものは、これはさすがに駄目だと、そういうようなことはあるんでしょうか。

○政府参考人（家護谷昌徳君）　近年、急速な技術の発展を背景にしまして、ＡＩの軍事的な利用に関する議論が活発化しております。我が国としましても、関連する議論及び国際的なルール作りに積極的かつ建設的に参加してきたところでございます。 　我が国としては、国際人道法の原則は、新興技術を活用するものを含めましてあらゆる兵器に適用されるべきであるとの立場でございます。防衛省・自衛隊においても、当然のことながら、国際法や国内法により使用が認められていない装備品の研究開発を行うことはございません。

○石川大我君　まあある意味それは当たり前のことで、この指針を見ますと、最後のところにはこう書いてあります。我々は今、ＡＩの活用により効率的で将来を自らつくり出す組織となるのか、後れを取って非効率で旧態依然の組織となるのかの分岐点であると、どちらを選び取るかは今後の我々の努力に懸かっているというふうに書いてあって、ＡＩを活用することが効率的で、将来を自らつくり出す組織ですばらしいんだと、後れを取ると非効率で旧態依然の組織となるというふうに、これ果たして、ＡＩというものを、行け行けどんどんで、バスに乗り遅れるなと言わんばかりに活用することがいいのかということをしっかりやっぱり憲法の原則、平和国家としての原則に基づいて見極めをしっかりしていくことが大切だと思いますが、いかがですか。

○副大臣（本田太郎君）　防衛省におきましては、装備品も含めてですけれども、一般行政事務から装備の技術、部隊の運用、広範多岐にわたる分野でＡＩの活用を推進していこうと考えているところでありまして、おっしゃったとおり、その平和国家である日本の憲法、これに反する、又は国際議論に反する形でのＡＩの活用を考えているわけではありません。

○石川大我君　先ほど、五十年後、百年後の方々が今日の議論を聞いたときに、あのときＡＩ使うというふうに言ったからこうなっちゃったんだになるのか、あるいは、あのときＡＩをしっかり使うというふうに方針を定めたからこのいい未来になったんだというふうになるのかはまだ分からないというふうに思うわけです。 　そういった意味では、私たちの先人の知恵であるところの平和憲法や基本的人権の尊重など、憲法との整合性、そういったものをしっかりと、その場その場でしっかり判断をしていただき、しっかりと、憲法をこれ超えているんじゃないかというものがあるようであればしっかりと立ち止まるということ、あるいは戻ってくるということも非常に大切だということを御指摘をさせていただきたいと思います。 　次の質問に移ります。 　ここで、防衛副大臣、本田副大臣は、これ以降の答弁ございませんので、御配慮をお願いいたします。

○委員長（和田政宗君）　本田副大臣は退席なさって結構です。

○石川大我君　そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。 　ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということで、差別や偏見というものがより強化されてしまうという問題があるということです。 　このバイアスの確認、修正について、城内大臣はＡＩ開発者が必要な措置を講じるよう方針に盛り込むと答弁されていますが、そのバイアスにどうやって気付くかというところがまた問題だと思います。チェックする人の多様性を確保するですとか、違うＡＩで今度チェックをするというようなこともあるようです。相互検証、ピアレビューのようなこととか、工夫が必要だというふうにも思っております。 　また、ＳＮＳなどについて、アテンションエコノミー、フィルターバブル、エコーチェンバーなどの問題が指摘をされています。特に、昨年来、選挙を含めて、その負の影響が急速に強まっていると思われます。偏りが増幅されて、信念が強化をされて、少数の人たちが過激化していきます。その極端な意見というものがマスコミで面白おかしく取り上げられると。あるいは、著名人や、あるときは我々国会議員がこういったものを拡散して、そういった情報にまた基づいて人々が行動して、現実社会に対して悪い影響をもたらすということは我々経験をしてきたところです。選挙や、あるいは女性支援団体たたきというのも今非常に問題になっていますが、そういった問題についても被害があります。 　実はここにもＡＩが大きく関わっておりまして、ユーザーの抱く偏りにマッチした情報に触れやすくなってしまっていると。その反復で一定程度固まってしまうと、異なる意見、情報というものを目にしても受け付けなくなって信念を強めるということで、ＡＩのリスクというのは将来の問題ではなく現在の問題でもあるということだと思います。それが加速しているんではないかというふうに感じられますが、対策が必要だと考えますが、大臣のお考えをお示しください。

○国務大臣（城内実君）　お答えします。 　今のいわゆるバイアスの話とか、アテンションエコノミーという御指摘ございましたけど、まず、本法案に基づきまして国が整備する指針では、このバイアスの問題も含めまして、ＡＩによる不適切な出力をできる限り抑制する工夫をＡＩ開発者等に求めていく考えであります。 　また、ＡＩ開発者が講じる工夫としては、例えば、そもそもバイアスのあるデータを学習させない、そして、出力結果を評価するツールをしっかり開発して不公正なバイアスがないかしっかり点検すると、そして、ＡＩ同士を対話させ、ＡＩにＡＩをチェックさせると、様々な方法が想定されます。 　その際、何がバイアスかが判断しにくい微妙なケースが多々あるとは承知しておりますが、他国で開発された評価ツールでは日本の文化、習慣、歴史等を正確に反映できていない可能性があるため、こういった点では、国産のＡＩ、国産の評価ツールの開発や、複数のツールを言わば併用、比較していくことが重要だというふうに考えております。 　また、ＡＩが関わるような社会問題を含めたＡＩの利活用に関する諸課題への対応につきましては、これまでもＡＩ戦略会議あるいはＡＩ制度研究会において様々な議論をしっかりやってきたところであります。 　こうした議論を踏まえまして、今回提出しているＡＩ法案の一つの特徴といたしましては事業者の自主的な取組を尊重しているところなんですが、これに対して事業者に対する規制は必要であるという意見もあるとは承知しておりますが、いずれにしても、今回の法案による事業者の自主的な取組を促進しつつ様々な創意工夫を推進することとしておりまして、国といたしましても、本法案に基づく情報収集等により、そうした中での好事例を展開していくと同時に、リスクに対する対応はしっかり取り組んでまいる考えであります。

○石川大我君　是非よろしくお願いしたいと思います。 　そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。

○国務大臣（城内実君）　今後、戦略本部の下でしっかりとした対応をつくっていく考えでありますので、有識者の方々とも、あるいは関係省庁とも連携しながら、石川委員御指摘のことも踏まえて、しっかり対応していく考えであります。

○石川大我君　是非よろしくお願いしたいと思います。 　次の問題です。 　ＳＮＳ上のデマとか誹謗中傷の問題でこのＡＩが活用されてしまっているという例なんですけれども、例えばチャットＧＰＴに気に食わない相手の投稿についてのファクトチェックをさせるんだそうです。ファクトチェックするのはかぎ括弧付きのファクトチェックですけれども、気に食わない相手の投稿について、さもファクトチェックをしているようにＡＩに、チャットＧＰＴにさせるんですね。そうすると、その答え、チャットＧＰＴの答えにＳＮＳ上の流れているデマが反映されて、それで、そのファクトチェックを、忖度をするというか、空気を読んでというか、その質問者の意図を酌んで、質問者の主張に沿った形でチャットＧＰＴが答えてくれちゃうんだそうですね。 　そうすると、その得た者がファクトチェックだというふうに言って、それを世の中に表示すると。そうすると、その偏見を含んだ形のファクトチェックというものもある意味作れるようになってしまうという、非常に難しい問題だなというふうにもあります。 　そうなると、やっぱり学校教育、これ衆議院でも論じられておりますけれども、やっぱりこれ、教育の問題、リテラシーの問題、大人への教育啓発というものを、やっぱり薄いと思いますので、そういったところ非常に必要だなというふうにも思っております。 　例えば、ＡＩを活用して、偏った発信をするユーザーを検知し、柔らかく働きかけて、聞く耳を持つようであれば、人間のオペレーターにつないで適切な相談体制につなぐとか加害者プログラムといったところにつないでいくとか、フィルターバブル、エコーチェンバーにはまり込んでしまう前に引き戻していくというような取組が必要なのではないかということも言われておりますが、こうしたことを専門家とか民間の方々と協力して進めていくということ大切だと思いますが、いかがでしょうか。

○国務大臣（城内実君）　御指摘のとおりでありまして、ＡＩは二十四時間三百六十五日ずっと稼働し続けておりまして、そういった点から、寝ずに人間よりもまさに大量の偽情報を作り出すことも可能であるというふうに認識しております。 　そのため、ＡＩやＳＮＳの利用者が、ＡＩやＳＮＳ上には常に偽情報が含まれていると、そういった認識を持つことが重要だというふうに思います。そして、分かりやすいコンテンツを作成して、全世代を対象にしっかりと広報を進めるなどの取組も必要だと考えております。 　また、ＡＩの分野は技術変化が大変速く、かつ、委員から御指摘いただいた内容は、やはりその技術、倫理、法律、若者文化の様々な問題が複雑に絡み合い、この全てを理解し、利用者のリテラシーを高めるなど、対策をしっかり講じることができる人がやはりまだ少ないと、こういう問題もあるというふうに認識しております。 　いずれにしましても、ＡＩに関するリテラシーの向上、これが非常に重要でありまして、学校教育や行政職員向けなど様々な研修を開催することが必要であり、そうしたことに対応してくれる今事業者も現れております。 　いずれにしましても、学校、民間事業者、公的機関などがしっかり連携して利用者のリテラシー教育を進めていくことが、委員の御指摘のとおり、極めて重要だというふうに考えております。

○石川大我君　是非よろしくお願いしたいと思います。 　話題を変えて、性的ディープフェイクについてお聞かせ願いたいというふうに思います。 　衆議院の審議でも論点というふうになりました性的ディープフェイクについて伺います。まず法務省に伺いたいと思いますけれども、四月九日の衆議院内閣委員会では、このディープフェイクというのは、例えば顔を実在するお子さんの顔、そして体は生成ＡＩで作ったもので、それを拡散されてしまうと、そういった問題ですけれども、その内閣委員会、衆議院では、問題となっているその児童の姿態を、姿態というのが、実在する児童の姿態だと言える、姿態というのは姿という字を書きますけれども、その姿態だと言えるということであれば児童ポルノに該当し得るという抽象的な答弁でした。最高裁の決定もあるわけですけれども、現在の法律で果たしてカバーできるのかというような論点があります。 　例えば、実際は顔は実在の児童であっても、体、裸の体がフェイクである、つまり、実在の児童のものでなければこれ規制が難しいということになっています。しかし今、卒業アルバムで先ほどお話ししたような被害が多発をしているということでして、この答弁の趣旨ですが、裸の身体が実在の児童でなくても、画像を全体として見て実在の児童の姿態の描写であるとみなせるのであれば児童ポルノに該当するということなのか、それともしないということなのか、その辺りをお聞かせください。

○政府参考人（吉田雅之君）　いわゆる児童ポルノ禁止法上の児童ポルノは、犯罪構成要件の一部を成すものでございます。そのため、ある画像等を記録したものが児童ポルノに該当するか否かは犯罪の成否に関わる事柄でございまして、収集された証拠に基づいて個別に判断されるべき事柄であることから、お答えは差し控えさせていただきたいと存じますが、あくまで一般論として申し上げますと、児童ポルノ禁止法二条三項の児童ポルノについては最高裁判所の決定において次のように判示されております。 　すなわち、写真、電磁的記録に係る記録媒体その他のものであって、二条三項各号に掲げる、同項というふうに判示ではなされていますが、二条三項各号のいずれかに掲げる実在する児童の姿態を視覚により認識することができる方法により描写したものをいい、実在しない児童の姿態を描写したものは含まないものと解すべきであると、このようにされているところでございます。 　ここでいう児童ポルノに該当するか否かについては、こうした判例を踏まえつつ、個別の事案ごとに具体的な証拠関係に照らして判断されることとなるものでございます。その意味で、冒頭申し上げたように、ある画像が児童ポルノに当たるのかどうかということを申し上げることは差し控えさせていただきたいと存じます。

○石川大我君　最高裁の決定が一例しかないということで、キーワードとなるのが、実在する児童の姿態と評価できるかというのがポイントで、実在しない児童の姿態というものがわいせつ部分というと、わいせつ等と評価される部分というところに当たると非常にこれ難しいんじゃないかということで、例えば腕のところに特徴的なほくろとかあざみたいなものがあって、それは夏になると半袖とかタンクトップとか着ますから普通にクラスメートなんかも分かるというような状況で、その顔と腕が本物で、胸とかそういう局部の部分がディープフェイクであるというようなとき、こういった場合は、これも分からないということなんでしょうか。

○政府参考人（吉田雅之君）　今御指摘ございましたように、ディープフェイクポルノには様々な形態のものがあろうかと存じます。 　それらが実際に児童ポルノ禁止法上のこの児童ポルノに該当するかどうかということは、個別の事案ごとに証拠に基づいて判断されるということになりますので、お答えは差し控えさせていただきたいと存じます。

○石川大我君　そうなんですよね。ですから、国民感情とすれば、顔がその方で、そして何かその人と分かるようなほくろなりあざなりとか特徴があったとして、そして裸にされてしまっているというようなところを見たときに、そういうものが出回っている、当然、当事者の被害者の方というのは非常に傷つくわけです。深い傷を、心に傷を負うわけですよね。 　そうしたときに、それが明らかにこれは偽物だというふうに分かるという時代はもう終わって、それが本物なのか、それともディープフェイクなのか、生成ＡＩによるものなのかというのはもう分からない時代に来ているんじゃないかなと思います。当然、その被害者の女の子であったり男の子であったりの裸というものはクラスメートは見たことが基本的にはないわけですから、そうすると、それが生成ＡＩなのか本物なのかということは余り問題なく、やっぱりそれが本物だというふうに思われるような形で世の中に広まっていってしまう、しかもそれが際限なく、ある意味世界に広がっていってしまうというところで非常に問題があるんじゃないかなと。それが取り締まれないというと、ちょっと国民感情としてはどうなのかなと。 　もちろん、表現の自由とか憲法の保障されている問題というのはもちろんあるわけですけれども、こういった法改正がやっぱり必要なのではないかなというふうに思います。事態が深刻なのは、韓国、アメリカ、日本というのが上位三番目だそうでして、こういったところ、法改正で対応していくというようなお考えは政府にはあるんでしょうか。

○政府参考人（吉田雅之君）　一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の内容及び趣旨、それから先ほど申し上げたような判例を踏まえて、刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処するものと承知しております。 　他方で、児童ポルノ禁止法については、議員立法により制定されたものでございまして、その後も必要に応じて議員立法により改正が重ねられてきたという事情がございます。 　法務省としては、こうした制定、改正経緯を踏まえた対応が必要となるものと考えております。

○石川大我君　政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと議論をしながら、法改正というものが必要なのではないかなということは呼びかけさせていただきまして、政府にもしっかり検討もお願いをしたいというふうに思います。 　現在、じゃ、どう対応するかということなわけですけれども、そうなると、なかなかこれを児童ポルノ法で処罰できないということになると、名誉毀損や肖像権の侵害といったことで削除を求めたり、刑事告訴あるいは民事的な損害賠償ということを求めるしかないということで、非常に手間も掛かりますし、そもそも本人が気付かないと気付かない間にその画像が広がってしまうというようなことがあるわけで、大人ですと、大人の問題でもありまして、これはリベンジポルノ法ということもありますけれども、こういった議員立法での手当てというものも必要だということは御指摘をさせていただきたいというふうに思います。 　そして、この刑事告訴を速やかにできるようにというお話ししたいと思いますが、性的ディープフェイクを名誉毀損罪ということで対応すると、親告罪なので刑事告訴が必要です。実務上は、告訴状を出しますから、基本的には弁護士さんにお願いしなければいけないと。非常に高いハードルで、大人でも高いハードルですし、子供、お子さんでしたらなかなかお一人でやるというのは難しいというふうに思います。 　刑事訴訟法上は、告訴は口頭、すなわち調書でも受理ができるということになっておりますので、告訴の口頭受理、これは警察さんだと思いますけれども、受けていただいていることは承知していますが、性的ディープフェイクの被害者の負担を軽減する運用を考えるということはないでしょうか。実は、このことはＳＮＳ上の誹謗中傷、デマについても同様だと思います。どれも加害者は極めて簡単に、加害者側は非常に簡単ですけれども、被害者の方は大変な苦労や心に傷を負うということで、啓発もやっていただきたいと思います。 　被害者は児童生徒が多いですが、先ほど、繰り返しになりますが、加害者、高校生、中学生が加害者になる場合というのも多いので、こうした層への啓発というものもしっかりしていただきたいと思いますが、いかがですか。

○政府参考人（檜垣重臣君）　お答えいたします。 　告訴などをする方があった場合には、直ちにその内容を聴取し、告訴権の有無、告訴期間、犯罪構成要件の充足の有無、処罰意思等の要件を確認するなどした上、可能な限り迅速に受理、不受理の判断を行うこととしております。 　通例、子供が被害者となる事案につきましては、被害者である子供と保護者が同伴で警察に被害申告する場合が多く、その場合に児童、保護者等とも相談しながら対処するものではございますが、いずれにしましても、告訴などは必ずしも書面の提出を求めるものではなく、口頭でなされたとしましても要件を判断した上で受理することとされており、被害者等の立場に立った迅速、的確な対応を徹底していきたいと考えております。 　また、広報啓発等につきましてですが、警察としましては、一般的に性的な加工画像に係る事案を検挙した場合には、検挙広報などにより警鐘を鳴らしております。 　また、児童が画像加工アプリ等を利用することも視野に入れ、学校等関係機関とも連携し、多くの保護者が参加する学校行事や児童生徒を対象とする非行防止教室等の機会を活用して、具体的な事例を踏まえつつ、この種事犯に関与することのないよう啓発を推進してまいりたいと考えております。

○石川大我君　是非、この性的ディープフェイクの問題、警察さんとしては啓発というのは特にこれまではしていなかったということですので、是非警察の方からしっかりと、これいじめなんかにもつながる問題ですので、お願いしたいと思います。 　ちょっと時間が迫ってまいりましたので二つの問題一つにしますけれども、性的ディープフェイクもそれ以外のディープフェイクも、あるいはＳＮＳ上のデマ、誹謗中傷も、加害者に責任を取らせて、また被害を回復しようとすると、非常に刑事的、民事的に大変です。相談を受け、削除依頼を行ってくれる民間団体ありますが、まだまだ追い付いていないという状況です。 　性的ディープフェイクを含むこうしたネット、ＳＮＳの被害に対して相談支援窓口を民間と連携して整備強化していくことがまず大切だろうということがお一つと、あと、事業者に対してですけれども、顔写真が使われた人への名誉毀損等に当たり得ること、そのことを踏まえた利用規約の設定や運用すべきことなど指針などで対応すべきというふうに考えますが、この生成ＡＩの開発事業者に対してこういったこと、対応必要だと思いますが、二点まとめてしまいましたが、よろしくお願いします。

○国務大臣（城内実君）　お答えします。 　本法案におきましては、内閣総理大臣を本部長として全閣僚が構成員となりますＡＩ戦略本部を新たに設置するなど、ＡＩ政策の司令塔機能を強化することとなっております。加えまして、そのＡＩ戦略本部の事務局であります内閣府が、関係省庁と連携してＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとなっております。 　また、本法案第十三条に基づき整備する指針におきましては、ＡＩ開発者に対し違法なディープフェイクなどの不適切な出力の抑制等に努めることを求めることについて検討しているところでございます。 　なお、本法案が成立した暁には、ＡＩに関する様々な課題に対しまして、先ほど申しましたＡＩ戦略本部が司令塔機能を発揮して、全ての関係省庁との間で密な情報共有、調整等を行いながら、政府全体として一層迅速に課題への対応を図っていくことが可能となると考えております。その中で、御指摘の、委員御指摘の相談支援窓口の整備強化についてもしっかり議論することを検討してまいる考えであります。 　二問目の後段の方ですけれども、このＡＩ開発事業者に対する対策を講じることできないかということですが、本法案第十三条に規定していますように、今後、関係省庁や関係機関と連携して国際的な規範の趣旨に即した指針もしっかり整備し、事業者に対しまして遵守を求めていくこととしております。この指針の内容につきましては、今後有識者の意見などもしっかり聞いて参考にして、検討を進めていくこととしております。 　また、指針におきましては、ＡＩ開発者が、先ほど申しましたとおり、違法なディープフェイクの不適切な出力の抑制等の取組に努めることについてもしっかり盛り込むことを検討しております。

○石川大我君　時間になってしまいましたので、最後の質問、内閣府男女共同参画局長にお越しいただきまして、第六次男女共同参画基本計画の中でしっかり、こうしたデジタル性暴力という認識を持って、是非項目設けていただいて、しっかり検討してこの手当てをしていただきたいと、手当てをしていただきたいということをお願いを申し上げて、終わりたいと思います。 　ありがとうございました。

○鬼木誠君　立憲民主・社民・無所属の鬼木誠でございます。 　引き続いて、ＡＩ関連につきまして質問させていただきたいと思いますが、私自身は、気付かないうちに利用していることはあっても、自主的にＡＩを活用したことがないという人間でございます。国民の皆さん、多くの皆さんがＡＩに対する不安を抱いていらっしゃるというふうな統計資料も見させていただきましたけれども、まさに私も同じようにＡＩに対して不安を抱いている。個人的に利用したことがない、そして多くの、不安を抱いている、恐らく今の日本の国民の皆さんの多くの感情と同じような心情や受け止めを持ってこのＡＩ技術というのを受け止めている一人だろうというふうに思っています。非常に優秀な優れた技術だというふうには思っています。正しい理解の下に適切に使用すれば極めて有益性が高いということについても分かっているつもりです。 　ただ、先ほど言ったように、やっぱり不安があるんですね。特に今回の政府のＡＩ推進法、これ基本法ではなくて、名称が推進法になっている。端的にそのことが表れているんではないか。諸外国からの遅れを取り戻すために、先ほどもありましたけれども、前のめりになり過ぎているんではないか、あるいは、リスクと推進のバランスが正しく取れるのかというようなことについてもやっぱり不安として抱いている。 　衆議院の政府答弁を見ると、例えば、ＡＩの研究開発及び活用が諸外国に比べて遅れている中で、ＡＩイノベーション促進とリスク対応の両面を図るためには、リスク対応に関して、過剰な規制は回避しつつ、必要な対策を講ずる必要があるというふうにおっしゃっています。今日もありましたけれども、また、我が国が世界で最もＡＩを研究開発しやすい国となるようにしっかりとイノベーションを促進するというような答弁もございました。うがった聞き方になるのかもしれませんけれども、諸外国からの遅れを取り戻して世界一のＡＩ国になるためには過剰な規制は邪魔だと言っているようにやっぱり聞こえちゃうんですね。不安を持つ者からするとそう聞こえちゃうんです。おっしゃっていますから。 　だとすると、やっぱりその、いや、この規制が過剰か否かという判断を政府が正しく行うのかどうかということに対しても不安になっちゃう。そういう思いを持って今日質問したいというふうに思うんですけれども、一般論で恐縮なんですけれども、大体のことは急ぎ過ぎるとろくなことにならぬのですと私は思っているんです。だから、急ぎ過ぎることなく、前のめりになり過ぎることなく政府として推進していただきたいということを是非お願いをしたいというふうに思っています。 　大変申し訳ないですけれども、今日、個人情報保護委員会、来ていただいていますので、順番変えさせていただいて、最後に質問する予定だった個人情報の保護の観点から一つまず質問させていただきたいというふうに思います。 　個人情報保護委員会、今年の三月取りまとめをされた個人情報保護法の制度的課題に対する考え方案において、統計情報等の作成のみに利用されることが担保されていることを条件に、公開をされている要配慮個人情報を本人の同意なく取得することについて可能とする、そのことを検討案としてお示しをされています。 　この考え方案については、ＡＩによる自動的なデータ収集が行われることに対応して検討されているんだというふうに理解をするものでございますけれども、二〇二三年、二年前には、個人情報保護委員会として、オープンＡＩに対する注意喚起を行って、要配慮個人情報の取得や利用目的の通知等に対して厳密な取扱いを求めていた。この二年間で大きな方針転換が今まさになされようとしているんではないかというふうに捉えています。 　要配慮個人情報には、昨年の内閣委員会でも質問させていただきましたけれども、被差別部落出身であるというようなことまで含まれている。本人の同意なく公開された場合には、個人情報保護違反となる。ただ、インターネット上やＳＮＳ上にはもうあふれ返っているんですね、このような情報が。その情報を統計データ情報の一部として、データとして取り扱うということに対して、やっぱり私は懸念もあるし、危惧もあるし、問題であるというふうに思っているんです。 　保護委員会は、特定の個人と対応関係が排斥をされた統計情報等の作成や利用は個人の権利利益を侵害するおそれが少ないとしていますけれども、被差別部落の所在地情報は、特定の個人と密接なつながりはないように見えても、ある個人の住所や出身地等が被差別部落の所在地と重なり合えば被差別部落出身と特定をされるんではないかというような心配を持っています。その人が権利侵害を受ける可能性というのは否定できないのではないかというふうにも思っています。 　検討中の制度的課題に関する考え方案においても、要配慮個人情報の取得、利用については慎重であるべきと思っていますが、この保護委員会の考え方案の検討状況、それからＡＩによる要配慮個人情報の取得、利用に対する考え方について、まずお尋ねをしたいと思います。

○政府参考人（佐脇紀代志君）　お答えいたします。 　委員御指摘のとおり、現在、個人情報保護法の附則に基づく三年ごと見直しを進めておりますので、御指摘の観点に限らず様々な、場合によっては方向転換も含め、予断を持たずに検討を進めているわけでございまして、本件につきましてもその一つでございます。 　六月には、昨年六月には中間整理を公表いたしまして、意見募集も行いまして、いわゆるパブコメでございますけれども、その後も制度の基本的な在り方に関わる様々な論点を議論いたしまして、広く意見を聴取しながら検討を進めているところでございます。 　その中の一つでございますけれども、個人データなどの取扱いに対する同意を含めた本人をどう関与してもらうべきかという検討が一つのトピックスになってございまして、とりわけ本人の権利利益への直接の影響の有無なども一つの軸にしながら制度の在り方を検討すべきということを、複数の有識者の方々から御提言ありましたので、それを視座に検討を進めてきたわけでございます。 　これを踏まえまして、本年二月には、ＡＩ開発なども含みますが、統計作成等のみを目的とした取扱いを実施する場合につきまして、どういう制度の選択肢があるかということを具体的に検討してまいりました。 　典型的には、ＡＩの開発で学習データを整備する際に、インターネット経由でアクセスできる膨大なデータを使って、それで学習データを整備するという場合がございまして、その中に、個人がインターネット上の様々なサービスを利用する過程で意識的に出している、知らないうちにもあるかもしれませんが、出している個人情報につきましてもその膨大なデータの一つとして含まれて、学習データの生成に、整備に利用されるというケースがございます。その中には、場合によっては、委員御指摘のような、本人にとっては要配慮になる個人情報も含まれている可能性があるわけでございますけれども、その学習データにより開発されたＡＩが、統計整備と同様に、ある意味ＡＩによって得られる知見が一般的な知見、その情報である場合だけの場合には、こうした学習データにその要配慮個人情報が含まれておりましても、そのＡＩによってまさにその情報に関する本人に関し具体的な権利利益への影響を及ぼすような知見をＡＩから引き出すということがあるのかないのかというのが論点でございますが、それがない場合には、ある意味統計と同じように考えれば、個人との関係が切れていると、ここでいう排斥されていると、状況に当たる場合もあるものですから、そこについての条件を詰めた上で取扱いについての異なる選択肢を用意してはどうかと、そんな議論でございます。 　もちろんその場合には、そういった利用に限定されることをどう担保するかというのがとても大事でございますので、その際にそういう利用をしようというふうに思っておられる事業者さんから様々な情報開示をいただくでございますとか、仮にそうでない場合には厳しく違反事項に定めるとか、そういった仕組みも併せてということだと思いますし、そういった規律の違反をされた場合におきましては、しっかり守らせる観点から十分な抑止力が必要でございますので、課徴金制度の導入の要否を含めました規律遵守の実効性を確保するための規律の在り方ということも並行して議論し、全体パッケージでどういった制度整備が可能かということを引き続き検討を詰めていこうと思ってございますが、いずれにしましても、様々な御意見ございます。利用者、消費者を含めまして、多くの方々に御納得いただけますような内容になりますように、引き続き対話を重ねながら検討を進めてまいりたいと、そのように思ってございます。

○鬼木誠君　長々と答弁いただきましたけれども、よく分からないところもありました。 　個人情報保護委員会として、この間いろんな御努力いただいてきたと思うんですね。その御努力は、やっぱり個人の権利侵害につながるようなことがあってはならないというようなことが根本にあった、その立ち位置の中で進められてきたというふうに思うんです。 　　　〔委員長退席、理事磯崎仁彦君着席〕 　それが今回の制度的課題に対する考え方の中では、先ほど言いましたように、大きな方針転換と私には受け止められた、踏み込もうとしていると。それは、ＡＩ技術をみんなで推進していくためにはやむを得ないんだというふうに読めてしまう、聞こえてしまう。そういう不安を抱いているということはあえて強調してお伝えをしておきたいというふうに思います。 　その上で、冒頭申し上げたように、余りにも前のめりになって、本来必要な規制まで緩和をされる、あるいは外されてしまうということがあっては絶対ならないというふうに思っています。データの利活用の定義、ルールの明確化、ルールに違反した場合の措置の在り方含めてしっかり御検討いただきたいというふうに思いますけれども、ここは大臣に是非お答えをいただきたいと思います。

○国務大臣（城内実君）　鬼木委員への御質問にお答えしますが、ＡＩの開発、利用と個人情報保護法との関係につきましては、これまでに、生成ＡＩサービスの利用に際しての個人情報の取扱いに関する注意点等を取りまとめた生成ＡＩサービスの利用に関する注意喚起等の公表や、個別の生成ＡＩサービスに関して留意すべき点についての情報提供などを行っているところであります。 　また、先ほど個人情報保護委員会からもお答えがありましたが、個人情報保護法のいわゆる三年ごとの見直しに向けた検討において、要配慮個人情報の取扱いも含めた議論が行われているというふうに伺っております。 　いずれにしましても、本法案に基づきまして国が整備する指針、これ第十三条にございますが、この指針においては、個人情報保護法を含む既存の法令を遵守する旨などを盛り込むことを想定しています。 　今後、新たに置かれるＡＩ戦略本部の司令塔機能の下で、個人情報の取扱いなども含めて、関係省庁と緊密に連携しながら、鬼木委員の御懸念、これがそうならないように、しっかり検討を進めてまいる考えであります。

○鬼木誠君　是非しっかり御対応いただきますことをお願い申し上げたいと思います。 　個人情報保護委員会に対する質問もこれまででございますので、御配慮いただきたいと思います。

○理事（磯崎仁彦君）　個人情報保護委員会佐脇事務局長は退席されて結構でございます。

○鬼木誠君　それでは、質問の順番、元に戻らさせていただきまして、一問目に入らさせていただきたいと思いますが、本会議で我が党の杉尾委員からも国民の責務ということについての質問をいたしました。第八条に定められているところでございます。 　これ、やっぱり僕も同じように思っているんですね。ＡＩがいかに時代を画する技術だとしても、例えば人類共通の普遍的な価値であるとか人類共通の理念であるとかということに対して、広く国民に対して学習をしなさい、理解をしなさい、関心を深めなさいということについてはよく分かる。ただ、ＡＩという技術に対して、国民の皆さん、理解を深めなさい、関心を深めなさいというふうなことについては、そこまで責務として求める必要があるかというふうに思うんです。 　もちろん、正しい理解の下、正しく適切に使用しなければ危険性を伴うということについては、この間いろんな方の御質問の中でも明らかになっている。ただ、責務と言われるとやっぱりちょっと違うんじゃないかなというふうに思うんです。私は、責務だ、深く理解をしなさい、関心を持ちなさいと言われると、私は大きなお世話だというふうに多分答えてしまう。ここをやっぱりしっかり国民の皆さんに説明せないかぬですね。条文上は努めるということになっています。必ずしも責務ということにはなっていない。 　この国民の理解と協力をいただく必要があるとか、あるいは表題は責務となっているけれども条文の中ではそういう責務という言葉はないんだということが、衆議院の中では答弁をされていますけれども、じゃ、なぜ責務にしたのか、タイトルをということについてはまだ十分な説明になっていないような気がします。 　努力規定でなぜいけないのか、国民の努力という表題でなぜいけないのか、責務とした理由について、もう一度大臣からお答えいただけませんでしょうか。

○国務大臣（城内実君）　お答えします。 　現在のＡＩは間違った情報や意図しない情報を出力することも多々ありまして、それを知らずに活用しますと、被害者になってしまうことや、場合によっては意図せずして加害者になってしまうおそれもございます。このため、国民の皆様がＡＩを適切に活用し、便益を享受するためには、やはりどうしてもＡＩに対する正しい理解と関心を深めていただくことがどうしてもこれ不可欠ということでありまして、そういった認識の下で、法案第八条の国民の責務を規定したものであります。 　また、国や地方公共団体が推進いたしますＡＩ活用を促進するための施策が十分な効果を得るためにも、国民の皆様の御協力がやはりこれ不可欠であります。さらに、今後様々なＡＩが多くの国民の皆様に利用されていくことを踏まえますと、例えば、不適切な動作を行うＡＩを発見した場合に、関係機関に、見て見ぬふりしたり放置するのではなくて、情報提供をしていただくなど、やはりその適正なＡＩ利用環境の維持に向けた取組に可能な範囲で国民の皆様に御協力していただくことも想定されます。 　　　〔理事磯崎仁彦君退席、委員長着席〕 　こうした観点から、果たさなければならない務めを意味する責務という文言を第八条の見出しに用いたということであります。

○鬼木誠君　繰り返しになりますけれども、生成ＡＩを個人として使用しているのが日本では九％、そして七七％の方がＡＩには規制が必要だというふうにお考えになっている。そういう国民の皆さんに対して責務としてこのことを課すわけですから、私は責務とする必要はないし、国民の努力で十分だというふうに思いますけれども、その修正ができないというのなら、やっぱり今お答えになったことに加えて、国民の皆さんがしっかり理解できるような言葉で語りかける必要があるというふうに思いますし、負の側面も含めてしっかり訴えていただく必要があるのではないかということを提起しておきたいというふうに思います。 　次は教育という観点から、最初に山谷委員からも御質問がございました。負の側面について、あるいはリスクについて等々の御指摘があっただろうというふうに思っています。 　端的にお聞きをしますけれども、文科省にお尋ねをしたいと思います。この推進法が成立をしたら、学習指導要領を改訂することになるのか。いわゆるＡＩリテラシー教育について、初等教育のところから行うというような意思をお持ちなのか。そして、その際は個人情報保護の在り方や著作権侵害、あるいはディープフェイク等々の種々の問題についてもしっかり要領の中に書き込むというようなことで検討が進んでいるのかどうか、そのことを教えていただきたいと思います。

○政府参考人（日向信和君）　お答えいたします。 　文部科学省では、情報モラルを含む情報活用能力を学習の基盤となる資質、能力として位置付け、各学校段階を通じてその育成に取り組んでいるところです。 　また、昨年十二月に改訂した初等中等教育段階における生成ＡＩの利活用に関するガイドラインにおいては、情報には自他の権利があることを考えさせる学習活動や、情報には誤ったものや危険なものがあることを考えさせる学習活動など、発達段階に応じて児童生徒の情報モラルを育成する学習活動を強化することを求めているところです。 　さらに、現在、中央教育審議会において、生成ＡＩを始めデジタル技術が飛躍的に発展する中での情報活用能力の抜本的向上を図る方策について、情報モラルやメディアリテラシーの育成強化も含め具体的な議論を行っているところであり、引き続きしっかりと検討を進めてまいります。

○鬼木誠君　しっかりと検討していただきたいというふうに思いますので、どうぞよろしくお願い申し上げます。 　文科省に対する質問はこの一問でございますので、委員長、お取り計らいをお願いします。

○委員長（和田政宗君）　文部科学省日向審議官におかれましては、退席なさって結構です。

○鬼木誠君　それでは、今度は、四条の国の責務についてお尋ねをいたします。 　四条二項には、行政事務の効率化及び高度化を図るために国の行政機関における人工知能関連技術の積極的な活用を進めるというふうなことが書いてある。 　国家公務員、いわゆる官庁をめぐる人材不足の問題や人材確保の難しさというような観点で捉えると、このような行政事務の効率化というのは必要だろうというふうに私は思いますし、そのことが政府の方針として掲げられることについては理解をするものではございます。 　ただ、懸念しているのは、定員との関係です。ＡＩ導入によって効率化ができる、効率化できたから人減らしていいよねというような考えに直結すると怖いなというふうに思っています。この定員削減との関係について、考えがあるかどうかということについてお答えいただければと思います。

○国務大臣（城内実君）　国家公務員の定員管理等を所管する大臣では私ないので、あくまでも一般論として申し上げますが、言うまでもなく、ＡＩは生産性の向上や労働力不足の解消など社会課題の解決に資する技術でありまして、政府でＡＩを導入した場合には、行政事務の質が向上することにより、高度な行政サービスの提供が可能となるほか、職員の皆さんの働き方改善が実現すると考えております。 　ＡＩの導入に関しましては、単に効率化を目的とするのではなく、ＡＩによる業務の高度化をしっかりと進めていくという観点が重要であることから、私自身も鬼木委員と同じく、単純にその定員削減やコストカット等に直結するものではないというふうに認識を同じくするものであります。 　以上です。

○鬼木誠君　ありがとうございました。明確な御答弁をいただきまして、本当にありがとうございます。 　業務量に応じた適正な人員配置というのは、この間、国家公務員、いわゆる官庁においても、引き続き追求、推進するべき課題として掲げられたというふうに思います。 　是非このＡＩの導入に当たって、効率をするあるいは省力効果が生じるということが仮に起こったとしたら、そのことは、申し上げましたように、業務量等に応じた適正な人員配置の達成に向けた契機とすべきというふうに考えますけれども、いま一度その点についてのお考え、お聞かせをいただければと思います。

○国務大臣（城内実君）　先ほど申しましたとおり、ＡＩの導入におきましては、単に効率化を目的とするのではなくて、ＡＩによる業務の高度化をしっかりと進めていくことが重要だというふうに認識しております。 　そして、ＡＩを導入して業務が効率したことのみをもって直ちに人員配置の見直しをつなげるのではなくて、ＡＩの導入による行政事務の高度化等を進めながら、人事配置については、やはり計画的、かつ将来の趨勢を見据えつつ、関係各所において適時適切に行っていくことが必要と考えております。

○鬼木誠君　ありがとうございました。どうぞよろしくお願い申し上げます。 　次に、地方公共団体の責務についてお尋ねをいたします。 　第五条に規定をされています。この五条の条文を読むと、デジタル社会形成基本法とか科学技術・イノベーション基本法とか、いわゆる先行する法律とほぼ同様の条文ではないかなというふうに理解をしているところでございます。 　地方公共団体は、基本理念にのっとり、人工知能関連技術の研究開発及び活用の推進に関し、国との適切な役割分担の下、地方公共団体が実施すべき施策として、その地方公共団体の区域の特性を生かした自主的な施策を策定をし、及び実施する責務を有するというふうになっている。 　今回のＡＩ推進法が、先ほど言ったように、私にとっては前のめりになっているんではないかという懸念を抱いている。で、この地方公共団体の責務規定についてが、なかなか、公共団体から見たときにどのように受け止められるだろうかということに対して心配をしているというところなんです。 　衆議院においても、同様な趣旨から、地方公共団体の責務とした理由についてのやり取りが行われています。地方では人口減少に悩むところも多く、そうした中で、地方公共団体における行政事務の効率化や地域における課題解決にＡＩを活用することが期待されている等々の答弁をなさっています。 　ただ、ＡＩ活用って、自治体、公共団体でもかなり進んでいるところは進んでいるんですよね。全ての公共団体には至っていない中でも、ＡＩに対して期待を抱いて、自分たちの公共団体、自治体の中で利活用することで住民サービスの向上につなげるとか、先ほどの話じゃありませんけれども、事務の効率化につなげてより働きやすい職場環境をつくっていくということは少なくない自治体でなされている。責務というところで国が掲げなくても、自治体は自治体の判断でＡＩの利活用について検討も加えているんではないかというふうに思っています。 　ただ一方で、ちゅうちょしているところもたくさんあると思うんです、懸念がたくさんあるから。そういう懸念があって、自主的な判断の下、ＡＩを今活用していません、あるいは一旦入れたけれどもやっぱりやめましたというところもある。こういう自治体に対して責務というふうに言ってしまうと、全部やっちゃったというふうになってしまうんで、地方分権の観点から、そこはいかがかというふうに思うところもございます。 　国民の責務と同じような質問で申し訳ないんですけれども、是非、地方公共団体の責務としたことについて、自治体の皆さんが、不安を抱いている自治体の皆さんが納得できるような、明確でそして丁寧な御答弁をいただければと思います。

○国務大臣（城内実君）　お答えします。 　ＡＩの活用は、人間が携わるあらゆる活動に及ぶものでありまして、やはり、地方公共団体を含めた様々な関係者に影響が生じるものであります。また、地方では、その実情は様々でありますが、人口減少に伴う労働力不足等に悩む地域が多いなど、地域の課題の解決にＡＩが大きく貢献することが期待されております。 　こうした背景やＡＩに期待される役割の重要性を踏まえまして、地方公共団体に対して、国との適切な役割分担の下、条文にも書いてありますように、区域の特性を生かした自主的な施策を策定し実施することについて、責務として規定しているところでございます。 　いずれにしましても、この地方公共団体が直面する課題に対しては、ＡＩを用いた行政サービスの質の向上など、ＡＩの利活用を通じて地域の課題解決において効果的な対策となるというふうに認識しております。 　こうした地方公共団体におけるＡＩの利活用の大きな期待と重要性に鑑み、第五条におきまして、自主的な施策を策定、実施する責務を有する旨を明記するとともに、その見出しも責務としたと、そういう経緯でございます。

○鬼木誠君　自治体を追い立てるようなことがないようにということだけお願いをしておきたいというふうに思います。 　地域の特性を生かしたというところについても実は質問したかったんですけれども、もう時間が余りなくなってきて、一つ確認をさせてください。 　地方公共団体の責務のところには、国の責務のところには、先ほど御報告をしたというか説明をしたというか、お知らせをした、行政事務の効率化及び高度化を図るため、積極的に活用しますという文言が国の責務にあるんですけれども、これ、地方公共団体の責務にはこの文言がございません。つまり、行政事務の効率化については地方公共団体の責務とはされていないということだと思います。これは、地方公共団体の独自性と主体性を尊重するという観点から見て、僕は極めて妥当な条文の構成ではないかなというふうに思うんです。 　ところが、衆議院の政府答弁の中で、地方公共団体の責務とした理由ということでお答えになったのが、地方公共団体における行政事務の効率化という言葉が使われている。せっかく書かなかったのに、言っちゃったら、自治体、あっ、政府の本音そこにあるのかと思っちゃいますよ。それ駄目だと僕は思うんです。あくまでもここは、公共団体の独自性であるとか主体性の中で、どう活用するか、施策に反映していくのかということを決めさせないといけない。地方公共団体に政府の思いを忖度させるようなことがあってはならない、いわゆる目的の強制につながってはいけないというふうに思っています。 　この行政事務の効率化や高度化ということを規定をしなかったということは、繰り返しになりますけれども、そこは自治体で決めてくださいねということで書かなかったという理解でいいのかどうかということと、その理解でいいとしたら、今後もそのことについて自治体、公共団体に求めることはないという理解でよいのかどうか、この二つを是非お答えください。

○国務大臣（城内実君）　委員御指摘のこの規定につきましては、国が率先して行うべきものとして、第四条においては国の責務と規定しているところであります。 　もちろん、ＡＩの活用によって地方公共団体における行政事務の改善や高度化も可能になると考えておりますことから、労働力不足の解消やサービスの品質向上につながっていくことが大きく期待されると、これについては既に述べたとおりでありますが。その際、それぞれの地域の特性や直面する課題など、やはり実情はそれぞれの自治体で異なりますから、政府としては、地方公共団体に対して一律にＡＩの活用を求めるのではなくて、地方公共団体の自主性や創意工夫に配慮して必要な取組を推進していきたいと考えておりますので、委員御指摘のとおり、何かこうしなきゃいけないということを地方公共団体に一律に求めるものではないということをここで明言させていただきたいと思います。

○鬼木誠君　どうもありがとうございました。 　済みません、今日、総務省にも来ていただいていて、ちょっと時間がなくなったので、申し訳ないですけれども、四ポツの③、④飛ばさせていただいて、総務省にお尋ねをしたいというふうに思います。 　総務省がガイドブックというのを作っていらっしゃるんですね、自治体におけるＡＩ活用・導入ガイドブック。これ、よくできているなというふうに思うんですけれども、よくできているなというふうに思う一方で、こんな便利なツールを何で使わないんですか、よそではもうこんなに使っていますよ、今検討しないと乗り遅れますよというふうに書かれているように見えるんです。 　このガイドブックの中に、先ほど政府答弁でも御紹介しましたけれども、例えば、業務の効率化や住民サービスの向上の実現に寄与することが期待をされていますとか、今後は更に多くの自治体でＡＩの導入が進められていくことが期待をされていますとかいうふうにガイドブックに書かれているんです。 　これ、期待、誰がしているんですか。政府ですか、総務省ですか、住民ですか、それともＡＩを売っている業者ですか。主語が全く明確になっていない。この書き方、僕はずるいと思うんですよ。ここ、どうですか。

○政府参考人（下仲宏卓君）　お答えを申し上げます。 　総務省が開催していました自治体戦略二〇四〇構想研究会の平成三十年の第二次報告において、ＡＩ等が処理できる事務作業は全てＡＩ等によって自動処理するスマート自治体へ転換する必要がある旨が提示されております。 　このようなことを踏まえ、総務省として、自治体におけるＡＩ活用・導入ガイドブックにおいて、更に多くの自治体でＡＩの導入が進められていくことが期待されるといった自治体へのＡＩ導入の期待に係る記述をしておるものでございます。

○鬼木誠君　時間が来ましたので、もう多くは申し上げませんけれども、強制につながってはならないということ、これだけはしっかり訴えさせていただきたいと思いますので、総務省にも受け止めていただきたいと思います。 　質問を終わります。

○竹谷とし子君　公明党の竹谷とし子でございます。 　この法律の必要性について、内閣府ウェブサイトにあります法律案の概要を見ますと、日本のＡＩ開発、活用が遅れているということで示されております。二〇二三年のＡＩへの民間の投資額は世界の中で十二位。また、生成ＡＩを利用している個人では、中国五六％、米国四六％、日本は九％。また、生成ＡＩを業務で利用している企業が、米国八五％、中国八四％、日本は四七％というふうに示されております。 　一方で、多くの国民がＡＩに対して不安を感じているということが示されています。現在の規則や法律でＡＩを安全に利用できると思うと考えている人が、米国は三〇％であるのに対して、日本では一三％。また、ＡＩには規制が必要だと思う人が、日本では七七％、米国では六七％ということで、イノベーションを促進しつつリスクに対応するために、既存の刑法や個別の業法等に加えて新たな法律が必要であるということで、必要性が示されているところでございます。 　その上で、まず初めに、この法律の目的に関して伺いたいというふうに思います。 　ＡＩの研究開発と活用の推進が国民生活の向上と国民経済の健全な発展に寄与すると考える背景と根拠について、城内担当大臣に伺いたいと思います。

○国務大臣（城内実君）　竹谷委員の御質問にお答えします。 　現在の急速な進展を遂げておりますＡＩは、様々な分野での生産性あるいは利便性を飛躍的に向上させるとともに、労働力不足の解消など様々な課題の解決や国民生活の向上に貢献していくことが期待されております。 　また、令和六年版情報通信白書で紹介されております分析によりますと、世界のＡＩ市場規模は二〇二一年に九百六十億ドル規模だったものが加速度的に成長し、二〇三〇年には一・八兆ドル規模にまで達すると想定されており、我が国経済にとっても大きなインパクトを及ぼすものと考えております。 　こうしたことから、本法案におきましては、基本理念において、ＡＩ技術を、新産業の創出をもたらすものとして経済社会の発展の基盤である技術であるとともに、安全保障の観点からも重要な技術であると規定しているところであります。 　いずれにしましても、本法案が成立した暁には、国民生活の向上や国民経済の健全な発展の実現に向けまして、新たに設置されますＡＩ戦略本部の下、関係府省庁が一丸となって我が国におけるＡＩの研究開発と活用をしっかりと後押ししてまいる考えであります。

○竹谷とし子君　法律を作って、しっかり活用にも、またリスク対策にも取り組んでいくということが重要であるというふうに思っております。 　次に、法の第四条に関して伺いたいと思います。 　国の行政機関における人工知能関連技術の積極的な活用を進めるとしていますけれども、どのような業務や分野を想定していますでしょうか。活用によってどのような効果が出ると想定をされていますでしょうか。そして、それは国民にどのような利益があるでしょうか。ＡＩは様々ありますが、どのようなＡＩを活用することを想定しているか、デジタル庁に伺いたいと思います。

○政府参考人（井幡晃三君）　お答えいたします。 　政府におきましてＡＩを活用する業務分野でございますけれども、例えば、文章の要約あるいは翻訳、それから企画のアイデア出しといったような一般的な事務で活用が始まっております。さらに、今後は、パブリックコメントで寄せられた御意見の整理等、新たな使い方も想定されているところでございます。 　それで、ＡＩの活用による効果でございますけれども、行政の生産性の向上でございますとか職員の業務負担の軽減といったようなことが期待できると考えておりまして、より質の高い行政サービスを提供するという観点からＡＩの活用を促進していきたいと考えておるところでございます。 　一方で、政府におきますＡＩ活用はまだまだ限定的でございますので、今後、デジタル庁といたしましては、各府省のＡＩ活用を強力に推進するということで、三つの柱に基づき取り組んでまいりたいというふうに考えております。 　一点目でございますけれども、業務へのＡＩ活用事例の発掘を目的としたイベントを開催しております。その場で出ましたアイデアの実現に向けまして、サービスのプロトタイプ開発に努めていきたいというふうに考えております。 　二点目でございますけれども、各府省のＡＩプロジェクトへの伴走、助言等の支援を行っていくということで考えております。各府省が先進的な生成ＡＩの利活用でございますとかリスク軽減ができるよう後押しする体制を整備してまいりたいというふうに考えております。 　最後、三つ目でございますけれども、政府のＡＩ調達、利用のルール整備でございます。今月中を目途にガイドラインを整備し、各府省のニーズを踏まえて必要なアップデートを行ってまいりたいというふうに考えております。 　ＡＩにつきましては、テキスト生成ＡＩでございますとか画像生成ＡＩ等様々なものございますけれども、今後は、こうした取組を通じて政府が率先して多様なＡＩの活用を進め、日本社会全体での安心、安全なＡＩの活用につながるよう取り組んでまいりたいと考えております。

○竹谷とし子君　ありがとうございます。 　政府が国民サービスの向上に取り組めるように、余計な業務はＡＩにやってもらって、大事な人間の判断業務であるとか人と接することが必要な業務とか、本当に必要なところに人を割けるようにするという業務の効率を行うということも大事だと思いますし、やはり一番大事なのが、このリスクの軽減であるとか、また安全に安心して使えるようにするとか、そうしたことをしっかり示していくということも大変重要なことであるというふうに思っております。 　次に、地方公共団体におけるＡＩの研究開発と活用推進に関して伺いたいというふうに思います。 　今日の読売新聞でも、ＡＩを地方自治体が活用しているという記事があります。都内の自治体に広がっているということが紹介をされております。 　第五条関係におきましては、地方公共団体と国との適切な役割分担の下とあります。これはどのような役割分担を想定していますでしょうか。そして、地方公共団体の区域の特性を生かしとありますが、区域の特性とは、また特性を生かすとはどのようなことを想定されているのか、内閣府に伺いたいと思います。

○政府参考人（徳増伸二君）　お答えいたします。 　国と地方公共団体の役割分担としては、政府は大局的な見地から我が国全体の方針を基本計画で示すこととしており、地方公共団体においては、国が定める方針等を参照しつつ、各地域の特性を踏まえた自主的な施策を策定をし、実施をすることとしております。 　特に、地方では人口減少に伴う労働力不足などに直面する地域が多く、地域における様々な課題解決にＡＩを活用することが期待されているところです。このような背景を踏まえまして、地方公共団体に対し、国との適切な役割分担の下、区域の特性を生かした自主的な施策の策定、実施の責務を規定している次第です。 　また、区域の特性を生かした自主的な施策の例としては、例えば多くの外国人が訪れる観光地においては、複数言語対応の観光案内等をＡＩを活用して整備することなどが考えられます。

○竹谷とし子君　ありがとうございます。 　今日の読売新聞の記事では、具体的な先行事例が紹介をされております。 　保育園入所の選考でＡＩを取り入れている、四月の選考の事務は従来の百七・五時間から一時間にまで短縮をされて、その結果、保護者への結果通知も二週間以上早まった、また、実証実験では従来の手作業による選考結果と一〇〇％一致した、そういう効果も紹介をされております。 　また、ＡＩを搭載した街頭の防犯カメラで顔の識別ができる実証実験ということも紹介をされていて、子供の行方不明事案などへの迅速な対応をするのが狙いということで、こうしたことも大変重要だと思います。 　一方で、安全性を担保した上で使用できるか検証を重ねているという自治体や、また、著作権侵害や情報流出などのリスクを考慮して、機密情報などを入力しないことや生成ＡＩの回答の裏付けを取ることなどをルールとして定めている自治体もあるなど、安全に使えるようにするための取組というのも各自治体で御検討をされているということも紹介をされているところでございます。 　こうした各自治体の特性、お取組も尊重しながら、各自治体が悩んでおられる安全な使い方等に関しては、やはりそこは政府としても何らか支援をしっかりとしていく必要があるというふうに感じているところでございます。 　次に、地方公共団体は自主的な施策の策定及び実施の責務を有することになるわけでございますけれども、地方公共団体にはそのような人材が充足していると考えられますでしょうか。読売新聞のは東京の記事でありましたので、ある程度規模が大きい、そういう自治体が紹介をされています。小さな自治体などでは本当に人材が不足しているというふうに思います。また、地方の取組があればまた御紹介もいただきたいというふうに思います。 　地方公共団体におけるＡＩを活用する人材の不足について、今後国としてどのように取り組んでいくのか、総務省に伺いたいと思います。

○政府参考人（望月明雄君）　お答え申し上げます。 　ＡＩの活用を含め、自治体におけるＤＸの推進のためには、これを担う人材の確保、また育成が大変重要だというふうに認識をしております。このため、総務省では、自治体における人材育成、確保の指針を出させていただいておりまして、その中で、デジタル人材の育成、確保に関する留意点、これを盛り込ませていただいております。 　そういった形で各自治体に取組を進めていただいているわけではございますが、例えば人材不足の状況の一例といたしましては、いわゆる一人情シス問題、こういったものがあります。総務省の調査では、人口五万人以下の市町村のうち、これ一千二百ほどあるわけなんですが、その中で二百十一団体がＤＸ担当者が一人以下、要するに一人かゼロというふうな回答をいただいておりまして、特にこうした小規模な市町村からは、独力で専門的な人材を確保するのは難しいといった声をいただいているところでございます。こういった状況の中で、例えば群馬県などでは、県が市町村と人材をシェアリングするといった取組を進めていただいているというような実例がございまして、このような実例、各所にございます。 　各自治体におけますこれまでのこういった取組なども踏まえまして、総務省といたしましては、都道府県と市町村が連携してＤＸ推進体制を構築していただきたいと、その中で、都道府県において、市町村の支援を行うための専門人材、そのプールをしていただきたいということで取組を進めているところでございます。 　また、小規模な市町村には限りませんが、自治体がデジタル人材を確保、育成する上で、やっぱりどうしても自治体の中で中核となる人材を確保するということが必要でございます。自治体におけるＤＸの取組の中核を担う職員、我々ＤＸ推進リーダーと呼ばせていただいておりますが、そういったことも大変重要でございますので、その取組についても財政支援措置を講じさせていただいているところでございます。また、一般職員につきましても、地方公共団体情報システム機構などのデジタル分野の研修の充実、こういったことで対応を進めさせていただいております。 　各自治体において、ＡＩの活用を含めまして、ＤＸ推進に必要な人材が着実に確保されるようにしっかりと取り組んでまいりたいと思います。

○竹谷とし子君　ありがとうございます。 　ＡＩを含むＤＸの人材というのが官民でまだまだ不足しているというふうに思います。今御紹介をしていただいたように、人材のシェアリングということも特にＩＴの分野では進んできているというふうに思います。かつてはそういうことはなかったと思うんですけれども、このＩＴの進展に伴って働き方についても柔軟性を持って対応をしてきているなというふうに感じるところでございますけれども、地方自治体、特に小さな、今、一人情シス問題、一人あるいはゼロという、そういう問題について、総務省としても認識をして、対応しているお取組についても御答弁をいただいたところでございますけれども、このＡＩの利便性というものも活用をしていくためにはやはり人材がいなければ何もできないわけでございますので、この人材の対応について地方公共団体をしっかりと支援していっていただきたいというふうに思います。 　続きまして、第七条関係について伺いたいと思います。 　活用事業者の責務が定められている理由を御説明いただきたいと思います。それはどの程度の義務でしょうか。事業者の自由な活動を縛ることにはならないんでしょうか。内閣府に伺います。

○政府参考人（徳増伸二君）　お答えいたします。 　ＡＩを社会に実装し、国民生活の向上と国民経済の発展につなげていくためには、研究開発と実社会との間をつなぐ活用事業者の役割が非常に重要であることを踏まえまして、活用事業者の責務として、国や地方公共団体が実施をする施策に協力しなければならない旨を明示的に求めることとした次第です。 　この責務規定は、個別具体的な義務を課したり具体的な法的拘束力を直接的に持つものではなく、事業者の努力義務を定めるものでありまして、違反した場合の罰則等は設けられておりません。法令上に努力義務を明記することで、国や地方公共団体が行う施策の協力などに事業者が責任を持って対応いただくことを意図している次第でありまして、これにより事業者の自由な活動が制約されるようなことはないと考えております。

○竹谷とし子君　事業者の自由な活動が制約されるようなことはないという御答弁でございました。 　次に、第八条関係について伺います。 　先ほども質問がございました。国民の責務が定められているということでございます。この理由を御説明いただきたいと思います。責務を果たすことによって国民にどのような利益がありますでしょうか。城内担当大臣に伺いたいと思います。

○国務大臣（城内実君）　この第八条、国民の責務につきましては、先ほど鬼木先生からも御質問がございましたが、今後、誰もがＡＩの利用者になり得る中で、国民の皆様にＡＩに対する正しい理解と関心を深めていただくとともに、ＡＩを適切に活用していただくことが極めて重要であることから、法案第八条に国民の責務を規定しているものであります。 　例えば、ＡＩが間違った情報や意図しない情報を出力した場合には、それを知らずに利用することで国民の皆様が意図せずして被害者や加害者になってしまう可能性がありますが、第八条の責務を果たしていただくことでそれを未然に防止する効果も見込まれると考えております。 　また、不適切な動作を行うＡＩを発見した場合に関係機関に情報提供を行っていただくなど、適正なＡＩ利用環境の維持に向けた御協力をいただければ、全体として安全、安心の向上や日常生活の利便性の向上に資することも期待されるものであります。

○竹谷とし子君　続きまして、この法律を作るに当たって、他国の取組というものも調査し参考にされてきたことというふうに思います。 　ほかの国ではどのようにこのＡＩの活用とか、またリスク対策、取り組んでおられますでしょうか。また、この法律に最も近い施策を取っている国はありますでしょうか。また、どのような効果があるか、伺いたいと思います。城内担当大臣の答弁を求めます。

○国務大臣（城内実君）　お答えします。 　各国におけますＡＩの法制上の取組は、それぞれの法体系、あるいは社会的、歴史的背景に応じて様々でありますが、世界的にＡＩのこの制度整備が進んでいる状況にございます。 　例えば、例を挙げますと、ＥＵでは、人間の安全や基本的権利の保護等の観点から新たに法律を制定し、包括的な規制を導入しておりますが、一方で、米国におきましては、安全保障リスクに対応しつつも、基本的には事業者の自主的取組を踏まえた上で既存法令の活用を図っているものと承知しております。 　こうした中、我が国では、国際整合性を保ちながら、イノベーション促進とリスク対応を両立するという諸外国には見られない新しいアプローチを採用することとしております。 　また、本法案による効果についてですが、具体的には、既存法令やガイドラインを活用することに加えまして、本法案によって政府における司令塔機能の強化や指針の整備、調査や情報収集といった仕組みを設けることとしております。これにより、ＡＩに対する国民の皆様の不安を軽減しながら、ＡＩ活用の更なる活性化とイノベーション創出を加速することができると考えております。 　さらに、今般の法案はＡＩ技術の進展等の変化に柔軟に対応できるバランスの取れた法制度であり、今後、世界のモデルとなり得るものではないかと考えております。

○竹谷とし子君　冒頭、法律の必要性のところで引用させていただきましたが、現在の規制や法律でＡＩを安全に利用できると思うという国民が日本では非常に低いということがありますので、この法案において、ＡＩに対する国民の不安を軽減する、政府における司令塔機能の強化を行うということについては、大変重要なことであるというふうに思っております。 　続きまして、内閣府に伺いたいと思います。 　ＡＩの開発、こちら投資額が世界の中で十二位ということで、一位の米国に比べると二桁違うということでございますけれども、このＡＩ開発に関して、日本におけるこれまでの取組について反省があれば御説明をいただきたいと思います。今後、その反省を踏まえて前に向かっていく必要があるという趣旨で質問させていただきます。内閣府に伺います。

○政府参考人（徳増伸二君）　政府はこれまで、ＡＩの研究開発を加速するために、研究者やスタートアップ等が利用できる計算資源であるとか、ＡＩ学習用のデータの整備、提供などの取組を進めてまいりました。これらの取組により、日本企業が開発するＡＩの性能は確実に向上していると認識をしております。 　しかしながら、ＡＩの研究開発に資金や人材が迅速に集まってこなかったことであるとか、あるいは英語等に比べて日本語データが少なく、ＡＩの学習が難しいことなどにより、我が国のＡＩ開発は後れを取ってきたと認識をしております。 　このため、我が国の研究開発力の更なる向上に向けて、これらの課題を踏まえまして、関係省庁と連携をして研究開発や人材育成などの取組を推進してまいりたく存じます。

○竹谷とし子君　ＡＩに限らず、ＩＴ技術全般について日本の国際競争力、低下しているというふうに認識をしております。 　改めまして、日本の国際競争力の現状、また過去と比較をして国際競争力がどの程度低下をしているか、お示しいただきたいと思います。また、低下しているその原因をどのように分析をしているか、ＩＴ技術について国際競争力を高めるためにどのように取り組んできたか、そして、成果が出ていれば顕著なものをお示しいただきたいと思います。内閣府に伺います。

○政府参考人（徳増伸二君）　お答えいたします。 　ＩＴ技術に関する国際競争力を三十年間を通して評価しているもの等は見当たらないものの、確認できる範囲では、世界経済フォーラム、ワールド・エコノミック・フォーラムのＩＣＴ競争力ランキングによれば、日本の順位を、約二十年前の二〇〇四年、二十年前の二〇〇四年に八位まで一旦上昇した後に、その後しばらく十五位から二十位前後のところを推移をしておりまして、データが残っております最後の二〇一五年には十位となっております。また、別の指標でありますけど、ＩＭＤ、国際経営開発研究所のデジタル競争力ランキングによれば、二〇一三年には二十位でありましたけれども、徐々に順位を下げまして、二〇二四年には三十一位となっているところであります。 　こうしたＩＴ技術の競争力低下の原因は様々あると考えられますけれども、主な原因としては、研究開発投資や設備投資の不足、必要な専門人材の育成、確保等で後れを取ったことなどが挙げられると考えられます。そうした中、政府としても、研究開発への支援に加えまして、中小企業を含む民間のＩＴ設備投資への支援、リカレント教育を含む幅広いＩＴデジタル人材の育成等の取組を進めてきたところです。 　国際競争力が低下を続けてきている中で成果を述べるのは、正直難しい側面があるわけでありますけれども、あえて挙げるとすれば、広い意味での広義のＩＴ技術という意味では、ここに来て半導体製造に関する取組が各地で盛り上がりつつあることであるとか、あるいは半導体の製造装置の分野では依然として高い競争力を保持していること等が挙げられるのでないかというふうに考えている次第であります。

○竹谷とし子君　様々ありますが、人材育成の取組、非常に重要であるというふうに思っております。 　私も、このＩＴとかＡＩの分野というのは女性が男性と同じように活躍できる分野であるというふうに思っておりまして、女性のデジタル人材育成というものを政策として推進をしてきているところでございます。 　ＩＴ全般になりますけれども、まだ女性の割合が二割ぐらいということでございますが、政府のリスキリング、職業訓練等の中でも、ＩＴについて学びやすい環境づくりというものも進めていただいているところでございますし、地方自治体が取り組めるような女性活躍推進交付金の中でも、ＩＴに地域の女性が触れて、またリスキリングできるような取組を後押しすることもやっているところでございますけれども、そういったことも含めて地道に取組をこれからも進めていただきたいというふうに思っております。 　次に、ＩＴ全般、ＡＩに関する国内外の研究者にとって魅力ある日本にするための取組について内閣府に伺いたいと思います。

○政府参考人（徳増伸二君）　お答えいたします。 　ＡＩの研究開発について世界的に競争が激化する中、研究人材の確保も激化をしております。国内外の研究者に我が国での研究の実施に魅力を感じてもらうことは重要でありまして、これまでも各研究開発機関や企業がそれぞれの立場から取り組んでいるところであります。 　具体的には、例えばでありますけれども、大学において学生や研究者を相互に派遣、交流する国際的なプログラムを整備しているほか、企業が社内でコミュニケーションを取る際に使用する言語を英語にしたり、さらには海外からの研究者を招聘するなど、様々なバックグラウンドを有する者が共同できる、共同で実施ができる環境整備等の取組を行っていると認識をしております。 　また、本法案ではＡＩの研究開発及び活用の推進を目的としておりまして、今後、基本計画の策定等を通じまして、国内外の研究者にとって魅力のある環境をよく検討した上で整備してまいりたく存じます。

○竹谷とし子君　よろしくお願いいたします。 　次に、安全とか不安を軽減する、またリスク、そういった面からの質問をさせていただきたいと思います。 　まず、現下のネット上の偽情報、誤情報、誹謗中傷への問題認識と対策について総務省に伺いたいと思います。

○政府参考人（下仲宏卓君）　お答えいたします。 　ＳＮＳ等のネット上の偽・誤情報や誹謗中傷は、短時間で広範に流通、拡散し、国民生活や社会経済活動に重大な影響を及ぼし得る深刻な課題であると認識しております。ＳＮＳを健全に利用できる環境の確保に向けて、総務省では、制度的な対応、リテラシー向上、対策技術の研究開発等の総合的な対策を進めています。 　制度的な対応については、本年四月一日に施行された情報流通プラットフォーム対処法について、同法の規律対象である大規模なプラットフォーム事業者として、先月、四月三十日、ＳＮＳを運営する主要な五事業者を指定したところです。同法の運用に適切に取り組んでまいります。 　また、リテラシー向上については、本年一月に立ち上げた意識啓発プロジェクト、デジタルポジティブアクションを通じて、官民の取組などを集約したウェブサイトの充実、多様な関係者によるセミナー等の開催、普及啓発のための教材の作成、活用などに官民連携して取り組んでおります。 　さらに、対策技術の研究開発については、インターネット上の画像等を対象とするＡＩ生成物の判別技術や発信者の真正性を確保する技術の開発、実証を行っており、社会実装や国際標準化を進めていく予定です。 　総務省としましては、インターネット上の偽・誤情報や誹謗中傷について、引き続き総合的な対策を積極的に進めてまいります。 　以上です。

○竹谷とし子君　ネット上の偽・誤情報、誹謗中傷の問題について、今後ＡＩが進展することによって更に問題が大きくなる可能性、そしてその対策について内閣府から御説明いただきたいと思います。

○政府参考人（徳増伸二君）　お答えいたします。 　ＡＩ技術は変化が非常に速く、現時点で全てのリスクを予測することは難しいのでありますけれども、インターネット上で偽・誤情報や誹謗中傷等が増加する可能性は否定できないと考えております。 　そうした中、技術的な対応としては、例えば、ＡＩが生成することを、ＡＩが生成したことを示す識別情報をコンテンツに埋め込みます電子透かしであるとか、不適切な出力を抑止をしますガードレールに係る技術などによる対応が考えられるところであります。 　また、既存法やガイドライン等による迅速かつ柔軟なリスクへの対応に加えまして、ＡＩ法案が成立した暁には、法に基づく情報収集や調査などによってＡＩの研究開発や活動の実態、課題を把握をしまして、必要に応じて、関係省庁の連携の下、対策を検討していくことができると考えている次第であります。

○竹谷とし子君　次に、法務省に伺いたいと思います。 　インターネット上に個人の誹謗中傷等の人権侵害情報が残る問題についての政府の対策を御説明ください。

○政府参考人（堤良行君）　お答えいたします。 　誹謗中傷等の人権侵害は決して許されるものではなく、それがインターネット上の情報により行われた場合には、情報へのアクセスが容易であるほか、情報が容易に拡散して完全に消去することが困難になる傾向があり、深刻な被害を招きかねないものと認識しております。 　法務省の人権擁護機関では、インターネット上の誹謗中傷等の情報が人権侵害に当たるとして相談を受けた場合には、相談者の意向に応じ削除依頼の方法を助言するほか、違法性の有無を判断した上でプロバイダー等に対して情報の削除要請をするなどの対応を行っております。 　今後も、インターネット上の人権侵害事案に対して適切に対処してまいりたいと考えております。

○竹谷とし子君　しっかり対応していただきたいと思います。 　最後に、文科省に伺いたいと思います。 　ＡＩも大事ですけれども、ＡＩを使いこなせる人間になるための教育が非常に重要であるというふうに思っております。 　先日、珠算やそろばんのお話をちょっと懇談をさせていただいたことがございますが、このそろばんというのが一般知能が高まるらしいというふうに言われているところでございます。 　学校教育における珠算を学ぶ意義をどのように認識されているか、また、早い段階から学習できる可能性について今学習指導要領ではどのようになっているか、文科省に伺いたいと思います。

○政府参考人（日向信和君）　お答えいたします。 　そろばんは古くから我が国で用いられている計算の道具であり、全ての桁の数を具体物で表現するものであるため、児童が整数や小数の位の概念の理解を確かなものにすることにつながると考えております。 　これらの意義を踏まえ、現行の学習指導要領では、小学校三、四年生において、そろばんによる整数や小数の表し方や、足し算や引き算の方法を学習することとしております。 　文部科学省としては、小学校二年生までに算数科の基礎となる筆算による計算方法を確実に定着させた上で、三年生からそろばんを学ぶことが算数の指導上有効であると考えておりますが、現在も各学校の判断で二年生からそろばんを用いた指導を行うことは可能であり、学習指導要領及び同解説においても、低学年においてそろばんなどの教具を適宜用いることが効果的であることを示しております。

○竹谷とし子君　時間ですので終わります。ありがとうございました。

○委員長（和田政宗君）　午後一時十五分に再開することとし、休憩いたします。 　　　午後零時十六分休憩 　　　　　─────・───── 　　　午後一時十五分開会

○委員長（和田政宗君）　ただいまから内閣委員会を再開いたします。 　休憩前に引き続き、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。 　質疑のある方は順次御発言願います。

○柴田巧君　日本維新の会の柴田巧です。よろしくお願いをいたします。 　さて、この法案は、先般、今横にいらっしゃいますが、片山議員からもあったように、この変化の激しいＡＩ技術のガバナンスに我が国として初めて取り組むＡＩ法案だというふうに理解をしております。 　この法案の成立を機に、遅れてきたこのＡＩの研究開発などが進んでいくことを期待をするものではありますが、そのためには、先ほどから午前中もいろいろ議論がありましたが、やはり国民の中にはＡＩに対する不安感というのはまだ色濃くあるものと思っています。したがって、これをどう払拭をしていくかというのが大きな課題だというふうに認識をしますが、そこで、まず大臣の基本的な認識をお聞きをした上で、具体的に、この法案がＡＩに対する不安を払拭できるような内容になっているのかというのをまず順次お聞きをしてまいりたいと思います。 　まず最初に、人間中心のＡＩ社会原則ということでお聞きをしますが、これまでの我が国のＡＩに関する取組をざっと振り返ると、平成三十一年の三月に統合イノベーション戦略推進会議によって人間中心のＡＩ社会原則が決定をされました。これを踏まえて、その後のガイドラインの策定に係るそれが議論の土台になったということであります。 　この原則においては、人間中心の原則として、ＡＩは、人々の能力を拡張し、多様な人々の多様な幸せの追求を可能にするために開発され、社会に展開され、活用されるべきだというふうに書かれているわけですけれども、この会議の決定から六年が経過したわけですが、昨今のＡＩの利用の状況を見ますと、ディープフェイクによる偽情報の拡散であったり、ポルノ画像等の生成であったり、あるいはまたこのＡＩを利用したコンピューターウイルスの作成などなど、ＡＩの開発、社会への展開、利用が必ずしもあの原則に掲げられたとおりに進んでいるとは言えない面も正直あると思っております。 　そこでお聞きをしますが、ＡＩの開発、展開、利用の状況についてどのように評価をしているのか、また引き続きこの人間中心のＡＩ社会原則で掲げられた基本理念や原則に沿って施策を推進するということでよいのか、大臣にまずはお聞きをしたいと思います。

○国務大臣（城内実君）　柴田委員の御質問にお答えします。 　生成ＡＩに代表されますように、ＡＩの技術は短期間で急速に進展いたしておりまして、過去には想像し得なかった活用の広がりを見せております。 　そして、環境変化の中でも、我が国が平成三十一年、二〇一九年に策定いたしました人間中心のＡＩ社会原則、この考え方は我が国、そして世界のＡＩ政策の推進におきまして一定の役割を果たしてきたと認識しており、今後もその重要性は揺るがないものと考えております。 　現在、我が国におきましては、委員御指摘のとおり、ＡＩの研究開発や活用が他の主要国と比較しますと十分に進んでいない状況にありますが、これは、ＡＩに資本や人材が迅速に集まっておらず、加えて国民や企業はＡＩに不安を感じていることなどが要因だと考えております。 　こうした状況を克服していくためには、柔軟かつ適切にＡＩのリスクへの対応を行うと同時に、やはり安全、安心なＡＩの開発をしっかり進めていくことが重要でありまして、ＡＩによるイノベーション促進とリスク対応の両立を図るこの本法案を提出しているところでございます。 　なお、本法案が成立した暁には、ＡＩ戦略本部の下で策定いたしますＡＩ基本計画や、新たに整備する指針に人間中心の考え方をしっかりと記載していく予定としております。 　特に、ＡＩ基本計画は、ＡＩの研究開発及び活用の推進に関する施策についての基本的な方針等を定めるものであることから、この計画に記載することで、この人間中心の考え方に沿って関係府省庁の施策が行われることを担保できると考えております。

○柴田巧君　ありがとうございました。 　今大臣がおっしゃった人間中心の原則というか、これを踏まえるならば、今も答弁の中にありましたが、やはりそのためにこの不安を払拭、どうこの法律によって、法案によって払拭をしていくかということが大事だと思いますので、順次お聞きをしたいと思いますが、まずは透明性の確保であります。 　このＡＩの研究開発から社会実装に至るまでの過程の中では、改めて言うまでもありませんが、様々な関係者が関与することになるわけですけれども、その関係者間でＡＩの適正な利用について情報が開示されていなければ、どのようなリスクが生じるおそれがあるのか把握することができず、より危険性が高まるということもあり得るというふうに思います。 　この本案の基本理念、第三条第四項においては、このＡＩの関連技術の開発、活用の過程の透明性の確保等の必要な施策が講じられなければならないとされているわけですが、そこでお聞きをしますけれども、透明性を確保するために具体的にどのような措置を講ずることを想定しているのか、大臣にお聞きをします。

○国務大臣（城内実君）　柴田委員御指摘の本法案第三条第四項に掲げますＡＩ関連技術の研究開発及び活用の過程の透明性を確保、これするための具体的な施策といたしましては、まずは法案第十三条に基づきます国が整備する指針、これを通じた施策を想定しております。 　例えば、この指針の中で、ＡＩの使用説明書やリスクに関する情報等の開示を奨励することなどを現在検討しているところであります。また、その出力された情報がＡＩを用いて生成されたものであることを示す電子透かしの導入や、あるいは個人情報の学習や入出力を制御する装置の導入といった技術的対応の推進を図ることについても、透明性を確保するための施策として想定しているところであります。

○柴田巧君　この透明性と並んで大事なのは適正性ということだと思っていまして、その適正性の確保のための指針についてお聞きをしたいと思いますが、この本法案の第十三条に基づいて、国は、ＡＩ関連技術の開発、活用について、適正性の確保のための国際規範に即した指針の整備を行うこととされていますが、当該指針について想定される主な内容や策定に向けたプロセス、スケジュールについて確認をさせていただければと思っていますが、どのように実効性を確保していくのかと。 　また、事業者向けには既にこのＡＩ事業者のガイドラインが策定されているわけですけれども、同じような指針が新たに整備をされても、事業者にとってはどのように対応すればよいのかと、逆に混乱を招いて、それぞれに対応するための負担増加が生じてしまうのではないかと懸念をするところであります。そこで、この新たに整備される指針と既存のガイドラインとの関係はどのように整理されるのか、先ほどのことと併せて大臣にお聞きをします。

○国務大臣（城内実君）　お答えします。 　想定される主な指針の内容といたしましては、本法案第十三条では、国際的な規範の趣旨に即した指針、これを整備する旨規定されているところであります。この国際的な規範に含まれる広島ＡＩプロセスの国際指針に即する形で、国、地方公共団体、研究開発機関、活用事業者、そして国民を含む全てのＡＩ関係者における適正性確保のための基本的な考え方を指針において示していくことを想定しているものであります。 　また、御質問のありました指針の策定に向けたプロセス、スケジュールですが、この本法案が成立した暁には、有識者の皆様方の意見もしっかりと伺いまして、ＡＩ戦略本部において十分議論した上で、できるだけ速やかに指針を整備していく考えであります。 　また、指針の実効性の確保に関しましては、本法案では、事業者等に対して国の施策に協力する責務、これを明記していることから、これにより一定の実効性を確保することが可能と考えております。 　最後に、この指針と、この法案の指針と既存のガイドラインとの関係なんですけれども、これまで、関係省庁におきまして特定の主体や分野を対象といたしましたガイドラインを策定しております、例えば総務省とか経済産業省ですが。また他方で、この本法案に基づいて整備する指針では、全ての、特定分野に限らず全ての関係者に向けて適正性確保のための基本的な考え方を示すことを想定しております。 　ＡＩ事業者等の各主体においては、この最も基本となる指針と、各主体にとってのその個別で適切な、最も適切な個別のそのガイドライン、これを双方を参照しながら、ＡＩの研究開発と活用の適正性を確保していただくことを考えております。

○柴田巧君　ややもすれば、今までガイドラインがあって、さらにまた指針ができてということで、現場からするとというか事業者からすると、それぞれ対応する非常にこの負担感というのは出てくる可能性も多分にあると思いますので、それはそうならないように是非気を付けていただきたいと思います。 　大事なのは、そのガイドラインなり指針なりの利便性を向上させていくことだということだと思っていますが、そういう観点から次にお聞きをしますけれども、本年二月に総務省が公表したＡＩ事業者ガイドラインに関する事業者アンケート・ヒアリングの結果によりますと、このＡＩ事業者ガイドラインを活用したことがあると回答した割合は四割しかないわけで、四割にとどまっているわけですね。ここをいろいろ見てみますと、事業者からどんな声が上がっているかというと、このガイドラインは非常に抽象的な表現が多くて、このままの形で社内に展開するのは困難であるといった意見でありますとか、実務上の運用として、具体的なケースに対してこの方針に合致しているのかしていないのか判断することが難しい場合があるとか、あるいはまた、分量が多くて、読もうとしたが挫折したなどの意見が寄せられているわけです。 　そこで、このガイドラインは今年の三月に改訂されたというふうにはお聞きをしていますが、じゃ、具体的にどのような改善が図られたのか、これは総務省にお尋ねをします。また、今後これから政府が整備する指針についても、事業者等が利便性、利用者等の利便性を考慮した形で作成することがより実効性を持つことになると、高めることにつながると思っていますが、どのように対応していくのか、これは内閣府にお尋ねをします。よろしくお願いします。

○政府参考人（下仲宏卓君）　お答えいたします。 　ＡＩ事業者ガイドラインにつきましては、事業者へのアンケート結果のほか、多様な関係者の御意見や最新の技術動向などを踏まえて検討を行い、本年三月に一・一版として更新をしています。その際、例えば民間企業や地方公共団体における具体的な事例を追加することなどにより、事業者による理解促進のための改善を図っております。 　総務省では、経済産業省と連携し、関係する事業者において一層活用されるよう、状況の変化などに柔軟に対応するリビングドキュメントとして、今後とも本ガイドラインの改善を適切に行ってまいります。

○政府参考人（渡邊昇治君）　指針でございますけれども、御指摘のとおり、利便性を高めることで、その実効性といいますか、それをよりちゃんと使っていただくということはできるというふうに思っていまして、非常に重要な御指摘だというふうに思っています。 　例えばということでお話ししますと、今御指摘ございました、関係省庁がガイドラインとかこのＡＩに関連する文書というのはかなり出しておりまして、それがどういうものかというその全体像ですね、それとこの法律に基づき作る指針とのこの関係性とか全体像を分かりやすく示すということが大事かなと思っていまして、併せて申し上げますと、先ほどの、指針がちょっと厚くてなかなか読めないとか抽象的だということがあるんですけど、これ、やっぱり事業者さんの目的によりまして、実例をちゃんと読みたいという人は百数十ページの実例集のところを読めばいいと思いますし、概要を知りたい方は最初の例えば七ページのところを読んでいただければいいんですよとか、そういうこともアピールをしていきたいというふうに考えております。 　ありがとうございます。

○柴田巧君　いずれにしても、本当に事業者側にとってこの利便性の向上が図られるようにいろいろ工夫をしていただいて、また、今手直しをされたとしても、これから始めるとしても、いろんな状況をしっかりチェックしながら、よりいいものになるように努力をしていただきたいと思います。 　次に、このＡＩのリスクを軽減するための研究についてお聞きをしたいと思いますが、本法案では、国がＡＩ関連技術の研究開発の推進に関する施策を講じることが、これ第十一条ですが、定められるとともに、研究開発機関や事業者に対しては、国等が実施する施策に協力することが規定をされております、第六条、第七条でありますが。 　令和五年に策定されたＧ７広島ＡＩプロセスに基づく国際行動規範では、社会的、安全、セキュリティー上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先することが盛り込まれて、リスクを軽減するための研究の重要性が示されているところです。 　そこで、国はこのようなこの考え方に沿って施策を講じることになるのか確認をするとともに、研究開発機関や事業者に対してはどのような取組を求めるのか、大臣にお尋ねをします。

○国務大臣（城内実君）　お答えします。 　Ｇ７広島ＡＩプロセス国際行動規範の考え方に沿ってどのような施策を講じるのかという御質問もございましたが、この本法案におきましては、ＡＩの研究開発及び活用の適正性の確保を図る観点から、言うまでもなく、国際的な規範の趣旨に即した指針を整備することとしております。 　この国際的な規範には、柴田委員御指摘の、冒頭申しましたＧ７広島ＡＩプロセス、これに基づく国際行動規範であります高度なＡＩシステムを開発する組織向けの広島プロセス国際行動規範、これを含んでおります。リスクを軽減するための研究の重要性を含めまして、当該国際行動規範に示されている考え方につきましても、本法案に基づき整備する指針に適切に反映させていく考えであります。 　また、研究開発機関、事業者に求める取組につきましては、国といたしましては、当該指針を踏まえた自主的な対応を求めていくとともに、ＡＩセーフティ・インスティテュート、通称ＡＩＳＩといいますけれども、このＡＩＳＩが公開しているＡＩの安全性に関する各種ガイドの周知を徹底することなどを通じてリスク対応に向けた取組を求めてまいる考えであります。

○柴田巧君　しっかり進めていただきたいと思いますが、次に、国による調査研究等の規定の適用の場面についてお尋ねをします。 　本法案の第十六条では、国が不正な目的又は不適切な方法によるＡＩの関連技術の開発、活用に伴って国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討などの調査研究、調査及び研究を行うことが規定をされているところです。 　このいわゆる中間とりまとめでは、既存の個別の法令が存在する領域においては、ＡＩが各領域で様々な用途で利用され始めており、権利利益の保護の必要性が生じる場面もＡＩの用途に応じて異なることから、まずは当該法令の枠組みを活用しつつ対応すべきであるとされているわけですけれども、これを踏まえると、当該規定は個別法令では対応できないような場面での適用が中心となるのか、この第十六条と個別法令の関係性について、これは内閣府に確認をしたいと思います。

○政府参考人（渡邊昇治君）　十六条の調査研究につきましてお答えを申し上げます。 　御指摘のとおり、まず、既存の法令でその調査研究をしたりいろんな対応が可能ではございますので、まずそれはしっかりやっていただくということだと思います。 　その上で、なかなかちょっと誰がどの法律で対応したらいいのか分からないとか、もう予測不可能な事態がやっぱりＡＩは起きてくると思います。そういったときに、この法案で国がしっかり調査をするということが明記されていることによって、私ども調査ができるというふうに思っております。 　それで、既存法令では対応できない、でも、不正な目的あるいは不適切な活用方法で国民の権利利益に侵害があるという場合には、私ども調査研究をしっかりやらせていただくということでございます。

○柴田巧君　分かりました。 　次に、被害事例の収集、共有を目的としたプラットフォームについてお尋ねをします。 　ＡＩ制度研究会で行われたヒアリングでは、ＮＴＴから、被害事例の収集、共有を目的としたデジタルプラットフォームの整備について要望が出されたというふうに承知をしています。 　この被害情報の迅速な共有というのは、同様の被害の拡大防止であったりこの原因究明等に極めて有効なものと思いますが、より安心してＡＩを活用できる環境整備にもそれはつながるものと考えますが、こうした取組をこれからやっていくという考えはおありなのかどうなのか、内閣府にお聞きをします。

○政府参考人（渡邊昇治君）　御指摘の点は、その発生した被害、あるいはインシデントと言ったらいいんですかね、こういった情報を関係者が共有することが非常に重要だということでございまして、そのためのデジタルプラットフォームといいますか、ある種のサイトといいますか、ウェブサイトというか、そういうものを作って共有していくということが重要だと思います。 　その際、先ほどの議論とも絡むんですけれども、余り詳細に書き過ぎるとちょっと読みにくいみたいなこともありますので、いろんな方が読みやすいように、すごく大きな事例を分かりやすく書いたり、プロの方が読んでも多少満足できるように詳しく書いたり、いろんなことを組み合わせながらやっていくということが重要なんではないかというふうに思います。 　いずれにしましても、国においては、このＡＩ政策、あるいはＡＩ法律に関するウェブサイトというのを充実していきたいというふうに考えております。

○柴田巧君　やはり、いろんな被害の迅速なこの共有であったりですね、それがやっぱりこの拡大防止や原因を究明する上で非常に有効なものだと思いますので、その具体的な、どういうふうにやっていくかというのはよく、制度設計というかしていただきたいというふうに思って、改めて求めておきたいと思います。 　次に、この事業者名等の公表を行う際の手続の在り方についてお聞きをしたいと思っておりますが、この本法案の第十六条では、調査、研究の結果に基づき、指導、助言、情報提供等の必要な措置を講ずるものとされており、政府はこの必要な措置には事業者名等の公表が含まれていると答弁をしているというふうに理解をしています。 　この事業者名等の公表については、国がそれを行うとアナウンスすることで、悪質なＡＩの開発、利用に対する効果的な抑止力になると考えられるとは思います。しかし一方で、実際に公表された事業者は経営面などで不利益を受ける可能性もあって、この公表に当たってはその適切な運用が求められるということになると思います。 　今回の法案の一つのポイント、ここは一つのポイントかなと思っていますが、そこで、実際の運用に当たっては、この指導、助言によっても業務が改善されなかった事業者のみを公表することになるのか、国民に情報の周知を図る観点から、事業者を公表する理由等も加えて公表することになるのか、あるいはまた、公表に至る決定プロセスの透明性をどのように確保するかなどが課題になると考えられますが、事業者名の公表手続の在り方、方向性について内閣府にお聞きをします。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　まず、事業者名等を公表することについては、公表した場合としない場合のデメリット、メリットといいますか、今御指摘ありましたように、公表してしまうと愉快犯みたいな人が、あるいは模倣犯みたいな人が出てきて、その悪質なものを使ってしまうとかいう可能性もあります。 　また、余り言いたくない話ではあるんですけど、結局、公表したところで、また別の事業者に名前を変えて次の日から同じことをやったりとかそういうこともありますので、むしろ、その個別の事業者名を公表するというよりは、似たような事象といいますか、そういう現象について調査をして公表するということがもしかすると重要かもしれないというふうに思っていまして、そういう意味では、公表した場合と公表しない場合のどちらがいいかということをよく考えながらやっていきたいというふうに思います。 　それと、そのルールにつきましては、やはりＡＩ戦略本部等ができました暁には、そういう有識者ですとかＡＩ戦略本部のその御議論を経て、公平で透明な公表ルールといいますか、調査、公表に関するやり方というか、それを決めていくということを考えております。 　それと、なお、ちょっと、この規定につきましてですが、十六条の規定は、結局規制法ではございませんので、これは制裁的な措置ということではなくて、調査をして、あくまでもその事実を公表するということでございます。そこからすると、今日、どうしても悪い方の話が中心になっているんですけれども、むしろ、こういういい使い方があるんだという調査も当然やっていくべきだと思っていまして、そういうＰＲも併せてやっていきたいというふうに考えております。

○柴田巧君　とにかく悪質なものをやめさせ止める、被害を最小限に抑えていく、そして、今おっしゃったように、良いものは良い、成功事例とか好事例を広げていけるというようなことを考えていく必要があるんだろうと思いますが、これから、具体的なやり方はこれからお決めになるんでしょうけど、そこら辺しっかり念頭にやっていただきたいと思います。 　次に、行政における活用についてお尋ねをしますが、この本法案の第四条は、国の責務として、国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとしております。 　そして、中間とりまとめでも、国内のＡＩ市場の発展等にも貢献できるため、政府が率先してＡＩを利用していくことは重要というふうになっています。ただ一方で、ＡＩの活用においては、この機械学習に用いるデータ等の偏りによるバイアスであったり、あるいは判断過程のブラックボックス化などの問題が指摘をされていまして、同じく中間とりまとめでは、国民の権利利益に重大な影響を及ぼしかねないものについては、ＡＩの出力結果を自動的に採用することのリスクを踏まえて慎重に取り組むべきであるというふうになされていると思います。 　そこで、この行政機関におけるＡＩの活用に当たって特に注意が求められるこの国民の権利利益に重大な影響を及ぼしかねないものとは具体的にどのような場合が該当するのか、お尋ねをします。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　行政で利用する場合は、内部で利用する、内部業務の効率化とか高度化のために利用するというのもあれば、外部サービス、住民との関係ですとか事業者との関係でＡＩを使っていくという両方の可能性があると思います。 　そういう中で、例えば給付金の支給の判断をＡＩがやるとか、あるいは何らかの認可とか、そういった判断をそのＡＩがやるということになりますと、これはもし間違いがあったときとかには非常に大きな影響ございますので、こういったものが今のこの重大な影響を及ぼしかねないものという例の一つかというふうに思います。

○柴田巧君　では、それを踏まえて次にお聞きをしますが、先ほど午前中も取り上げられていましたが、補助金の交付であったり保育所の選考に係る事務など、地方公共団体を含め、行政ではもう既にＡＩの活用が進んでいるわけです。 　ただ、先ほども触れましたように、ＡＩのこの判断過程というのは非常にブラックボックスというか不透明なわけですね。どのようなデータを用いたのかとか、あるいは出力結果が公平性を欠いていないかなど、このＡＩを利用した際には特に説明責任を果たすことがこれ必須になってくると思っています。 　また、このＡＩを利用した行政の判断に疑義があった場合や誤った判断がなされた場合のこの救済策などのルールの整備についても検討が行う必要があるのではないかと思っています。 　そこで、この本法案に基づき行政でのＡＩの積極的な活用を推進をしようということですが、今申し上げたような点についてどのような対応がなされるということになるのか、お聞きをしたいと思います。

○政府参考人（渡邊昇治君）　御指摘のとおり、行政においてＡＩを積極的に使う場合、やはり透明性とか説明責任というのはしっかり果たしていく必要があるというふうに考えています。 　一つ申し上げますと、デジタル庁が今作っているガイドラインがございまして、行政の進化と革新のための生成ＡＩの調達・利活用に係るガイドラインというものでございます。これ、本年五月に、目途にその策定予定と聞いておりますけれども、この中では、出力結果に基づいて行われた判断、要するに最終的には人間が判断するということなんですけど、その出力結果に基づいて行われた判断も説明責任の対象の中に含まれるんだと、そこに留意をしましょうとか、あるいは、出力結果にやっぱりバイアスが含まれる可能性がありますので、当然、担当官がそれ留意して、問題がないかどうかを確認をしながら判断するとか、あるいは、関係省庁がその生成ＡＩシステムを使ってサービスを行う場合、問合せ窓口をユーザーが分かりやすい形で示しておくとか、そういった点が留意事項としてこのガイドラインの中で書かれております。 　そのほか、この法案に基づいて国が指針を整備するつもりなんですけれども、この中でも、当然説明責任ですとか、先ほど来御答弁申し上げていますけれども、その透明性とかそういったことは書いていきたいと思いますし、また、救済策につきましては、現時点では重大な行政判断をＡＩがやっているというケースはちょっと、私はちょっと承知していないんですけれども、もしそういうケースになった場合には、やはりその救済措置といいますか、救済窓口というか、救済策についても検討が必要ではないかなと考えております。

○柴田巧君　そのＡＩを活用することによって行政の効率化が、生産性が上がっていくということは間違いないと思われますが、今私も取り上げたように、いろんな懸念点もあるのも事実で、これをどう克服していくか、そして住民の皆さんがしっかりやっぱり納得できるようなものに、そういった制度設計をきちっとやっぱり今から準備をしておいていただきたいと思います。 　次に、このＡＩの戦略本部について聞きます。 　本法案の第十九条に基づいて、内閣総理大臣を本部長として全ての閣僚で構成されるＡＩの戦略本部が新設をされることになります。今回これができると、本当にたくさんの本部があるわけですが、科学技術分野の他の分野としては、この新たにできるＡＩ以外にも、既に宇宙開発戦略本部であったり知的財産戦略本部であったり健康・医療戦略推進本部などが存在をしているということになりますが、この健康・医療の方は年に数回開催しているものの、大体、これ持ち回りが多いわけですね、見ていると。宇宙開発戦略本部は年に二回、夏と冬だけやっていると。知的財産戦略本部は年に一回だけ夏やっていて、開いて、年次計画の改訂時など定期的なタイミングで今ある既存の本部は開かれているわけです。 　衆議院の審議においても大臣は、本法案が成立した暁には、ＡＩ戦略本部が司令塔機能をしっかりと発揮をして、各省庁がこれまで以上に緊密に連携しながら各種の取組を総合的かつ計画的に進めていく旨の答弁を繰り返しされているわけですが、ＡＩのようにこの進歩のスピードが速い政策分野において、そもそも全閣僚で構成されなきゃいけないのか、本部が、新たに設置したとして、こういうことで、そういうことで機動的な政策決定が本当に行われるのか、この点大変疑問に感じるんですが、この点いかがなんでしょう。

○国務大臣（城内実君）　委員御指摘のとおり、ＡＩの技術はその進化と活用が極めて急速に進展しておりまして、やはり機動的な政策対応が重要となることはまさに委員御指摘のとおりだと思います。 　したがいまして、本法案に基づき設置されるＡＩ戦略本部につきましては、必要性が生じた場面において適時適切に本部会合を開催するとともに、ＡＩ戦略本部の下には有識者会議を設置する予定もございますし、また、もう既に関係省庁会議もございますので、こうした会議体も活用しながら機動的な対応を行うこととなっております。 　ＡＩ戦略本部の事務局である内閣府がやはり旗振り役となりまして、我が国のＡＩ関連施策が一層強力かつ迅速に推進されるよう、いずれにしましても、関係府省庁が一丸となって取り組んでまいる考えであります。

○柴田巧君　ややもすると、この本部をつくりました、指針を作りました、で、それが目的になってしまって、大事なのは、いざというときに機動的にこの政策決定ができるか、対応できるか、対処できるかということだと思うんですね。形ばかりではなくて、やっぱり実のあるものに、本当に実効性のあるものにしていくという、このことは十分気を付けてやっていただきたいものだと思います。 　この司令塔機能の強化に向けては、このＡＩ戦略本部を支える事務局の体制整備がこれ重要になるというふうに思います。本部の事務は内閣府において処理すると規定をしていますが、それでは、これまでＡＩ政策を担ってきた科学技術・イノベーション推進事務局が引き続きそれは担当することになるのか、ＡＩの関わる政策分野を、リスクが多種多様であり、対策分野やリスクが多種多様であり、省庁間で連携強化を図るためにも事務局体制の強化を図る必要があるのではないかと思いますが、この点はどうなのか、大臣にお聞きをします。

○国務大臣（城内実君）　お答えします。 　我が国全体のＡＩ政策に関する司令塔となりますＡＩ戦略本部の事務は、内閣府科学技術・イノベーション推進事務局が所掌する科学技術の振興等に関する事務と互いに密接に関連するため、引き続き同事務局が担当することとしております。 　なお、ＡＩ政策の司令塔機能を十分に発揮するためにはやはり事務局の体制強化が極めて重要であると考えておりますので、関係省庁とも連携しながら、外部の専門人材の活用なども含めて、しっかりと推進体制の確保を図ってまいりたいと考えております。

○柴田巧君　やはり、その事務局体制が非常に肝になると思います。ここをしっかりやっぱりなるかどうかがポイントだと思いますので、人選含め、体制の在り方含め、しっかりやっていただきたいと思います。 　それで、これが最後の質問になるかもしれませんが、この本法案の第十八条では、ＡＩ戦略本部での検討を踏まえてＡＩ基本計画を策定することを規定をしています。本法案では計画の策定時期や変更時期については規定はされていないわけですけれども、知的財産基本法では知的財産推進計画について、知的財産戦略本部は、少なくとも毎年度一回、同計画に検討を加え、必要があるときは、認めるときはこれを変更しなければならない旨を規定をしています。 　そこで、この本法案の立案に当たって、知的財産基本法のように計画の見直し時期を規定しなかった理由は何なのかと、そしてこの計画の見直しに関わる検討はどのように実施をするのか、併せて大臣にお聞きして、最後にしたいと思います。

○国務大臣（城内実君）　ＡＩは、先ほども申し上げているとおり、技術の進展が速い分野でありますので、法案の施行後、現時点では予測できないリスクが発生し、又は顕在化する可能性がございます。 　本法案に基づき策定するＡＩ基本計画については、そうしたＡＩの技術進展の動向を見ながらその時々の状況に応じて臨機応変に見直していくことが重要だと考えておりまして、今般の法案においては、基本計画の見直しの時期についてはそうした観点から具体的な規定を設けていないということであります。 　また、ＡＩ基本計画の見直しに係る検討につきましては、関連する国際的な動向や社会経済情勢の変化を含めまして、法律の施行状況を継続的に注視しながら、ＡＩ戦略本部において審議の上、改定案を作成し、閣議決定していくことを想定しております。

○柴田巧君　時間が来たのでこれで終わりますが、残りは来週やらせていただきたいと思いますので、どうぞよろしくお願いします。済みません。

○竹詰仁君　国民民主党・新緑風会の竹詰仁です。 　これまでの質問と重複するところがありますので、そこはあらかじめ御了承いただきたいと思います。 　最近のニュースでちょっと私の関心を引いたことが、ニュースがございました。五月の五日に、チャットＧＰＴを手掛けるアメリカのオープンＡＩというところが、去年発表した、営利企業が事業を主導するとした組織再編をやるというのを去年発表したんですね。その営利企業を主導する組織再編、そのことについて、非営利組織が今後も経営主体となるというふうに発表したんです。すなわち、撤回をしたということです。営利企業が中心になるということではなくて、非営利企業が引き続きそれを傘下に収めるというふうに方針をまた撤回したということで、私、これがとても興味深くて、営利企業にすると、関係者や研究者から、営利目的になることで安全対策が後回しになるんではないかということで、懸念や反対意見が相次いだそうであります。 　ちょっと大臣に、私のこの関心事について大臣の見解もちょっといただきたいんですが、このチャットＧＰＴ、この生成ＡＩの代表格であるオープンＡＩが営利目的になることで安全対策が後回しになるという懸念が出ていることについて大臣はどのようにお考えになるか、教えてください。

○国務大臣（城内実君）　チャットＧＰＴという、オープンＡＩというですね、個別の企業の経営上の判断についてこの場でコメントすることについては差し控えたいと思いますが、その上で、一般論として申し上げますと、世界中の多くのユーザーを対象とする企業においては、営利目的だけではなく社会的貢献などの観点も踏まえて事業が行われることを強く期待しているものでありますし、また、竹詰委員御指摘のとおり、安全対策が後回しとなることはあってはならないと考えております。

○竹詰仁君　このオープンＡＩに限らず生成ＡＩは、大手のＩＴ企業あるいはスタートアップと言われる民間企業が手掛けることが中心となっていると認識しているんですけれども、この営利目的とする民間企業が生成ＡＩを手掛けることは安全上のリスクが生じ得るのかという点で、政府の見解を聞きたいと思います。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　いわゆるネットワークビジネスにおいて起こる現象でございますけれども、一般的には非常に技術的にブラックボックスになりやすい、そういうものを扱っているデジタルプラットフォーマーと言われている人たちなので、一般の人のチェックが入りにくいという説もあるんですけど、逆に多くの利用者がそれを利用して、日々使っているので、何かおかしいことがあればそれは発覚しやすいという面もあれば、また一回そういうことが起こりますと使われなくなってしまうということで、事業者側もリスクを感じていますので、利用者の多いＩＴシステムといいますかＡＩも含めて、民間企業がやっているから駄目なんだということはないというふうに考えております。

○竹詰仁君　ちょっとまた後ほど似たような質問をするんですけど、私非常に関心が、興味深かったのは、このＡＩを我が国の産業の発展につなげていくんだとするならば、やはり民間企業にそれを担ってもらうということが当然必要になってくると思うんですね。ですけど、このオープンＡＩは営利目的とするという組織改編をやっぱりやめますと言ったことは何かとても興味深くて、でも、民間企業というのは普通営利を追求するのが民間企業ですので、その民間企業に頑張っていただくことが日本のＡＩの進展にもなるけれども、でも、余り営利を追求し過ぎると実は肝腎なリスクが脅かされる可能性もあるというような、私、そういうふうにこのニュースを読んで大変興味深いということを思いましたので、ちょっと先にお尋ねさせていただきました。 　私は、日本が、このＡＩというのが出てきてまだ世界的に余りＡＩということ、動きが広く出回っていなかった二〇一〇年代の後半に、ＡＩの開発そして利用に関してどのようなことを考えればいいかということで、日本政府はＡＩ開発原則、ＡＩ利活用原則というのを作成しておりました。これらの作成に当たっては、総務省など政府に加えて、有識者、利害関係者、関係事業者、消費者などなどの代表者と議論したということでございました。 　こうした動きから、我が国ではＡＩの開発及び利用に関する考え方を私は先進的にまとめていったんではないかと思っていますけれども、このＡＩの開発原則、ＡＩの利活用原則、こういったものを作成した背景、そして概要について教えてください。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　二〇一〇年代にＡＩの技術がだんだん進化して国際的にも利用されるようになってきて、ちょうど二〇一六年に、Ｇ７の、高松ですね、香川・高松情報通信大臣会合がございまして、そのときに、その当時の高市総務大臣がこのＡＩに関して何らかの原則が必要なんではないかということを表明されたと。ある意味、これが一つの出発点だったんではないかというふうに思います。 　その後、二〇一七年に、総務省の方で、ＡＩ開発者が研究開発等の際に留意する指針、原則としてＡＩ開発原則という今御指摘のものを作りまして、その解説文書としてＡＩ開発ガイドラインというのもできました。 　その後、二〇一九年に、今度はそのサービス提供側、先ほどＡＩを作る側だったんですけど、今度はＡＩを使ってサービスをするとかＡＩを利用する側の原則といいますか、ＡＩ利活用原則というのができまして、やはり同じくガイドラインでその解説をするというような形をしていたというのが歴史でございます。 　その後、二〇一九年に、午前中も答弁いたしましたけれども、人間中心のＡＩ社会原則というのがまとまりまして、ここで人間中心という考え方が世の中にメジャーになってきたところであります。 　そしてまた歴史が巡って、二〇二三年、七年ぶりに日本がＧ７の議長国になって、広島ＡＩプロセスにつながっていくということで、この間、実は、日本はこのＡＩのルールにつきましては実は結構世界を主導してきたというか、そういうふうに言ってよいのではないかと思います。

○竹詰仁君　今、最後の方に、世界のルールをむしろ先進的に作ってきたんではないかということで、ちょっとその続きなんですけれども、ＯＥＣＤが二〇一九年に人工知能に関する理事会勧告というのを出しております。その時点では、このグローバルスタンダードが日本の提案をベースに作成されたということでございましたけれども、この二〇一九年のＯＥＣＤの理事会勧告は日本の提案がベースとなっているというふうに考えてよいのか、そしてこの概要についても併せて御説明いただきたいと思います。

○政府参考人（近藤玲子君）　お答え申し上げます。 　ＯＥＣＤのデジタル経済政策委員会におきましては、二〇一六年のＧ７香川・高松情報通信大臣会合をきっかけにＡＩに関する原則の検討、策定に着手をし、二〇一九年五月に委員御指摘のＯＥＣＤ理事会勧告として取りまとめを行いました。 　この理事会勧告でございますけれども、ＡＩに関する初めての多国間合意であり、ＡＩの責任ある管理、運用、法の支配と人権の尊重、透明性、安全性の確保、アカウンタビリティーの責務など、人間中心の考え方に基づく指針として策定されております。 　日本政府としましては、ＯＥＣＤデジタル経済政策委員会において、先ほどの答弁でも言及のありましたＡＩ開発原則、ＡＩ利活用原則及び人間中心のＡＩ社会原則の概念を当該勧告に盛り込むように提案を行い、この提案がベースになって理事会勧告が取りまとめられたところでございます。

○竹詰仁君　御説明ありがとうございました。 　私は、今の御説明もそうだったんですけど、こういった二〇一〇年代からの背景を見ると、私はむしろ、ルール作りはとても早く作ろうとしていて、とても慎重に作ってきたんじゃないかと思っているんですね。でも一方で、何というんでしょう、慎重であるがゆえに開発が遅れていったということもあるんじゃないかと思っていて、むしろ丁寧にやってきた、でもその開発というかそれは遅れて、利用の方も遅れているというような状況が今の状況なんじゃないかなと思って、いろんなものを、資料を読んだり、今の御答弁も聞いてそういうふうに思っているんです。 　この人間中心のＡＩ社会原則というのが、先ほど、二〇一九年に作られたということで、ヨーロッパもヒューマンセントリックという言葉を使って日本と同じようなことを言っておりました。あくまでも人間が中心ですと、ＡＩが人間を支配するような社会であってはならないと、人間が人間にとって最も良い形でＡＩを作っていく社会でなければならないという考え方だったと認識しているんですが、この日本とヨーロッパでは、人間中心のＡＩの活用、ＡＩが人間を、支配されるようなことがあってはならないという、こういったコンセプトについては共通しているのか、大臣の見解を教えてください。

○国務大臣（城内実君）　竹詰委員御指摘の人間中心の考え方につきましては、例を挙げますと、例えば、我が国とＥＵが共に策定に関わっておりますＯＥＣＤの人工知能に関する理事会勧告、いわゆるＯＥＣＤ・ＡＩ原則なんですけれども、これとか、あるいは広島ＡＩプロセスの国際行動規範などにおいても示されているところでありまして、こうした考え方は、御指摘のとおり、我が国とＥＵ双方において共有されているものと認識しております。 　今後、ＡＩ戦略本部の下で策定いたしますＡＩ基本計画や国が整備するＡＩの適正性を確保するための指針におきましても、この人間中心の考え方をしっかり示していくことを予定しております。

○竹詰仁君　大臣、御見解教えていただきましたけれども、ちょっともう一回、繰り返すところあるんですけれども、この二〇一九年のこのときの動きが第一ラウンドだとすれば、先ほど御説明もいただいたんですけど、広島、Ｇ７の広島があって、広島ＡＩプロセスというのが今度始まっていって、それが第二ラウンドというふうに呼ばれたりしていて、それのじゃ何が違うかというと、やはり生成ＡＩというのが二〇二二年にチャットＧＰＴを始め出てきて、そこから私、このルール変更というか少しモードが変わったというか、そういうふうになったのではないかと思っております。 　この広島ＡＩプロセスということを実行するに至ったというか、それに移行しなきゃいけなくなったといったこの背景と概要について改めて教えていただきたいと思います。

○政府参考人（近藤玲子君）　お答え申し上げます。 　二〇二二年末にチャットＧＰＴが一般向けに公開されたことを踏まえ、二〇二三年五月に我が国が議長国となって開催されたＧ７サミットにおいて、生成ＡＩの機会と課題を早急に把握する必要性が認識され、我が国の主導により広島ＡＩプロセスが創設されました。 　広島ＡＩプロセスは、生成ＡＩによる新たな機会と課題に対応し、安心、安全で信頼できるＡＩを実現するための国際的なルールの検討を行うものでございます。我が国は、このルール作りを引き続き主導していきたいと考えております。

○竹詰仁君　ちょっともう一度なんですけど、ＡＩそれから生成ＡＩ、今は生成ＡＩということになって、このＡＩから生成ＡＩが登場したことで、それまでの原則やルールを変えざるを得なくなった、その理由について内閣府から御説明いただきたいと思います。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　生成ＡＩは非常に高性能なものですから、例えば偽情報も非常に巧妙で本物かどうか見分けが付かないとか、そういうものが出てきたということで、これは従来のその原則に加えて、やはりもう少し細かなルールといいますかガイドラインが必要だろうということで、国際的にもそういう議論になっていったというふうに考えております。 　そういう意味で、今までの原則がなくなったということではなくて、今までの原則に加えて、新しいそのルールが加わっているというふうに理解しております。

○竹詰仁君　御説明ありがとうございました。 　次に、今度はＡＩの産業政策という意味でちょっとまた、先ほど民間企業の話したんですけれども、産業政策についてお伺いしたいんですけれども。 　このＡＩの開発を促進し、社会の中で人々がＡＩから便益を受けられるようにすること、さらにはそうしたＡＩの開発や利用を産業として支援し、日本経済の成長を促すこと、それらもまたこのＡＩに関する重要な政策課題だと思っているんですが、ちょっとこれ大臣にお尋ねしますけれども、このＡＩの開発は我が国の経済成長の牽引役となる要素とお考えになっているのか、そして、この法律自体が我が国のＡＩの開発の促進に資するものであると、そう考えてよいのか、大臣の見解を教えてください。

○国務大臣（城内実君）　基本的に竹詰委員と同じ考えでありまして、ＡＩは、その研究開発、活用の方法によってはリスクが生じる一方で、生産性の向上、人手不足の解消などが図られることで我が国の経済成長や国民生活の発展に直結するものと考えております。 　このため、安全、安心なＡＩの研究開発を適正に進めていくことが非常に重要であり、本法案では、第十一条でＡＩ技術の基礎研究から実用化のための研究開発に至るまでの一貫した研究開発の推進、第十二条におきましてはＡＩの開発に必要となるデータセンターやデータセット等の整備、共用、第十三条におきましてはＡＩの研究開発及び活用の適正性の確保のための指針の整備、第十四条ではＡＩ人材の確保、これらが規定されているところでございます。 　今後、こうした施策につきまして、法案に基づき設置されるＡＩ戦略本部の下で関係府省庁が一丸となって取り組んでいくことで我が国におけるＡＩの研究開発と活用を、リスクにも同時にしっかり対応しつつ、後押ししていくことができると考えております。

○竹詰仁君　我が国は、そのＡＩということに対するいろんなルールは、私は、結構早めに、早めに作ってきたと。一方で、今となってはＡＩの開発がむしろ後れを取っている、あるいは利用する人も余り多くないということなんですけれども、ここで、そのＡＩの、生成ＡＩの開発においてアメリカの巨大ＩＴ企業というのが出てきているんですけど、そこと我が国における開発とでどこに大きな開発の差が生じてしまったとお考えになっているのか、内閣府から御説明いただきたいと思います。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　人によってちょっと解釈は違うかもしれませんけれども、私どもの解釈を申し上げますと、まずアメリカのビッグテックと日本の企業を比べた場合、大きな資金が集まってくるそのスピード感、資金とか人が集まってくるそのスピード感というのがやはり違うかなと。もちろんその規模も違うんですけれども、そういったところがありまして、その影響も大きいと思いますけれども、データセンター等の、クラウド等の大きなこのコンピューターインフラ、あるいはそのエンジニアの数とか、そういうものは確保しにくかったのかなと思います。 　また、もう一つちょっと残念なのは、やはり日本語、少数言語でございますので、英語のコンテンツに比べるとその学習のコンテンツが少ないという問題も正直あったのかなというふうに考えております。

○竹詰仁君　私、本会議でも、ＧＥＮＩＡＣ、ことについて質問させていただいたんですけど、ちょっと重複する質問で大変恐縮なんですけれども、経産省とＮＥＤＯが一緒になってこのＧＥＮＩＡＣというのを進めているんですけれども、このＧＥＮＩＡＣがうまくいっているかどうかというのは私必ずしも承知していないんですけれども、このＧＥＮＩＡＣについての課題というか、あるいは政府としてどのように取り組んでいくのか、改めて経産省に伺いたいと思います。

○政府参考人（奥家敏和君）　お答え申し上げます。 　まず、計算資源の確保、データの不足、グローバル競争力の強化、そして産業との連携と、こういったところがまさに日本のＡＩ開発環境の課題ということでございまして、これに、この課題を乗り越えていくための取組がＧＥＮＩＡＣということになります。 　まず、計算資源の確保につきましては、ＧＥＮＩＡＣを昨年立ち上げた当初の最大の課題でありましたが、現在は、海外のクラウド事業者の協力なども得て、開発者が希望する計算資源は確保しています。さらに、他の施策と組み合わせて、他の施策によりまして国内の事業者を支援して計算資源の拡充を進めていると、こういう状況でございます。 　データの不足につきましては、スタートアップを始めとしたＡＩ開発事業者と多くのデータを保有するユーザー側の企業などとの連携を進めておりまして、専門分野で高い性能を発揮するＡＩ、これを開発するためのデータの確保を支援しています。 　また、グローバル競争力の強化という観点では、ＧＥＮＩＡＣのプロジェクトに参加している事業者に対しまして、東南アジアなどへの事業展開を支援することなどで海外展開を後押ししているところでございます。 　こうした取組を強化するためにも、社会全体でＡＩの利活用を進めていくということがこれは非常に重要ということでございまして、御審議をいただいております本法案によってそういう環境が整い、ＡＩ開発事業者と産業の連携が進んでいくと考えております。 　ＧＥＮＩＡＣでは、今第二期プロジェクトまで進めておりますけれども、御指摘の課題、私たちが抱えている課題を解消するべく取り組んでおります。他の政策とも連携しながら、こういった諸課題の解決に向けて前進していきたいというふうに考えております。

○竹詰仁君　先ほど大臣の御答弁の中にデータセンターという言葉が出てきたので、ちょっとそのデータセンターについてお伺いさせていただきたいと思います。 　私も、少し前なんですけど、千葉県の印西市というところにデータセンターが集積されているんですけれども、何というんでしょう、イメージとすると、本当に、再開発した土地に戸建てとかマンションとかが並んでいるようなイメージで、データセンターが道路の脇にずうっと並んで、データセンターの、ちょっと言葉が、適切な言葉じゃなかったらあれなんですけど、無機質なんですよね、窓とかも要らないから。むしろ窓は不要ですよね。そういう冷暖房、ごめんなさい、暖房は要らないので、冷房という設備でもなるべく窓がない方がいいと思いますし、セキュリティーの関係でも窓がない方がいいと思うので。本当に無機質な建物が道路の両脇にざあっとこう並んでいるという状況なんですよ。 　十年以内に印西市だけで一千万キロワットの電気の申込みが来ているんですね。一千万キロってどんな感じかというと、例えば北海道電力の最大電力が大体四百六十万キロワットなので、その千葉県の印西市の、しかもそのデータセンターがある場所だけで北海道電力全体の二倍以上の電気の申込みがもう来ていると、そういう状況なんですね。 　ただ、データセンターがないとこれ多分進みませんので、その意味で、このＡＩ開発の利用に資するデータセンターとして、データセンターについて、政府としてどのように戦略的に進めていくお考えなのか、経産省にお伺いいたします。

○政府参考人（奥家敏和君）　お答え申し上げます。 　データセンターは、委員御指摘のとおり、生成ＡＩなどがあらゆる分野で活用されるようになる中、質、量共に確保していくことが、産業競争力の強化のみならず、経済安全保障の観点などからも重要だというふうに認識しています。 　こうした認識の下、これまで、大規模自然災害への備えの観点も踏まえまして、地方へのデータセンターの整備でありますとか、ＡＩ開発に不可欠な計算資源の整備に対する支援を通じて、事業者によるデータセンターに向けた投資を後押ししてきています。 　今後、ＡＩの普及を考えますと、それを支える計算資源の整備には多額の投資が必要になるだろうということで、民間だけで十分な資金調達が簡単ではないだろうなということで、先日国会で可決をいただきました改正情報処理促進法等などに基づきまして、債務保証を活用した資金調達の円滑化にも取り組んでいきます。 　また、御指摘いただきました電力、まさにデータセンター、膨大な電力を必要とするデータセンターを整備していくということでございますので、電力と通信の効果的な連携、すなわちワット・ビット連携が重要だというふうに認識しています。そのため、通信、電力、データセンターに関する産業界と政府の関係者が一堂に会する官民懇談会を本年三月に立ち上げまして、具体的な方策の検討を進めているところでございます。 　引き続き、関係省庁とも連携しながら、データセンターの整備を進めてまいりたいというふうに考えております。

○竹詰仁君　御回答ありがとうございました。 　私もいろいろ伺っているんですけど、データセンターの場合は、十年後にあればいいですじゃないじゃないですか。多分、もう十年後では多分古くなっていて、もうあしたにでも欲しいという感じなんですよね。 　ですから、今いろいろ、るるおっしゃっていただいたこともスピード感持ってやらないと、十年後にデータセンターが造れますよといっても、多分そのときにはもう時代が変わっちゃっているかもしれないので、その点もしっかり官民の意見交換を通じて進めていただければと思います。 　時間となりましたので、質問を終わります。ありがとうございました。

○井上哲士君　日本共産党の井上哲士です。 　本会議の質疑の際に、ＡＩの発展や普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を求めました。今日は、その中でも自己情報コントロール権の保護の必要について更にお聞きいたします。 　二〇〇六年の大阪高裁の判決でも、自己情報コントロール権は、憲法上保障されているプライバシーの権利の重要な一内容となっているとしております。ところが、本会議で個人情報保護法への明記を求めたところ、担当大臣は、自己情報コントロール権については、その内容、範囲及び法的性格に関し様々な見解があり、明確な概念として確立しているものではないと答弁をされました。 　そこで、城内大臣にお聞きいたしますが、こういう政府の見解の下で、本法案はこの自己情報コントロール権を国民が保有をしていることが前提とはなっていないということでしょうか。

○国務大臣（城内実君）　井上委員の御質問にお答えしますが、いわゆるその自己情報コントロール権につきましては、御指摘のような高裁判決が存在したとは承知しておりますけれども、その上告審である最高裁判決はこれを認めたものではなく、自己情報コントロール権につきましては、その内容や範囲あるいは法的性格に関して様々な見解があり、明確な概念として確立しているものではないと承知しておりまして、その旨本会議でも御答弁申し上げたとおりであります。 　したがいまして、自己情報コントロール権を国民が有しているかどうかにつきましては、司法判断としてもいまだ結論が出ていない発展途上の概念でありますので、本法案はかかる概念を前提としているものではないというふうに考えております。

○井上哲士君　この判決、最高裁判決は、これについてあえて触れていないということでありまして、否定されたものでもないんですね。 　この判決は、憲法第十三条のプライバシーの権利の保障を実効的なものにするためには、自己のプライバシーに属する情報の取扱い方を自分自身で決定するということが極めて重要になっているということを指摘をして、今日の社会にあって、自己のプライバシー情報の取扱いについて自己決定する利益、自己情報コントロール権は、憲法上保障されているプライバシーの権利の重要な一内容になっていると、こういうふうに明確に示したわけですね。 　これからもう二十年たっております。むしろ、この自己情報コントロール権というのは一層重要になっていると思うんですね。ところが、今もありましたように、政府はこれを認めるという立場に立っておりません。そういう下で、今の個人情報保護法の目的や基本理念の規定が真に個人情報を守るにふさわしい中身になっているのかが私は問われていると思います。 　個人情報保護委員会、来ていただいておりますが、昨年の十月に個人情報保護法のいわゆる三年ごとの見直しの検討充実に向けた視点を公表されております。その中で、個人の権利利益を保護するための考慮すべきリスクとして四つのリスク事案を例示をしております。例えば、住所、電話番号、インターネット利用の履歴等を本人が想定しない事業者が入手して、勧誘であるとか犯罪等の悪意ある行為にさらされるリスクなど四つを挙げておりますが、これ、いずれも、まさに自己情報コントロール権の保障という問題ではないんですか。

○政府参考人（佐脇紀代志君）　お答えいたします。 　委員御指摘のように、昨年十月に私ども、充実に向けた視点を公表してございまして、そこにおきましては四つのリスクを挙げてございますが、個人情報保護法におきましては、その目的といたしまして、個人の権利利益を保護することということが規定されていることも踏まえまして、個人の権利利益の侵害をもたらし得るリスクとして具体的に例示したものでございます。 　これら全てが委員がおっしゃる自己情報コントロール権の問題ではないかという御指摘でございますけれども、先ほど城内大臣からもありましたとおり、この自己情報コントロール権につきましては、その内容、範囲、法的性格に関しまして様々な見解がございまして、明確な概念として確立しているものではないと私どもも認識しておりますが、これらの四つのリスクは、いずれも個人情報保護法に基づく具体的な義務の履行でありますとか権利の行使を通じて対処すべき同法における重要なリスクであるというふうに認識しております。

○井上哲士君　四つのリスクの例えばもう一つは、本人が秘匿しておきたい自身の情報について、一旦事業者に提供すると、自身が認識できない利用がなされる可能性が排除できず、不安を覚える状況になるリスク、これなどまさに自己情報のコントロールが乱されていると、侵されているということだと思うんですよね。現実には、やっぱりそれを保護することが現実にやっぱり求められていると思うんですよ。 　日本弁護士連合会は、今年三月に個人情報保護法改正に向けた意見書を発表しておりますが、その中で、この法律は、この個人情報の有用性に配慮しつつ、個人の権利利益を保護することを目的とすると規定しているけれども、個人の権利利益が何を意味しているかが明確でないと指摘をしております。そして、法律の解釈や運用の指針となるべき目的規定として不十分だという指摘を日弁連はしているわけですね。その上で、この自己情報コントロール権の保障を明記するということを求めているんです。つまり、具体的に起きている様々なこの個人情報の侵害、自己情報コントロール権の侵害、これをやっぱり正す上で、それ明確にすることが必要だと。 　四つのリスクはまさにこの自己情報のコントロール権の保障が問われているわけですから、具体的な問題を解決をし、権利を擁護する上で、曖昧、不明確なものではなくて、これをしっかりと自己コントロール権の明記をすることが必要だと、こういう指摘をしているわけですよ。改めて、いかがですか。

○政府参考人（佐脇紀代志君）　お答えいたします。 　御指摘のとおり、個人情報保護法の目的規定には個人の権利利益の保護というふうに書いてございますが、私ども、いわゆる三年ごと見直しの中で、まさに具体的にどのようなリスクをどういう手段で保護、対処していくかということをひもとく上で、あえて四つの具体的なリスクの例を挙げながら、現行の制度が足りているか足りていないのかという具体的な議論を進めているつもりでございます。 　現に、この個人の権利利益を守るためには、個人情報保護法におきましては、本人の関与の重要性に鑑み、開示、訂正、利用停止などの請求を可能とする諸規定がございますし、委員会におきましては、この法律上の諸規定を適切に運用することによって、実効的に個人の権利利益を確保していきたいというふうに考えております。

○井上哲士君　こういう問題に関するリスクというのは、これまで予想しなかったものも含めてこれからたくさん出てくるわけですよね。その度に、これをどうするかというときに、やっぱり土台になるこの考え、具体的な法益、これは明確にしておくことが必要だと思うんですよ。 　日弁連はそのことを指摘をして、今のこの個人の権利利益では、これでは不明確だということで指摘をしているわけで、重ねて、やっぱりしっかりこれを確立をしていく、明記をすることが必要だということを強く求めておきたいと思います。 　その上で、具体的にお聞きしますけれども、現行の個人情報保護法は、個人情報の目的外利用、要配慮個人情報の取得、個人情報を第三者提供する場合は本人の同意が必要だと、こういうことを定めております。しかし、形式的にはこの本人同意拒否の選択ができるという形を取っていても、同意をしない限りサービスを利用させない、また、一部のサービスを利用できないという仕組みにして、事実上本人同意を強制するという運用がかなり広範囲に行われている実態があります。これでは本人の自由な判断による同意というのは保障されないと思うんですね。 　なぜこういう事業者側による本人同意の事実上の強制というのが現行法は許しているんでしょうか。

○政府参考人（佐脇紀代志君）　お答えいたします。 　現行法におきましては、委員御理解のとおり、本人の同意の取得というものはとても重要なものとして元々位置付けてございまして、同意の取得に当たりましても、事業の性質及び個人情報の取扱状況に応じまして、本人が同意に係る判断を行うために必要と考えられる合理的かつ適切な方法によって同意の取得をしないといけないというふうになってございます。また、同法では、個人情報の不適正な利用、あるいは不正取得を禁じる規定を設けてございます。 　委員御指摘のように本人の同意が事実上強制されるような場合などにつきましては、本人の同意に係る今のような規律でございますとか、不正取得、不適正利用に該当する可能性がございますので、委員会として適切に対応してまいりたいと思います。

○井上哲士君　いや、広範囲にやられているんですよ。ちっとも適切に対応されていないんですね。 　例えば、通販サイトでは登録しないと商品購入できません。入会するにはインターネットサイトの閲覧履歴とか購入履歴などの個人データなどを、ＡＩを利用したプロファイル分析とか、分析結果の第三者提供への同意が求められるという場合もあるわけですよね。入会してサービスを利用した時点で本人同意をしたことになると、こういうやり方も行われておりまして、いずれも事実上の強制になっています。相当広範囲に行われているんですね。 　二〇一八年に施行されたＥＵの一般データ保護規則、ＧＤＰＲは、事業者に適正な本人同意の立証責任を課して、同意が自由に与えたものであるか否かを評価する場合、目的とするサービスの提供に不必要な個人データ処理への同意を条件としているか否かが最大限考慮されなければならないというふうに規定をしております。 　こういうことも参考にして、例えば、個人情報に関する本人の同意が事実上の強制になっていないか、自由な判断による選択でなければ同意を無効にするなど、こういうような規定を今後設けていくべきではないかと思いますが、いかがでしょうか。

○政府参考人（佐脇紀代志君）　お答え申し上げます。 　現在、三年ごと見直しということで、様々な観点から法律、制度の見直しを行ってございます。 　例えば、昨年六月にその中間整理を公表いたしましたけれども、個人情報取扱事業者の提供する商品、サービスなどが本人にとって他の事業者による代替が困難な場合など、自らの個人情報を提供するか否かについて自律的な意思を選択することが実質的に難しいという場合をどうするかというのも論点にして議論してございました。 　個人情報取扱事業者と本人の関係に照らしまして、当然認められるべき利用目的の達成に必要な範囲を超えて個人情報を取得、利用することなどに対しましては、不正取得や不適正利用などの規律をどのように適用すべきか、そういったことを継続的に検討していきたいという旨を委員会として公表してございます。 　その検討事項も含めまして、現在進めております見直しの中で、関係者との対話を更に重ねながら検討を進めてまいりたいと思います。

○井上哲士君　継続的な検討はいいんですけど、やっぱり現に起きているわけですから、速やかに私はやってほしいと思うんですね。 　それで、ちょっと城内大臣に追加してお聞きしますけど、今議論をしてきましたように様々な問題があります。大臣、今日の午前中の質疑でもこの間の本会議でも、この法案について、イノベーション促進とリスク対応の両立を図るために、いわゆる規制法ではない形の法律として世界のモデルになり得るものだということを繰り返し答弁をされております。 　しかし、先ほど紹介したこのＥＵのＧＤＰＲ、個人情報を保護する規則では、その前文で、全ての者が自己に関する個人データ保護の権利を有するということを明記をしております。それから、ＥＵは二〇二四年から、ＡＩのリスクに応じて四段階に分類して法規制を始めております。直ちに禁止、高いリスク、限定的なリスク、最小限のリスクと、高いほど厳しい規制をするということをやっているわけですよね。 　一方、この法案には規制ということはないわけですよ。どうしてこれで世界のモデルになり得るのかと極めて疑問なんですけれども、いかがですか。

○政府参考人（渡邊昇治君）　済みません、通告ございませんでしたので、ちょっと私の方からお答えさせていただきます。 　ちょっと細かくお答えしますと、確かにＡＩ法案、ＡＩ法という面で比べますと、日本のＡＩ法には罰則規定がないということがございます。しかし、法体系ということで比較をしますと、ＥＵが言っているその四つのランクに分けて、一番厳しいものは禁止、次は基準適合義務とか、こういう考え方ですけれども、日本も当然、刑法とか個人情報保護法に抵触するものは規制が掛かっているわけですし、それから医療機器とかであればその認証というのがありまして、そういう意味では、やっぱりリスクの高いものについては何らかの規制が掛かっているというところは、ＥＵと日本は、法律は違うんですけど、ＡＩ法ではなくて個別の業法みたいな形になりますけれども、ＥＵと同じような考え方ではあるということだと思います。 　さらに、そのＥＵの法律はいわゆる一般的な、ジェネラルなＡＩについて横断的に規制を掛けているわけですけど、これについては、今回そのＡＩ法案で生成ＡＩ等については横断的に指針を課すということにしていますので、確かにその罰則、罰金があるかどうかというところとかは細かく見れば幾つか違いはあるものの、法体系を比較しますと、高いリスクのものについては何らかの制限を掛けるというところは一致しているというふうに考えております。

○井上哲士君　罰則、罰金があるというのは細かい問題ではないと私は思いますよ。この間も紹介した、今日も出されました国民の様々な不安について言っても、やはり応えるものに現状ではなっていないということを指摘しておかなければなりません。 　その上で、大臣にこのＡＩのリスクに対する対応についてお聞きしますが、このＡＩには、判断の根拠や過程がブラックボックスになる問題や、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうと、こういうバイアスの問題があります。今日も幾つか指摘をされました。 　これが就職試験とか人事評価、人間の評価、選別に活用されれば、差別や不利益をもたらす危険があるということも指摘をされてきました。アメリカのアマゾンは、ＡＩを活用した人材採用システムに女性を差別する学習効果があることが判明して運用を取りやめたということもありました。これも日本でも広く知られておりますが。 　こうしたＡＩに生じるブラックボックスの問題やバイアスの問題のリスクについて、大臣の認識はいかがでしょうか。

○国務大臣（城内実君）　お答えいたします。 　ＡＩをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでＡＩが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。 　このブラックボックスに起因する問題としては、例えばＡＩが不適切な判断や誤った判断をした場合に、なぜそのような判断が行われたのかが説明できないと、責任の所在が不明確になったり、再発防止を図ることが困難となったりするということが考えられます。 　また、バイアスに起因する問題としては、例えば偏ったデータの学習が行われることによりまして、ＡＩが特定の人種、性別、年齢、地域などに対し不当な判断を下してしまうということも考えられます。 　以上です。

○井上哲士君　今様々なことを挙げられましたけど、今年三月に時事通信が行った主要企業百社の調査によれば、約三割の企業で採用活動にＡＩが導入をされています。既にボーナスなどの人事評価にＡＩを使っている企業もあるわけで、更に普及が進めばリストラツールに使われるんじゃないかという指摘もあるわけですね。 　今、様々、るるリスクについてお話がありましたが、では、この日本での従業員の採用や人事評価システムの安全性、実際に使われている、この安全性がどのように確保されているのか、それから、そういう企業がきちっとガイドライン等を守っているということを誰が確認をしているのか、どのようにチェックしているのか、どうでしょうか。

○政府参考人（渡邊昇治君）　お答え申し上げます。 　ＡＩを利用しているか否かにかかわらず、雇用等の場面でそのＡＩを使って、それが偏見、差別を含んでいるというのは、これは良くないことでございまして、厚労省のガイドライン等でこういった点については一定の考え方というのは示されているところであります。 　また、総務省と経産省、先ほども御答弁ありましたけれども、作っているＡＩ事業者ガイドラインにつきましては、事業者がＡＩを使う場合に、これ当然そういった人事評価とかそういうものも含むというふうに考えておりますけれども、そういうところで使う場合にバイアスとかそういった問題にも配慮をしなきゃいけないということが書かれております。 　また、今国際的なＩＳＯとかＩＥＣで議論されているＩＳＯ４２０００シリーズという国際規格がありますけれども、これも、事業者がＡＩを使ったときのマネジメントについて国際標準というのを作っているところでございます。 　そういった取組が進んでいる中で、今回この法律に基づいて指針を整備するということになりますので、この指針の中でも、こういう雇用あるいは労働現場での不当な差別等がないように、そういうことを指針の中に盛り込んでいきたいと、そういうことは検討していきたいと思います。 　また、その実態把握といいますか、どのぐらいそれが使われているかというこの把握でございますけれども、先ほどあのアンケート調査の話がちょっと出ていましたけれども、私ども、このガイドラインに限らず、指針に限らず、政策がどのぐらい浸透しているかということも含めてこの法律の施行実態というのは調査をしていかなきゃいけないというふうに考えております。

○井上哲士君　まあいろいろ言われて、結局業者任せなんですよね、指針ちゃんとやりなさいよと。 　先ほど紹介したＥＵのＡＩ規制は、ＡＩのリスクに応じて四段階に分類して法規制をするわけですが、雇用や人事選考などでＡＩを利用することはハイリスク利用のカテゴリーに位置付けられて、第三者機関による適合性審査を義務付けて安全性を確保するということがやられてきております。 　日本でもこの第三者機関などによる外部からのチェックということが必要だと思いますけれども、いかがでしょうか。

○国務大臣（城内実君）　お答えします。 　雇用や人事採用、選考の在り方につきまして、我が国におきましては、ＡＩに特化したものではないものの、厚生労働省のガイドライン等におきまして一定の考え方が示されているところであります。また、ＡＩ事業者ガイドラインにおきましても、ＡＩの活用に当たりましては事業者が留意すべき事項等を示しているところであります。その上で、例えば男女雇用機会均等法では、雇用管理の各ステージにおいて性別を理由とする差別が禁止されているなど、既存法による一定の取組も存在しております。 　御指摘のＥＵのＡＩ法では、確かに最上位から二段階目となるハイリスクなＡＩシステムに雇用や人事に係る事項が位置付けられていることは承知しておりますけれども、各国の制度体系はそれぞれの歴史あるいは文化によって異なるものでありますので、一概にはちょっと比較するのはどうかなというふうに思いますが、いずれにしましても、我が国としては、既存法とガイドライン等を組み合わせましてリスクに対応することを基本としつつ、本法案に基づく指針の整備や情報収集、調査、指導、助言、情報提供等を通じまして必要な対応を図っていくことになると考えております。

○井上哲士君　指針の整備とか言われますが、やはりきちっとそれが守られているかということをチェックをしなければ、これは実効性ができないわけでありまして、第三者のチェック体制を整えることが必要だと繰り返し求めたいと思うんですが、同時に、それにとどまらず法規制そのものを強める必要があると思います。 　今年四月の大手法律事務所のニュースレターによりますと、米国では、連邦政府が業界自主規制の促進や非拘束的ガイドラインの発行といったアプローチを優先してきた一方で、州レベルですね、州レベルではＡＩ関連法案の提出が急増し、ＡＩに関わる事業者に実質的な義務を課す規制法案が顕著に増加していると、こういう報告がされております。イリノイ州やメリーランド州、ニューヨーク州、ニュージャージー州、カリフォルニア州、マサチューセッツ州などで採用や人事評価の分野でのＡＩ利用についてバイアス監査、事前通知、応募者の同意などを義務付ける法規制が始まっていると、こういう報告がされております。 　こういういろんな世界の流れも見たときに、人間の評価、選別にＡＩを利用する場合は、第三者機関や外部機関による安全性審査、アルゴリズムの透明性の確保、プロファイリング対象者の同意など、やはり法規制をして事業者に義務付けていくというのが大きな世界の動きになってきていると思います。やはりこれに日本も踏み出すべきだと考えますが、いかがでしょうか。

○国務大臣（城内実君）　先ほども申し上げたとおりですが、国によりまして歴史や文化の背景が異なりますことから、各国の制度や法体系、様々であると考えております。 　我が国について言いますと、安全性の審査については各種業法、いわゆるプロファイリングについては個人情報保護法といった既存法によりまして規制の対象となる場合があるものと承知しております。 　これに加えまして、本法案第十三条に基づき整備する新たな指針におきましては、ＡＩの研究開発、利用の透明性の確保を図っていくこととされております。この指針におきまして、生成ＡＩが格差、差別を助長するような出力をしないための措置をＡＩ開発者が講じることについて盛り込むことを検討しているところであります。 　いずれにしましても、今般のＡＩ法案に基づきます枠組みの中で、必要となる対応をしっかりと図ってまいります。

○井上哲士君　繰り返しになりますが、業者任せではなくて、ＡＩの発展や普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を図るということを一体で行うことが必要だということを強く求めまして、終わります。

○大島九州男君　れいわ新選組、大島九州男でございます。 　大臣、ちょっと通告していないんですけど、非常に基本的なことなのでお答えいただければというふうに思うんですが。 　人工知能戦略本部ですね。この本部、ここに書いてあるのは、人工知能戦略本部長というのは総理ですと。副本部長に内閣官房長官及び人工知能戦略担当大臣と。内閣総理大臣の命を受けて、人工知能関連技術の研究開発及び活用の総合的かつ計画的な推進に関し内閣総理大臣を助けることをその職務とする国務大臣。これ、じゃ、新たにそういう大臣を任命するという理解ですよね。 　それで、そういう人がいて、そして、そこにまた本部員というのがいるというから、イメージとしては、こういう技術、ＡＩとかの知識に詳しいような本部員がそこに集って総理大臣とか副本部長を補佐しながらいろんな諸問題を解決したり推進していくのかなというふうに思ったら、この人工知能戦略本部員というのは、本部長及び副本部長以外の全ての国務大臣をもってこれに充てると。だから、全部大臣ずらっと並べてこれをつくると。 　最初に何かいろんな説明聞いているときに、何か横串を刺して連携していくみたいな、何、こども家庭庁みたいに何か寄せ集めて、結局、何かといえば、これは文科省です、何かといえば、これは国交省、厚労省ですみたいな、何か格好だけの組織のような気がしたわけですよ。 　大臣はそれぞれ知見もあって、いろいろ、優秀な方ですからあれですけど、こういうＡＩ本部の本部員に国務大臣並べて、それで、こういう本部ができましたよというのに意味があるのかなと率直的に思った素朴な疑問なので、一番最初にちょっと質問させていただきました。よろしくどうぞ。

○国務大臣（城内実君）　この戦略本部の本部長は内閣総理大臣でありまして、本当に総理大臣という高い立場で司令塔機能を発揮させ、本部員は国務大臣でありますけれども、やはりＡＩというのは非常にもう幅が広い分野でございますので、各大臣が責任感を持って対応していくということで本部員に各国務大臣がそれぞれなるということでありますが、他方で、政令に基づきまして有識者会議も設置する予定でございますし、既に関係省庁会議、これ局長級でありますが、既に立ち上がっておりまして、そういった有識者会議あるいは関係省庁会議も活用しながら、何かこう縦割りで各省の大臣が集まって何かということも必要なときは必要な対応をしますけれども、有識者会議で幅広く、各省の壁を越えて、喫緊の課題について、リスクがあればどのような対応をするかということで、しっかり、しかも年に一回とか二回じゃなくて必要に応じて適時適切に対処していくと、そういうような体制を想定しております。

○大島九州男君　年に一回や二回でなくて適宜というのは、何か問題あったときに、まあそれが二年に一回なのか一年に一回なのか、必要に応じてと。 　何が言いたかったかというと、レクに来た人にも言ったんですけど、何でも本部つくると、それこそ内閣総理大臣が本部長で、それで、全部内閣委員会で全部集めて、内閣内閣って言って、本当に大臣はどの本部長を自分がやっているかとかって総理大臣は分からないんじゃない、どれだけやっているのと言ったら、いや、それは総理大臣分かっていると思いますよと言うけど、俺が総理大臣だったら多分分からないなという会話をするぐらい、我々も内閣委員会でいると、何かあると全部内閣内閣とこうやって持ってくる。その理由は、それぞれの省庁の横串を刺すときに、それぞれそういう、さっき言った強いリーダーシップって権限がないと、他の省庁の言うことを聞かないと。言うなれば、経済産業省が主管となって一生懸命やっているところに文科省、それから農水省とか入れたら、それはちょっと、何で俺が経済産業省の言うことを聞かなきゃいけないのと。まあ内閣が言うならしようがねえやというような、そんな感じと言ったら、ううん、そういうこともあるかもしれませんねみたいなね。まあ私自身もそうかなと思ったりするようなことがあって。まあ是非、本当にちゃんと機能するような本部にしていただければという思いがあるということで、じゃ、質問に入らせていただきます。 　日本では多くの国民がＡＩに対して不安を抱いていると。ＫＰＭＧの調査では、現在の規則や法律でＡＩを安全に利用できると思う国民は僅か一三％で、中国の七四％、ドイツの三九％、米国の三〇％と比較して著しく低い状況ですと。また、日本国民の七七％がＡＩには規制が必要だと考えているとのことです。 　このような国民の不安の背景には、ＡＩがもたらす具体的な諸問題があると考えられますが、これらの問題についてどのようにお考えでしょうか。

○国務大臣（城内実君）　大島委員にお答えしますが。 　委員御指摘のＡＩがもたらし得る問題については様々なものが考えられるところでありますが、例えば本年二月にＡＩ戦略会議及びＡＩ制度研究会が策定いたしました中間とりまとめ、これがあるんですけれども、この中間とりまとめにおきましては、例えばＡＩによる偽サイトや合成音声が詐欺等に使用される犯罪の巧妙化、また、偽情報、誤情報の作成にＡＩが使用され、拡散されることにより情報が操作されるといったリスク、さらにはサイバー攻撃等にＡＩが使用される安全保障上のリスク、これらが指摘されているというふうに認識しております。

○大島九州男君　いろんな問題があると。そういった問題にどういうふうに対応していくのかと、今またどう対処しているのかというのがあったら教えてください。

○国務大臣（城内実君）　先ほど述べましたとおり、ＡＩ戦略会議、ＡＩ制度研究会の中間とりまとめにおきましては、ＡＩがもたらし得るリスクの例のほかに、これに対応する主要法令等についても整理されているところであります。 　現在顕在化しているリスクのうち、特に悪質な事案につきましては、現行法令に基づく措置によって対処することが可能と考えております。こうした法令に加えまして、ガイドライン等を適切に組み合わせることで、これまで顕在化するリスクに対応してきたものと承知しております。

○大島九州男君　今までそういう対応をしてきたけれども、これからいろんな進化もしていくし、これがもっと広がっていくということで、こういうＡＩ法というものを作っていろんな部分に目を配りながら、リスクを排除していったり、またもっともっといいものにしていこうというふうにしようとしているんだろうなと思うんですが、この法案ができたことで、そういう諸問題への対応はどのように変わるという認識ですか。

○国務大臣（城内実君）　お答えします。 　既に顕在化しているＡＩの諸問題につきましては、これまで関係省庁におきまして、それぞれの所掌範囲において、既存法令、そしてガイドライン等を先ほど申しましたように適切に組み合わせて対応してまいりましたが、他方で、昨今のＡＩの技術進展の状況等を踏まえますと、本法案においては、ＡＩ政策の司令塔機能強化を図るため、先ほど冒頭申しました内閣総理大臣を本部長とするＡＩ戦略本部の設置、これ第十九条にありますが、さらには政府が推進すべきＡＩ政策の基本的な方針を定めたＡＩ基本計画の策定、これは第十八条です、そして、ＡＩの適正性確保のための国際規範に即した指針の整備、これが第十三条、そして、ＡＩに関する情報収集や権利利益を侵害する事案の分析や調査の実施、これが第十六条に規定されますが、こういった規定があるところでございます。 　既存法令等による対応に加えまして、ＡＩ法案に基づく取組を新たに進めることで、ＡＩに関連して現時点では想定することの難しい新たな課題等についても今後迅速かつ適切に対応していくことが可能と考えております。

○大島九州男君　おっしゃることは、イメージは、こういうことなのかなということは分かるんですが、より具体的に教えていただけると有り難いんですけれど、ＡＩ法案の基本的施策の中には、情報収集や権利利益を侵害する事実の分析、対策、検討、調査というのが含まれていると。 　近年、ＡＩを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。 　例えば、ディープフェイク技術を使って、総理大臣が意図していない政策を発表したかのような動画、例えば消費税は廃止しますとかね。まあ、そんなことを言っても信用する人はいないと思いますが、消費税は食料品だけゼロ％に一年間ぐらいするとかなんとか言えば、ああ、そういえば野党も言っていたからそういうことはやるのかなとか、信用する人はいると思うんですよ。 　こういう動画が出てきたときに、じゃ、こういうＡＩ法に基づいてどのような具体的な対処を行うのかというのをちょっと教えてもらうと有り難いんですが。

○国務大臣（城内実君）　御指摘の事案も含めまして、具体的には、国民の権利又は利益を侵害するなどの重大な事故等が生じた場合には、関係省庁と連携し、本法案に基づく調査を行ってまいる考えです。 　その上で、その調査の結果、被害の拡大防止のために必要があると認められる場合には、更にその指導、助言や国民への情報提供を行うことを想定しているほか、必要に応じて適正なＡＩの研究開発及び活用に向けてガイドライン等の整備や周知等を行うことが考えられます。 　以上です。

○大島九州男君　いやいや、何かそういう、問題が起こって、そのガイドラインを整備するとかいうんじゃなくて、例えば、ちょっと私の理解でいえば、そういうさっき言った具体的なフェイクと言われるものが流れたと。じゃ、そこに本部がどういう対応をするかというと、まさに本当に、そういう消費税を食料品だけゼロ％にするというようなことを財務省は本当に議論したのかとか、また、各関係省庁にその確認をしたと。そうしたら、そういう事実はないと。で、それを本部が確認をしたら、じゃ、本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃというので、本部長が、それぞれ政府広報とかを使ってとか、各マスコミに一斉に、これはいついつどうどうって流れたこの動画はフェイクですよというのを一斉に周知をすることによってそのデマをなくすようにするようなことを考えていますとか言われると、ああ、そうかと。 　それは、強いリーダーシップを持ってやる本部の機能が必要だよねとかいうのは分かるんだけれど、何かそういうのがあると、ガイドラインを作ってどうのこうのなんていうのは、いやいや、そんなことはもう最初から想定してやっておけよというふうにしか思えないんですけど、どうでしょうか。

○国務大臣（城内実君）　済みません、要するに、個別具体的な事案についてはいろんなパターンが考えられますし、例えば、個別の既存法、名誉毀損とか、あるいはＡＩを詐欺に使った場合は詐欺罪とか、あるいは選挙について言えば選挙関連法の違反とか、いろいろあるかと思いますし、実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った暁には、こういったもの、いろんな仕組みを使いながら個別具体的に対処をしていくということになるかと思います。

○大島九州男君　先ほどの質問にもあったように、それぞれ今言う名誉毀損でとか詐欺罪でとかって、そういう刑法で、こっちでやれるやつはそれでやっているわけだから。 　だから、ＡＩ法案ができて、内閣総理大臣を本部長にして、今言うような問題が起こったような場合、それぞれ刑法とか今までの対処でできるようなやつはそれでやるわけだから、それはそれでいいんですよ。だけど、わざわざ各国務大臣をそろえてやる本部が扱うのは、今言ったような、国民をだまかす、一斉にだまかす、それは個人の一人一人詐欺するような問題、そんな本部で扱っていたら大変なことですよ。だから、そんなことは想定していないでしょう。だから、そんなのはいいんですよ。 　だから、結果、本当に国民がそういうふうに惑わされるようなそういうものがあったときにこのＡＩ本部というのがしっかり機能するんだよと言えば必要性は感じますけど、何か今のような説明だと、いや、これはこの法でやっているんですから、じゃ、いいじゃないという話じゃないですか。 　だから、明快にはっきり言った方がこのＡＩ本部の必要性が分かると思うんですけど、参考人はどういうふうな御意見ですか、どうぞ。

○政府参考人（渡邊昇治君）　大変重要な御指摘というか、本部を開くときの一つの形に対するアドバイスだというふうに受け止めております。 　ただ、今申し上げたのは、個別の事案がまず出てこないと、どういうリスクがあるかというのはやっぱりどうしても事後的にしか分からない部分がありますから、そういうものについてはどうしても個別事案ごとに対処することになりますし、そのときに、一気に国民に対して全部アピールするのがいいのか、一部の関係者にだけ言った方がいいのかというのは、これは悪事を余り一気にアピールするとまた別の影響があったりするケースもありますので、そういうことも考えないといけないので、これは慎重にやらなきゃいけないケースもあるということですし、先ほど私答弁したとおり、個別の事案が見付かったときに事後的にやる調査だけではなくて、ある程度何か予測されるリスクに対して、その事象に対してですね、個別事案じゃなくて、この事象に対して調査をして、むしろ先行的に調査をして、こういう使われ方をするかもしれないから気を付けましょうみたいな、そういうアピールというのもできるのかなと思います。それはもう日々の私どもの記者会見とかプレスリリースとか、そういうものも使ってやることが可能じゃないかというふうに思います。 　いずれにしましても、せっかく本部をつくる以上は、その本部の強力な権限というのをいただいて、その中でしっかり公表していくというふうに考えます。

○大島九州男君　いや、まさしくその本部の強力な権限を使うということは、この印籠が目に入らぬかみたいなやつをやるわけですから、そういうのはもうある程度想定をしておくというのは当然必要で、それこそ先般やったサイバーじゃないけど、事前にそういう無害化をしていこうと。 　そういう、起こることを想定して起こらないようにしようとするような、片やそういうことをやっているわけですから、こういう部分でも当然同じような考え方に立てば、今言った想定してこういうような使われ方をしたときにはどうするとかいうのは、もう事前に常にシミュレーションしていって、ぱっと対応できるようにしていくというのが必要だと思うんですよ。 　だから、よくよく、毎回毎回、何かこういう法律を作りましたと、あとは政令で、あとは省令でとかいうことよりも、やはりある程度、ここまでは想定して、こういったことを対応していくんですというような説明をした方が、国民に対する安心感もあるし、この本部の必要性、この法案の必要性も十分理解がされやすいんじゃないのというふうに率直に思うところでございます。 　日本のＡＩ開発、活用は国際的に遅れているんだと認めているように、ＡＩ投資額も主要国と比べて低い水準にあると。また、資料にある、事業者は国等の施策に協力しなければならないという責務が逆に開発を萎縮させるという懸念も指摘されていると。 　このような状況の中で、最もＡＩを開発、活用しやすい国とは具体的にどのような状態を指しているのか、そのためにどのような施策を講じるのか、教えてください。

○国務大臣（城内実君）　お答えします。 　ＡＩを活用しやすい環境として、例えばＡＩに係る人材あるいはお金の資本、これが集まりやすいことや、ルールが明確であることなどにより、事業者にとりまして事業の予見性が高いことなどが挙げられると思います。 　また、ＡＩを活用しやすい環境といたしましては、例えばＡＩを活用するに当たって留意すべき事項等を利用者に分かりやすい形で提供するなどによって、ＡＩ活用のハードルが低くなることなどが挙げられると考えております。 　これらの環境の実現に向けまして、本法案に基づきまして国が指針を整備し、事業者に求める取組内容を明確に示すことにより、事業者による自主的な取組を促していくとともに、ＡＩ活用の推進に資する調査や情報収集を行い、得られた情報を国民の皆様に周知するなどの取組を進めてまいる考えであります。 　さらに、より具体的な取組としましては、研究開発につきましては、スタートアップ等に対する計算資源の提供やそれを活用したモデル開発に対する支援、あるいはＡＩ学習用データの整備、提供、また教育の振興については、初等中等教育段階における生成ＡＩの利活用に関するガイドラインの策定、さらには人材育成、確保の分野につきましては、大学等の優れた教育プログラムを政府が認定いたします数理・データサイエンス・ＡＩ教育プログラム認定制度実施といった各種個別具体的な施策を関係省庁と緊密に連携してしっかりと進めてまいります。

○大島九州男君　今大臣がおっしゃった教育の関係の、今日も文科省にもおいでいただいていますが、初等中等教育における生成ＡＩの利用に関するガイドラインというのはどういうものかというのと、高等教育段階における取組として今おっしゃった数理、データサイエンス、ＡＩ教育プログラムの認定制度というのはどういうものか教えてください。

○政府参考人（日向信和君）　生成ＡＩの利活用に関するガイドラインについてお答えをいたします。 　御指摘のガイドラインは、教職員や教育委員会等の学校教育関係者を主たる読み手として、学校現場における生成ＡＩの利活用を実現するための参考資料となるよう、昨年十二月に策定、公表したものとなっております。 　本ガイドラインでは、基本的な考え方として、学校現場における人間中心の利活用と生成ＡＩの存在を踏まえた情報活用能力の育成強化という二点を示しており、その基本的な考え方に基づき、児童生徒が学習活動で利活用する場面、教職員が校務で利活用する場面など、主体や場面に応じて押さえておくべきポイントなどをまとめたものとなっております。

○政府参考人（奥野真君）　お尋ねの大学等におけます数理・データサイエンス・ＡＩ教育プログラム認定制度についてお答え申し上げます。 　これは、令和元年に策定されましたＡＩ戦略二〇一九に基づきまして、文系、理系を問わず全ての大学、高専生がデータサイエンスやＡＩ活用に関するまずリテラシーを高めていただくために、文部科学省を中心に行っているものでございます。 　まず初めに、数理、データサイエンス、ＡＩに関する体系的なモデルカリキュラムというのを策定いたしまして、このモデルカリキュラムの下で、必要なデータの扱い方ですとかデータの取扱いの留意点、活用状況、その他そういったカリキュラムを踏まえまして、各大学、高専において実施する優れた教育プログラムというのを出していただいて、これを認定するという形取ってございます。 　昨年八月時点で四百九十三校の大学、高専の教育プログラムが認定されており、ＡＩリテラシーを学ぶ学生の規模といたしましては、一学年当たり約五十万人となっておるところです。 　今後も、こういった取組を継続しつつ、数理、データサイエンス、ＡＩ教育の普及、展開を大学等においても推進してまいる所存です。

○大島九州男君　ちょっと時間になりましたので、総務省等また残余の質問については後日に譲りたいと思いますので、よろしくお願いします。 　以上です。

○委員長（和田政宗君）　本日の質疑はこの程度にとどめます。 　　　　─────────────

○委員長（和田政宗君）　参考人の出席要求に関する件についてお諮りいたします。 　人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、来る二十二日午後一時に参考人の出席を求め、その意見を聴取することに御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認めます。 　なお、その人選等につきましては、これを委員長に御一任願いたいと存じますが、御異議ございませんか。 　　　〔「異議なし」と呼ぶ者あり〕

○委員長（和田政宗君）　御異議ないと認め、さよう決定いたします。 　本日はこれにて散会いたします。 　　　午後三時六分散会