はじめに

東京大学大学院工学系研究科とTMI総合法律事務所の共催により、2023年7月4日に、「生成AIが切り拓く未来と日本の展望」と題したシンポジウムが開催されました。本シンポジウムでは、東京大学の藤井輝夫総長による開会挨拶に続いて、岸田文雄首相からご祝辞を頂きました。岸田首相からは、「後に歴史を振り返ったとき、本日のシンポジウムが、生成AIにとってひとつの転機になったと評価されるような歴史的なシンポジウムになることを心から期待しております。」とのお言葉をいただきました。

その後、大臣をはじめとした政府要人や、各分野の第一人者の方々をパネリストにお迎えして、次のようなテーマでパネルディスカッションを行いました。以下では、各部ごとのハイライトをレポートします。

テーマ	モデレーター	パネリスト
第1部 生成AIが切り拓く未来	宮川 美津子 （TMI総合法律事務所）	西村 康稔（経済産業大臣） 孫 正義（ソフトバンクグループ株式会社 代表取締役会長兼社長執行役員） シェイン・グウ（ChatGPT開発チーム幹部） 松尾 豊（東京大学大学院工学系研究科 教授、AI戦略会議座長）
第2部 行政機関（政府・自治体）における生成AIの利用と課題	境田 正樹 （TMI総合法律事務所）	村井 英樹（内閣総理大臣補佐官） 郷治 友孝（株式会社東京大学エッジキャピタルパートナーズ(UTEC) 代表取締役社長CEO・マネージングパートナー） 川原 圭博（東京大学大学院工学系研究科 教授、AI戦略会議構成員） 須賀 千鶴（経済産業省商務情報政策局情報経済課長、デジタル庁参事官）
第3部 広島AIプロセスについて	大井哲也 （TMI総合法律事務所）	松本 剛明（総務大臣） 須藤 修（中央大学国際情報学部 教授） 平野 未来（シナモンAI 代表取締役Co-CEO） 宍戸 常寿（東京大学大学院法学政治学研究科 教授）
第4部 生成AIと研究・教育	坂田一郎 （東京大学総長特別参与・教授）	西條 正明（文部科学省大臣官房審議官） 太田 邦史（東京大学 理事・副学長） 柴野 相雄（TMI総合法律事務所） 宮尾 祐介（東京大学大学院情報理工学系研究科 教授） 下田 倫大（グーグル・クラウド・ジャパン合同会社 AI/ML事業開発部長）

第1部　生成AIが切り拓く未来

第1部「生成AIが切り拓く未来」では、当事務所パートナー弁護士宮川美津子をモデレーターとして、経済産業大臣西村康稔氏、ソフトバンクグループ代表取締役会長兼社長執行役員孫正義氏、OpenAI社ChatGPT開発チーム幹部社員シェイン・グウ氏、東京大学大学院工学系研究科教授松尾豊氏にご登壇いただき、①生成AIの登場により世界はどのように変わるのか、②生成AIの発展を支えるインフラ整備の必要性について、③生成AIのリスクへの対応、という3つのテーマについて議論が行われました。

セッションに先立ち、パネリストにそれぞれ生成AIとの関わりについてお話し頂きました。
西村大臣からは、生成AIによってホワイトカラーを中心に生産性が革命的に向上し、インターネットや携帯電話に匹敵するほどの社会の変化が生じることが期待されること、生成AIに携わる関係者と意見交換を重ねていること等に関してお話いただきました。その上で、日本は生成AI開発競争の先頭集団におり、経済産業省として、計算基盤やデータの整備等の生成AI開発に必要なインフラについて、世界をリードするような企業、技術が生み出されるようにしていきたいと述べられました。

孫会長からは、ChatGPT4が米国のいろいろな大学の入学試験でトップ10％レベルの上位で合格しうる状況であることを踏まえて、人間と魚や蝶といった動物との脳細胞（ニューロン）の数の差を例えに出しながら、今後、生成AIと人間との知能の差が、今後10年間以内で人間と魚や蝶との差と同様のものになる可能性があると述べられました。その上で、人間が地球上で最も賢い存在ではない時代がやって来る時に、人間の在り方、人間の幸せとは何かといったことを根底から考え直し、そういったテーマを議論する必要がある時期が来たとのご意見をいただきました。

松尾教授からは、現状の生成AIの技術について解説いただきました。これによれば、テキスト系生成AIではトランスフォーマーという技術が使われていることが多いところ、大きなパラメータのモデルを使えば使うほど性能が上がるというスケール則の発見で、より多くのデータ、より強力な計算機を用いて学習させるという競争が始まっているとのことでした。また、すでに生成AIが社会に大きな影響を与えているが、今後の技術の発展と普及により、さらに大きな社会変革が生じる可能性があるという趣旨のご説明をいただきました。

グウ氏からは、まず、生成AIの未来について、知能には受動的・内在的な知能と能動的・外部的知能があるところ、ChatGPTの登場によって、人と汎用性人工知能が初めて協働するようになったため、このことにより人やAIがどのように進化していくのか期待されるという点についてお話いただきました。次に、日本は、生成AIに対して積極性と慎重さのバランスを保っており、そのことについて世界からの信頼を得ているとした上で、日本が競争力を得るためには人材のインフラを確保することが重要であると述べられました。

パネルディスカッションでは、まずテーマ①「生成AIの登場により世界はどのように変わるのか」について議論いただきました。
孫会長には、生成AIの産業界に与えるインパクトについての意見をお聞きしたところ、今後、生成AIがリアルタイムでデータを学習し、かつ更なるコア数の拡大が実現されれば、あたかも水晶玉に物事を尋ねるかの如く、すべての質問について人類よりも的確に答えられるようなAGI（編注：Artificial General Intelligenceの略。汎用人工知能。）が登場する時代がやって来ることが予想され、その場合には、少なくとも論理的に解明・推論できる範囲はすべてカバーすることができ、むしろ利活用できない分野の方が少なくなると述べられました。

ここで、生成AIにはネットワーク効果（編注：利用者が多いほど、その価値や効用が上がる効果のこと。）が生じると考えられるかという松尾教授からの質問に対しては、孫会長は、膨大な数の半導体とパラメータで構成されるセントラルブレインが、人類の数を上回るエッジ側のチップに対しデータを入出力することになった場合には、非常に強大なネットワーク効果が発生しうるという趣旨の回答をされました。

グウ氏は、これに関連して、従前の研究では人間の脳を再現することがAGIの開発目標であったが、今は人間の脳を再現することなしに、それを凌駕するAGIの能力が実現できたことをご説明頂きました。

さらに西村大臣は、セントラルブレイン設置には、使用できるエネルギーの限界の問題をクリアしなければならないとした上で、よりエネルギー効率のよいGPUを開発しようとしている企業への支援について言及されました。また、今後、自動運転や物流管理に対する貢献への期待も述べられました。

テーマ②「生成AIの発展を支えるインフラ整備の必要性について」に関しては、まず、生成AIに係るインフラの現状と必要性についての政府の考え方を西村大臣にお尋ねしました。西村大臣は、生成AI開発のためには、計算能力とデータとパラメータ精度の3つが必要であるところ、日本は計算能力が不足しているという現状認識を述べられた上で、計算能力の大幅な強化・拡充等についてお話いただきました。

続いて、グウ氏には、人材インフラの重要性についてお話いただきました。具体的には、生成AIの研究者やエンジニアのコミュニティに日本の人材が参加していくことが重要であり、海外のトップ人材と日本の人材を繋げるような政府のサポートが求められるという趣旨のご説明がありました。

テーマ③「生成AIのリスクへの対応」に関しては、最初にAI戦略会議の座長としてAIに関する暫定的な論点整理（以下、「論点整理」といいます。）をまとめられた松尾教授にお話を伺いました。松尾教授は、論点整理のポイントとして、（ⅰ）リスクや懸念に対する対応をしっかり行っていくこと、（ⅱ）生成AIを企業、行政において積極的に活用していくこと、（ⅲ）AI開発のインフラである計算資源とデータに対する投資の拡充、の3点を挙げられました。

西村大臣に対しては、生成AIの利活用とリスクとの兼ね合いについての考え方を伺いました。西村大臣は、ハルシネーションやフェイクといったリスクや著作権の問題、プライバシー情報の漏洩の問題等がある一方、生成AIが非常に可能性を秘めた技術であることを踏まえ、民主主義や人権を重視しつつもイノベーションと共存できるようなアジャイルガバナンスが重要であるとのお話をいただきました。

また、孫会長に対して、生成AIの進化とそれに伴う社会の変化に対する不安があることへのご意見を伺いました。孫会長は、生成AIの発展により、人間にとってより素晴らしい社会がやってくるとポジティブに受け止めていると述べられた上で、日本らしいもの、日本に有益なものを作ろうと工夫をしても、脇道にそれたような研究開発とか解決策は、所詮枝葉に過ぎず、あっという間に日本は取り残されてしまう、ガラケーになってはいけないと日本の取り組み方の注意点を述べられました。また、電気やエネルギー不足の問題やハルシネーション等の問題も、近い将来に解決されると思われることから、必要以上にAIを恐れて些末な問題に拘ることなく、日本は生成AIに真正面から最大限に取り組むべきと述べられました。

最後に、西村大臣は、孫会長のご意見を踏まえて、生成AIに係る様々な問題がいつ解決されるのかといった時間的な視点からの検討が必要であり、特に日本によるエネルギー効率のよい最先端GPUの生産について取り組んでいきたいと述べられました。また、グウ氏による人材ネットワークの重要性についての指摘をはじめとして、様々な新しい視点を得ることができたと述べられました。

第2部　行政機関（政府・自治体）における生成AIの利用と課題

第2部「行政機関（政府・自治体）における生成AIの利用と課題」では、当事務所パートナー弁護士境田正樹の司会のもと、村井英樹内閣総理大臣補佐官、郷治友孝株式会社東京大学エッジキャピタルパートナーズ（UTEC）代表取締役社長CEO・マネージングパートナー、川原圭博東京大学大学院工学系研究科教授（AI戦略会議委員）、須賀千鶴経済産業省商務情報政策局情報経済課長／デジタル庁参事官にパネリストとしてご登壇いただき、行政機関（政府・自治体）における生成AIの利活用のルールや、生成AIの利活用により行政をどのように効率化し、行政からイノベーションをどのように創出するかについて、議論がなされました。

まず、村井補佐官から、生成AIにまつわる政府の検討課題と検討体制について、「AI戦略会議、AI戦略チーム、及び関係省庁が協力し合って議論を行っている。幅広い分野にまたがって、動きの速い生成AIに関する政策を官邸主導で施策を行っていく。」という紹介がありました。ポイントとして、AI戦略会議による「AIに関する暫定的な論点整理」が政府にとっては言わば政策の羅針盤となり、また開発者にガードレールとなり、生成AIの開発を加速していくと述べました。また、「日本は、生成AIの技術に必要な計算資源が圧倒的に不足しているため、政府としては、政府による費用補助これを増やす取り組みに特に力を入れて進めていく」ほか、「官民が協力して学習データを整備し、日本においては専門分野に特化したAIモデルの開発が勝ち筋と考えている」として、官民の取り組みのイメージを紹介しました。

川原教授は、AI戦略会議の委員として、「こんなにスピード感をもって、委員一人一人が主体的に意見を出して作業をするものはなかなかないと感じた。」としたうえで、産業界とアカデミアの協働について、「１，２年でやらなければならないことと、３，４年かけてやらなければならないことをしっかり分けて議論しなければならない。」と述べました。ご自身の考えとして、「国としては、産業界を支えるために１，２年でできることを取り組み、アカデミアとしては、３，５年先を見据えて、将来的に生成AIで実現しなければいけないことにそれぞれ整理して取り組むことが大事である。」という考えを示しました。

また、デジタル臨調の委員を兼ねる立場として、「生成AIの時代は不連続な変化の時代である。」として、一部の優秀な者がルール作りを行うのではなく、「全員参加でのルール作りのアップデートが必要である。」と述べました。

郷治社長は、自身の研究者や投資家としての経験から、「アメリカと同じアプローチをしても勝ち目がない。アプローチとして大きなところで言えば、そもそもChatGPTのような大規模言語モデルではない分野で戦うということも考えられる。仮に、大規模言語モデルで勝負するとしても、AIのレイヤーや用いるデータなど、ふさわしい戦える場所を考えていく必要がある。」と述べました。モデレーターの境田弁護士からの「東京大学には良質なデータが揃っているはず。これを生かしていくことができるのではないか。」との指摘に対しては、「まさにそのとおりで、今は言語モデルの大きさよりもデータの量や質の方が重要という議論がされている。」と回答しました。

須賀課長／参事官は、官僚として、新しいテクノロジーに直面した際にいかなる思考でいかなる行動をとるかについて、「それが日本にとっていいものであり、日本を助けるものであるために、必要な環境整備を行うこと」及び「あまり踊らされず、冷静にバランスをとるようにすること」を念頭に、「今の国内法令を当てはめた場合の結論と妥当性を検討し、必要に応じて法改正等の作業を淡々と行っていく」と説明がなされました。この中で、これまでの先端技術と比較しても、生成AIは世界を変える技術であり、虚心坦懐に物事の動きを追う必要があるとの考えを示しました。その上で、デジタル臨調の担当者としての経験から、「生成AI時代において、１７００の自治体で異なるルール形成がなされて混乱する前に、国が積極的に主導し、環境・ルール整備を行ってく必要がある。」と述べました。

セッションの後半では、各登壇者から、会場の学生に対し、たくさんの激励の言葉が投げかけられました。

最後に、モデレーターの境田弁護士は、「日本ではこれまで中央官庁でも自治体でもデジタル化がなかなか進まなかったが、昨今の生成ＡＩの技術革新により、一気にデジタル化が進む可能性がある。そのためには、産学官の連携が重要であり、また必須でもある。村井補佐官をはじめとした政府のリーダーシップに心から期待したい。」と述べました。

第3部　広島AIプロセス

今年5月の広島サミット首脳コミュニケにおいて、生成AIについて、「生成人工知能（AI）に係る議論を年内に行うため、『広島AIプロセス』を立ち上げるよう関係閣僚に指示する。」とされ、G7各国による議論が日本主導で行われることとなりました。

第3部「広島AIプロセスについて」では、当事務所パートナー弁護士大井哲也の司会のもと、松本剛明総務大臣、須藤修中央大学国際情報学部教授、平野未来シナモンAI代表取締役Co-CEO、宍戸常寿東京大学大学院法学政治学研究科教授にパネリストとしてご登壇いただき、広島AIが果たすべき役割や、広島AIプロセスを通じて形成される生成AIのガバナンス等の在り方、さらには、その国内実装のあるべき姿などについて議論が行われました。

まず、松本大臣から、AIガバナンスの重要性と、広島AIプロセスが、AIガバナンスの各国間での相互運用性の確保に果たす役割について、ご説明がありました。具体的には、自由と規制は相対立するものではなく、相互補完的なものであること、ルールのないところに自由な競争は成り立たず、ルールがあることによって、利用者は安心してAIを利用でき、企業などの開発者も予見可能性をもってAIの開発を行えるとのご説明がありました。また、AIガバナンスについて、各国ごとに、ソフトローかハードローかというアプローチの違いが生じることは前提としつつも、国境がないデジタルの分野では相互運用性を確保する必要がある旨や、相互運用性を確保するためにはガバナンスに関する共通理解を醸成することが重要であり、そのために、広島AIプロセスを通じて関係閣僚で議論を進めていく旨のご説明がございました。

続いて、平野CEOから、日本では社会の大きな変化（例えば、気候変動）への対応として、Mitigation（緩和）によることが殆どだが、Adaption（適合）によるレジリエントな社会づくりが重要である旨、その上で、個人のタスクの自動化（automation 1.0）に止まることが多い日本企業において、生成AIを導入することにより、プロンプトの生成などの自動化自体の自動化（automation 3.0）を実現することが期待できる旨のお話をいただきました。また、生成AIの大きな課題として信頼性とドメインナレッジがあるものの、その解決策としてプロンプト生成AIの果たす役割が重要になる旨のご指摘がありました。

須藤教授からは、これまでのAI研究は脳を模倣しようとしてきたものの、GPT-4は既に脳よりも効率的な学習をしている状況にあるとのご指摘があり、人間がAIをコントロールできなくなるリスクについてのお話を頂きました。そのうえで、AI関係者の倫理性や説明可能性が重要になっていることや、その一方で「説明可能なAI」のアルゴリズムを攻撃する手法も進化していることを踏まえ、政府だけでなく研究者や利用者など、多様なステークホルダーが協力する必要性をご説明頂きました。

宍戸教授からは、リスクベースアプローチにおけるAIのリスク評価は、技術の発展や人々の受容性によって変動することから、AIに関する生産的な議論がグローバルに行われるためには、リスク評価について、経済社会や文化圏の違いを超えたコミュニケーションが行われ、相互運用性が確保されることが重要になるとのご説明があり、さらに、その実現のために広島AIプロセスが果たす役割に期待している旨のご発言がありました。

また、AI規制に関して、既存の法律で対応できる事項と、既存の法律に委ねない方が良い事項を見極めることの重要性や、産業分野ごとの規制と汎用的な規制の選択使があること、ルール同士の関係性を可視化することの重要性についてもお話を頂きました。

後半では、松本大臣から、日本はルール形成のコーディネーターとしての役割を果たすだけでなく、同時にプレイヤーでなければならないとのご指摘がありました。それに関連して、松本大臣から、国立研究開発法人情報通信研究機構（NICT）が独自に収集した350GB相当の日本語のWebテキストを利用して400億パラメータの日本語特化型LLMを開発したことや、さらに、現在1,790億パラメータ（GPT-3と同等規模）の日本語特化型LLMの開発を進めていることをご紹介いただきました。

第4部　生成AIと研究・教育

第4部「生成AIと研究・教育」では、坂田一郎東京大学総長特別参与がモデレーターを務め、西條 正明文部科学省大臣官房審議官（高等教育局及び科学技術政策連携担当）、下田倫大グーグル・クラウド・ジャパン合同会社AI/ML事業開発部長、太田邦史東京大学理事・副学長、宮尾祐介東京大学大学院情報理工学系研究科教授、当事務所パートナー弁護士柴野相雄が登壇をいたしました。
産・官・学、法曹という多岐にわたるメンバーにより、生成AIが研究・教育に与える影響、活用、留意点について議論をいたしました。

太田理事は、生成AIの登場が、インターネットやパーソナルコンピューターの登場に匹敵するほどインパクトの大きいものであると評価したうえで、早期に自らのツールとして活用することが今後活躍するうえで大事であると指摘しました。また、大学の方針として、若者の使用を抑制するのではなく、むしろ推奨することが望ましいと考え、生成系AIに関する積極的な施策・発信を行っていると述べました。
一方で、生成系AIを有用に活用するには、使用する人間の能力、知識が不可欠であることを強調し、東京大学の学生には、生成AIを本当に使いこなせる人材になってほしいと述べました。

宮尾教授は、自然言語の研究者としての立場から、生成AIの活用・研究の現状と今後の展望について紹介をいたしました。また教育という観点では、生成AIにより、個別化された、エビデンスに基づく、効率的な教育が実現されていくのではないかと指摘しました。
ハルシネーション、バイアス、著作権等の代表的な生成AIの問題点については、ルールからだけでなく技術からも解決ができるため、深刻にとらえすぎず、より活用していくことが望ましいと述べました。

西條審議官は、国立大学協会会長の発言を引用しつつ、生成AIについては、負の側面を克服しつつ積極的な活用を試みるべきというスタンスであると述べました。また大学における教育は、学問を通じた人としての成長機会の提供であって、学問の過程が自己研鑽と成長にとって大きな意味を持つと指摘し、生成AIには効果的・効率的な学びを実現する効果が期待できる一方、自ら考えることで得られる自己研鑽が阻害される事態も想定されうると指摘しました。

また大学の役割として、生成AIの、社会における利活用の拡大が予想されるため、利用に必要な技術を習得させることも必要になると述べました。
各大学・高専等の生成AIの利用方針という観点や、情報分析分野の人材育成という観点からは、政府の取組みや対応方針を紹介いたしました。

柴野弁護士は、生成系AIを研究・教育に用いる際に適用されうる著作権法の権利制限規定の紹介や課題を述べました。教育の場面では、教育機関における著作物の複製・公衆送信等について定めた著作権法35条1項の適用範囲を明確にする必要性を指摘したほか、教員の生成AIへのリテラシーや、生成AIの教育現場における普及・公平性確保が問題になると指摘しました。

研究の場面では、著作権法32条の「引用」において必要となる出所表示が、生成AIを利用して作成された著作物が第三者の著作物を引用している場合にも同様に求められることを指摘しました。また、生成AIの利用場面を分析し、「依拠性」要件を従来のように理解することの当否について、今後問題になると強調しました。

グーグル・クラウド・ジャパンの下田AI/ML事業開発部長は、Googleのサービスを通し産業の観点から研究・教育について述べました。研究に関しては、Transformerプロジェクトや大規模言語モデルであるPaLM２等の研究・発表を紹介しました。また特定領域に特化した言語モデル(Med-PaLM２等）には、教育・研究の補助が期待されること、Google社として人間とAIの協奏を目指しサービスの開発提供をしていることを述べました。教育に関しては、文部科学省のギガスクール構想にプラットフォームの提供をしていること、生成AIが取り込まれることで、受け身の学習を超えた学習体験が期待できることを述べました。環境整備に関しては、学習済みモデルの活用・構築に向けたニーズに応えるためGPUや機械学習の専用データセットであるTPUを提供しているほか、セキュリティを確保するよう努めており、これらの活動を通じ、環境整備を目指していると述べました。

最後に、太田理事から学生に向けて、新しい技術である生成系AIを楽しみながらどんどん使用し、新しい使い方を発見してほしいというコメントがあり、第4部は終了しました。

第4部の終了後、加藤泰浩東京大学大学院工学研究科長・工学部長から閉会のご挨拶があり、本シンポジウムは閉会となりました。