中央大学の研究・オピニオンを発信

国際情報学部の研究者達が、国際標準化に貢献

　国際標準と評すべきAIのルールは、日本も主要構成員である〈経済協力開発機構〉―OECD^{オウ・イー・シィー・ディー}―が理事会勧告として昨年採択した〈OECD_AI原則〉や^[1]、そのいわばコピペ版として採択された〈G20_AI原則〉であろう^[2]。そして、これらAIルールの国際標準が採択される発端となった日本の有識者会議は^[3]、総務省〈AIネットワーク化検討会議〉であった。同会議には、国際情報学部（iTL^{アイ・ティー・エル}）に現在所属する３名の研究者達^[4]が参加しており、須藤修先生が座長を務め、筆者が座長代理を、そして石井夏生利先生も構成員を務めて^[5]、AI開発に望ましいルールを検討していた。AIの負の面を極小化させつつも研究開発を萎縮させない為に、厳し過ぎる事前規制ではなく緩やかなソフトロー^[6]を採用した〈AI開発原則〉を、私達は検討していたのである。なお、GAFA^ガーファが国境を越えて事実上の世界標準を形成している現実に鑑みれば、AIについても他国のシステムが日本に影響を与える蓋然性が高いから、AI開発原則は国際標準として採用してもらわなければ意味がない、とも私達は考えていた。

　丁度その頃、幸運なことに、G7の情報通信大臣会合が日本で開催されることになった^[7]。その場に、高市早苗総務大臣（当時）が〈AI開発原則〉のたたき台を提示して、これを一緒に検討・発展させて行きたいとG7の大臣達に対して提案した。すると各国大臣達から、「いいね」と快諾された。そこで、主要国全てが加盟する国際機関であるOECDの協力を得て、国際標準となるAI原則を検討することになったのである^[8]。

日本発AI諸原則／ガイドライン

　その後も須藤先生はAIのルール創りを総務省と内閣府の有識者会議で主導し、筆者も双方の会議に参画する機会を得た^[9]。その成果は、日本の〈AI開発原則〉とガイドライン、〈AI利活用原則〉とガイドライン等の関連文書、及び〈人間中心のAI社会原則〉として結実した^[10]。それらの日本の成果は英訳され、須藤先生と筆者は政府から要請を受けて、複数の海外出張を含む国際社会へのPR活動に従事した^[11]。最終的には須藤先生と筆者が日本代表として〈OECD_AI専門家会合〉に参加して^[12]、日本のAI諸原則、ガイドライン、及び関連文書を紹介し、〈OECD_AI原則〉の内容に反映させるべく働きかけた。その結果、2019年5月にOECD理事会勧告として採択された〈OECD_AI原則〉には、日本の主張を大きく反映させることができた^[13]。

筆者所蔵写真：　〈AIGO：OECD_AI専門家会合〉
＠OECDパリ16区、2018年9月24日
（写真中央奥で名札を立てて発言中の筆者）

　以上の経緯の詳細については、拙稿及び拙書にて紹介してあるので^[14]、以下ではAI諸原則／ガイドラインの根拠となる〈ELSI^エルシー〉と呼ばれる研究教育分野の重要性について言及してみよう。

AIに於けるELSI考慮の必要性

　AIは、直ぐに社会の隅々にまで普及することになろう。経済成長の柱にもしたいと、日本を含む多くの国々が期待している。その期待を実現化する為には、STEM^{ステム[15]}と呼ばれる理数工学系の研究教育を強化すべきであるという政策も、よく目にする。

　他方、AIは、制御不能な行動を執ったり、判断の機序がブラック・ボックスのように不透明だったり、更には差別的な判断さえも下す、と懸念されている^[16]。そこで必要になる研究教育分野が、ELSIと呼ばれている。ELSIは〈倫理的・法的・社会的影響〉の頭字語である。すなわちAIは、倫理的、法的、及び社会的に正しい方向で開発及び利活用されるべきであり、そのような要素抜きには社会に受容されないであろう。この考え方は、本稿冒頭で紹介したAIネットワーク化検討会議の以下の議事概要（理化学研究所・高橋亘一構成員と総務省事務局との対話）^[17]が示唆している。

********************以下、引用文。********************

********************以上、引用文。********************

すなわち、AI開発の〈エンジン〉がSTEMであるならば、その暴走を抑えて社会の役に立つように制御する〈ハンドル〉及び〈ブレーキ〉の役割をELSIが担う。クルマに不可欠な基本的要素は、〈走る・曲がる・止まる〉の３機能である。〈曲がる・止まる〉機能が欠けていては、危な過ぎてクルマとはいえない。AIも同様に、ELSI抜きには役に立たない。そして、ELSI的考慮を具現化させた規範・ルールが、AI諸原則やガイドラインなのである。

AIに安心安全を与えるルールの必要性

　〈法と経済学〉という学際法学（law ands^{ロー・アンズ}）分野で高名な、合衆国控訴審第７巡回区判事のリチャード・A.ポズナーは、その著書に於いて次のように述べている^[18]。

科学者達は、社会を科学から防護することを望むよりも寧ろ、科学的知識の進化を望むものである。しかし政策立案者達の価値観は、真逆である。これは科学者達が公共の安全に無関心ということではない。公共の安全が科学者達の仕事ではなく、しばしば科学者達の仕事と公共の安全が対立するということなのである。

　科学技術の危険性という問題を前にすると、嘗てマンハッタン計画に於いて核爆弾を開発させたばかりか、その使用までをも進言したと伝えられている科学者^[19]の恐ろしい行動を思い起こさざるを得ない。社会科学や人文科学の知見を総動員して、何としても危険を回避せねばならないと思ってしまうのは、考え過ぎであろうか。

　AIは社会を変革する程の影響を与える新興技術であり、その負の面も徐々に明らかになってきた。未だその内容も不明な〈汎用AI〉もしくは〈強いAI〉、又は〈シンギュラリティー〉もしくは〈2045年問題〉という深刻な問題の可能性が払拭できない現状に鑑みれば^[20]、規範やルールという手段を使って社会に貢献することを生業にする法律家の筆者としては、その持てる力を今、手遅れにならない内に、社会の為に使わねばならないと思うのである^[21]。

---

(※)「ELSI」とは、「倫理的Ethical・法的Legal・社会的Social・影響Implications」を意味する接頭語である。「影響Implications」の代わりに「問題Issues」の語を用いる場合もある。

[1] See OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, May 22, 2020, https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 (last visited Nov. 9, 2020).
[2] See G20 Ministerial Statement on Trade and Digital Economy, https://www.mofa.go.jp/files/000486596.pdf (last visited Nov. 9, 2020).
[3] See, e.g., 平野晋「GAFA規制を考える（中）AI利活用で独走を許すな」『日本経済新聞』朝刊 2019年2月20日 https://www.nikkei.com/article/DGXKZO41459890Z10C19A2KE8000/ (last visited Nov. 9, 2020)(AIルールの国際標準化に日本が貢献している事実を紹介).
[4] iTLの専任教員である須藤先生、石井先生、及び筆者については、see 「国際情報学部 教員紹介」https://www.chuo-u.ac.jp/academics/faculties/itl/teacher/ (last visited Nov. 9, 2020).
[5] See, e.g.,「ICTインテリジェント化影響評価検討会議（AIネットワーク化検討会議）第1回議事概要」１頁（平成28年2月2日） https://www.soumu.go.jp/main_content/000415482.pdf (last visited Nov. 9, 2020).
[6] 「soft law」とは、拘束力のない規範である。See, e.g., 拙稿「ロボット法と倫理」『人工知能』34巻2号188頁, 189頁脚注10（2019年）（soft lawの概念が国際条約に於いて使われている事実を説明）．本稿内で「原則」や「ガイドライン」と称する概念が、これに該当する。
[7] 総務省「G7香川・高松情報通信大臣会合」https://www.soumu.go.jp/joho_kokusai/g7ict/index.html (last visited Nov. 9, 2020).
[8] See, e.g., 総務省「経済協力開発機構（OECD）における人工知能（AI）に関する取組」https://www.soumu.go.jp/menu_seisaku/ictseisaku/oecd_ai/index.html (last visited Nov. 9, 2020); 同・AIネットワーク社会推進会議「報告書2019」1～2頁（令和元年8月9日）https://www.soumu.go.jp/main_content/000637096.pdf (last visited Nov. 9, 2020).
[9] See 総務省「資料1　AIネットワーク社会推進会議 開催要綱（案）」内の「別紙　AIネットワーク社会推進会議　構成員」 https://www.soumu.go.jp/main_content/000447310.pdf (last visited Nov. 9, 2020); 内閣府「資料1　人間中心のAI社会原則検討会議　運用要綱」（平成30年4月25日）内の「別紙　人間中心のAI社会原則検討会議議長及び構成員等について」https://www8.cao.go.jp/cstp/tyousakai/humanai/1kai/siryo1.pdf (last visited Nov. 9, 2020); 同・統合イノベーション戦略推進会議決定「人間中心のAI社会原則」（平成31年3月29日）13～14頁https://www.cas.go.jp/jp/seisaku/jinkouchinou/pdf/aigensoku.pdf (last visited Nov. 9, 2020).
[10] 総務省・AIネットワーク社会推進会議「国際的な議論のためのAI開発ガイドライン案」（平成29年7月28日）https://www.soumu.go.jp/main_content/000499625.pdf (last visited Nov. 9, 2020); 同「AI利活用ガイドライン」（令和元年8月9日）https://www.soumu.go.jp/main_content/000637097.pdf (last visited Nov. 9, 2020); 内閣府・統合イノベーション戦略推進会議決定supra note 9.
[11] See, e.g., [総務省] 事務局「資料2 国際的な議論及び海外の動向」2頁（平成29年12月19日）https://www.soumu.go.jp/main_content/000526316.pdf (last visited Nov. 9, 2020) in 「AIネットワーク社会推進会議 第8回 配布資料」（平成29年12月19日）https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02iicp01_04000120.html (last visited Nov. 9, 2020).
[12] OECD, List of Participants in the OECD Expert Group on AI (AIGO), https://www.oecd.org/going-digital/ai/oecd-aigo-membership-list.pdf (last visited Nov. 9, 2020).
[13] 「報告書2019」supra note 8, at 2, 14～15頁．
[14] 拙書『ロボット法（増補版）』281～313頁 (弘文堂 2019年); 拙稿「〈AIの支配〉と〈法の支配〉～日本発AI原則とガイドライン～」『法の支配』197号41頁（日本法律家協会 2020年4月）．
[15] 「STEM」とは、Science, Technology, Engineering, and Mathematicsの頭字語である。
[16] See, e.g., 総務省・AIネットワーク社会推進会議「報告書2018」（平成30年7月17日）17, 29, 60, 63, 73, 77, 81頁 https://www.soumu.go.jp/main_content/000564147.pdf (last visited Nov. 9, 2020)(AIの制御不可能性、不透明性、及び差別問題を指摘).
[17] 「第1回議事概要」supra note 5, at 5～6頁（下線付加）．
[18] RICHARD A. POSNER, CATASTROPHE: RISK AND RESPONSE 99 (Oxford Univ. Press, 2004)(本文の引用は拙訳).
[19] See NHK「BS1スペシャル・"悪魔の兵器"はこうして誕生した～原爆 科学者たちの心の闇～」2020年8月15日0:40～2:20再放送．
[20] これらの概念は、様々な能力に於いてヒトを超える人造物が出現する危険性を含意している。
[21] 危険性に備えるべきと主張する筆者の最新論考については、see 拙稿「汎用AIのソフトローと〈法と文学〉」『法學新法』127巻5・6号__頁 (forthcoming in 2021); 拙稿「AIのELSI」『国際情報学部紀要』創刊号___頁 (forthcoming in Mar. 2021).

平野　晋（ひらの　すすむ）／中央大学国際情報学部教授・学部長／米国弁護士 (NY州)
専門分野　製造物責任法／不法行為法、アメリカ契約法、サイバー法、AI・ロボット法

1984年中央大学法学部法律学科卒業。1990年コーネル大学（法科）大学院修士課程修了（法学修士）。同年米国（NY州）法曹資格試験合格。1991年から現在までNY州弁護士登録。2007年博士（総合政策）（中央大学）。富士重工業㈱法規部主任、㈱NTTドコモ法務室長等を経て、2004年から2019年まで中央大学総合政策学部教授。2013年から2019年まで大学院総合政策研究科委員長。2018年から2019年まで国際情報学部開設準備室・室長。2019年から現在まで、国際情報学部教授・学部長。

主な著書は、単著『ロボット法（増補版）』（弘文堂2019年）、単著『国際契約の起案学』（木鐸社2011年）、単著『体系アメリカ契約法』（中央大学出版部2009年）、単著『アメリカ不法行為法』（中央大学出版部2006年）、及び単著『電子商取引とサイバー法』（NTT出版1999年）等。

• 記事を共有する
• 
• 
•