モルガン・スタンレー欧州サスティナビリティ・リサーチ責任者のマイク・キャンフィールドが、安全かつ責任ある人工知能を担保することがAI革命にとって不可欠な理由についてお話しします。

このエピソードを英語で聴く。

----- トランスクリプト -----

「市場の風を読む 」Thoughts on the Marketへようこそ。このポッドキャストでは、最近の金融市場動向に関するモルガン・スタンレーの考察をお届けします。今回のエピソードでは、モルガン・スタンレー欧州サスティナビリティ・リサーチ責任者のマイク・キャンフィールドが、今、注目されている「AIはどのくらい安全なのか？」というテーマについてお話します。このエピソードは10月10日にロンドンにて収録されたものです。

英語でお聴きになりたい方は、概要欄に記載しているURLをクリックしてください。

AIは、私たちの暮らし方、働き方、人と人との関わり方を大きく変えています。個人の判断から世界の安全保障まで、社会のあらゆるレベルと側面を変革する可能性がAIにはあります。だからこそ、医療や交通、金融、ひいては防衛まで、私たちの社会を維持するために不可欠なシステムにAIが深く組み込まれるほど、私たちは技術進歩のスピードに合わせた安全なAIシステムを開発、展開する必要があると考えます。

安全もしくは責任あるAIがどのようなものであるべきかを成文化しようとする試みは、AI市場をリードする企業、学術機関、シンクタンク、非政府組織(NGO)、業界団体、政府間組織によって進められており、これまでに発表されたガイドラインや基準は、どれも最も基本的な部分でいくつか明確な共通点があります。一般的なガイドラインや基準を見ると、どれも実用的な観点からのイノベーション育成と経済的繁栄を支えることに重点を置きながらも、AIシステムが人間の基本的な権利や価値を尊重し、人間にとって信頼できる存在であることを証明すべきと断言しています。

世界各国/地域のAI規制は現在どのようになっているのでしょうか？

世界で最も進んだAI規制は、詳細なリスク・ベース・アプローチに基づき策定されたEUのAI規制法で、AI利用の透明性を重視し、AIが人間や人間の基本的権利におよぼし得るリスクに着目した内容になっています。米国の場合、AI利用に関する包括的な連邦規制や連邦法はまだありませんが、特定業種を対象にしたAI利用指針を定めた連邦法はいくつかあり、例えば、2019年の「国防権限法」や2020年の「国家AIイニシアチブ法」などがこれに該当します。また、これらの連邦法とは別に、安全で責任あるイノベーションを促進しながらも、プライバシーなど、米国人および米国人の権利の保護を目的に、バイデン大統領がAIに関する大統領令を発令しています。ほかにも、アジア太平洋地域の国々では、消費者保護、プライバシー、透明性、説明責任などに関する独自のAIガイドラインの策定に取り組んでいます。

こうした中、我々が「ソシオテクニカル」と呼ぶ、人間と技術のインタラクションを重視するアプローチを、AIシステム・デベロッパーが採用することに、政策立案当局や規制当局が期待するようになるのは明らかと考えます。世界中にすでに存在するAI規制やAIの基礎的基準を精査すると、世界の国/地域の政策立案当局が成功するAI政策を策定するには、4つのコンセプトを柱とするアプローチを採る必要があると考えます。

私たちは政策策定の柱となるこれら4つのコンセプトを「STEP(ステップ)」と呼んでいます。安全性を意味するSafety(セーフティー)の「エス」、透明性を意味するTransparency(トランスペアレンシー)の「ティー」、倫理性を意味するEthics(エシックス)の「イー」、そしてプライバシーの「ピー」それぞれの頭文字を組み合わせた造語で、これら4つのコンセプトを満たせばAIは正しい『ステップ』を踏むことができると考え、そう呼ぶことにしました。安全性は、システムの信頼性に注目し、AI利用が人や社会に危害を加えることのないよう、AIの悪用や濫用の防止に主眼を置いたコンセプトです。透明性は、説明可能性や説明責任に関するコンセプトで、将来のフィードバックや結果の監査が可能なシステム作りの促進を目的としています。倫理性は、AIバイアスの回避を念頭に置き、主として差別/偏見の防止、包括性の促進、法の支配の尊重を組み合わせたコンセプトです。そして最後のプライバシーは、データ保護、AI利用による情報漏洩の防衛/予防手段、学習データの要配慮個人情報の本人同意などに配慮したコンセプトです。

もちろん、政策立案者は、偏見、差別、イノベーションを損なわない指針の導入、急激な進化スピード、法的責任、その他問題に着目しながら、AI規制の策定を巡る多様な困難に挑んできました。しかし、AIによるアウトプットは論理的根拠が不明なものもしばしばあり、これがAI規制の根底にある最も難しい問題となっています。なぜなら、AIシステムは本質的に学習するよう設計されているからで、AIモデルを作った開発者ですら思いもしなかったアウトプットを示すことがあるからです。

教育の向上、スマート電力グリッド管理の拡大、医療診断の向上、精密農業の拡大、生物多様性のモニタリングおよび保護の促進など、AIが社会に対しておよぼすプラスの影響は様々ですが、AIが社会にこうした影響を与える前に、安全かつ責任あるAIの利用を担保することは、我々にとって不可欠なステップと考えます。医薬品開発を加速したり、材料科学研究を進める、生産効率を押し上げる、気象予測の精度を向上さる、場合によっては精度の高い自然災害予想を可能にするなど、AIが社会に貢献する可能性は膨大であることは明らかです。

このように様々な観点から、AIの可能性を最大限引き出したいと思うのであれば、私たちはAIの正しい利用を促す指針を策定する必要があると考えます。

最後までお聴きいただきありがとうございました。今回も「市場の風を読む」Thoughts on the Market 、お楽しみいただけたでしょうか？もしよろしければ、この番組について、ご友人や同僚の皆さんにもシェアいただけますと幸いです。