HELLO! AI ポッドキャスト

S44E05 AI と意識について(その3)Yoshua Bengio の覚悟と希望


Listen Later



こんにちわ! AI ポッドキャスト、シーズン44は2023年8月26日に開催した ZOOMライブの模様です。
この日のテーマは「最近の話題から -- AI の意識  あるいは  AI と意識」です。

エピソード5は、パート2「AI と意識について」その3、「Yoshua Bengio の覚悟と希望」です。


  • 当日の発表資料




このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




(以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。)

** 注:以下は未編集の草稿です **

はい、こんばんはです。8月です。2023年8月26日。8月末ですね。気がついたら土曜日です。

いうのはサイドストーリーというかむしろ三末なことで、ここを今日の
AIフォーラムの最後のセクションとして このビデオを配置したのは
そこに見られた 吉原弁優
各希望っていうのを僕は見て
よし頑張ろうと思ってその気持ちをみんなと共有したいなと思ってから
配置しました それはですね
この後でこの資料を共有します リンクにタイムスタンプも入れているので
リンクを踏めば 長いビデオのこれ何分のビデオなんだろうな
行ってみるか試しに
あ、46分だよ
これねちょっとねやめとこうねっていうのは
そう youtube のライブ配信でしょ で youtube を流すっていうのはもちろん面白いし
共有したいのは共有したいし いやコピーライトがどうのこうのみたいなそういうのを語るつもりがないんで
道義的に何も問題を感じないんですが技術的にね
僕のコンピューターの待機 インターネットの待機かっていう話でやめとこうっていう話をしてるね
後で共有するんで皆さん見てください で
2つね クリップ 共有したい
で最初の部分は 各語ね
吉原弁優の 喋りにフォーカスしてますが
インタビュアーの人がね もうだから散々
世間がね ゆうどこうすきーの
人類みんなお前ら死んじゃうよ殺されちゃうよみたいな のでみんなわーってこうみんななのかそれを見た人
原点あの 恐怖を感じてわーってなった
で そういうふうに
ai は怖いっていうのに対する 反動としてヤンルカンとかが
わーとなってって言うんでなんか不毛になってると このビデオのファシリケーターの女性は
そういうのを踏まえてあの変に危機を煽るっていう方向ではなく
今何ができるのかとか何を目指すべきかっていう建設的な話として セットアップしてるしなんかっていう流れなんだけどもでも状況は
リスクはありますよねそのリスクはつったら 吉原弁優はねあのイグゼステンシャルリスク
ですと ai のこのまま開発ダーンって無自覚にやったらやばい人類がやばいよっていう 立場に立ってるって話でしょ
その時に えっとじゃあ
どう していけばいいのっていうのは当然
聞きたくなることですよねそれに対する吉原弁優の答え が
なんか僕は感動したっていうか あのすごい素晴らしいなと思ったってことですけども
a 棟
詳しくはビデオを見ていただきたいですけどもここで
強調したなぁ僕自身はこれを思い出さなきゃいけないんですよ
そう
ねえ ai のリスクっていうのはやばいしでもどうやったら 回避できるのかどうやったらあの正しい未来にたぶりつけるのって言ってる時に
吉原弁優はだから悲観的になってるわけですねあの悲観的というか状況としては
やばいよっていう立場に立ってる じゃあ
あの何もできないのかって言った時に 吉原は
you have to remember that we can only do our best ダメだと思っても
そんなもううまくいかんよっていう状況になっても
責任ある立場にある大人だったらみたいな話だけどね ダメだとわかってても
最善を尽くすのが
努めだ それがモラルリューディーだと our moral duty ね
道義的な責任だ 人だと
あはーっていうのはこれたぶん ai ビザーちゃんのことですけどね そう言い切って
やんるかんのようにね絶対俺たちは勝利するぜいけいけじゃなくて ダメかもしれないけどもでも
ダメかもしれないけどもやらなきゃいけないことはやらなきゃいけないし ベストを尽くさなきゃいけないって
言うんですよこれは痺れますよね
でそういう問題例えばつってねクライマチェインし みたいなシチュエーションだと
難しいかもしれないけども頑張らなきゃいけないのはあのね 投げ出さないで頑張れっていうね
ねえそういう話を大雑把に受けてこのバッシーさんね女性のパシリテーターが
2人プロフェッサーいるわけですからねよしやがこう言ったとじゃあそれを受けて じゃあいばるハラリ
ロフェスタハラリこの
オプティミズムを どう思いますかあなたもこのね楽観主義にあなたも同じ同意しますかみたいな
風に問いかけようとしたときに ベンジーよしは便所がちょっと待って待ってて言ってんだね
僕のこの主張は楽観主義で言ってんじゃない 楽観でも悲観でもなくて
ね 男の男のっていうとジェンダー的なのかな
責任だとモラルデューティーだとして言ってるんだ
モラルデューティーとして オプティミスティックなソリューションっていうのを目指す責任があるんだ
いうふうに
強調してたね
そうわざわざ止めて自分の立場をアクティミスト じゃないっていうふうに言うっていうのは
誠実さの現れなんでしょうねでその後 あのいばるハラリがハート喋ってもう1回戻ってきて受けた時に
a まあね
もう1回よしは便所が どういうふうに
どういうパスがあり得るのかっていうところで言ったことね
唯一の方法 って言ってたんだけどもそれは
by changing humans ね だから我々自身が変わっていくより他にないんだ
いうふうに言ってて でも考えてごらんよって言ってるねそれは可能だと
であるサブセットを部集マンズ サブセッツなんですけどね
でそれらはっていうともう愛知カルで y ザーでベターアンダスタンデムセルフスでもう今
パンコンパッショネートでもうラショナーな サブセット部ヒューマンズがいるでしょういることを君たちみんな知ってるでしょう
だから 可能だ
我々が変わるっていうことは可能だと 陰謀論でわーわー言ってねツイッター上ではは言ってる
僕たちは変わらなきゃいけないって言ってるんですけども
それがそういうのが僕が言ってるユートピアなんだろうねっていうふうに言ってるね
すごいね彼自身が こういう人として振る舞ってるなっていうのをやっぱ感じますよね素晴らしいな

この感覚ねここを聞いた時にあーと思って
良き 人間にならなきゃいけないっていう意識っていうか
ダークサイドに落ちちゃいけないってことねスターウォース的に言うとね この感覚っていや僕も最近なんか感じたなぁと思って
たんですよ それを紹介するんですけども直でいいですね
8
こんにちは ai フォーラム5月でも触れたんですが えっとね僕は仕事を失ったっていう時に何を
やって生きていきたいかっていうのを考えたんですね パストプレズンたにフューチャーって自分の人生を振り返って
でそれは自分の趣味のポッドキャンス音楽と数理ポッドキャストの 8エピソード20で喋ったんですけどもなかなかとね英語で
その中の一つねここ真ん中に赤字これ日本語に各セクション のタイトルを日本語にしたやつですけども
科学者っていうのはその他すべての人たちと違うっていう認識のことを このポッドキャス喋ったんですよ
5月 英語だった
でねそこからのねあの引用ねここ今スクショを貼ったんですけども セクションタイトルはサインティスアンデフラン
で僕が英語で スクリプトなしでバーっとポッドキャス喋ってる中で言っちゃうね
8で 無理やり
自分のし喋りを日本語に威圧したのですね あの示しますが
僕のねあのキャリアは もともとあの物理で学位とって研究者ずっとやってたんだけども研究者やめて
日本に帰ってきて プログラマーサラリーマンを14年やって
で仕事クビになって では次何をやろうかなって言った時の喋りはですね
その時に俺は何をやりたいかなあっていうふうに考えた時に 思ったのは
アカデミックな感覚研究者時代のメンタリティみたいなのを
もう一回持ち直したいなぁと思った それってのは何かっていうと
公共 みたいなセンス
もっとわかりやすい子どもでもわかる言い方で言うと みんなのために働くっていうこと
そのセンスを
意識した それ
そういう意味だと僕はアカデミックなっていうところに今の僕が感じてるの つまり言い換えると
気づいたのね 今になってもそれは何かっていうと
科学者 研究者なんですけども
のメンタリティと サラリーマン直近14年
のメンタリティって根本的にやっぱ違うなと これは
昔はね研究者をやってた頃は 意識してなかった
その頃はむしろエゴイスティックに自分のために研究しているような気分で むしろいたかもしれないんだけども
サラリーマン生活を経験した後振り返ると
科学っていう営み自体がそもそも パブリックサービスだと思う
し 全人類のために働いている
そのセンスって
そう 差別なしに全人類分け隔てなくみんなのためにやってるわけですよ
だから 会社で働いている人はね
その働いている研究がね会社のためだけに働いているわけではなくて
みたいなセンス 科学者はね だから
〇〇大学の僕は研究員だから〇〇大学だけに働いているわけじゃない
当たり前でしょ 日本人だから日本のためだけに研究してるわけじゃないでしょ
っていうね だって科学っていうのは日本の科学ってありえないからねっていうのは
わからないのかなぁ
そう そもそも研究者というか科学者は何をやってるったら
問題を解くんだけど 解いた結果を
みんなに知ってもらうことが 仕事ですからねっていうところになる
それは当たり前のことを言ってるんですが 昔はこれをこういうふうには認識してなかったっていう気づきを言ってるんで
頭がいい研究者の人は そんなの当たり前じゃんって言ってるけど
僕は意識してなかった
なので
そう思ってね
そういうセンスと
このヨシア・ベンジョーの言うね
subset of human
more ethical, wiser, better understand themselves, more compassionate, more rational
だし 多分
リチャード・ブランソンがね
human capacity for kindness っていうところの kindness ね
あるいは
remember what's naive today, maybe common sense tomorrow, no, what's naive today
だから
みんな
サイエンティストになればいいんだっていうのは
僕のメッセージ 今日のメッセージ
っていうオープンエンディングで 今日はこれで終わりにしたいと思います
皆さんどう考えますか
どう思いますか
こういうセンスで
ここまでたどり着いた後に
この辺の話で躊躇した話か
どうやったらAIに
意識とかね システム2的なケイパビリティをね
できるんだろうって無邪気に 考えるっていうことが
このエティカルなコードに 定食するかどうかっていうのが引っかかるんだねやっぱりね
でもあれね実際の運用
に対して ディプロイメントとリサーチを分けて
制限というかきちんと管理するべきはディプロイメントの方で
リサーチは違うっていう認識は持たないとやばいよねっていうのはそうだと思う つまり
未知のままだとそもそも コントロールとは言わなくても
何が起きているのかの理解すらできなかったら 大したのしようもないっていう意味で研究は続けなきゃいけないんですよね
だからね研究そういうことを
僕がチャンスが欲しいんだけどもなかなかね
あれだよね コンピュータサイエンスのPhDとか
過去5年ぐらいAIの開発 実際に開発してきたとか研究してきた人たち
の仕事なんだろうけども
その人たちだけに任せておいていいのかな 僕はのんびりしていいのかな
難しいよね やりたいこととできることっていうものをきちんと
認識しとかないと
やりたいこととできないことっていうのがあるんですよね
だからね 僕は
やりたいこととできないことっていうのは
なかなか下手なんでね、やっぱり一人上手にいつものありますが、
皆様のコミットメントを心待ちにしています
ということで終わりにしたいと思います。
長い長い間見ていただいた方いるかな?
ありがとうございました 終わりにします。おやすみなさい
...more
View all episodesView all episodes
Download on the App Store

HELLO! AI ポッドキャストBy Kengo Ichiki