こんにちわ! AI ポッドキャスト、シーズン46は2023年10月28日に開催した ZOOMライブの模様です。
この日のテーマは「AI と意識」です。
エピソード4は、本題のパート2「AI と意識、主に IIT に関して」です。
このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら
ビデオ見れる人はこちらからご覧ください。
(以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。)
** 注:以下は未編集の草稿です **
はい、今晩は!「こんにちわAIフォーム」10月です。2023年10月28日ですね。はい。
ねっ エアイテ意識の話
を今日のメインに据えました
据えたんだけど据えただけでさっきから言ってるよね 皆さんに情報を並べました
だから一緒に勉強しましょうっていうそういう呼びかけの回っていうことにします今日はね
で
エアイテ意識っていうなんか ヤバい系の人みたいですけども
特に IIT
っていうものちょっとこれ1回僕の中で きちんとあの抑えとかなきゃいけないなっていう機運が高まってるんで
基本的な部分を抑えるところまでして イベントしたかったんですけどそこまで手が回らなかったので
こういうことをきちんと抑えたいよっていう初心表明としての会員にしたいと思いますが その機運の流れの話を簡単にまずします
IITとは何か IITとはインテグレーティッドインフォメーションセオリー
日本語だと何ですか 統合情報理論
と呼ばれるものがあるんですけども
多分ね
革新的だったんだと思うんですね 素晴らしいっていう意味でね 先駆的っていうかな
意識の問題 サイエンスに乗っけるっていう意味で
その辺の話は 僕ねマックステイクマークの本を
これもAIフォーラムのがきっかけで僕買った本ですけども
本田さんですね
マックステイクマーク知ってますか?って言って
なんだっけ 世界はシミュレーションなんだって言った人なんですけどもって本田さんは言ってたような気がしますが
その時に出てた本でライフ3.0っていうのが出てて
注文したのね
で あったんですけども
なかなか読めなくて それだから出てすぐぐらいで日本語の訳が出る前の話で
ここにありますけども
だからな2019とかに買ったのかな
ペンギンブックスは2018だからそれ以降に買ってるはずだけど
2019とかに買ってでもずっと読めなくて
ペンディングしてたんだけども
1年発起してね
もう最初のごちゃごちゃしてるところがいい
最後の
最後のっていうか一番最後はエピローグがあるんだけどもその前のねチャプター8っていう
あの一番最後のチャプター コンシャスネスっていうのが書いてあるんですよ
ここを読んでみようと思って読んで
ね あーって面白い面白いっていうかな
なるほどと思ったんですよその辺の話は
また後ろにするね
思って そのとそこの中に
IIT研究されてる
IITってのがあるんだね
一つのスタンダードなアプローチなんだなってぐらいに思ってたんですけども
その後あれだねマックステイクマークが
エクスフリードマンのところに
モラトリアムの
オープンレターを出す時に収録した回だな
あそこで雑談とかしてる時に
やっぱりコンピューター上で意識の話に
あの研究してる時になんか面白そうなこと言ってたよね
面白そうなっていうのはふわっとしたことで
ループ サイクルのループ
っていうのが創発みたいなところに
効いてるかもしれないみたいな可能性としてあるよみたいなことを言ってたと思いますね漠然とね
気になる人はビデオ見てくださいあの部分
責任取りませんから
えっという話があってあのマックステイクマークは意識のCワードね
あのきちんとサイエンティストとしてなんかやろうとしてるんだよねっていうふうには思ってたんだけども
えっとそうこうしてたら最近
先月とか先々月とか先月か9月か
なんかねIITは数度サイエンスだと
エセ科学だという警告を大量の
あの権威の著者たち連盟でなんか論文化なんかが出たのかな
でなんか
つまり科学っていうコンベンショナルの科学っていうフレームワークに
乗っかってないみたいなことなんでしょうね批判なんでしょうね
っていうのがあって
業界の人たちの評価としてはそういう
評価なのかっていうかそういう意見もあるのかっていうふうに思ってたんですね
注意してみなきゃいけないかなぐらいの素人的にはね
思ったりしてたんだけどもそうこうしてたら
これは今週とかの話だった今週?先週?
つい最近
金井亮太さん
アレン社長さんの新刊が出たっていうのがあって
ツイッターのタイムライン流れてきて
おーっつってこうねタイミング的にこう俺は抑えとかないといけないなと思って
ポチッとしてね届いてで
バラバラ速読してたんですけど
思いっきりIITね重要な理論として書かれていてもちろん
マックステクノラクのところにもね賛否ありますよとかコントロバーシャルなところはありますよっていう注意書きは当然あって
もちろん意識を科学的に扱うっていうそのこと自体がね
ナイーブに考えたら不可能なことをやろうとしているわけですから
なんか飛び道具が必要なんでそこに関しては
批判みたいなのは起こり得るわけですけどね
そういう躊躇きででも
えっと口座役の口の部分っていうかなあの前向きに
書かれている本が今このタイミングでポンと出てきたっていうのは
すごいなと思ったし そういう意味でも
僕自身総合的にきちんと IITっていうものについて抑えておかなきゃいけないかなと
今思ってちょっと深めとくその第一歩を記そうと思ってたんだけども
またね時間が経たな
そういう話の
ですがパート2です
僕の中での時間の流れは
マックステグマーク論文批判論文
叶えりよとっていう順番なんですけども
まあ本先に2本内容を振り返って論文っていう形に進めます
振り返りですけども
8月今年の8月の
AIフォーラム
待って
に
最近の話題から題した回で やっぱりAIの意識AIと意識みたいなのをテーマに
取り上げてたねはいえーと その中でマックステグマーク当然今言ってるね僕にとってはあの
この話を
きちんと考える脳科学とか流行ってたけども僕全スルーですからね脳科学くだらないと思ってたから
チャラチャラしてる人たちがね だけどこれをきっかけにあのきちんとあの
考えなきゃいけないなと思ったっていう重要なタイミングポイントでしたけども ね何があったら
意識っていうのは
意識の定義をマックステグマークは 保守的に
サブジェクトエキスペリエンスという風に取られて なんとかあのサイエンスに乗っけてフレームワークに乗っけて議論したいっていう風な話を展開して
たんですね 展開してたってか多分それが一つの
どう科学であの意識をアプローチするかということの まあ一つの典型的なアプローチなのかなぁ僕はよくわかんないですけど業界の人じゃないか
でもこのねサブジェクティブエキスペリエンスっていうのを 主体的経験主観ですね
意識っていうふわっとした言葉ではなくて 主観的な経験っていうもの
が対象ですよ 対象ね
言った時にあのなるほどなぁと思ったし その流れの中でのインテグレーティってのインフォメーション強いっていうのは
一つのアプローチとしてありますよっていう風に言っていたりとか
とりあえずこう振り返るねでこの時にまああれだな
だった あのね
うろ覚えで喋る喋りますがっていうか本はここにあって えっと今日のこの話をするためにね
chapter 8は言ってもたかだか 英語で書かれてますがたかだか20ページぐらいだっけ
30ページ35ページしかないんですよ だからこれ1回見直して改めて記憶をリフレッシュして
まとめみたいなして項目を洗い出しといて 金井さんの方にと比較じゃないけど進んで
抑えるべきターゲットはこういう感じにしようかなと思ったんですけども時間が なくてっていう話ですけども
このねiitの話で面白かったのは
今も主観で思い出しながら喋ってますが
そう私ってことねサブジェクトね
私って言ってるものは
どっかにバウンダリがあるわけですよね だってこの本は私じゃないし手繋いでた人の
手繋いでる人は私じゃないしみたいなところでじゃあ手までが私かそうだね手まで 私ねみたいな話ね
それを
分割した時に
分けられる分けられないみたいなのを が重要だねっていうかテクニックとしてね
そうすると
そうすると あれだなもう忘れてるなそこらへんはね
なるほどと思ったあとね 宇宙の意識みたいな話を想定する時にみたいな話ね
その時には
いや いや馬鹿なこと言ってるけども僕たち僕は今ここにいるんだけども
僕の体を構成している 体は
たくさんの微生物とかいるわけだよね 細胞だって動いてるわけだよね
でも細胞が僕じゃないっていうことだよねっていう話よねそうすると そのアナロジーで宇宙
こういう話を曖昧な土台にするから 衛星科学になっちゃうんだよね
脳科学者としてテレビに出ちゃうわけだよね
やめようねでもあの面白かったタイムスケール 空間スケールみたいなのをきちんとマッチさせないと
いけないっていうか多分僕たちが機能しているのも
このタイムスケールで機能が発露しているっていう部分が知性だったり意識だったりするんだけども
多分すごい
セムとセカン
そこに意識はあるか多分ないみたいなねそういうことになるのかなと思ったりとか
思ったと そういう考えてたら
AIのアライメント AIのエグゼッセンシャルリスクに対する悶々とした暗い気持ちが払拭されたっていうのを僕の個人的な
流れでしたけども 一方ついこの間先週
今週 届いたカナイさんの方ね
木時ぐらいは共有してもいいんでしょう
ねパート7 意識の統合情報理論
インテグレイティッドインフォメーションセオリー 統合情報理論でした
一生どんどんと 焦られてる
ね コリアってね
コリアって言うと ヤバい脳科学者が頭に脳裏に埋まれるのではのあんまり印象良くないんですけど
コリアってあれなんよね そう コリア ああそうここ書いたっけ
ねカナイさんの本読んでてコリアって
を定義しなきゃいけないじゃん当然 あんでマックステグマックの本パラパラ見てても当然コリアはね
あの 社自体になってねをきちんと定義しなきゃいけない
でこれはみたいな感じだけども カナイさんの方には多分
これ多分あれだね業界で理論的に 考慮論的になんかいろいろ議論されてるって話だったね
言葉にできないっていうのが明確になってるね
ね 意識の話とかをやってると考えてると同時に
僕とか最近
どんな怪しい方向になっているの? スピリチュアル系っていうかな 僕は真面目にやってますけれども瞑想みたいなこと
あるじゃないですか 禅とかね仏教系ね
あれってのは結局意識を 自分の意識を
こういかにこう 監視するかっていうのかな
意識を意識するってことじゃないですか その時に
今僕言葉を使って一生懸命説明してるけども
言葉 以前の感覚っていうものを
きちんと意識する必要があるとこれというか その存在を
認識するっていうの結構重要なポイントだと思うんですけども それは僕は必ずしもできて達成できてないんですけども
そこにアナロジーっていうかね 同じものはあるよなぁと思って つまり
サイエンスとして意識を一生懸命研究するということと 自分のトレーニング 修行としての自分の意識 自分自身をターゲットとして
瞑想のテクニックを磨くみたいな話と その時に自分の心のプロセスを理解するっていう話ですよね
微細なところからね
なんかね あの
それここに書いてあるな そうそうそう
パラマッタじゃんって 何を知らずにね 庭科の知識で言ってますけどね
あと株式会社アラヤの由来になっているアラヤ式っていうのも こっちは台上仏教系の用語としてあるらしいですね
パラマッタは原始仏教系のね パーリ語のパラマッタですけども
なんかね
個人的にはなんかいろんなものを今ふわふわしていて でも関連するんだろうなと思って点と点をどう繋ぐんだろうって思ってるところですけどね
ああ で 金井さんのこの本自体は
すごく良かった 刺激的でしたね あの AIっていう切り口
において あの一つの
ガイアとして 今から
いろんなものを勉強しようと思った時の いいのかな あのガイドラインになるんだろうなと思って
ポイントポイントで あの文献的にもここからたぐっていくみたいな形でね
でも それに留まらずっていうかそれ以上にね まず面白かったのは
この金井さんっていう人間ね あの
あの物理に 矢さんではない そういう道ではないところに進まれたけども
巨大の理学部だから まああのね 物理っていうかね その理学思考で入って
で 意識っていうものに最初からもうドンって直球でアプローチして
今の AIが発展するとかっていう前段階のだから生理的な部分を
お得かかりにしてなんですね だから本当に
後半の 農科学者だなぁと思って もちろんそう 農科学の部分に対して大と思ったっていうよりは
一研究者の生き様みたいなのを書いてあるね 自分史みたいなね
いやすごいなぁと思って 思いましたね
いやかなわんなぁっていう話だけどね そうね キーワードっていうかな 要所要所でね
あの カルテック懐かしいなぁっていうかね あの
僕もカルテックポストクに行った時にね サブベースメントが教室だったんだけども
サブベースメントだからね 当然窓なんかあるわけなくてね しかも
1階入って階段で地下2階まで降りて
一本道の廊下をまっすぐ行ってどん詰まりのところを曲がって 部屋が大学陰性室と
ポストク室みたいなのがどん詰まりだよね 行き止まりの もう先の先で周りも全部コンクリーで固められているところ
その先は何もない部屋に 僕2年いたんだけど
あそこ怖いねぇ 今考えるとと思ってね あれ入り口がなんか塞がれたりとか火事とかでさ
塞がれたり逃げ場がない場所だったね
窒息とかさするよね まあまあいいや その関係ないですよね
あとね あの カナリさんはこれはあれか
ポストクだったんだっけ じゃあ学位取ったのここだっけ オランダね 僕オランダファンなんですけど
自分のキャリア的にはねオランダでは仕事が身を結ばなかったので あの まあ
残念なところなんだけども 文化的な
あれとしてはやっぱりヨーロッパって 全然文化が違うなっていうのを実感できたっていう意味で
1年しかいなかったですけど すごい大きな場所でしたね
そう で 今僕の心はいろんな意味で大きく揺さぶられてますが
その一つはね あのね これなんですよ あのちょうど
これ先週とか先々週だ あのメールが来てたんだけど
オランダの研究室って僕が行った時って2001年でしたけども まだ立ち上げの頃で
でもあの資料見たら2年目とか3年目とか2年目だったかな でも立ち上げの頃でういういしくて
あのそこに ペンって入ってその雰囲気とかね あのすごい懐かしいんだけども
25周年パーティーっていうのをこの間開催されたっていうんで 記念の集合写真とか
あとブックレットとか作ってる pdf とかあったんで 目で見なきゃいけないんで
見てたら懐かしいなぁこいつって 自分の1年しかいなかったから
オーバーラップある人たちってすっごいかけられてるんだけども おーなんかみんな元気そうだなぁと思って懐かしくなりましたけれども
センチメンタルになってね そう
そういう感じでなんかあの期限に触れちゃったんで 金井さんのこの方はね
そうだからねぇ
IITね きちんと腹落ちしておきたいなと思った
ですよ今この時点において で一旦けなされたこの論文に
改めて立ち戻ってね 何が問題なんやと
何が気に入らない人たちがいるのっていうのは抑えとかなきゃいけないなと思って
論文ね これが批判っていうかな 批判の論文だな
information theory of consciousness as pseudoscience これかなり強い言われ方だよね
できちんと検証しよう せよみたいな話の論文もあるのかな
ふむふむと こっちのねこのネイチャーのニュースの記事は
僕は貧乏人なので読めないんですけども 引用されている文献は2本
あのアーカイブそれぞれの分野のね サイコロジー系のアーカイブとバイオ系のアーカイブなのかな
全部アーカイブでまとめていくといいなと思いますが
ね だって物理
関係はコンピューターがサイエンスから何から全部まとまってるんでね まあいいや
でえーっとあーこういうの話題になってるなぁと思ったんだけども そのちょっと前にね
8月のAIフォーラムで言及しましたが
また別の論文ね これは
これだ consciousness in artificial intelligenceっていうタイトルの論文ですね
これは
AI研究者と意識を研究している研究者 哲学者とかああいうところまで含めての意識っていうものを研究している研究者と
AIの研究者のコラボレーションというか 進めて意識について
進めていこうみたいな論文が 話題になりましたけども
これも絡めてねあの 押さえと
かなきゃいけない今タイミングですねと 吉田弁次夫
真ん中に金井さんいるよ
ね
この論文をさらって読もうと思ったこれ多分ね80ページぐらいあったんじゃないかな
でも言ってるように哲学とかそっちの意識の研究とかっていうのは
ちょっとわかんないからねこれは今読めないと思って ペンディングした企画になりますけれどね
そう言ったように まあ今日のこのイベントにおいては
読めなかったっていうのはずっとあの 1日の時間が取れなかったからみたいな言い訳をずっとしてますが
本当にじゃあ1日あればなんか
オンラインのねライブイベントでね 説明できるほどの内容が
ゲットできるのって言ったら 必ずしも
うんって言えないなぁと思って だから
あれね
興味ある人 僕と一緒に勉強しませんか
呼びかけです
そのためのフォーラムです でもあります AIフォーラムね
一緒に僕と一緒に論文読んでくれる人を大募集中です
読みましょう この辺を読むのかな 何を読むのが正しいのかもよくわかんないですけれども
一緒に勉強する人 募集中です仲間を募集中です
ね手を挙げてください