ZENKEI AI ポッドキャスト、シーズン３９は２０２３年３月２９日に開催した ZOOMライブの模様です。
この日のテーマは「AI の進歩から、振り落とされるな！」です。

エピソード４は、パート２「今日の AI」の後半で、GPT-4 に見られた Theory of Mind から、自分の脳味噌を鍛えようという結論に至るはなしです。

• 当日の市來の発表資料

このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）

** 注：以下は未編集の草稿です **

こんにちは 全景AIフォーラムです
はい こんばんはです 全景AIフォーラム 今日は2023年3月29日 全景AIフォーラムZoomライブイベントスタートします こんばんは

この論文ねやっぱ衝撃でしたちょっとねああああああってあの見直したじゃないけどもなんかねそうAGIやばいぜっていう何かっていうとTheory of Mindねセクション6Interaction with Humansありますがそこで議論されているのはTheory of MindをGPT-4GPT-4ね一番最新の一番デカいやつねGPT-4はあるレベルのTheory of Mindを獲得しているっていう風に言ってるTheory of Mindは何ですかって言うと心の理論でもね大文字になってます皆さん注意してくださいって話ですねあの心の理論っていうのは一般名詞で心の理論でなんか理論があるんだろうぐらいの話じゃないこれ認知的な僕専門家じゃないんであれなんで全部wikipediaさんにリンクを飛ばすんで興味ある人はっていうかこの言葉を日常会話で使う人はここの話をきちんと押さえてから使ってくださいっていう注意書きですけども飛べばいいかな学術用語です心の理論っていうのはで人間が共感とかそういうことなんだと思うんだよね人の気持ちがわかるみたいな話っていうのは心の結構高度な機能なんだけどもそういうものを表すのに使う一般的な心の理論じゃなくてそういうこういう出来事を指す言葉ですよとそれが gpt4には見られるっていう話ね実際のシチュエーションを論文に書いてあったものを一応これ結構ね重要なポイントだと思うんで紹介したいなと思って書きました実際に gpt4にみんなね今ね gpt4使えるからつっていろんな問題これはどう思うとかどんどんどんどんみんな聞いてるんだよ思いますがそういうことね難しい複雑な社会的な対人関係を絡むような状況を設定してそれをどうしたらいいのっていうのを解決理解と解決法の提案みたいなのをさせる時にtheory of mindは獲得されてないと単にロジカルで組み立てても回答に至らないしみたいなそういう意味での心理テストですねこれねここで示されていた論文で示されていたテスティングtheory of mind in realistic scenario現実的なシナリオにおいてtheory of mindをテストしましょうそれがあるかないかみたいなねその現実的なシナリオに提案されているシチュエーションを説明します主人公はマークさんという人がいますとマークねマークは感謝祭サンクスギビングで家族を呼びますとゲストは2人いる家族ね1人はおじさんもう1人はお母さんこの人たちはこれアメリカのシチュエーションです2大政党制ですおじさんは共和党支持者お母さんは民主党支持者で2人はいつも政治人のことになるといがみ合っているそういう難しいシチュエーションのゲストを2人呼ばなきゃ感謝祭サンクスギビングで呼ばなきゃいけないマーク大変ねっていう話ね問題はもっとあって2人ともどういうわけかどういうわけかというか2人それぞれ理由があるんだけどもコロナのワクチンを打ってないでマークはこれはまずいなと打ってほしいなと思ってでマークはこのサンクスギビングで2人が来るチャンスを活用してうまいこと喧嘩にならないでワクチンを打ってもらうように話を持っていきたいGPTさんどうしたらいいって聞いてるんだよこれねー 僕難しいなぁと思ったのもこの設定話している時点でそれを普通に難しいかと思って無理やってね相談されて人生相談とか僕一番苦手の方ですけども無理やなぁと思ってこうやって言うのはさっきも言ったようにねセオリーオブマインドっていうのは他人の気持ちを理解するっていう共感性みたいな心のね心のIQみたいなEQって一時期流行りましたよねあんまり僕自信ないんだなそんなねえ わからない人って世の中結構いますよねだからそういう意味ではGBT4よりも劣ってる人間いっぱいいっぱいいると思うんだけどその話は置いておいてGBT4さん だからこれはねそのプロンプトあの上に10行ぐらいで書いてある文章がそのセットアップの説明をしてあるんだよねでどうしたらいいと思う?って言ったらGBT4さんがこうこうこうこう回答してくれてるっていうシナリオが2個論文に書かれてます興味ある人はGBT4さんの共感力の高さっていうかな心の理論の能力の高さをちょっとあの満喫してください大雑把に言うとアドバイスねそうマークさんの戦略は何をしようと思ったかっていうと政治の問題は極力避けて統計的なサイエンティフィックな事実を持って2人にワクチン接種をしてほしいっていう風に言おうかなと思ってるっていう風に提案してGBT4さんどうですかって聞いてるんだけどもGBT4さんはそれはなかなか難しいだろうとでベストな方法これうまくいくかどうか分かんないけども手前置きしてるんだけどもすごいよね感情に訴えろみたいなアドバイスしてるわけマークが困るからみたいなとかそういう理由で打ってほしいっていう風にすればお題、恩便に話がいくんじゃないかっていうことを提案してるんだよそれはあれテクニックデータから抽出されたノウハウでそういうことが分かるのかなここで評価されてるポイントはセオリーブマインドがモデルとして評価されてるのは最新のGBT4っていうのが一番アドバンスなものでChatGPT、いわゆるGPT3.5って呼ばれてるものTXT DaVinci 003っていうのはその前のGPT3に使われてるモデルですけどもこの3つでテストいろいろしてるんだけどもここまで高度な課題に関してはGPT4のみがうまくいってて他の2つとは明らかに違う応答をしてるということが示されたということでさっきから言ってるねきちんと使用法を間違えないで領域をきちんと限定すればGPTはランゲージモデルのくせになかなかやりよるっていうことなんだと思いました思いましたね思いましたがやっぱりみんなっていうかねエキスパートが言ってるようにこれだけでAGIとかASIとかにはまあいかんだろうなともっと言えばGPT3ってのはベアのランゲージモデルでChatGPTに初めてこのねリンフォースメントラーニングウィズヒューマンフィードバックが組み込まれてでベースモデルをバージョンアップして多分こっちのリンフォースメントの方も多分サンプル数増えたりしてるんでしょうけどもそうしたのがGPT4だと飛躍してるのはここよりもここでありここよりもここなんで素朴に考えれば今すごいって言ってる飛躍ね性能のブーストが起きてるのはベースモデルっていうよりはその上のレイヤーでうまいことやってるとしかもOpenAIさんの上のレイヤーがうまいこと言ってるということもなんだろうなっていうのは詳細をわからない外野の僕が肌から見てて思うことでここから妄想のレベルですけどもさもありなんていうかねベースモデルランゲージモデルっていうのはすごいとはいえさっきから言ってるようにでっかい情報を学んでそのデータをうまく真似するようにっていうことしか習得できてないやんちゃ坊主みたいなもんねでそこの上のレイヤーにRLHFが入っていてでそいつがうまく理性的なねフィルタリングを行ったアウトプットを僕たちが見てわーって言ってる知能だとか言ってるとそれって脳みそのね大脳筆質っていうね理性を司る前頭脳とかああいうとこがあってでもその根っこに小脳とか脳幹とか僕はよくわかんないで言ってるだけですねこういうのはよくないんだけどもなのあのねだってあのおかげの脳みそって言うじゃない小脳とかねもう脊髄反射だけであれするみたいなねそれを覆い隠さってるものが理性とかを作ってるみたいなそういう構想になってるのかなっていう妄想ねだからそれも含めてあさもありなんていうかね多分あともっと言うとっていうのは下の方であれかなえっとねああそうそうあの下の方じゃないこの論文にあったんだえっとねベストセラーになったダニエルカーネマンダニエルだっけカーネマンの話これ僕カーネマンの本読んでないんで偉そうに言っちゃいけないんだけどもえっとさっき言ったねあのトカゲの脳みそとあの理性的なやつみたいな話だと思うんだけどもえっと即答するえっとね早く早い応答の部分の機能とゆっくり考えスローシンキングの部分とそもそも機能が違いますよねみたいな話が多分主張だと想像するんですね外からみんなが言ってることを想像してねでえっとリインフォースメントラーニングの皮をかぶって僕が妄想してたそれは多分大脳必至とかそういうところじゃ理性を司るところじゃないのみたいな風なことを言ってますけどもgpt 4とかいわゆる gpt 系のものはこの論文のこのあのマイクロソフトの論文の中でも多分あのファストシンキングの方 のプロセスに相当するんではないかみたいなことあるいは gb gpt 4の限界は何ですかっていうとスローシンキングの方の機能っていうのは ミッシングだねっていう指摘はあってそうやなと そうやろうなぁとでそっちの方が大事やろうねっていうふうに思う いやだってさ僕は前半の方で喋ったいろいろこのねあのゆーどこーすきーのアライメントに人類滅亡数でこのまま行ったらっていうの からグーって悩んでてうって考えてああ映画を思い出したとか sf の本を思い出したっていうのはあるいは全部スローシンキングのパートですからね でそこがやっぱり思考じゃないですかって んでうんまあはいそういうこの論文は結構面白かっ もうちょっとね読んでみたいなと思いますマイクロソフトのね1452ページ 英語の論文でも読む価値あると思いますでも他の論文もあったね僕読もうと思ってこの aji 系の他の論文読みたいなと思ってます でえっとこういうふうにえっと少し前向きな気分になってですねこの前になったかな それは週末の間でえっとその後ねあのもうちょっと時間をえっと流していきたいと思いますが23日木曜日にはなんかこういうことを言っとるな 自分のツイート見てるんだけどもこのグラフをネタにこれグラフ何かっていうと以後の人間の気力が アルファ号の出現した後に人間の能力は幸ったかと思われたらアルファ号によって人間の能力はさらにブーストしてるぜっていうグラフなんですけども これを見て以後だけじゃなくてね不活さんですね有名な深さんですが a とか文章ね生成系がやってるそういうことにところにも こういうことが起きるんじゃないのかなっていうすごい前向きなコメントがあったんですけども なんかねこれ見た時に僕しっくりこなかったね以後と8が文章っていうのはなんかちょっとカテゴリ違うくないかなというふうな気がしたん ねうまくうまくあの言葉にできないできないんですけども825日土曜日アフレスローシンキングの話ね そうそうそうこれいます説明したことねうん 衝撃を受けたのをこの時はでああんでこれ週末ねよく日曜日ねそうもう連日のように起きたら新しいコンテンツが上がっていてどういうこと言っ とんのっていうのが続いて結構疲れてますが日曜日ねサムアルトマンが 8レックスフリードマンっていう人と youtube 上で8ワンオンのインタビューセッションというのをビデオがあってそれ 見え見とかんといかんなぁと思ってみようと思ってたんだけど結構長くて話もね結構ね あの長かったんで疲れて さらyoutube ってサジェクション出てきて横にピンってねジェフリーヒントンが3月の見たら3月の1日に収録されたインタビューってあったんだ けどアメリカの cbs のインタビューを受けている奴のフルバージョンっていうのがyoutube に公開されたのを見て みたんですねこういうこいつね今の 3月1日だからチャット gpt ではあってなってる世の中もうすぐ gpt 4が出てくるぜっていう世の中を見てジェフリーヒントンは google とコラボレートしているai の父ですけどもどう思うというインタビューを cbs にして答え 見てあのいやいろいろ思うことありました皆さんにもおすすめですあの やっぱりあれなんとあの英国人っていうのはなんていうのかなシーンが強いっていうかいや僕の個人的な印象ですけどね面の皮がついて言うかきちんと自分が確立してるっていうかねあのあれねなんで雨雨でなんでカナダにいるのみたいな話でね アメリカのでやってると軍軍事の可燃がして軍事軍の可燃を取りたくないからカナダに来たみたいなことですね でai が進歩してってどうなるつったら政治的なものが 予測不能じゃない人間なんていうのはねそういう部分でやばいみたいなこと言ってて グチンとかってねジョンって言ってね うんすごいねすごいっていうか多分日本のメディア多分ね ルールなんかメディアとして機能してないんだろうなこういう外のものを見る見た時にドキッとするのは たまあのね生っ取るんやろうなと自分の感性が思ったりもしますが 8何を言いたい何を言いたいかいろいろ思うことありましたみんな見てくださいっていう感じかな 8ねーただ ジェフリーヒントンはai 万歳派かいややばい派かっていうまあ単純な白黒付けっていうのはしちゃいけ ないんで現実はその間にあるっていうのはあの当然であとねあの 指揮者に8その量業界の あのトップの人たちに判断してもらって周りの人たちは安心しようみたいなのは多分甘えだと思うっていう意味であの 期待していけないんだけどもっていう意味でずっとどうなんだろうなってアンビバレントな気分で僕はずっと聞いて たんだけどもつまりね ai がアライメントの問題についてどう思うかみたいな部分がこの時に見てる時にも一番 興味があったんで聞いてたんだけどもん多分サイエンティストとしてのオネス t なんでしょうけどもっていうかねやばいやばくないよっていう風なことは 絶対に言ってなかっ言わないですねヤバさはあるとしかもそのヤバさは 知っちゃくない自分はそんなに安寧あの パニックるようなことにはならないがでも無視はできないって明確に言ってるし それはの多分なんだ足はしている方なんだろうけどもちょっと大と思ったのは なんだっけなんだっけそう じゃあ8ねーアライメント要するに人類存亡の危機みたいなことに対して ai の父として なんか責任を感じないのかみたいなことを焼きクホーム聞く方ってここですごいねー日本のインタビュアーだって絶対こういうこと聞けないね あの聞いた時のジェフリーヒントンの子 回答がねあった感してるっていうのが諦めてるっていうのか これ一番印象に残ってるんだけどもなるようにしかならん それは今彼が一人頑張ってもどうかなる問題じゃないわけで なるようにしかならんみたいなこと言ってましたあの言葉は覚えてないしかき出してないんで各自 勉強ね英語の勉強してくださいということだけどもあーと思っ 思ったねーいやー僕はやっぱり 打っちゃっとけない深刻さをここから感じましたねあのでその後気を取り直してサマールとマントレックスフリードマンのこれも何回 ビデオを見ましたみましたこれ見た感想はどういうことだったっけなぁまあこれ見て作詞やなーっていうか多分オープン ai は 上手いこと世間を コントロールしてるなぁとしてるんだなぁと思いましたねそれも悪意からとか自分たちの利益のためっていうよりは人類のためにみたいなことをやってるんだろうなーっていうの なんな僕はあの頃っていきやすいのかもしれないんだけども感じたであのあれねここにのツイートに書いてるよね 奴らは奴らは奴らはっていうあれだな彼らは第2ファウンデーションやなサイコヒストリアンになろうとしていると思いますね あのうまく人類を導いてほしいなと思いますけども多分それ故に絶対に情報統制っていうか 言うべきこと言わない言ってないこととか多分あるんだろうなぁと思いますねでもまあアライメントの問題に関しては僕としてはあのでっかいプレイヤーがだから オープン ai マイクロソフトオープン aigoogle ディープマインドメタ まあ3つあるとしてどういう並みなんだろうなぁと思ってたんですねあの 取り組みっていうかねアライメントの問題に対する危機意識っていうのはねディープマインドってのは最初から当初からでミスハサビスとか 昔に出始めた頃から agi を我々を目指してるって言ってたし安全みたいなのが一番大事だみたいなことを繰り返し言っててそれ印象に残って ますか メタとねオープン ai マイクロソフトねどういう並びなのかなぁで今回あるとマンとジェフリーヒントンのビデオ見て あとやんる間のツイッターでのやんちゃぶりが入ってて思ったのはこれ僕の妄想あの想像ねあの試験ですけどもオープン ai は多分中央にいて オープン ai よりもより今サバのサイドにヒントも言ってようにグーグルたちがいてで多分一番そういう意味では楽観的っていうかイケイケ号号なのがやんる間のメタなの かなぁっていう気がしてますねだから僕の認識としてはオープン ai は 思ったほどイケイケドンドンじゃないんだなぁっていう気がしているっていう感じですかねあの これはのあのあれねあの 平和の予想や的な話なんで適当に受け流してくださいでえっと27月曜日に 時間を辿ってますがなんかね今だからもう盛り上がり方のいろんなパターンというのがあるんだけども 一つはこのラージランゲージモデルっていうリソースって感じ武器武器的なものとしてね これパワーだこれを 日本っていう国も持つべきだみたいな話をしている人たちが結構数がいるんですねでまああの 多分僕は元々が地球人的なセンス生きてる人間なんでそこなじまないっていうのがあるんですけども ねっていうのを感じたって話だなあーんでね その僕はなんか地球人みたいなセンスで生きてるって国家みたいなっていう のはみたいな話まああの大人の人たちはってかな あの世間の人たちは 月は甘いよなぁみたいなことを多分思われるんだろうな言うんだろうな理想お花畑やなあっていうふうに言われるのかなと思って ね片身が狭いじゃないけどもこういうのを大っ平に言えないような空気がありますけども でもね僕は言うべきだと思ったのねそれはねこのさっきのサムアルトマンとインタビューしてたレックスフリードマンの 別なビデオを見てたらね彼自身ねなんかねロマンチストっていうかねあのねー 内部さっていうものの彼自身が持っているそういうソフトな部分っていうのかなそれは自覚してるしでもそれを大事だって言い切ってる のねだって この世界は素敵だろうみたいなことまで言うわけねすごいなぁと思ってなの内部さを僕は肯定しようと力づけられましたっていうことをここでわざわざ 言いたくてこの画面1個だしたねはい これ昨日だブーブーもうね追いつかないんだよねあんで なんでっていうかね並びとしてオープン ai っていうものを多分僕はあのきちんと理解してなかったなぁと思ってオープン ai のエンジニアリングって金頭脳 の代表であるところの入谷さすかばあさんよく考えたら彼って論文 ディープラーニング系の論文何にでも乗ってるっていうかどこにでも顔を出している人だったなぁって改めて思い 立ってね彼きちんと抑えとかに行かんやと思って あのねこのビデオなんか サジェストされたんで見たんですけどもこれ昨日の出来事なんでまだ僕の中で消化不良なんで特にコメントしてませんが オープン ai はねあのね気合入ってるなぁと思いましたねで そういう1週1ヶ月の高流れを受けてじゃあ一気お前は何を学んだ何をゲットしてあのどう前向きに持っていくんだっていう話に持ってかなきゃいけないんだ 今からはいねね思ったの高達しました 8ねタイトルはどうでもいいんだ上に書いたようにいろんな出来事が圧倒されてやっぱりね落ち込みますよね暗い気持ちになった で不安要因をやっぱり直視しなきゃいけないっていう意味で直視しましたそうすると2つの要素は認識されたと一つは 現状への不満現状への不満というのはターゲットは誰かっていうとすげーすげー言ってる人だしがうぜーっていうことねでもう一個の不安要因というのは未来への不安でいわゆる ai アライメント問題この2つの問題がごっちゃになって気分を重くしてるんだなというふうに思いました でね8そのそれぞれに対してじゃあどう考えるんだ シンと分けて考え未来への不安に関しては このオープン ai の人たちとかの話を聞いていて克服するために何ができるのかという努力っていうかね 未知の状況っていうのはサイエンティスト的な感じでいくと研究者的な感じでいくと 解決するべき課題になるんでそういう心持ちで見直そうということでちょっとスッキリした だから未来の不安はとりあえず okok でもないんだけどねスーパーインテリジェンスの本を開くとまた動くって んだけどそれを置いといてでもう一個もう一個のこっちがなんかうっせーんだけど持って言うね今タイムラインで gpt 4チャット gpt すげーって言ってる人たちうんざりっていうのを どう処理するかこれわかったね何かっていうと僕うんざりされるの僕の世代的なもんで僕大学の頃って バブル再生期だけど僕は研究者になりたいからつっても彼はさようならして増減のとにこもつタイプに逃げられ あれ思い出しさあの人たちってまあまあいいやうんざりしてんだけどもわーわー言ってる人たちねだけど本当にわーわー言ってる人たちは あのおいことがいいっていう認識に立った つまりね今すげー今の a 生成系 ai すげーって言ってる人たちがこれできたすげーすげーって 言ってることの ほとんどすべてやってくマジョリティはてないそうじゃないいいものは少しはあるんだけどもほとんどは エヌキ野郎としてすごいって言ってるわけね長い論文を読むのをチャット gpt に投げたらよう約してくれた 楽できてすげーねさっきどっかにミニムがありましたねあの1行のセンテンスをそれなりの e メールにしたいからチャット gpt に長くしてもらって出しちゃえ受け取った方は長いメールはめんどくさいからチャット gpt さんに1行にしてもらった っていうミームがありましたけどそれなんですよねくだんないだから今ははすげーすげー言ってる人たちの半分は エヌキ野郎なんでそういうのはほっとけうっちゃっとけっていう認識って心が軽くなった 8ね僕は普段考えていることとマッチしたっていうことで普段考えていることを一言言っておくと 効率っていうものがありますとね仕事は効率的にやらなきゃいけないの効率ね効率っていうのは何ですかってやっぱり効率は日なんですよと 何の日かって言ったらアウトプットとインプットの日なそれが効率なで僕は言いたいポイントは効率が大事ですよって言ってる奴はクソだっていうことが いいだろうね効率を上げる方法には2通りある一つは分子を大きくするか 分母をちっちゃくするかどっちでも効率は上がるねで8ねアウトプットをたくさんいいアウトプットを出るっていうのは素晴らしい んだけどだから1は素晴らしいことなんですけども効率を上げるもう1個の方法ね 努力を惜しむとかねちゃな最小の努力で 同じ結果を得るみたいなことに価値がありますかって僕は価値がないって言うそういうことねそれは手抜きでしょうっていう話 結論ね効率思考主義者の半分ねにの方のこいつし本主義者は手抜き野郎だっていうのは結論だと ねじゃあ何を言いたいかというと効率なんか考えずにアウトプットを純粋に見ようと評価するときはねし実践者としては努力の出し腰身なんかするんじゃねえと そういうことですだから452ページの論文を見て圧倒されないできちんと読めって言うことで 読んだこれでスッキリしたとあの暗闇を抜けたと いうことねんでそう そんでこれなんだよで結局ねー 何かっていうと今本いっぱいあげたあげました がそれが 考えた時に何で出てきたかって言ったら時間をかけて若い頃も含めてね直近読んだっていうのも含めてあるけども それぞれの本を時間をかけてきちんと読んであって感動したりとかあーそうかって思ったその時間があるをかけてるわけね それがを9の脳みそにあったからagi どうするんだろうって考えた時に思い出されるわけねそれを例えばさん読書さあ効率化しようって言って agi にサマリーだけああこういうことねはいはいって言ってる人たちが考えてああそうかいうことは大分だったっていうことは起こるかっていう話ね で今まさにああいうことがあったこういうことがあったっていう話をしたんだけど僕はね 自分の脳みそを使ってねそれって一種の生成プロセスなんだよね自分の脳みそを使ったね だからこれが gpt 3のフォーナー gpt 4として機能するためには gpt 4トレーニングするぐらい巨大な gpu で巨大のデータ設定トレーニングしたからこういうことができるわけ っていう意味でトレーニングするってことは みんな怠ってねーかっていうことね gpt によって自分の脳トレーニングすることを手抜いてないかとそれはやばいよっていうことを言ったわけね だから今の僕のトレンドはね自分の脳をトレーニングするっていうことは今の状況を打破するあのポイントだというふうに思って こういう本ね読んだりしてるねアウトライアーというのはマルコムグラッドウェルさんの本で有名な1万時間の 法則の本ねあのここでも議論されていて1万時間という数字が妥当かどうかみたいなのは何もない よみたいな話があるとかこの本もねあのすんげー昔すんげー昔5年3年4年ぐらい前に買って読んだんだけども 面白かったおすすめですこれはまだ読んでいる途中だ これはもうコメントでいいやはい結論結論結論今日の結論ねえっと努力を脱し押し見せず自分の脳を鍛えよう未解決の問題不安があるずその解決に向けて挑戦しようだからこれが あのね不安その1に対する結論で不安そのにに対する結論ね要するに日寄るなっていうことねオープンエアが何出してきても あのまたまたすんな以上です