こんにちわ！ AI ポッドキャスト、シーズン４４は２０２３年８月２６日に開催した ZOOMライブの模様です。
この日のテーマは「最近の話題から -- AI の意識 あるいは AI と意識」です。
エピソード２は、パート１「最近の話題から -- AI の意識」です。
このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら
ビデオ見れる人はこちらからご覧ください。
（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）
** 注：以下は未編集の草稿です **
はい、こんばんはです。8月です。2023年8月26日。8月末ですね。気がついたら土曜日です。
はいだいたい7時に6時56分になりましたので
パート1 AIフォーラムね AIの話に行こうかなと思います
はい最近の話題から パート1はAIの意識
Consciousness of AI
ですね 話したいかなと思います
はいで最初ね振り返りですね
AIっていうかよりも 意識
Cはあるね 僕自身も
あの禁句とは言わないんですが一応僕はねあの物理の研究者をやってたっていう立場
ですがっていう話ね
意識の話は そもそもサイエンスの
枠組みに問題として乗るのか乗らないのかみたいなのはね
ありますからねそういう意味で軽率に
わーわー言うのは
軽率であるという認識はずっと持っています
がまあとはいえ
ね自分のがいろいろ思考しているこれは意識ですからね
当事者として意識っていうのは意識するし なんかすげートルシー的な話になってますがメタの話になってますが
えーとなんだろうなーっていうのは興味ある だけどまあ真剣にねあの
サイエンスの文脈で考えるというのは してこなかった
ですがえっとそういう意味で そういう文脈で意識した最初っていうか
直近でねえっと一番最初っていうのは 今振り返ってますがマックステルマークのこの本ですね
えっとライフ3ポイント大でこの本自体 手にした理由は ai フォーラムで
えっと
これきちんとあれだな確認すればよかったですけど僕のうろ覚えの記憶では 本田さんですねあのよく参加されて ai フォーラムずっとサポートしていただいてますが
本田さんが
ズームでね参加してくれたときに この本を紹介してくれたんだマックステルマーク
じっ彼のことを紹介してくれたのかな そうそれで
ああああああああ チェック入れとかないといけないなぁと思って
その時に買ったんですね えっと現象で買ってますがっていう話はことあるごとに前も喋ったと思いますがその時は
8まだ方訳が出てなくて ででも現象だからつんどくっていうかね
アドル高くて置いといたらあれをあれよという間に時間が経って気がついたらもう 方訳でてたん
無理しないで方訳買えばよかったじゃんっていうは落ちはあるんですが 8でねえっと
分厚い本っていうかねペーパーパックまあこれですけども 全部読んでません
があの興味があってっていうんで ねえ
今まあだから今振り返ればマックステルマークは キーパーソンですかね ai のあれいろいろ
置かれている状況において これは重要な本だと思いますが
えっとつんどくしといてでもどっかでいいやってやっぱ読まなきゃいけないと思って 最後のショーね
最後のショーここなんですけども これ目次のページですけども最後のショーが
エピローグがありますけどもエピローグ前の最後のショー キャプター8がコンシャスです
ねまさにあの意識の話を ai
文脈で えっと議論している
のがあってここ読んだんですね それが
まあ 僕にとっての
ai と 意識みたいなの
ショッパーですねということであのまず振り返りとしてこれを
電球するとでも ねにわかなんでバックグラウンドが何もないんで
しあのこれもあのいわゆる解説書というか一般書籍で専門書じゃないですからね パーって読んで青面白いっていうのがまあ基本的な話で
分かったような気になったってそうまあそういう話ではないんですけども 気になったキーワード
2つしかないですが いうかねあの
まあいいえっと
意識を議論するために 定義しないと広い分野にさっきも言ったよね人間はみんなそれぞれ意識
持ってるわけだから一家元あるって言うかね教育についてエデュケーションについて 喋ろうと思ったらみんなけんけんごうごうになるかね
政治についてしゃべろうとったらみんなケンケンが学部になる 当たり前で土台ねそういう広い
話題だからコンシャスネスを 科学的にきちんとしゃべろうと思ったときには明確に定義してこれですよっていう風にし
ないと話が進まんっていう意味ですごくあの慎重にこの本では コンシャスネスっていうのは
サブジェクティブエキスピリエンス っていう文脈で議論しましょうって言っていて
これ この認識っていうのを僕は今まで持ってなかったってかね何もない要するに何も考え真面目に
考えてなかったで ああ
サブジェクティブエキスピリエンス 主観的経験主体的経験
サブジェクティブだから自分の主観っていうものがやっぱり僕はエッセンスだと思うんだけども
主観をどう 理解するのかっていうこと自体がね結構大変ですからねまあ
って言い出すと哲学者とかがね嬉しくなっていろいろ喋ってるんですけども あともう一個あの
記憶に残ってたのはインテグレイティブインフォメーションセオリーっていうのが
あってこれのまあ何もわかってないですけどこの本読んだだけなんでねそこからさらに深く
いってないんで読んだだけだけど面白かったのは
そうだから主観っていうものをどう明確に定義するかっていうのと深く関係してるんだと思うんだけども
僕はさらっとこの8章を読んだ感覚でこのインテグレイティブインフォメーション あるいはインテグレイティブインフォメーションセオリーの
面白いところというか視点としては
分割できるかできないかっていう部分を明確にするっていうことが一つキーみたいに僕には読めて
それは何とにも尚さず主観って言うからには自分と自分以外っていうのの境界っていうのが
要するに主観を構成する条件になる当たり前なことを言ってますけどね
そういう意識ってなるほどねと思ったんですねそれを
僕が例えば対象に対して見てる時には僕は結局そうが客観になってるから難しいよね
まだ結局よくわかってないっていうかどうアプローチしていいのか僕自身よくわかってないですけどね
IITっていうのが出てきたのは下の方で
なんか聞こえてきたんでああそりゃここに書いてあったなと思ったってことですね
そうあと別なところでもコメントしたんだけども
この本をね開いた時っていうのは僕結構ね落ち込んでて
この ai クライシスの話ってねドーンと落ち込んでて
ニック・ボストロンの本分厚い本とかね
あと ai が発展してっていう
なんか暗くなるんですけどもそれに対してなんかこれを
マックス・テクノログのこの本を読んでなんか切れたっていうかね
光が見えないうまく言葉にできないですけどもそういう僕の文脈の中では結構重要な本でしたけども
それを読んだ時期っていうのは結構ね
しばらく前でさっきも言った僕のポッドキャストのね
エピソード2ですね2本目のエピソードで読書に関してその本の議論を喋ってますけども
ここよりもさらに前に読んでるんですけどね
あとこのマックス・テクノログの本はai フォーラムにおいても何回か言及していて
今年
そうあのね検索性っていうのはね 悪いね
なんか考えなきゃいけないっていうのは思ってるんだけど自分いろいろ
ai フォーラムもかれこれ何年やってる
セミナーから数えて多分5年ぐらいなんでこっちの趣味のポッドキャストもこの間1周年とか言って1年半ぐらいになるのかな
コンテンツが随分たまってくるんですけども あの話どこで走ったっけねって言ってる時に
さっと検索したいんだけども あのね検索システム何も考えてないんでね
そこなんか考えた方がいいなインデックスつけるとか相互参照とかね 情報を点と点を結ぶリンクっていうのは非常に重要ですけどね
これ今ここで紹介しているのは無理やり自分の記憶をベースに
結びつけてやってるんですけどもそうやって拾ってきたリンクですね 今年の3月
1回この本研究してますさっき今言ったねニックボストロームのスーパーインテリジェンスっていう本と一緒に研究しました
これはねトリガーはゆずこう好きですねこれが直近の ai クライシスの
話の音でかインパクトだった時期ですけども 僕は落ち込んだっていうのはこれよりも前の話ですけどね
はいでえっとその翌月に れっつフリードマンっていうポッドキャスターね
この辺の多分 ai 絡みのキーパーソン本当のキーパーソンと 1対1でワンノーマンでじっくり
膝詰めで話をするっていう貴重なポッドキャストプログラムをやってるレックス ブリードマンのところに3回目の出演って言って
マックステイムがあった 出演してたんですねこれ後でアーカイブとか見るとこのレックスフィットマンの
ポッドキャストの1回目のゲストはマックステイマーなんね だから
ああそうですって感じでこの3回目のっていうのは時期的にはちょうど マックステイマーク fli で
8オープンレターをね半年ぐらい前に出しましたね あの直後
に収録してたらしいっていうのは中でも言ってましたけどね これ面白かった
で
それ全系アイフォーラムの今年の4月ね 最終回だ全系アイフォーラム
研究しました でその後6月に
あのね マンクディベートって言って
4人の ai のエグゼステンシャルクライシス なのかどうかに関するディベートっていうのがオンラインで行われてそこに
キーパーソン マックステイマークヨシアベンジオ
ヤンルカーンあともう一人女性の ai 研究者の人
があのディベートしたんですねここがあの僕が よしあベンジオ
に対してグッと寄ってきたってかな興味を持った あのディベートをきっかけですけれども
8この日ディベート面白いんでそう なんだっけ
これは今は何を話しているかというと そうマックステイマークのこの本ライフ3ポイント大絡みの話を振り返っているかな
っていう感じでえっとマックステイマーキーパーソンだねっていうのは認識して ました
でえっと意識の文脈においてはさっき言ったこの本をね一冊したためるぐらい マックステイマーク mit の
プロフェッサーで 今も精力的に ai 関係が欲しくにもともとは
コスモロジスト物理屋さんですけども 天文関係
今は ai プロフェッショナルから mit の先生ですけども
えっと
ai 意識とかその辺も本格ぐらいだからね
いろいろ考えててでこの3回目のっていう数ヶ月前の レックスフリードマントのポッドキャストの中でもなんか
なんか面白そうなこと言ってたら コンピューター上に ai は
センティね意識を持つ 条件みたいなね何が必要かみたいなのがやっぱり関心があってみたいなん
で
なんかループ構造がどうのコーンとかなんか言ってたようなうろ覚えがあって ありました
けど今の文脈でね そういうことを
大きなに議論するっていうのは 人類存亡の危機に関係するんじゃないかっていう思いが頭の一方にあるんで
このこれはね気軽に喋っていいのかなっていうのは僕の中ではまだよくわかって ないんでなんか微妙な
今しになってますか8
ai の意識に関するまずファーストステップね
8マックステッマークのライフ3ポイントをの振り返りは以上で振り返り終わります で走行してたら
時代の流れね僕の中の流れを今遡ってますが チャット gpt が出てきました
これも ai と ai の意識っていう文脈において
重要な出来事だと思います で
この後にさらにね gpt 4があって gpt 4の方はえっとマイクロソフトからの論文があって
なんだっけタイトルはスパークソウェイ g i だっけねえっとすよりをマインドが見られる gpt 4にはみたいな話もありましたけどそれの前段階としてのチャット gpt
これについては 今年の2月に前期 ai フォーラムで
8チャップ gp に出たねっていう話をしました でそこからの縮小ですけども
8 gpt 3っていうのは ベアーならーランゲージもでグラージュランゲージも出るだけども
8チャットインターフェイスって言って人間に言ってみればアラインするような機能をどうやってつけるかっていう話があって
でえっとオープン ai が 心みたいのはまず最初にインストラクト gpt って言ってファインチューニングと
か8強化学習とかを
をかぶせて でなんとかうまく
望むインストラクトねあの望む形に応答できるような形にしましょう それの発展形として
チャット gpt 系のを出してきましたっていう8彼らの論文ね 図をパックってきただけですけどもえっと
rl h ってリンフォースメンラーニング with ヒューマンフィールダー
いう風な名前で みんな認識していて
それを 実装すれば
チャット ボットができるのかってみんな言わーってあの言ってたやつですね
でまぁこれを見た時に 8
妄想ね 素人の妄想ですけどもあーって
別なレイヤーにね 8ランゲージモデルっていうものが高性能になったっていうのはもう
gpt をオープンやがアナウンスした時から人間を超える 識別文章を書く
ラージランゲージモデルランゲージモデルができたすごいよ 要するにスケーリングしてねそのスケーリングで性能もどんどん上がってきたっていう話なんだ
けども
知能として エントそことは違うしくみスケーリングはスケーリングでいくんだけど土台として
リンフォースメンタラーニング with ヒューマンヒューピードパっていうのは ランゲージモデルじゃないですからねっていう分
別な川をかぶせてえっと 姿勢チューリングテストをパスするっていうセンスでいうところの大雑把な意味での
知的な存在になったみたいなのを見ると ねああ
あの ねトカゲの脳みそに
人間の人間とかねそういう大脳皮質があって 姿勢になったみたいなそういうアナロジーかなーっていうのは素人でもまあそう考えて
たっていう感じですね っていうのがありこれが背景としてなんか
意識っていう文脈においては素人考えでは でまぁねそういうのはずっとありつつの
最近の話題からっていうんで この一月いろいろあのそういう軸で
気になった論文をピックアップ して
これピックアップしただけでほとんど読めてないんですけども 共有したいかなと思いますか
これ8月11日のツイートのないてツイートで あの
フォローしている人 とフォローしてなくてもなんか話題で
今の仕組みよくわかんないんだよツイッターね 流れてくるタイムラインね
でもあそこが一つの僕にとってはフィルターに危ないんだけどね フィルターバーブルっていうのはねでも
大量の情報を何らかの形で越さなきゃいけないね ツイッターに流れタイムラインに流れてくるっていうのがまず一つのフィルターでそれでも
全部をかけてらんないんでそこから気になったやつを これスクラップブックの
さらにスクラップブックを今皆さん共有してます 最初のやつはメモライゼーションバーサーズジェナライゼーションって言って
まあこれ昔からねえっと教師あり学習の文脈で あるいは生成系のやつもこれを覚えて丸まま覚えてコピーしてるだけじゃないのとか
反過性能とか昔から言われている文脈 の話をラジラムゲージモデルでやってるのかな
google のなんか話ですよみたいながあってこれを抑えていかなきゃいけないなと思っ て
コピペしまで読めてませんはいえっとでも メモライゼーションというかな記憶っていう意味とはここは違うんですが記憶っていう
仕組みは僕たちのね脳みそ考えた記憶が非常に重要なファクターだよなーっていうのは ある
これ21日ですけどもえっと パーソナライゼーションっていうかな
えっとまあ記憶ですねこれも広いんだねえっとランゲージモデルをに こういう風に
良好もたせるみたいな話として何かこういう話があったって言うんで僕 キックアップしたなこれも
8論文とかじゃないのかな解説記事ながらはい あと
lm の 挙動 lm っていうとアレなんだろうけどもチャットボックス
チャット gpt とか gpt 4とかいう話なんでしょうけども
人間 ね危険性が一番
8いばるはらりとかねあの辺がずっと主張しているのは
向こうが意識を持っているか持ってないかっていうのも当然 学問的には重要なんだけども
そういう相手にチューリングテストをパスするわけだね そういうものを目の前にした時の我々が
相手のことに行為を持ってしまうつまり相手に行為を持たれるようなスキルを ai が
も明らかに持つよと それやばいんじゃねえみたいな話があり
その辺に関しての研究らしいねこび すごい
そういうのを研究する時代になったんだなぁという感じですけどね 8これは論文になっているんで論文4みたいな
each learning large language models to personalize これあのさっきから言ってパーソナライズする
っていう感じのまた別な研究論 紹介しているだけで最近の話題からというのはあのそういうノリでやってますけど
これらが創発っていう言葉日本の創発ねあの英語だったら マージェンスっていうのが
a に関する部分これもロンパンでこれ読んでおきたいなと思ってますが
はいえーっとね進めますね あと8レビューっていうかなあの
この意識に関する ai の意識に関する どういうふうに取り組みましょうかみたいな論文が出たっていうのが話題になっていて
これは一通り一通りじゃん6時ぐらいね 僕見ましたけども
タイトルなんだっけ consciousness in artificial intelligence あーだからこれはあれだね
ai の意識 このセクションのタイトルですねここから引っ張ってくる
ここにヨシアベンジーを書いてます 著者の中にねでこれっていうのは ai 研究者だけではなく
バイオリジストとかあと哲学系の人たち 要するに意識っていうものが
レンジが広いんだけどもそういう人たちを そう今までのいろんな研究の蓄積を考えて ai
っていうものを念頭に置いた時にどうアプローチしていくべきですかみたいなのに 関してモーラ的に何か
方法論まとめて現状でいくつかのモデルねパーム パーミーだっけ
あと8 gpt も入っちゃう件
8評価して みんなを安心させるためかどうかわかんないけどとりあえず現状
評価した ai のシステムの中にはこういう意味での意識っていうものは
まだないみたいだねみたいな話だったかな
本当にこういうの真剣に議論されている 今日この頃っていう話ですね
あとあのあれだなアライメントに関するなんか バックトランスレーションっていうものを使ったら
アライメント できるかなぁみたいな話かなぁと思ってあれしてるんですけどもね
ai クライスアライメント問題だからこれも重要な話題ですよね なので
これ全部ね8月の あの僕のスクラップブックなんだけども
これぐらい なんかね意識関係で話題に上がってるんで
そうそうなったんだなぁと思いますね
本当に進歩っていうかな
気を抜かないで常にこう勉強していかないと追いつけないですね本当にね ai 研究者
ね
みんな勉強してまぁねしなきゃいけないね 脳みそだよなぁ
まあいいやはい進めますまあまあこういう流れでね 今まであの
の妄想ねがありつつ現状でこういう研究論文があってまだ全然研究論文とか読めてないんだけども
こういうの見てさっきのねチャット gpt はつったら生のラージュランゲージモデルに 仕組みね
どうやってアラインさせるんだっていう高速条件なのかどうなのか 今かけてるけどもそういうアプローチはあるんだろうな別物としてみたいなね
で8それは8アライメント文脈
だなって見せろと僕は思ってんだけど一方で最初に言ったように 8マックステッマークが意識を
ブロードにむしろ定義したからサブジェクティブ xp エンスだねっていうふうに言ってたんですけども
これ
つまり主観ですよね
これって少なくとも今ない仕組みとしては少なく僕の目にね 何か入れなきゃいけないんでしょって思って
ねえ どうするんだろうなぁと思う
ぼーっとね
そう主観って
いつもねあの
コンピューターの話とかと sf とかで
冷凍睡眠みたいな冷凍して復活して自分戻るみたいなのは sf とかでありますねあと もっと言えば8
肉体がね病気になったら8 フレッシュな肉体に脳みそをってこと
気を意識を移し変えるみたいな感じね
主観所ないだからさっきのあのインテグレーティってインフォメーション セオリーの
分割できるかできないかみたいな多分思いっきり関係してるんだよね
コピーされた俺は 俺じゃないでしょっていう
だからん 高齢区どうどうするんだろうね
素人でワーワー言っても混乱が増すだけなんでいいがないとりあえず ザレ事として言ってますけども
ねえ あのこれもじゃれ事だけども考えるオプションとしては
2分一覧生ソーセージ2号
保守的に言えば それぞれ独立な主観を持っている2人の別な人格ですからね
もちろん
スーパーナチュラルな 通じるものがあるとかないとかっていう話はあるんだけどそれはちょっと多いと
見てみたいな話になっても あれ
あのやばいよね
サイエンスとしてきちんとしゃべるときにはきちんと
足場を固めないといけないですね でもなんかあの
ここがね今今僕の関心事っていうかねあれなんですけども そういうのが
ポップに戻る パート1ですね
つまり AIの意識というか
限定的な今の研究の進歩みたいな文脈でっていうんで まあダラダラと考えてきたものを無理やり分けましたって言ってるように
必ずしもセパレートな話題ではないんですが パート1は以上 ネタとしては以上になります
以上になります
30分か そう変なこと言わないようにと思ってるからな変なことを言おうと思えばいくらでも言えるんだが
言っても
あともっと言うと
なんかね
そういう可能性を一応これって youtube は
パブリックに言ってるわけで一人で黙々と考えてるとか
クローズドな仲間と議論してるっていうのとは違くて
ね 覚醒期ではって言ってるようなものでそこの文脈において
今 特に
gpt 4を超えるような 開発は
リスクだからちょっとやめようよっていうフィールドにおいてっていう 状況で
そっち方向のアイディアをわーわーわーって無責任に言うっていうのは
臨時的にどうなのかなっていうのはちょっと頭をね後ろの方の話をまとめた後の 僕の心境としての中
ちょっと躊躇してるねあのいや僕が素晴らしい考えを持っているっていう意味では ないんだけど
どうなんですかねどうなんですかね はい
