こんにちわ！ AI ポッドキャスト、シーズン４６は２０２３年１０月２８日に開催した ZOOMライブの模様です。
この日のテーマは「AI と意識」です。

エピソード３は、本題のパート１「AGI に関する”うわさ”」です。

• 当日の発表資料

このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）

** 注：以下は未編集の草稿です **

はい、今晩は！「こんにちわAIフォーム」10月です。2023年10月28日ですね。はい。

今から本番本題に入りますがさっきも言ったようになかなかね
ここからさらに
1日とかかけて深めたかったんですけどね
はいパート1進めます
実際に見ながら
雑談しておこうかなと
思いますか はいえーっとね
準備してたんですよ大体ね1週間くらい前から
えーとね今回のイベントは10日くらい前だな えっとこのノートの日付が10月の17になってるんで
準備のスタートを具体的なね資料の資料集めとか準備のスタートしたのがそれぐらいなんですけども
日々ながらで 昨日とか一昨日とかかな昨日かな
だからもう直前でネタもねもうこんなもんかなぁと思って大体フィックスだと思ってた時に
ツイッター ツイッターねツイッターと言い続けますが
ツイッター見てたらいつもねあの AIのキラキラした話をいっぱい情報提供する人たくさんいますけども
えーっとアライメント問題とかそういう
なんていうの そういう話を
あのしかも有用な重要な話を共有してくれる人っていうのは結構限られてて
あの僕とかはあのこのバイオショックさん
さん
のツイートはいつもあのお世話になってますけども 多分夜中だなぁなんかね
タイムラインピンって流れてきたんですよこのスクショだと思いますが
これこれだねテキストを貼りましたけれども
オープンAIの中の人が
オープンAIの中にはもうAGIがあるぞというようなことをDMでもらったみたいな話があってね
おいおいとおいおいっていうかな 差もありなんですけども
あれってこの間のマックスティックマークたちがさぁ6ヶ月のモラトリアムとか言っててさぁ
あのまあ諸手を挙げてイエスとは言ってないけどもあの状況で
ねあの開発続けらんないし でしょっていう状況ででもやってたかみたいな話なんですけどね
っていうことが内部情報だという話は
で言うのは タイムライン流れてきてこれ見に行くか
見に行く理由は投稿されたのがそう 27の
深夜1時だから多分僕はだから 昨日一昨日の夜中ポチポチこう準備してた時ね
多かった そんで
その2
続報 がさらにあって
っていうのはね
27の夜の11時 だからほぼ24時間後ですね翌日って感じですけどね
でまとめみたいなのがね
10月26日の エントリーと
翌日のエントリーみたいなのは まとめ
上がった
でえーと
なんだ 中身をきちんと深められてないっていう言い訳をさっきからしてるしてます
しそれだけじゃなくてなんだろう
これリーク情報みたいなのは
あのあれね apple の新製品発売の1週間ぐらい前とかに
あの情報通貨予想 数じゃないですか
あれあんまり好きじゃないですねなんか お前らは競馬の予想屋かっていうね実際に振り返ればわかりますが
そうやって予想屋さんの価値っていうのは 正式アナウンスが出ると同時に地に落ちるわけですねで誰も
事後的に すげーとかって言う
言わない言わないというか価値が全くなくなる情報じゃないですかっていうね そこに
エネルギー使いたくないというのはどうしてもあるんですけども 今回のもねまあ
そういう僕の先入観があるんであんまり ここに書いてあることを深読みしてどうのこうのっていうのはあんまりしても意味がない
かなと思ってるんだけども同時に 同時に
同時にどっかに書いてあったなぁ
初っ端のやつか
よくわかんないけども えーと
一つ絶対に明らかなことは オープンAIの特に
サムアルトマンは
あのすごく頭が切れる人ですから あと多分
よくわかってなくて言ってるけど作詞だからね
あのきちんと情報を
外に出す情報をきちんとコントロールするっていうのは最初の段階から それはいい意味でね
えっとグッドインテンションとして あのソフトランディングってかな世間に対してAIがうまくいくようなためにっていう
意図のもとやってるのはわかってますけども 意識的にコントロールしてる人でしょ
だから こういうことが出てくる時には
そこはそういう組織なんだっていうのは やっぱりあの頭に置いとくべきだよなっていうのがあってね
この情報自体もコントロールされたものの可能性は否定できないと
だからどうだっていう話はまあね
まあ言ってもしょうがないんで ねええっと
オープンAIだからねオープンAIのこの間1週間ぐらい前か もうちょっと前か
やっぱり経営がやばいんじゃないのと 競合があっという間にこんなにボーっと追いついてきて
やばいよねみたいな話がどっかニュースに上がってたよね あれもなんかマイユーズンが見なきゃいけないかなと
今僕とか思ったりもしてますが思ってもしょうがないんですけどね で当然
開発をやってる人だったらわかると思いますけども 組織の中でね会社の中とかね
製品としてリリースっていうものを作るためには それを実現するためのプロトタイプとか開発研究とかっていうのが後ろに必ずあるわけだよね
で1個出したらその当然それの改良版みたいなのが 次も準備してるわけだよねだから
それをどのレベルなのかっていうのはねあれなんだけども やっぱり
AGIってかレベルがねすごく高いものはもうできちゃってるんだなぁっていうことは
当たり前な思ってた通りだねっていう話なんですけどね あのでも最近
ごめんねもう この話はだからこういうのがありました皆さんもあの
各陣の責任においてこのこういう情報が出たよっていうのを皆さん共有したんで 興味ある人は深掘りするし
ああそうだねと思う人はそう思ってくださいで終わりなんですけども えっと
まあだからザレ事をもうちょっとしばらく喋りますが
ここまでね今2023年の10月が終わるとこでしょ
で ジェフリー・ニントンがGoogle辞めたの今年に入ってからだよね
で
まあだからそれだけしか1年も経ってないわけなんだけども
AIの進歩っていうのは
危険を払うよみたいな話で 皆さん注意しなきゃいけないよっていう話で 実際に
コンピューターの能力っていうのは
当然進歩のスピードが速いものがここで観測されたものが時間が経過すれば当然ぐんと上がってくるよっていう
まあそれだけの話なんだろうという見方もできるんだけども
えっとこの間
僕もいろんな人と喋っていて
まあいろんな理想と現実っていうかな
頭の中で想定している世界とリアルの現実世界っていうものの
違いっていうか 現実はどうなのか 現実が大事ですからね
思った時に
チャットGP…そう、孫さんが
半ば呆れてたよね あのチャットGPT使った人って誰の手を挙げないっていう状況に
半ば呆れてましたけども
あの側面っていうのは多分 現実の社会
のある側面を反映していると思う
っていうのと
っていうのが今ふわっと思っていることの一つともう一つは
仮にAIがすごく進んで
で AIが主体なのか
AIを活用してやろうと思っているグリーディな人間なのかイーブルな人間なのかは置いといて
要するにAI技術っていうのを 活用している
人たち 存在
今だから危機だって言ってるのはそれがスーパーインテリジェンスで
すげー僕たちの僕の能力を超えている存在が出現するみたいなのが怖いみたいな話
でどうするみたいなのが心の一方にあるんだけども
もしかしたら現実っていうのは
そうはならなくて そう思ったのはこの間ね
街で人と会うために久しぶりに家を出てマスクしてね
まだコービットにはかかってないですけどね注意した方がいいよねやっぱりね みんなね気を引き締めてね
あとインフルエンザも結構流行ってるところなんか流れてた? 審議のほどきちんと僕押さえてないんでわかんないですけども
街に出ようと思ってね歩いてて もうあの知ってる道だからねスマホとかも見ないんで
黙々と歩いてたんだけど 街中に入ると
みんなのきなみ スマホを見て歩きながらスマホを見てるよねそれも
スマホ見てるんだけども道がわかんなくて google map を見てるんじゃなくて sns やってるよね
やりながら歩いてるよね
で sns っていうのは言ってみれば ai なわけですね AI ファンクションなわけですよねあれは
あれがだから 一種の
僕たちが脳内で想定しているスーパー ヒューマンだな概念的にねだなぁと思って
うんあの恐るるに足らんとは言わないけども
し自分がねそうなりたいともこれっぽちも思わないし
いやもうよくわかってないんだけども
現実にどう 現実がどう変わっていくのかっていうのが
よくわかんなくなってるなあっていうふうに思っていてまぁまぁそこは最初からね 難しいところ人間が絡むと予想が難しいねだから
ハリセルダンはね サイコヒストリーを開発しなきゃいけないんですけどまぁ
そういう集団を
に入りたいなぁ 誰か雇ってそこをそういう活動しているところに
ai アライメントの仕事がしたいんですよだからあの失業してるんでそういうところは 僕を雇ってください
頑張りますからあのまあいやそういうね
情報があってありましたよっていう情報共有でした
なんかあれかなぁ 正式にいずれアナウンスあるのかな gpt 5の
リリースの話とか最近上がってんよなぁ
はいっ 僕に戻る
っていうっていうね
ソフトな話をソフトにしてみました
これは差し込みのネタです なんで
8
コメントコメントといないですね
コメント待ってますぐらいかいっ
ねっ
ん
ん
ポップ はいコメント待ってます
ハード
あれね
ねインターネットっていうのか ソーシャルネットっていうか
あの
あれなんだっけ タイトル忘れた
ヒューマンカインド ヒューマンカインドブレグマン
の方に ねあれはメディアが批判されてたのかな
人間って本来的には 善良な
種族なんだけども
ネガティブなバイアスみたいなのが メディアとか
まあ多分ソーシャルネットとかそういうところ に傾向としてあるので
いろいろまずいことになるバイアスかかってるよねと
大災害の方がアテンションがゲットされるから そこが強調されてしまう
みたいなバイアスがかかってるよねみたいな話で
現実以上に危機的に 物事を映し出してるみたいな話ね
今日ねちょっと
指摘が入って あのっていうのはねここ今日昨日とか
ここ数日なんだよね あの
podcast とかあのアナリティクスとか情報あるんですけども ああれねあの
podcast ランキングにランクインしたよっていうのを僕ツイートしましたけども なんかね
アテンション上がってるって誰かにね ハードなことをソフトに伝える
あ伝わったのかなーって嬉しくなったんですけども もしかしたら
あの監視的な 突っ込み的なあの
ねあの 視線っていうかアクションが僕に対して行われた結果がああいうふうな形で反映した
可能性があって それはそれでちょっと悲しくなってるんですが
えっと それを受けてじゃあどうどう考えるかっていうのは
だからそういうのは気にしないで我が道を行くっていうことは 多分正しいんだろうなと
意を新たにしてるわけですから
っていうあの感は 急台して本筋に戻ってパート2に行きましょう