こんにちわ！ AI ポッドキャスト、シーズン４７は２０２３年１１月２５日に開催した ZOOMライブの模様です。
この日のテーマは「読書の秋」……（と思ってたけど）「OpenAI なにやってんだ！？」です。

エピソード４は、パート１、「OpenAI のドタバタ」の後半、人々についてです。

• 当日の発表資料

このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）

** 注：以下は未編集の草稿です **

はい、みなさんこんにちは。「こんにちは AIフォーラム」2023年11月25日 11月の回ですが。

はいねそういう日々を日々をってかね どうなるんだどうなるんだどうなんだっていう風になってきての
最終的な気分のツイートはこの辺なんですけども
あのねーこの辺でね イリアサスカバーのいろんなあの
ガーディアンのビデオねすぐ下に出しますけども とかを見たりしてねいややっぱり
AGI できちゃってるっていうかもうほぼできるみたいな方法でやばいってブレーキかけた
のかもしれない 5050
でもしそうだとしたらみたいなね文もね重いなってるんだけども
えっとこの時点でのツイートね あのまあ
映写 と取締役の間のパワーゲームとか僕全然興味ないんで勝手にやれと勝手にやれ
と思わないよねあの人類を滅ぼすようなことをしないでっていう あれだけどもそっちにはあんまり興味がないんだが
その ai リスクっていうのは実際に 表に出てきてないものはどうなってるのかっていうのが一番心配事だよね
っていうんで でねあのそう
イリアサスカバーのこのビデオですよガーディアンの youtube のビデオですけども
ね今のサンフランシスコ なのかね
カフェテリアとかね
インタビューされてましたけどもその中で agi の危険性 ai の危険性みたいな文脈で
えっとイリアの言葉の中で
age 愛とか a サイン7なんで やばいの怖いのみたいな話の中の例え話で
ねっ
人間の能力を超えているそういう存在は何をするかって言ったらつって 僕たちが人間がね
高速道路を作るときに 高速道路山を切り開いて作る高速道路を作るときに
そこに住んでる野生動物に11許可を求めたりしないでしょみたいなことを言ってた よね
でいやん いやまさにそういうことなんだよなと思って
だからこの
状況のやばさっていうのは今のタイミング的に 世間にどうやったらよく通じるかっていうので考えると
日本の人たちにはね 君らクマになるぞ
家が伝わるかなと思って
クマねー 食えないって言って山から出てきたら
あの打たれるんだよっていう ねっ
その人間は a 子愛でクマが僕たちなんだよ
わいでしょっていう話だね 世界レベルで言うと
君たち 今パレスチナの人たちみたいな
立場になるんだよっていう ここまであの僕に言わんかったからきちんとあの歴史的背景とかも
あの 重伝じゃないのであの間違ったたとえになってるのかもしれないですけどでも
ある日国際的な合意のもとにイスラエルっていう国が自分たちが住んでいるところに ポンと作られて元住んでた人たちははい移動してねって言われてみたいな
出来事でしょ 彼らに
ねっ 補足道路を作るときの野生動物のように扱われてないかっていうのが
僕が言いたいポイントでそれ以上でもそれ以下じゃないですけどね
それが ai のリスクってか a g i かなだから
野生動物に優しい人間になるように ai を育もうっていうことになるのかなぁそれも
どうなのよくわかんないですけどねそういうでもそう ai のリスクってのがいい
真剣に考えた方がいいよっていうことは揺るぎないと思うんですよねっていうのが この一連の話を見た時の僕の感じたことですね
エリア であの
猫のことがで起きて
でっ 彼がキーパーソンだけでも
でツイッター上ではねサムアルトマンとかグレックとかはは言ってて けども
イリアは沈黙ってが黙ってて ねぇなんか
最後に出てきたのごめんなさいでしょ でなんかのニュースの記事ちらっと見たら
あの グレックの奥さんに
泣き疲れてみたいなことをなんかちらっと見たりしてさ
ピアなぁと思うねあの ai 業界サンフランシスコに限らなくても ai 業界というのはの
チェフディーンだけあの狭い世界の中の僕たちだからみんな仲良くやらなきゃいけない よねみたいななんかツイートしてましたけど実際そうなんでしょうね
その中で声を上げたっていう シチュエーションに対して
それであれでしょサムアルトマンのツイッター上でのあの あのねえ
イケイケぶりっていうかもう
ぶりぶり言わせてる感じの感じよね あと
書いたからオープン ai っていう組織が怖いなと思ったのは
770人の従業員 いましたと700人規模の人を
まあサムアルトマンが一人でまとめて掌握してるんだけど 彼が取締役会からクリになったとか
8マイクロソフトに行くとか 戻りたいとかそういう時に
700人以上の 署名というか名前が集まって
そんながにリアの名前があったっていうのもよくわかんないんだけども
そういう大きな話で 700人規模の集団で
ね9割以上の 医師を
即日にはまとめられる のは
よく言えばスーパー強力な人望があるっていうことだけども 普通に考えたらやばいよね
っていう印象が一番強い怖いよね
お金なのかな
まああとだからねあのよくもう今冷静になれないんですけども コトボリが冷めてね
た時に今一度 冷静な目になって最近ね
youtube 見てたら
1年ぐらいの範囲だけも イリアサスカは
あーこれ数日前ねテッドの講演とかも youtube に上がってたね
えっとマックスマークのテッドでの話とかも youtube に上がってましたね
この辺ちょっと落ち着いて 見た方がいいんだろうな
し
これもすべて憶測の域を出ないところだけども
今ツイッターのタイムラインで話題になっているのは この aji が本当にあるんでそのアルゴリズムはつって q スターっていう
アルゴリズムターとかなんとかってはーって言ってますね 興味ありますけどもねあのまあ
外野は どっちにしても当事者には何後の祭りなんでしょうけどね知った時にはね
だから早く早くってから中に入る中の人っていうか中に入って 動くんだったら動くっていう意味でも中に入るっていうのにしたいなと思って
かれこれ就職活動はねもう6ヶ月を過ぎてまだ決まってないですけどもね ai セキュリティーというかねは今人類損法の危機だって僕はやっぱり
心配性なのかもしれないけど持ってるんですよね はい
ねあの もうここまでがほぼ内容ですけども
後日なんてかね今日今日ねこうやってバタバタロードをまとめるかなと思ってまとめ った時にね
僕 bgm youtube かけてんだよねプレイリストじゃないけどミックスっていう自分の 好きな曲のミックスみたいな youtube さんにお任せで流してもらうっていうのね
流したんだけど 突然ね突然というかねまあこれはのフェイバリットですよねないとプライは
もう聞き飽きたくらい聞いているドナルフェーゲンのアルバム名盤ですけども 流れてきてねうんって口ずさみながら猫
コンテンツをどうまとめるかなと思うまとめてたら 愛 g 1ね
ブレイズがねー ギョッとした
ギョッとした
jasm シーン2名ペイクディセージん プログラム by フェローズ
with コンパッションなヴィジョン
歌詞
ねえ
ギョッとしたあの皆さん
ギョッとしないねこのタイミングでこれ歌われるとさ あの歌詞について僕だいたい歌詞は聞かない方なんで口ずさむしそれはあの
ライムっていうかねあの音としてしかきちんと意味とか取らないんですけども 詳しく
意味を 日本語で解説しているウェブサイトあります
興味ある人は見に行ってみてください ね
技術が進んだ世の中に対する歌なのかな よくわかんないですけどね
あれねシンクロニシティっていうと僕たち世代は怪しいこと言っとるって言われるんだ けどねなんかふとこう点と点が
点と点をね 結びつけるのは僕たちの意識なんだよね主観なんですよねだからこれは自分で
引きつけてるんだけどもでもこれはちょっとね ギョッとしたっていう意味で皆さんにもシェアしたいなぁと思う
で入れました そういうそういう話
でバツバツしてましたけどね
んでおまけっていうかね 走行してオープンへアンドレアンドレカパシーは
出戻りだけどオープン ai の中の人でしょ でね
そのいや モノリティックなっていうかねあの
クラスのいじめ集団みたいな雰囲気を僕はずっと感じて居心地悪いと思ってて アンドレがね
とりあえず僕が見てる範囲で ハートマークはしてないしねオープン ai
is nothing without the people にもいいねとか少なくともしてるように
な僕の見てる範囲ではなかったんでそこは 少しホッとしたりするんですが
そのアンドレのあの youtube ビデオっていうのがあってね 今更ラージランゲージモデルアンドレーがわざわざ開始するってのはどういうことだろうなぁと思って
でみんな結構絶賛じゃないけどよかったよかった言ってるから どんなもんと思ってこの1時間のやすいねこの忙しい時
見たんですけども 一般向けねえプログラマーとかエンジニア向けのビデオっていうよりはもっと広いオーディエンスに向けて
中身っていうよりは
啓蒙ですねでしたね 面白かったというか
まあおまけですけどね色々
目新しいって僕的にねああそういうふうなトレンドなのか認識としてっていうのは 学習あのニューラルネットディープラーニングのモデルかやってることは何
インターネットの巨大のデータを 学んでるんだけど学びっての何かあったらコンプレッションだっていうなんか最近言ってる人いるね
時々ね コンプレッションに関して僕あのもう思ってて別なラインでねこれこれどっか前の別の
ところで喋った 吉大野さんっていう入り乗りのアルバナシャン県の物理学者がいますけども日本人の
あの人が僕は学生の頃に学生 学位とつ
京都に僕が行った時に日本に戻ってきてセミナーみたいなのをやってる時に
全然チンポン幹部で分からなかったけども一つ分かったことはいうんで 圧縮の話をしてるね
情報量データのファイルとかの情報量
を見積もる方法というのはトリビアルじゃないねって話で
ねゴシップ記事と あのクラシックになってた聖書でもいいよ
女テキストのバイト数っていうのは情報量じゃないよね そこに込められている意味みたいなもの量っていうのはどうやってカウントする
だろう結構あの インフォメーションセオリーっていうか僕きちんとそっちは何も勉強してないんで
知識ないんですけどもきちんと学べば多分あるんだろうねでも 物産が入ったな
ファイルをねデジタル的にテキストファイルいいよ 画像ファイルでもいいよ
あった時に 圧縮し圧縮しなさいと
すると 画像を圧縮するっていうシチュエーション考えたら
単純な画像はちっちゃくなる 複雑な画像情報をたくさん含んでいる画像は
ある程度を行くともうそれ以上圧縮されない 経験則みんな知ってますよね
集まりは 圧縮率って圧縮された
そのサイズっていうのは と
えっとそこに含まれる情報量っていうのは明らかに性の相関があるでしょ というような話をしてああ面白いなと思っ
a 与太話的に言うと
圧縮
プロセスっていうのは 最適化プロセスであって
変文原理的に捉えることは絶対できて
ねだからロス関数の学習プロセスみたいな たぶん形式上も関係性があってみたいなことに
なるかなと妄想を膨らませるポイントにはなりますけどね あとねキーワードしあ今回ビデオアンドレイのビデオ見ててあーと思ったのはファットしてる
部分 クォリアの
今までハルシネーションハルシネーション専門用語であの言ってましたけどラージランゲージ モデルランゲージモデルっていうのは
ハルシネーションを起こすよっていう話があったけども明確に
ランゲージモデルがやっていることは 人間でいうとこのドリーミングね夢を見てるみたいなことをやってるみたいな
8たとえだね を明確に使ってましたねアンドルね
あとねそうビデオを見てねー アンドレーは
おいおい大丈夫かというかイケイケかーって思わせるような感じのね lm ルー m os
になるみたいなね将来はみたいなこと言ってたけども でまぁその後にねあのジェイルブレイクが危ないから注意してねっていう話が入ってて
話全体としてなんか矛盾を払うとるなぁというかさ 思ったのは
lm の os って言ってるのはこのスライドのスクショ ねー
美暴力的にここれか コアの lmm にいろんなまあ今でいうところのエージェントね
a をくっつけてその全体としての 構成物を
os として捉えればコンピューターエンジニアにはファミリアじゃないみたいな例え話 なんでしょうねでも
これって
ai エージー isi に
環境とのコネクションをつけるっていう意味でしょ でだから lmm
生物だよねみたいなねあの しかも
結構構成の頭脳を持った生物をインターネットとかリアル社会へにうまく接続する ような構想以外の何ものでもないよねと思ってこれリーゼ
いたら
思い切りまあやべえって言うんじゃねーとかねあの lm os を
きちんとサンドボックスの中にしまうとか考えてるのか これ絶対話としては
gpt ずっていうの gpts あのエージェントの彼らのサービスねそれのなんか
なのバージョンアップ版ぐらいのイメージで多分言ってるんしそういう意味では オープン ai の中の人だからね
そっちいけいけなのかこっちの方は大丈夫これは これとして
lm のシールブレイクいろんなテクがあって簡単に騙せていろいろやばいよとか言っ て
で
アンドレラの目には世の中がどう見えてるんだろう しかも a オープン ai の中の人だからね
普段 あの話題になっている
本当は社内的には a gi できてるかもしれないっていうのを知ってるとしたら 知ってるポジションにいる人だよね
いろいろ憶測をねあのもやもやって思わせる
ようなビデオでしたけどもねあの見ました
あとねあのなだけニューロサイエンティストの
がっかりかなんかに パネルとして
ジェフリーヒントンとでミスハサビスと入りやさすかバーが ビデオであの
参加してた 奴は数ヶ月前今月先月オクトバーって書いてあったっけ
すごいメンツだなぁと思いましたねヒントンにデミスに入り
ねっ
今回のオープン ai の騒動が起きた後に いやさすかバーがこういうオープンな場でビデオデー
は喋るっていう機会が今後あり得るのかも出てこなくなっちゃうんじゃないかと思って あの心配って言うねなんかしてますけどね
喋ってほしいけど多分喋れないよね多分いろいろね はいっていうのが
っていうのがトップに戻る
何の何のあのね観察日記に過ぎませんでしたが 結果としてなんか評論家みたいなことしか言ってないようないい
やりたくないといったことをやってるような気がしますが そんなそんな1週間ね1ヶ月やね1週間だったねー
うん 世界はどうなるんだろうなぁと思うね
だから そうディープマインドはねー
やっぱりあの僕はだから オープン ai サマールとマン
とか見るにつけ ディープマインドの評価がどんどん日々上がってるんですけども
d あのデミスハサビスは
やっぱりポジションとしてはイリアのポジションないよね ディープマインドっていう組織を
聞いてるけども サマートマンはやっぱり経営をっていうか
英社なんですね どうやって自分が
君臨するかって言うけどなぁ多分なぁ
ん
はい a ちょっと動揺してますけどねいろんな意味でね