こんにちわ！ AI ポッドキャスト、シーズン４３は２０２３年７月２９日に開催した ZOOMライブの模様です。
この日のテーマは「夏休みもＡＩだ！」です。

エピソード２は、パート１「AI の未来」です。

• 当日の発表資料

このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）

** 注：以下は未編集の草稿です **

はい、みなさん「こんばんわ！」です。
「こんにちわ！ AI FORUM」です。
今日の日付は 2023 年 7 月 29 日、７月の回になってます。

ね 今日は
夏休みもAIだってのは まぁとりあえずこれはその場しのぎのタイトルをつけただけですけども
今の AI関係のシチュエーションを皆さんと共有することで さあ夏休み時間があるときになんかこれやろうあれやろうみたいなことの
参考になればいいかなっていうのが part 2ですね
part 1は
part 1はAIの未来と書きましたが あれですね
AI業界の動きがやっぱり激しいっていうか早い 早いっていうより激しいんだな今
激変というか変化の時なので いろいろ
動いてて 僕職探しあの失業して職探しするって言ってますけども
AIに絡んだことやりたいなんてそれも しっかりなんかね
チャラッチャラいことじゃなくて しっかりしたことをやりたいと思っているのであの
物事がどういう方向に流れているのかとか どの辺に自分が
飛び込みたいのかっていうのは見てるんですけどもそういう意味でね 関心事なんですけども
その辺の話をしようかなと思います
でまずね 最近ここ
しばらく1ヶ月が大体 1ヶ月に1回やってますけどね1ヶ月この1ヶ月に起きたことが大体ネタにしてますが
えっと ジェレミー・ハード
ファストAIを始めた人
まあ言ってみれば僕がこんなAIフォーラムを始めたのは ジェレミー・ハードのファストAIにインスパイアされてっていうことですけどもそういう
人の 最近ね
このAI
リスクの話ってか AIセーフティの話 AIアライメントの話
みたいなこと AIの開発を無自覚にやってたり色々やばいんじゃないの人類損傷の危機
エグゼステンシャルリスク その辺の話に関して
まあみんなそれぞれ自分の立場表明をね あのまあ
しようと思ってしてるわけな人もいるし そうじゃない人もいますけどもジェレミー・ハードが
えっと自分のねファストAIのホームページに
投稿した論文っていうかねブログポストっていうかな論文なのかな 彼としては 題材としては
投稿しました それねあの僕自身が
AIの将来が心配だとか人類の未来が心配だとか このAIフォーラム散々言ってますからね
そういう人間がねジェレミー・ハードのこの
記事をね 看過できないだろうということで
ツイートをねえっと7月の11日付のツイートがあったんですけども
最近考えることをまとめましたよっていう えっとこのページに行けばありますタイトルは
AI Safety and the Age of Dislightenment
ねこれ下の方にも書きましたが AIセーフティーはいいよね
AIの安全性についてそして the age of
dislightenment 見慣れない名前だしこの文字の並びから僕は
誤読してね age of disalignment
そうかAIクライシスでAIがdisalignして人間に対決する時のAIセーフティーについての記事を
ジェレミー書いたのかと思ってたんだけど
間違いでこれはdisalignmentじゃなくて
dislightenment
dislightenmentどういう意味ですか英語っていう話ね
これはあの結論は
enlightenmentっていう
名詞があります the enlightenmentで
啓蒙時代 age of enlightenmentっていう
同じことですけど啓蒙時代っていう言葉を意味する啓蒙時代ねこれは具体的に
そういう歴史世界史を学んだ人僕が一番遠同意世界ですけどもにはそういう時代として定義されて17世紀後半から18世紀にかけてらしいです
まあ要するに理性とか西洋で科学的な考えとかでも新しめのねあの昔じゃなくてね
そうやって
自由とかそういう
社会のアクションが起きた時代のことらしいですね
でこの記事を全部読めばジェレミーが頭に描いているのはそういう
民主主義的な世界あるいは
オープンソースのバザール的なっていうのかな そういうイメージを
頭に念頭に描いてそこを目指すべきだっていう話をしていて でまぁこれみたいにディスライトメントだから
エンライトメントの逆っていう意味なんですね だから
まああのわかんない正しい英語 学者の人英語が達者の人はもっと適切な翻訳してくれるかもしれないですけど意味的には
反啓蒙時代でいいんでしょう だからAIの安全性と反啓蒙時代っていうタイトルの論文を書いた
今が あるいは今から向かおうとしている方向性が
皆さんそれは反啓蒙時代的な 暗黒の時代になっちゃうぜっていうような
形的をならしている 一回さらっと読んだだけなんで甘い読みですけども
内容をまとめると ジェレミーの立ち位置は
プラクティカルで前向きな人っていうのはそもそもなんですけども ヤンラ君ほど
無鉄砲じゃなくて
きちんと 心配はしなきゃいけない
彼が考えている心配の要素っていうのは何か その中にあるのは
今全体の動きとして
政府なりが規制をかけようと 開発に対して
っていうんだけども それがまずいっていう風な意識を持っているんですね 彼はね
で
彼の提案は 開発とかモデル
自体にいわゆるAIの開発っていうレベルに 規制をかけるっていうのは
良くないと
でも規制は必要ですよ 何を規制するんだって言ったら利用だと
で例を出しているのは 医薬品とかのやつね 承認されないとマーケットに出ないとか
状況としてはね技術とその利用みたいな文脈で 核爆弾いつでも出されますけどね
核爆弾だから爆弾を作るのはどうかと 僕も思いますけどもどっちかっていうか
がねハサミね
ハサミを素晴らしいハサミを作ることを 制限するのはナンセンスで
ハサミの利用を制限しましょうみたいな 形が
正しい方向じゃないかと言って その理由はって言って 言ってるのは要するに
啓蒙時代 長年
時間をかけて我々が人類が 社会の中に構築してきたそういう
良きものを
そんな簡単にあっさりと手放しちゃったら アンドゥ効かないよっていうことなんですね
その良さっていうものは民主的な考え方であり 今の具体的な例で言えば
モデル アーキテクチャーみたいなものを
きちんと透明化して見える状態にしないと
逆に危険だよっていう話ですね まあそうだなと思ったし
ジェレミーさんは他の人とはいつも 一味違うっていう意味で
なんていうかな 逆張り的なふうに表面上見えますが やっぱりきちんと
彼の考えっていうのは筋が通ってますよね と思いました
面白かった もうちょっときちんと読まなきゃいけないし その他の世間の動向みたいなのと
合わせて僕は考えなきゃいけないなと 考えようと思いましたけども
ここでコメント 後ろの方でここからコメントしてるのは
これスライドっていうかな 分かりにくいカッターになってますが
これも最近ね 見たビデオなんですけども これスクショでも入れればよかったね
えっとね 僕最近大好きなレックスフリードマンは なぜか最近イスラエルに行ってたみたいですね
で 首相
とワンノワンやって その後ユバルハラリともワンノワンやって
みたいなことをやってたやつの ユバルハラリの回を
結構長かった 2時間超えだったっけ 見たんですけども
結構ユバルハラリ好きなんでね
そこで言われてたのは もちろんトピックっていうかね
レックスフリードマンがなんでイスラエルに行ったかって言ったら イスラエルの問題がやっぱり一つ
トピックとしてあったわけだからっていうんで
そういう政治とか社会とかのね イスラエルの中東の
話がやっぱりあるんで そこ
よりになりますけども ユバルハラリも技術が AIが
未来を考えるっていうのはね サピエンスの本を書いた
あとの必然として当然 それで未来はどうなるのっていうんで ホモデウスっていうのを書いてますね 僕は
本はあるけども読んでない けども ながらそういうんでレックスフリードマンと
そっちの方のAIの話として
通じるところがあった話で そういう絡みでも多分話ではなんだろうけども
AIとの絡みでも 社会の今のイスラエルの絡みでも ユバルハラリが言ってたのは
民主主義 民主主義が
いろんな意味で大事なんだけどもいろんな意味で危機になっていると 絶滅危惧種になっていると
いうようなことをしきりに言っていたと
で 技術がね
ソーシャルメディア
から始まっている まあ ユバルハラリはSNS自体が
AIだと言ってる 多分
首長はね なんかキャッチーな感じのことで言ってる まあそういう流れなんだろうけども
フェイクニュースとかね そういうのが我々の
社会 相互理解 民主主義みたいなものを壊してるみたいな話で
AIが
AI自体は多分 技術としては多分中立なんだけど それがどう利用されるかっていうと
良い方向だけには当然利用されなくて 悪い方向にむしろじゃんじゃん利用されるんじゃないかっていうのは誰でもそうだよね
ソーシャルメディアがそうなってる ソーシャルメディアだって
技術中立なもんですからね そもそもね それが
言うんでやばいやばいっていう話をしてて してるように僕には聞こえて そうするとジェレミーの指摘ね
AIの開発を じゃあ規制しましょう 規制はつったらトップエリート企業に全権維持をして
君たちきちんと レギュレートしなよつって
あのおかみから言われてつって ねえ秘密主義的にやろうみたいな話やねっていうんで
それはやばいって言ってるよね だから
今やばいのはそういう オープンソース的な意識とか民主主義的な意識とかそういうことなんじゃないか
いうふうな感じに僕には響きましたね その辺の気持ちはこの辺のツイートにしましたけれども
じゃあどうするんだっていうのね まあ当然
物事とかね あのブーメランって言葉でよく言われるように言葉とか主張とか
ねあの
なんだっけ義務と権利と義務 諸場の権っていうかね
なぁ僕は常に意識してますけども ねこういう
ねー アメリカアメリカじゃないな今ジェレミーは
シリコンバレーからアレだオーストラリアに自分を帰ったね えっとの人の主張とかイスラエルの人の主張とかを
ふむふむってそうやなあ聞いてる日本に住んでる僕はっていうと本当暗い気持ち になるよねっていう
民主主義こと民主主義的な考え方とかねー yy と意見を出し合って
あのきちんと と問題をみんなで克服するみたいな考え方みたいなのは
考えればにあればあれば 一度も獲得してないんじゃないかっていう気に本当に最近のニュースとか見てもね
ありますよねえっ
ねそんでもってあのツイッター利用率日本人は異常に高いとかっていうのを まああの嬉しそうに言ってる
ツイッターラーの人とかメディアとかはあるんだけど そういってある意味こうしてるなあっていう気がしますねあの
本当にいいように踊らされている踊れ踊りたい人たちいっぱいの ソサエティのながっていう気は
そこどうどう すればいいんですかね
僕は人を動かす能力がないんで なんとも言えないですけどね
っていうジェレミーさんの記事から を読んだ
感想でした
でまぁそれがさっきのが 7月の11か
7月11で えっと6月7月っていうかここのところ
まあその前にアレって5月だったっけ max 手具幕はオープンレターでモナトリアム
あれ半年ぐらい えっと開発を止めろっていう話ねですそれは単に
止めていいわけじゃ止めている間に話し合おうよって話だったんですけどね だからそういう意味ではいろいろ
危機意識っていうか危機に対してじゃあどう 我々人類は対処するべきなんだろうっていうのを
各省が考えて各省が動いている 動きが
ポツポツと形になって現れつつあるのが今のタイミングかなと思いますか えっとそのいう関連のニュースを
ニュースたってもツイッターから僕ツイッターがニュースゲームですかね あの
拾い上げた えっと ai 業界の動きって偉そうに書いてますか僕の面に見えたフィルター
バブルでしょけどねそれ意識して
フィルターパブルいやーだからねー ツイッター
は いや x というべきかっても
とりあえずお祭りのように今日のスライドを書いてますが
あれなんで色マスクは何を目指しているのかわかんないですけども フィルターバブル悪い
じゃないですかっ でも
ツイッター まあ多分目指しての
全人類を知的な部分意味ではフィルターバブルに各個人を 囲い込んどいて
制御しようみたいな話もう行け行けどんどんですよね その時に
正気を保つにはどうしたらいいかあったら
フィルターバブルの外に
情報源っていうかコネクションというかを残しとかないといけないっていうと
ブログなのかと地道な そこにたどり着けるための
検索エンジンなのか昔昔の検索エンジンから あれ自体のだからランキングっていうものでみんながこう局所最適化をして
んでそんなのよりももう囲い込み
もろにあり始めたのがソーシャルネットでしょっていう感じだな
まああの僕あのアレね ポッドポッドキャストはだからでもあれか
あれもフィルターバブルのなぁ ポッドキャストの書き起こしを本にしたって言いましたけれども
えっと迷子 機械書き起こしは
ワードプレスのねいわゆる古き良きブログで書いてるんで ブログを
そうオープンな形で
もう1回活性化させるような仕組みがあると嬉しい人たちいっぱいいるのかな わかんないですね
どうしたらいいのかわかんないっていう今気分なんですけどねまあいや エンディングと ai の最近
ツイッターじゃなくて x あれ今日今今さっき見たあの
サンフランシスコのツイッターの車を9の頂上に なんかそれこそバットマンの映画に出てきそうな雰囲気の
x マークのライティングを嬉しそうにドローンで撮影したビデオを嬉しそうに 投稿してたイーロンマスクさんで
なんかやっぱりあの なんだろうねマッチュっていうのとまた違うんだろうなぁでも漫画的っていう
なんか ねぇ
そういう感じの人なのかなと思っちゃいましたねあの a を嬉しそうに投稿してるんであれ
どう見てもね悪の組織って誰かコメントしてるだけのそんな映像だよね まあやはい8つそのツイッター
改め x から情報を取得している僕はっていうのに何か 自己矛盾を感じながら喋ってますが
87月の6日オープン ai が
スーパーライメントっていうねプロジェクトっていうかな
やりますよ 言ったこれはあの
要するに アライメント問題に真摯に取り組みますよっていう
あれなんですね
まあオープン ai は当初から google 参加になる時の 8でミスハサビスっていう人を僕は初めて個人的にあこういう人いるんだって認識した
のはその頃だと思うそれは多分 ディープマインドが google に参加になったの2015
年とかって だからその時点から
ミササビスは ai の
セキュリティーというかセーフティー問題に関しては今みんながわーわー言ってるのと同じ ようなこと言うあの頃からずっと言ってる一貫して言ってるなーって思ってるんで
多分今のメジャープレイヤーの中で僕一番まともだっていうふうに勝手に勝手に 信頼してるんですけどもね
そのオープン ai の ai がグローバル ai ガバナンスに関するなんか
投稿とか論文か出したっていうのこれ読めてないです 読もうと思ってるけど読めてない
同行チェックみたいな目出しだけに走行してたら なんか業界最変じゃないけどなんかもうどうなるかわかんないような状況になってますね
そもそも今の大雑把な流れで言うと マイクロソフトグーグル
があってマイクロソフトはオープン ai は参加に入れてグーグルは
8 deep mind が参加に入って いうことねビッグプレイヤーでメタはメタなんだね
amazon アーツってまあまあかないんだけど 8この辺でねー
マイクロソフトとグーグルが
くっつくみたいなくっつくじゃない仲良くするみたいな あと
この写真では マイクロソフトとメタが
ねザックと
幸屋なでらば ニコニコしてる写真とか上がってて
もうどうなみんな仲良くするってアピールタイムかっていう でもねー
ザックと ニーロンマスクは
あんねー 戦わない方がいいと思うねー
まあ戦わないことで落ちたのが x グリードマンねー
10月やるからってあんまり前や8 いろいろ手の組み方とか考えると
これ外野の話だけど マイクロソフトはなんかもういやらしいほどなんか抑えるところを抑えて進めてるなーっていう
感じですよね
あのオープン ai と手を組んだことで nvidia とも仲良くやってるでしょ
で メタとも仲良くするよとか言っててね
どうどうなるのか僕別にあの勝ち馬に乗る
タイプの乗るような戦略で生きるタイプではないんで まあこれはこれでまぁそこのレベルでみんな最適化頑張って頑張ろうねっていうぐらいの
外野のりで考えてますがでも 100パー外野のノリにはなれなくて今だからね身の振り方を ai 業界で身の振り方を考えている時には
ねなかなかこの辺は
心穏やかではないあれですけどね そこしてたら21日ね7月21日に
これよりも前に 1回あのバイデンに召集されて
だけホワイトハウスに ほぼ同じメンバーかなあるいはこれのもっとコアのところかな
ねえでミササービスもサムアルトマンも
いっ呼ばれたとおりあったよねそれよりももっと最近の直近のあれで 8 ai 7社を呼ばれて
アメリカ政府からねなんか高校こうしろって言われ たっていうのはこれは
あれだろうね政治主導である 一つの動きなのかな
それはいいのか悪いの ジェレミーはそれは良くないと思ってるんでしょうね
でえっと そういう動きが
21日月末にあったんだけど その後に
また別の
アナウンスメントは その登場人物のそれぞれから同時に
ツイッターに流れてきたんだけども フロンティアモデルフォーラム
っていうものを結成しようみたいな
結成したみたいな これねあの
これは今僕がこれやってるのはこんにちは ai フォーラ
ねこれで今このディープマインドとかオープン ai とか あと参加者はアンスロピックね
あとそれぞれの親分のグーグルとマイクロソフトもきちんと入れての でもだから実質3社やね
で
でもメジャープレイヤー 3社ってことだよね
アンスロピックはクロード のモデルを出したんだけど僕1回も触ってないし
みんなすごいすごいしてんだけどそれちょっと抑えてもらうといけないね えっとこれも内容は全然読んでないけども
上のホワイトハウスてのホワイトハウスが上からがんだけどこっちは
ね テックカンパニーの方から業界としてなんかアクションを起こしましょうみたいな話
なのかな ああね
バイオショックさん
この辺お家して 情報共有いつもしてもらってますけどねそうねメタ入ってないよね確かにね
やんら君がね
なんでああいうものいいんやのこれ僕はよくわかってないんだよね この辺のなんか関係って大きな動きはどうどうどういうことなのか誰か
詳しい人解説してほしいなぁ
いうことで僕僕は何もわかんないねあの 社会の動きに疎いタイプに見えるなんで
んでもなんか ポーズだけでもねやっとかないとねいけないっていう
のは者に構えすぎた考え方なんでしょうけども
っていう感じですねそれ言う ai の未来っていうか
ai 業界の最近の動きって感じかな まとまりがないですけど
はい以上がパート1 でした
8はい
これってどうやったらあれなんだ
はい
あれ 8
youtube は今3人の方が見ていただいているうちの一人僕だからって毎回言ってね 2人の方皆さんこんばんは
a コメント待ってます
アティスねえっと ok 進めます