ZENKEI AI ポッドキャスト、シーズン４０は２０２３年４月２６日に開催した ZOOMライブの模様です。
この日のテーマは「ゴールデンウィーク　AI で遊ぼう！」です。

エピソード５は、第２部「AI セキュリティ問題」です。

• 当日の市來の発表資料

このブラウザでは再生できません。
再生できない場合、ダウンロードは🎵こちら




















ビデオ見れる人はこちらからご覧ください。




（以下は、OpenAI の Whisper を使って文字起こししたものを修正したものです。）

** 注：以下は未編集の草稿です **

こんにちは、ZENKEI AI FORUM です。
今晩は。ZENKEI AI FORUM です。今日は 2023 年の４月２６日。４月の終わりの ZENKEI AI FORUM です。

いい感じでこういう点にいく目前になってますけども世間的にはどうなんだろう4月っていうのは新年度スタートっていう感じで新しい 生活が始まった人とかあれかなみんなウキウキハツラツとしてるのかな ねぇもうちょっとたすと5月病とかつぶす世界のなんですよねはい a僕はなかなかあの疲れが溜まってますけども 疲れが溜まってる土台はあれなんでねやっぱりあの ai フォーラムっていうように ai 興味あるししがみついていきたいんだけどもちょっと早すぎるで8 ai セキュリティ問題を アライメント問題というかな言及するかなぁ ai フォーラムでと思ったんだけど準備不足で 今はもうサクッとあのこういうネタが最近 僕僕自身の目に入ってきてくぐってきたっていう情報共有ね 皆さんはどう考えますかぐらいの感じでできればでしょかなぁと しようかなっていうか待ってね 情報共有ですねえっとお話だけでまず大雑把に 印象まとめととそもそも 気分が落ち込んだゲイはゆるコースキーねリーゼーいうとこう好きの いいあれ多分はあれは8 今回の今のもうあの警戒感に対する盛り上がりの一つのきっかけだったビデオだと思うんだけども あのバンクレスの youtube にゆるコースキーが呼ばれて喋った人類みんな死んじゃうぜっていうのはやっぱ衝撃的だったし ねまあ多分彼はスペクトラムの中の一方の極限なんで それを割り引いて考えるというか冷静に物事を考えなきゃいけないのはわかるけども でもねって言うのはねやっぱりあるよねオプティミスティックな方の極限はやっぱりやんるかんなんですかね それはそれでなんか何も考えてねーじゃんっていう気がしないでもないですよね はいオープン ai の人だしねあるいはサムアルトマンとかさすかばとかね入りやさすかばのビデオを あれだねレックスフリードマンの youtube を見ててあーって みんなあの考えてはいるんだろうなぁ ねっはいそこしてたらあのレックスフリードマンのポッドキャストにマックステグマークがねあの出てましたでそれもタイミング的には 86ヶ月間開発を止めよう止めましょうっていう オープンレターが出てタイムスに乗った奴それをリリースする 日かその前日に収録したっていうなんかそういうタイミングの8ビデオが出てましたね 8それ頭から聞いてマックステグマークは何回も言ってるようにあの 確かこれあれだホンダさんが紹介してたんでai フォーラム喋ったらね マックステグマーク知ってるとか言ってでライフ3.0本 をその時言われて大と思って買ってあれ僕結構結構というかあれのねあの何度も言ってますけども コンシャスネスっていうね意識のセクションを読んで なんかねディプレッションから抜けたっていうかね少し前向きになったんだけども今回も ゆうどこーすきーの話聞いてうわぁと思ったのがレックスフリーマンとマックステグマークの話聞いてたら なんかちょっと気が晴れたっていうかねやっぱり世の中に必要なのはあのあれね 科学的視点っていうかね冷静にロジカルに真実を真実というか現実をきちんと直視して さてどうするどうしない一つ一つ判断することかなというふうな気がしましたね そこでも言及されたし最近のあのアライメント問題の問題っていうか 資本主義競争競争社会の悪い側面みたいなんで モロックって言葉がねいっぱい出てきますねこれキーワードと思いますね みんなやりたくもないのに競争相手がそういう競争の土台でやってるからこっちも やらざるを得なくていやいややってて結果みんなアンハッピーになるようなシチュエーションがたくさんあるじゃない例えばつって 開発競争だったり各開発競争だったり ai 開発競争だったりいろんなビデオで言われているのはあの tiktok だっけインスタグラムだっけあの顔を可愛くするフィルターを誰かが使い始めたらみんな同行して可愛くん デフォルメしすぎて酷いんだけどもやめちゃうとアテンション取れなくなるからってみんなどんどん加速してって本当の素朴な部分ではそもそもなんでこれやってるのっていう部分を損なってない っていう話ねいやその通りだなぁと思うしそれって 日本のいじめ社会とかね学校のいじめみたいなもんと同じやねと思うしねなんか じゃあそれどうすんのって ai 開発のモロック的なシチュエーションはどうやって乗り越えれば いいの人類はっていうのは何なんでしょうねそういう愚かな競争から一抜けたって降りることなのかでも降りると 負けちゃうから降りれないっていうのがその状況だよね 悩ましいところですねと思うんだけどうん あの何も主張主義主張があって言ってるんじゃなくてこういう情報がふわふわと今僕の目の前に流れてますよっていうのを情報共有ねはいえっと 時系列的にてがツイッターの話でピックアップするとマックステグマークレックスフリードマンがあのねあのポッドキャスト公開したよって言ってマックステグマーク 自身も公開されたよって言ってる話とか 8 ai セーフティーの話は僕日本語だとこのバイオショックさんね勢力的に両方日本語で日本の人たちに 一生懸命情報共有してくれてるなぁとも重宝してます一通りねあの僕は上でビデオをいっぱい見て圧倒されたとか言ってる キーになるビデオの機械翻訳ベースなんでしょうけども日本語書き起こし ノートを勢力的にずっと公開されてますねあのぜひ英語だからって身の足を踏んでいる人もそこらへんをとっかかりに見て いただいたらいろいろ 今だからこの辺知恵を出し合わなきゃいけないところと思うんでねと思います サマールともねあの日本に来たねあのん 作詞やねうまいっていうかでこれを 僕たち日本人は生かせるのかどうかっていうのは日本ねあのボールが投げられているという感じですけどもその後でねあの mit のライブセッションで話をしたらしいっていう話でねレックスフリードラウンド2って書いてありますが 8 fli の6ヶ月止めようっていう話の後の話だけども多分僕印象だけ言ってますけども gpt 5は何も進めてないよって名言したら cc みたいな話でオープンレターにあからさまにサインはもちろんししないんだしでしょうけども本当の開発者はみんな機器は理解していて モロック的なシチュエーションであの ああいうあの愚かな アクションをドリブンしているのは押し方っていう指摘もいくつかいろんな情報でありますよね理性が オールっていうかなロジックが通るような金になってほしいなっていうのはいろんなところで思う ところですけどねはい 8その他関連しその意識 を改めてね考えるいいタイミングだろうと思ってたらなんか僕全然読めてないんだけど日本語の情報でねみんな大好きてらだトラフィックなんだけども どう関連するのかなーっていうのは抑えとかなきゃいけないなぁと思ってまだ pdfがダウンロードしたんですけど読んで読めてないですけども いろいろなところ考えたいなぁと思ったりもしている教科の方ですけども最後に最後に行ってから ai クライシスとか関係なくですね最近あの僕自身いろんなところでねあの自分を高めるというかね学んでいかなければいけない と思っていて学べるところねでいい時代になって昔だったらねこういうやのなんだろうなぁ 偉大な人の話を聞きたいと思っても20年前とか 50年前とか100年前とかさ聞けない所技術的にね今 youtube っていう技術があって 世界の最高峰その分野の世界のトップオブザトップっていう人たちの生の声が 聞けるっていう幸せな世の中ですよね だから自分を高めようとか学ぼうっていう自分を鍛える自分の脳みそをね トレインする ai をトレインして自分が楽しようっていうセンスじゃなくて自分自身をの後ろトレインする キーワードなんですけども8自分の気持ちがあればコンテンツがあるっていうことね なんですよねでなんかあのちょっと大と思ったビデオね あの皆さんにも共有して大って学びたいっていう人はあのインスパイアされてほしいなと思って ビデオ機あの気になったやつを共有しておきますけどもここ数日の話なんですけどね僕が発見したってことも リーナストーバールス皆さん知ってますねっていうあの これ別に新しいビデオじゃなくてこれ誰かがツイッターでねあの いいなとオープンソースプロジェクトはみんな仲良しじゃなくてもコラボレーションできて結果が出せるんだよっていう ことを誰かツイートしてその引用で見たねあの 多分このビデオを初めて見たんだペットで リーナスが呼ばれて ペットのホストのクリスアンダーソンと対談の形でやってるビデオ見たんだけど 今までのラウンドリーナスって結構物議をかもす系じゃないですかメーリングリストでなんか喧嘩したうんでなんかね気難しいとか怒りっぽいとかそういう感じのボッシーなタイプの人 なのかなって勝手に僕は先入観全然あの知らないですからね 思ってたんだけどもでこのビデオを見たらね あのいやリーナス好きなやつじゃないやつじゃんっていうか あのまあ付き合いにくい人ではあるんだろうけどもあの理解できるってかね純粋ってかねで それを見るとあの比較対象ってかね相対的な話なんだろうけどもコストのねクリスアンダーソンすら もう一度ねあのものを信仰しなきゃいけなかったりっていうそういう役割はあるんだけども 彼が俗物に見えるぐらいあのリーナスはああいうふうに僕は感じましたこのビデオ見てねあの でその中のエピソード中に言ったようにオープンソースはみんな仲良しじゃなくてもねみんなの中が悪くても一つの目標に向かって進むことができるんだよみたいな話が あったそうなんだね 思いましたマックステグマークのビデオはあのインスパイアされました皆さんおすすめです 2時間とかなんだよねまあレックスフィルド版のビデオね大変ですけどねで8 今日ねもうもう僕疲れたんでこれ最後にしまう最後というかねここも最後の今日のプレゼン最後のパートですけどもこれを紹介した ドナルドクルースドンクルースね偉大なコンピューターサイエンスの巨人ですけども 僕自身はコンピュータードンクルースの何がすごいっていうのは全然腹落ちしてないんです けどもっていうのはコンピューターサイエンスプロパの人じゃないしコンピューターは 独学なタイプなんで彼の偉大さというのは2もわかってないですけどあのツリー構造とかどうでもいい 感じなんで相当とか勝手にしてっていう感じなんであれなんだけどもでもまあね普通の人としてレイテックはねラテフはね 恩恵100パー受けてるしあの 記念品的にっていうかなディアートコンピュータープログラミングこれ3巻買ったのはいつだけね d終わって 日本にいるとに買ったんだけどでした3巻とりあえず買ってあれねあの後に僕がカナダで カナダのロンドンでお世話になったデビュー大理学の2体の 2つの2スフィアの厳密会をa の公式を イスタブしたデビッドジェフリー さんかケンブリッジでの人ですけどもあれだねあの クヌースの このディアートコンピュータープログラミングに引用されるような研究もやってるのねなんかあの喋った時かなロンドンであの行ったかなそれとも僕は あれかなこの本読んだかなあのお世話になりましたけどもあの才能のある人は何でもできるんだなぁと 思いますけどね8後あれねあの文芸的プログラミングってのは僕は一時期っていうかねあの すごいなぁと思いましたねあのわかりやすく言えば あれねプログラマーにが イントコメントを綺麗に書かなきゃあの読めるソースコードプログラムにならないよねっていう ものをアートのレベルまで高めるような考え方ね プログラムは文学的にかけるよ っていうことなんですよこれ結構面白い本なんで僕今もおすすめですけどね読んでない人はドンクヌースの影響力 でえっとそれは僕の過去のかこのっていうかなあの話なんだけど あれこれ古いなぁそうそうでね ドンクヌースは僕やっぱりな気になっているんだねいろんな部分でね2013年に ブログブログってかこの頃ミリアムっていうのが出始めてビンゲアムなんか書こうと思って書いてた記事が ありますね2013年に ドンクヌースがもう今時はもうこの時もうすでにおじいさんででも新しいアルゴリズムを勉強したすごいっていう風に喜んでる 記事を何か見かけて俺は甘えとるなぁと 202013年の僕はですねあの思って心引き締めて 人間一生学ばなきゃいけないとこの時思ったっていう話ですけどもね2013でしょ 10年後の2023年レックスフリードマンのあのポッドキャストに2回も出てるのね あの日本のビデオを見てすごいなぁと思いましたけどその日レックスフリードマンのビデオ からいいよね彼もやっぱり生産性というかね これだけ長い間第一線でねやってる秘訣はなんだっていうね これねまあ今流に言えばやる気が出ないでないって言ってないでまずやるとやることが大事だとしかも彼の 場合は一番やりたくないことをまずやれっていうのがどうもポリシーだしそれはお母さんから来てるみたいな話をしてましたね それはわかってるけどねって そこがこうできる人とできない人の違いになるのかなってあのビデオ見ながら思ったって話とこれねえっと なんだっけああ 若者にそうレックスフリードマンがいつもねあのインインタビューしている人にねいい人にね 若者にどういうアドバイスをするっていうふうに言った時のクヌスの答えねトレンディーなこととか 人がねやって別芸っていうようなチャラチャラしたことををやるんじゃなくて 自分自身が本当にやりたいことコーリングって英語では言いますけども それを探せとでも それねコーリング本当にやりたいことどうやったらわかるのっていう誰でも当然思うわけですねそれは やってみなきゃわかんないいい 年やあのわざわざ引用したのこの決めのセリフがねグッときたんでそれを言うぞ ライフィーズはバイナリーセーチ僕コンピューターサイエンスの 人間じゃないんで多分ねバイナリーサーチってのライフとん こうねペンって言われて幻想を見てるんだけどもすごいなぁと思いましたね そう本当にやりたいかどうかやんなきゃいけないしやってみたらこれだってわかるしこれじゃないってわかるねこれはくぬドンクヌースが言うから深いんだね でもいやそうだと思いますねネット後なんだっけあああとね人生の秘訣みたいな話ね退屈だっていうのが負けだみたいな話ねそうそれが負けなんですがつまんないって言っちゃう人はもうすでに人生負け てると楽しさはどこにでもあるそれを発見できるようなスキルが本当のスキルだみたいなことねドンクヌース今いくつなんだろうその彼が言うとやっぱり全部打ってきます ねはいで あとねあのレックスフリードマンのやつをね youtube さんがレコメンドしてくれるんで見てたら 最近目の去年の9月とかだったかねでミサーサビス もうあんでてましたねこれ 一通り見ましたけどもすごいねインスパイアされましたあの頑張らなきゃいけないなぁと思いました 甘えとるなぁと思います自分はねもっともっと自分を高めていかなきゃいけないなぁと思う今日この頃です 8時24分っていう感じでねあの 今日はねネタはもうこれ尽きてしまいました僕の準備もね 時間切れになったんでこれで終わりなんですけどもこんな感じですね技術書店は新刊出せるのかなぁ ちょっと不安になってますけどねっていう感じで 過ごしているゴールデンウィーク前の4月26日です 今日あれがタイトルコールしてないっけポッドキャストような 最後になりましたがすごくこんばんは前景 i フォーラムです 今日は2023年4月26日4月の終わりの前景 i フォーラムです最後たんですけど アナウンス入れときましたあのねあのai フォーラムのポッドキャストっていうのを やってますよねえっと前期学園んc さあねちょっとあの半年ぐらい半年遅れぐらいでキャッチアップしていくような感じに したいなーって言ってだけど今日4月末なんだけどもまだ去年の8月とかをうろちょろしてて4月だったらもう 10月とかのやつをやってたいところなんだけどもっていう話でもうちょっとペース上げなきゃって えっと去年去年じゃない先月から3月から 週2回日本ペースで スピードアップしてやってて今2022年去年の8月回に今日から突入したわけですが 仕込みをねもうだってイベント終わったら 3月のイベントはもう1月前に終わってるでしょ3月はまだ仕込んでないんだなぁ えっといつまでだっけな結構もうね6月ぐらいまで仕込み終わってるんですよ 僕に打って何が起きてもあのこのページのポッドキャストは4月4月や6月6月中旬ぐらいまでは週2回のペースずっと進行していきますちょっと遅めのやつね早あの直近のやつを見たければ youtube のアーカイブあるんでいつでも見に行っていただければ こんな感じで僕はわーわーと喋ってますのでお楽しみくださいって感じですがok はいえーっとちょっと早いですが8時半 今日の ai フォーラムこれで締めにしたいと思いますyoutube をご覧の皆様は今 2人だけ2人のうち1人は僕だなあの1人見ていただいてありがとうございます8 ゴールデンウィークもai がんばりましょういうことで8終わりにしますアーカイブを見ている人たちに向けて主にメッセージを 発しているという感じかなはい ね自分の脳みそを鍛えて 今よりもね自分をバージョンアップ日々していけば 1年後の自分はすごい自分になってますっていうことを信じてやっていきましょうか ありがとうはい太郎さんあのコメントありがとうございますあの心強いですありがとうございましたじゃあ8終わりにしますおやすみなさい