fukabori.fm

75. GitHub Copilotの裏側 と 難解なテーマをわかりやすく説明する方法 w/ AIcia_Solid


Listen Later

GitHub Copilotの裏側、GPT、GPT-3、Scaling Law、Multi-head Attention、難解なトピックをわかりやすくする説明する方法などについて語っていただいたエピソードです。

話したネタ
  • AIcia Solid Project
  • GitHub Copilot とは?(補足: 本ep公開時点でGA)
  • GitHub Copilot の裏側で何が動いているのか?
  • GPT(Generative Pre-trained Transformer) とは何か?
  • 言語モデルのパラメータとは?
  • パラメータって GPT では、どのぐらいの数があるのか?
  • パラメータとは数が多ければいいもの?
  • Youtube: 【深層学習】Scaling Law - 大きい Transformer は強い【ディープラーニングの世界vol.38】
  • 論文: Scaling Laws for Neural Language Models
  • 学習の計算量と時間量
  • DALL·E 2
  • Transformer は並列が得意、とあるがもともとはできなかった?
  • LSTM(Long Short Term Memory)
  • Multi-head Attention とは?
  • GPT -> GPT-2 -> GPT-3 と進化するときに何が変わった?
  • GPT-3 の弱点は?
  • The Google engineer who thinks the company’s AI has come to life
  • GPT-3 を使う側は何をすればいい?
  • Fine Tuning と Hugging Face
  • YouTube: 【深層学習】GPT-3 ①-2 追加学習なしでタスクに対応する仕組み【ディープラーニングの世界vol.39-2】
  • Few-Shot、 One-Shot、 Zero-Shot
  • 動画でわかりやすく説明するために何を意識している?
  • 数式にこもっている魂を抜き出して説明する
  • 非専門領域の人にわかりやすく伝える方法
  • なぜこの活動(AIcia Solid Project)を続けられている?
  • (収録で間に合わなかった重大告知) 2022/7/26に書籍 分析モデル入門 が発売開始!
  • 訂正

    冒頭で "fukabori.fm の76回です" と言っていますが "75回" の間違いです。

    See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.
    ...more
    View all episodesView all episodes
    Download on the App Store

    fukabori.fmBy iwashi

    • 5
    • 5
    • 5
    • 5
    • 5

    5

    2 ratings


    More shows like fukabori.fm

    View all
    Rebuild by Tatsuhiko Miyagawa

    Rebuild

    48 Listeners

    backspace.fm by backspace.fm

    backspace.fm

    11 Listeners

    mozaic.fm by Jxck

    mozaic.fm

    2 Listeners

    Misreading Chat by Hajime Morrita, Jun Mukai

    Misreading Chat

    6 Listeners

    EM . FM #EMFM by EM.FM

    EM . FM #EMFM

    0 Listeners

    Off Topic // オフトピック by Off Topic

    Off Topic // オフトピック

    16 Listeners

    ガジェタッチ by リンクマン/弓月ひろみ

    ガジェタッチ

    3 Listeners

    佐々木亮の宇宙ばなし by 佐々木亮

    佐々木亮の宇宙ばなし

    3 Listeners

    ゆる言語学ラジオ by Yuru Gengogaku Radio

    ゆる言語学ラジオ

    54 Listeners

    ひまじんプログラマーの週末エンジニアリングレッスン by ひまじんプログラマー

    ひまじんプログラマーの週末エンジニアリングレッスン

    0 Listeners

    ゆるコンピュータ科学ラジオ by ゆるコンピュータ科学ラジオ

    ゆるコンピュータ科学ラジオ

    14 Listeners

    Qiita FM-エンジニアのキャリアを深掘り- by Qiita

    Qiita FM-エンジニアのキャリアを深掘り-

    0 Listeners

    Podcast by Yuka Studio // ユカスタポッドキャスト by Podcast by Yuka Studio

    Podcast by Yuka Studio // ユカスタポッドキャスト

    3 Listeners

    となりのデータ分析屋さん by 佐々木亮とたっちゃん

    となりのデータ分析屋さん

    0 Listeners

    耳で学ぶAI、ロボシンク by 矢野 哲平

    耳で学ぶAI、ロボシンク

    0 Listeners