fukabori.fm

75. GitHub Copilotの裏側 と 難解なテーマをわかりやすく説明する方法 w/ AIcia_Solid

Listen Later

GitHub Copilotの裏側、GPT、GPT-3、Scaling Law、Multi-head Attention、難解なトピックをわかりやすくする説明する方法などについて語っていただいたエピソードです。

話したネタ
  • AIcia Solid Project
  • GitHub Copilot とは？(補足: 本ep公開時点でGA)
  • GitHub Copilot の裏側で何が動いているのか？
  • GPT(Generative Pre-trained Transformer) とは何か？
  • 言語モデルのパラメータとは？
  • パラメータって GPT では、どのぐらいの数があるのか？
  • パラメータとは数が多ければいいもの？
  • Youtube: 【深層学習】Scaling Law - 大きい Transformer は強い【ディープラーニングの世界vol.38】
  • 論文: Scaling Laws for Neural Language Models
  • 学習の計算量と時間量
  • DALL·E 2
  • Transformer は並列が得意、とあるがもともとはできなかった？
  • LSTM(Long Short Term Memory)
  • Multi-head Attention とは？
  • GPT -> GPT-2 -> GPT-3 と進化するときに何が変わった？
  • GPT-3 の弱点は？
  • The Google engineer who thinks the company’s AI has come to life
  • GPT-3 を使う側は何をすればいい？
  • Fine Tuning と Hugging Face
  • YouTube: 【深層学習】GPT-3 ①-2 追加学習なしでタスクに対応する仕組み【ディープラーニングの世界vol.39-2】
  • Few-Shot、 One-Shot、 Zero-Shot
  • 動画でわかりやすく説明するために何を意識している？
  • 数式にこもっている魂を抜き出して説明する
  • 非専門領域の人にわかりやすく伝える方法
  • なぜこの活動(AIcia Solid Project)を続けられている？
  • (収録で間に合わなかった重大告知) 2022/7/26に書籍 分析モデル入門 が発売開始！
    • 訂正

    冒頭で "fukabori.fm の76回です" と言っていますが "75回" の間違いです。

    See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.
    ...more
    View all episodesView all episodes
    Download on the App Store
    fukabori.fmBy iwashi
    • 5
    • 5
    • 5
    • 5
    • 5

    5

    3 ratings

    More shows like fukabori.fm

    View all
    Rebuild by Tatsuhiko Miyagawa

    Rebuild

    49 Listeners

    backspace.fm by backspace.fm

    backspace.fm

    10 Listeners

    EM . FM #EMFM by EM.FM

    EM . FM #EMFM

    0 Listeners

    Off Topic // オフトピック by Off Topic

    Off Topic // オフトピック

    16 Listeners

    ガジェタッチのTech Life Talk with you by リンクマン/弓月ひろみ

    ガジェタッチのTech Life Talk with you

    3 Listeners

    Joi Ito's Podcast by 伊藤穰一

    Joi Ito's Podcast

    14 Listeners

    ゆるコンピュータ科学ラジオ by ゆるコンピュータ科学ラジオ

    ゆるコンピュータ科学ラジオ

    23 Listeners

    ひまじんプログラマーの週末エンジニアリングレッスン by ひまじんプログラマー

    ひまじんプログラマーの週末エンジニアリングレッスン

    0 Listeners

    ハイパー起業ラジオ by 尾原和啓 / けんすう

    ハイパー起業ラジオ

    1 Listeners

    Qiita FM-エンジニアのキャリアを深掘り- by Qiita

    Qiita FM-エンジニアのキャリアを深掘り-

    0 Listeners

    Podcast by Yuka Studio // ユカスタポッドキャスト by Podcast by Yuka Studio

    Podcast by Yuka Studio // ユカスタポッドキャスト

    3 Listeners

    耳で学ぶAI、ロボシンク by 矢野 哲平

    耳で学ぶAI、ロボシンク

    0 Listeners

    となりのデータ分析屋さん by 佐々木亮とたっちゃん

    となりのデータ分析屋さん

    0 Listeners

    ながらAIラジオ by usutaku/gomichan

    ながらAIラジオ

    0 Listeners

    深津貴之のGUILD TALK by THE GUILD

    深津貴之のGUILD TALK

    0 Listeners