fukabori.fm

56. 自然言語処理(NLP)の歴史、BERT w/ Takahiro Omi


Listen Later

話したネタ
  • BERTによる自然言語処理入門 ―Transformersを使った実践プログラミング―
  • 自然言語処理とは?
  • 自然言語処理の応用範囲は?
  • 機械翻訳、メールフィルタ、チャットボット
  • 自然言語処理はどのように発展してきたのか?
  • NN (ニューラルネットワーク) とは何か?
  • NN における大きなブレイクスルー
  • AlexNet
  • エンドツーエンド処理
  • Deep NN におけるディープとは?
  • 学習とは具体的にはどのような処理?
  • RNN (Recurrent Neural Network) とは?
  • RNN で解きたかった課題は何か?
  • RNN における処理イメージ
  • RNN の課題
  • LSTM (Long Short Term Memory)
  • LSTM の特徴、文脈考慮
  • NN への文章はどのように入力するのか?
  • 単語をベクトルで表現する
  • ELMo と LSTM との関連性は?
  • なぜ双方向の情報を使うのが効果的なのか?
  • セサミストリート
  • Transformers の登場
  • Self-Attention とは?
  • Self-Attention の計算効率利点
  • Attention と Transformer との関連性は?
  • BERT(Bidirectional Encoder Representations from Transformers) とは?
  • エンコーダとデコーダとは?
  • BERT の特徴とは?
  • BERTによるニュース記事の構造化:企業名抽出
  • 自然言語処理界隈はどのように進化していくのか?
  • GitHub Copilot
  • Recruit、ストックマーク株式会社
  • See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.
    ...more
    View all episodesView all episodes
    Download on the App Store

    fukabori.fmBy iwashi

    • 5
    • 5
    • 5
    • 5
    • 5

    5

    2 ratings


    More shows like fukabori.fm

    View all
    Rebuild by Tatsuhiko Miyagawa

    Rebuild

    52 Listeners

    backspace.fm by backspace.fm

    backspace.fm

    11 Listeners

    EM . FM #EMFM by EM.FM

    EM . FM #EMFM

    0 Listeners

    Off Topic // オフトピック by Off Topic

    Off Topic // オフトピック

    16 Listeners

    ガジェタッチのTech life talk with you by リンクマン/弓月ひろみ

    ガジェタッチのTech life talk with you

    4 Listeners

    ゆる言語学ラジオ by Yuru Gengogaku Radio

    ゆる言語学ラジオ

    53 Listeners

    Joi Ito's Podcast by 伊藤穰一

    Joi Ito's Podcast

    17 Listeners

    ひまじんプログラマーの週末エンジニアリングレッスン by ひまじんプログラマー

    ひまじんプログラマーの週末エンジニアリングレッスン

    0 Listeners

    ゆるコンピュータ科学ラジオ by ゆるコンピュータ科学ラジオ

    ゆるコンピュータ科学ラジオ

    18 Listeners

    Qiita FM-エンジニアのキャリアを深掘り- by Qiita

    Qiita FM-エンジニアのキャリアを深掘り-

    0 Listeners

    Podcast by Yuka Studio // ユカスタポッドキャスト by Podcast by Yuka Studio

    Podcast by Yuka Studio // ユカスタポッドキャスト

    3 Listeners

    となりのデータ分析屋さん by 佐々木亮とたっちゃん

    となりのデータ分析屋さん

    0 Listeners

    ハイパー起業ラジオ by 尾原和啓 / けんすう

    ハイパー起業ラジオ

    0 Listeners

    耳で学ぶAI、ロボシンク by 矢野 哲平

    耳で学ぶAI、ロボシンク

    0 Listeners

    ながらAIラジオ by usutaku/gomichan

    ながらAIラジオ

    1 Listeners