ICLR 2020より，BERT/RoBERTaの埋め込み空間に，敵対摂動を入れるVirtual Adversarial Trainingによって，モデル性能を改善するFreeLBという手法を解説しました．
今回紹介した記事はこちらのissueで解説しています． <a href="https://github.com/jojonki/arXivNotes/issues/347">https://github.com/jojonki/arXivNotes/issues/347</a>
サポーターも募集中です． <a href="https://www.patreon.com/jojonki">https://www.patreon.com/jojonki</a>

ICLR 2020より，BERT/RoBERTaの埋め込み空間に，敵対摂動を入れるVirtual Adversarial Trainingによって，モデル性能を改善するFreeLBという手法を解説しました． 今回紹介した記事はこちらのissueで解説しています． https://github.com/jojonki/arXivNotes/issues/347 サポーターも募集中です． https://www.patreon.com/jojonki

ICLR 2020より，BERT/RoBERTaの埋め込み空間に，敵対摂動を入れるVirtual Adversarial Trainingによって，モデル性能を改善するFreeLBという手法を解説しました．
今回紹介した記事はこちらのissueで解説しています． <a href="https://github.com/jojonki/arXivNotes/issues/347" rel="noopener noreferrer">https://github.com/jojonki/arXivNotes/issues/347</a>
サポーターも募集中です． <a href="https://www.patreon.com/jojonki" rel="noopener noreferrer">https://www.patreon.com/jojonki</a>

ep46: FreeLB: Enhanced Adversarial Training for Language Understanding

Leading NLP Ninjaでは最近のNLP (Natural Language Processing）に関連する論文をjojonkiが短く紹介します．気になったこと・質問・間違い等，フィードバック頂けると嬉しいです．
紹介する論文は，基本的に下記の論文まとめから取り上げる予定です．
https://github.com/jojonki/arXivNotes/issues

Technology

Leading NLP Ninjaでは最近のNLP (Natural Language Processing）に関連する論文をjojonkiが短く紹介します．気になったこと・質問・間違い等，フィードバック頂けると嬉しいです． 紹介する論文は，基本的に下記の論文まとめから取り上げる予定です． https://github.com/jojonki/arXivNotes/issues

Share ep46: FreeLB: Enhanced Adversarial Training for Language Understanding

Sign up to save your podcasts

ep46: FreeLB: Enhanced Adversarial Training for Language Understanding

ep46: FreeLB: Enhanced Adversarial Training for Language Understanding