ep47 (ICLR): ALBERT: A Lite BERT for Self-supervised Learning of Language Representations - a podcast by jojonki

ICLR 2020より，factorized embeddingとパラメタ共有によるパラメタ削減及び文順序予測タスクを採用したALBERTを解説しました．

今回紹介した記事はこちらのissueで解説しています． https://github.com/jojonki/arXivNotes/issues/348

サポーターも募集中です． https://www.patreon.com/jojonki

---

Support this podcast: https://anchor.fm/lnlp-ninja/support

Further episodes of Leading NLP Ninja

Further podcasts by jojonki

Website of jojonki