技術新知
本中心研究人員的技術筆記與論文導讀,涵蓋自然語言處理、模型訓練技巧與生成式 AI 應用。內容多為讀完論文後的整理與實作心得,適合已有機器學習基礎、想快速掌握方法重點的讀者。
-
最強AI!ChatGPT 真的這麼厲害嗎?來看微軟 MVP 怎麼說
ChatGPT 是一個人工智慧聊天機器人程式,使用基於 GPT-3.5 架構的大型語言模型並透過強化學習進行訓練。 由 OpenAI 開發,…
-
Text Summarization with Pretrained Encoders:如何將 BERT 應用在 Text Summarization Task 上
Abstract 不管要解任何問題,從 BERT、ELMo、GPT 等等,這些大家琅琅上口的各種預訓練模型開始進行,在 NLP 領域基本已經變成起手式。…
-
SimCSE:Contrastive Learning 在 NLP 的應用,Sentence Embedding 的新 SOTA
Abstract: 去年(2020)在 Computer Vision 領域,Contrastive Learning(CL,對比學習)顯得風風火火,…
-
Mixed Precision Training(Pytorch 範例程式)
Mixed precision training 是由百度與 NVIDIA 發表於 ICLR 2018 的論文,其提出一種訓練方法,…
