文本情感分析
發(fā)布日期:2024-05-10
時間:5月9日(周三)
地點(diǎn):教13(302)
參訓(xùn)人員:21智能本1班
專家簡介:
李紅梅,安徽新華學(xué)院大數(shù)據(jù)與人工智能學(xué)院副教授,主持和參與多項(xiàng)教科研項(xiàng)目。
內(nèi)容概要:
受到計(jì)算機(jī)視覺領(lǐng)域采用 ImageNet 對模型進(jìn)行一次預(yù)訓(xùn)練,使得模型可以通過海量圖像充分學(xué)習(xí)如何提取特征,然后再根據(jù)任務(wù)目標(biāo)進(jìn)行模型精調(diào)的范式影響,自然語言處理領(lǐng)域基于預(yù)訓(xùn)練語言模型的方法也逐漸成為主流。以 ELMo為代表的動態(tài)詞向量模型開啟了語言模型預(yù)訓(xùn)練的大門,此后以 GPT和 BERT為代表的基于 Transformer 模型的大規(guī)模預(yù)訓(xùn)練語言模型的出現(xiàn),使得自然語言處理全面進(jìn)入了預(yù)訓(xùn)練微調(diào)范式新時代。
本次報(bào)告分兩個部分:
1.介紹語言模型的概念,發(fā)展歷程,構(gòu)建流程;
2.對語言模型中的訓(xùn)練數(shù)據(jù)的分類和處理過程進(jìn)行了分析。

