TeleAI 星辰語音大模型升級,支持中英雙語及 40 種方言任意混說
IT之家 11 月 3 日消息,中國電信人工智能研究院(TeleAI)在今年 5 月發(fā)布業(yè)內(nèi)首個支持 30 種方言自由混說的語音識別大模型 —— 星辰超多方言語音識別大模型。
時隔不到半年,TeleAI 星辰語音大模型的多方言能力再次升級,攻克了湛江話、宜賓話、洛陽話、煙臺話等方言,將方言種類從 30 種提升至 40 種,并引入對英文的識別。
與傳統(tǒng)的有標(biāo)注訓(xùn)練方法相比,TeleAI 通過預(yù)訓(xùn)練語音識別模型,利用海量無標(biāo)注數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,再通過少量有標(biāo)注數(shù)據(jù)進(jìn)行微調(diào)。
由于方言語音數(shù)據(jù)普遍存在無標(biāo)注數(shù)據(jù)多而有標(biāo)注數(shù)據(jù)少的特點,這種“預(yù)訓(xùn)練 + 微調(diào)”的模型方案與方言場景的需求能夠高度契合。
TeleAI 還在模型結(jié)構(gòu)和成本優(yōu)化吉印通行了創(chuàng)新,實現(xiàn)對人工標(biāo)注數(shù)據(jù)的需求量大幅降低約 50 倍,且保障模型效果與有監(jiān)督訓(xùn)練的方言模型水平相當(dāng)。
021yin.com/Tele-AI/TeleSpeech-ASR