體育資訊6月22日稱 近日，美國AI公司Anthropic在《自然》雜志發(fā)表的一篇文章稱，AI大型語言模型正通過訓(xùn)練數(shù)據(jù)在模型間傳播不良傾向。科學(xué)家將這種現(xiàn)象命名為“潛意識學(xué)習(xí)”，目前對這種學(xué)習(xí)機制的具體原理還不明確，它似乎是神經(jīng)網(wǎng)絡(luò)與生俱來的特性。

實驗中，團隊先預(yù)訓(xùn)練了一個“老師”AI模型，隨后基于它生成了規(guī)模更小的“學(xué)生”模型。結(jié)果發(fā)現(xiàn)，即便把“老師”模型中所有明顯包含不良內(nèi)容的數(shù)據(jù)都過濾掉，“學(xué)生”模型依然繼承了“老師”潛藏的不良傾向。

科學(xué)家警告，若訓(xùn)練數(shù)據(jù)存在問題或遭故意“投毒”，即便剔除顯性不良內(nèi)容，后續(xù)AI仍可能被“教壞”。更令人擔(dān)憂的是，目前科學(xué)家既不清楚這種“潛意識學(xué)習(xí)”的底層原因，也還沒找到有效的避免方法。隨著AI生成的數(shù)據(jù)越來越多，甚至有人刻意投喂“毒數(shù)據(jù)”，AI的能力越強，潛在的災(zāi)難性后果可能就越嚴(yán)重。