AI長期接觸垃圾數據會導致認知退化
2025-11-02 19:32:27 來源:三言科技
(資料圖)
據悉,最近一項研究發現,AI在長期接觸垃圾數據后,其推理能力和長文本理解力會出現斷崖式下跌,甚至在安全和倫理方面的表現也會下降。研究人員通過模擬人類無休止地刷低質量、碎片化內容的互聯網生活,將從社交媒體平臺上篩選出的垃圾數據以不同比例混合,持續喂食給模型。結果顯示,當垃圾數據比例從0%提升到100%時,模型的推理準確率急劇下降。研究還發現,模型在被垃圾數據腐蝕后,會跳過中間推理過程,直接給出粗糙答案。更令人擔憂的是,這種退化過程是不可逆的,即使重新投喂高品質數據并進行指令微調,模型的認知能力也無法完全恢復到初始水平。
關鍵詞:
推理
垃圾數據
認知退化