這種由AI生成的訓練素材叫什麼?

合成資料是由AI模型或電腦模擬所產生的訓練素材,而不是直接從真實世界的人類書寫內容、影像或事件中蒐集而來。隨著AI實驗室日益面臨可用的新鮮、高品質人類生成文字資料有限的問題,合成資料提供了一種填補缺口的方式,特別是在真實範例稀少、蒐集成本高昂或涉及隱私的領域,讓研究人員得以生成大量額外的、量身打造的訓練範例。

開源資料指的是任何人都可以自由使用或修改的資訊或程式碼,這是一個和內容是否由AI生成無關的授權概念。詮釋資料(metadata)只是描述其他資料的資訊,例如檔案的建立日期或作者,而不是AI系統本身生成的訓練內容。

研究人員已提出警告,若過度依賴由早期AI模型生成的資料來訓練新的AI模型,而非真正由人類創作的內容,可能會隨著世代更迭逐漸損害品質與多樣性,這種回饋迴圈問題被研究人員戲稱為「模型崩潰」(model collapse)。