tech
這些晶片原本是為了繪製電玩畫面而打造,卻意外地非常適合訓練AI背後龐大的運算。
GPU(圖形處理器)最初是為了在電玩遊戲中呈現複雜的3D畫面而設計,這項工作需要同時對數以百萬計的像素進行大量簡單的數學運算。結果研究人員發現,訓練AI模型所需的運算方式與此極為相似:都需要大量平行進行的矩陣乘法運算,因此GPU訓練神經網路的速度,遠比為逐一循序處理任務而設計的傳統處理器快得多。
儲存檔案是硬碟或固態硬碟的工作,不是GPU的職責,GPU專門用於運算,而非資料儲存。讓電腦保持涼爽則是風扇與散熱片的工作,雖然GPU在高負載運作時確實會產生大量熱能,但散熱並不是它的功能。
這種從遊戲硬體意外跨界到AI領域的現象影響深遠,以至於AI公司的需求有時會導致GPU出現短缺與價格飆漲,而這些GPU同樣也是玩家用於主機與個人電腦所仰賴的產品。
tech
什麼是「網路釣魚(phishing)」?什麼是「深度學習(deep learning)」?什麼是「資料外洩」?什麼是「元宇宙」?「SaaS」(軟體即服務)是什麼意思?什麼是「勒索軟體」?「VPN」有什麼作用?在電腦或網路上,「防火牆」有什麼作用?「CAPTCHA」是用來做什麼的?這類「推理」模型的主要好處是什麼?檢索增強生成(RAG)會做什麼?這種「裝置端」AI 的關鍵優勢是什麼?Quration — Quration Play