Quration Play

tech

Vốn được tạo ra để dựng hình cho trò chơi điện tử, những con chip này hóa ra lại rất hợp với khối tính toán khổng lồ phía sau việc huấn luyện AI.

Vì sao GPU lại quan trọng đến vậy với AI hiện đại?

Chúng thực hiện vô số phép tính song song cùng lúc
Một GPU có thể thực hiện hàng nghìn phép tính đơn giản cùng lúc. Huấn luyện AI chính là loại toán song song quy mô lớn như vậy, nên GPU — ban đầu làm cho trò chơi điện tử — trở thành cỗ máy chủ lực của AI.

GPU, hay bộ xử lý đồ họa, ban đầu được thiết kế để dựng hình đồ họa 3D phức tạp cho trò chơi điện tử, một công việc đòi hỏi thực hiện một số lượng khổng lồ các phép tính toán học đơn giản cùng lúc trên hàng triệu điểm ảnh. Hóa ra việc huấn luyện các mô hình AI đòi hỏi một khối lượng công việc rất giống như vậy: một lượng lớn phép nhân ma trận được thực hiện song song, nên các nhà nghiên cứu nhận ra GPU có thể huấn luyện mạng nơ-ron nhanh hơn nhiều so với các bộ xử lý truyền thống vốn được xây dựng để xử lý từng tác vụ một lần lượt.

Lưu trữ tệp tin là công việc của ổ cứng hay ổ SSD, không phải GPU, thứ chuyên dùng cho tính toán chứ không phải lưu trữ dữ liệu. Giữ máy tính mát mẻ do quạt và bộ tản nhiệt đảm nhận, và dù GPU có sinh ra nhiều nhiệt khi hoạt động nặng, làm mát không phải chức năng của chúng.

Sự giao thoa bất ngờ này từ phần cứng chơi game sang AI đã có tác động lớn đến mức nhu cầu từ các công ty AI, đôi lúc, đã gây ra tình trạng khan hiếm và tăng giá GPU mà chính người chơi game cũng cần cho máy console và PC của họ.

▶ Quration Play

tech

"Phishing" là gì?"Deep learning" (học sâu) là gì?"Rò rỉ dữ liệu" là gì?"Metaverse" (vũ trụ ảo) là gì?"SaaS" (phần mềm dạng dịch vụ) nghĩa là gì?"Ransomware" (mã độc tống tiền) là gì?"VPN" làm gì?"Tường lửa" (firewall) làm gì trên máy tính hoặc mạng?"CAPTCHA" được dùng để làm gì?Lợi ích chính của các mô hình 'suy luận' này là gì?Tạo sinh tăng cường truy xuất (RAG) làm gì?Đâu là lợi thế then chốt của AI 'trên thiết bị' này?

Quration — Quration Play