Quration Play

tech

Ursprünglich zum Darstellen von Videospielen gebaut, erwiesen sich diese Chips als ideal für die enormen Rechenmengen beim Training einer KI.

Warum sind GPUs für moderne KI so wichtig?

Sie führen riesige Mengen an Berechnungen parallel aus
Eine GPU kann Tausende einfacher Berechnungen gleichzeitig ausführen. KI-Training besteht genau aus solch massiv paralleler Mathematik – deshalb wurden GPUs, ursprünglich für Videospiele gebaut, zum Arbeitstier der KI.

GPUs, Grafikprozessoren, wurden ursprünglich entwickelt, um komplexe 3D-Grafiken für Videospiele darzustellen, eine Aufgabe, die riesige Mengen einfacher mathematischer Berechnungen gleichzeitig über Millionen Pixel erfordert. Es stellte sich heraus, dass das Training von KI-Modellen eine sehr ähnliche Arbeitslast mit sich bringt: massive Mengen paralleler Matrixmultiplikation, sodass Forscher erkannten, dass GPUs neuronale Netze weit schneller trainieren können als klassische Prozessoren, die Aufgaben nacheinander abarbeiten.

Das Speichern von Dateien übernehmen Festplatten oder SSDs, nicht GPUs, die auf Berechnung statt Datenspeicherung spezialisiert sind. Für die Kühlung von Computern sorgen Lüfter und Kühlkörper, und obwohl GPUs bei starker Auslastung erhebliche Wärme erzeugen, ist Kühlung nicht ihre Funktion.

Dieser unerwartete Übertritt von Gaming-Hardware in die KI hat teils so weitreichende Folgen gehabt, dass die Nachfrage von KI-Firmen zeitweise Engpässe und Preissprünge bei GPUs ausgelöst hat, auf die auch Gamer für ihre Konsolen und PCs angewiesen sind.

▶ Quration Play

tech

Was ist „Phishing"?Was ist „Deep Learning"?Was ist ein "Datenleck"?Was ist "das Metaverse"?Was bedeutet "SaaS" (Software as a Service)?Was ist "Ransomware"?Was macht ein "VPN"?Was macht eine "Firewall" auf einem Computer oder im Netzwerk?Wofür wird ein "CAPTCHA" verwendet?Was ist der Hauptvorteil dieser „Reasoning“-Modelle?Was macht Retrieval-Augmented Generation (RAG)?Was ist ein zentraler Vorteil dieser 'On-Device'-KI?

Quration — Quration Play