KI-Energieverbrauch: Was das ML.ENERGY Leaderboard zeigt

Künstliche Intelligenz wirkt oft immateriell – am Ende sieht man nur Text, Bilder oder Videos auf einem Bildschirm. Doch jede Anfrage läuft auf Servern, die ganz real Strom verbrauchen. Neue Messungen zeigen zudem: Manche KI-Aufgaben benötigen erheblich mehr Energie als andere.

Direkte Tests auf aktuellen Systemen belegen, dass die Erzeugung eines einzigen KI-Videos über 100-mal so viel Strom aufnehmen kann wie die Generierung eines einzelnen Bildes.

Diese Unterschiede lassen sich nicht allein mit der Modellgrösse erklären. Entscheidend ist ebenso, welches Ergebnis das System liefern soll – und mit welchen Einstellungen es betrieben wird.

Um diese Spannweiten transparent zu machen, haben Ingenieurinnen und Ingenieure der University of Michigan (U-M) ein öffentliches Benchmarks-System entwickelt, das den Energiebedarf zusammen mit Geschwindigkeit und Qualität für identische Modelle und Aufgaben ausweist.

Ein neuer KI-Energie-Benchmark

Auf der ML.ENERGY-Rangliste werden diese Energieunterschiede gut sichtbar – direkt neben Tempo und Qualitätswerten, jeweils für dieselben Modelle und dieselben Aufgaben.

Mit dem offenen Werkzeugkasten hinter dieser Rangliste hat das Team dokumentiert, dass unterschiedliche Deployments ein und desselben Modells drastisch unterschiedliche Strommengen ziehen können.

Über Sprach-, Bild- und Videosysteme hinweg kamen die grössten Ausschläge nicht nur durch die Parameteranzahl zustande, sondern vor allem durch Konfiguration und Aufgabenstellung.

Der direkte Vergleich macht deutlich: Energieverbrauch ist kein unveränderlicher „Preis“ für KI-Fähigkeit, sondern ein Ergebnis von Designentscheidungen – und genau diese Entscheidungen verdienen eine genauere Prüfung.

Wie der KI-Stromverbrauch gemessen wurde

In ihrer Arbeit erfasste die U-M-Gruppe den Energieeinsatz für 46 Modelle und sieben Aufgaben – über insgesamt 1,858 Hardware- und Software-Konfigurationen.

Im Mittelpunkt standen Messungen während der Inferenz, also genau in dem Moment, in dem ein trainiertes Modell eine Anfrage beantwortet. Denn in dieser Phase leisten Server den Grossteil der Arbeit.

Für die KI-Landschaft insgesamt schätzt der ML.ENERGY-Benchmark, dass Inferenz 80 bis 90 Prozent des gesamten Rechenbedarfs ausmacht.

Aktuelle Prognosen der Internationalen Energieagentur veranschlagen die Nachfrage von Rechenzentren in den Vereinigten Staaten auf 183 Terawattstunden im Jahr 2024 – und auf 426 Terawattstunden bis 2030.

Timing prägt den Energiebedarf von KI

Bei Sprachmodellen hing der Energieverbrauch stark davon ab, wie die Antworten erzeugt wurden. In den Tests konnte Problemlösen pro Antwort bis zu 25-mal mehr Strom benötigen als lockere Unterhaltung.

Der Kern des Unterschieds lag in der Ausgabelänge: Modelle produzieren Text in kurzen Einheiten. Jede zusätzliche Einheit löst weitere Rechenoperationen und zusätzlichen Speicherverkehr im Server aus.

Im „Reasoning“-Modus erzeugten die Modelle häufig etwa zehnmal mehr solcher Ausgabeeinheiten – und gleichzeitig sank, wie viele Anfragen das System parallel verarbeiten konnte.

Weil längere Ausgaben mehr Strom ziehen, lässt sich der Energiebedarf senken, wenn man Antworten kürzer hält oder die Generierung früher stoppt – selbst dann, wenn die Anfrage selbst unverändert bleibt.

Auch Stapelverarbeitung veränderte die Rechnung: Wenn viele Anfragen zusammen bearbeitet wurden, sank der Energieverbrauch pro Ausgabeeinheit zunächst um den Faktor drei bis fünf, bevor der Effekt abflachte. Diese Einstellung – die Stapelgrösse – steigert die Hardwareauslastung, weil die Chips gleichmässiger beschäftigt sind.

Dem steht ein Geschwindigkeitsnachteil gegenüber. Grössere Stapel verzögern jede einzelne Antwort, weil das System mehr Arbeit erledigen muss, bevor es die nächste Einheit ausgeben kann.

Bei Diensten, die sich „sofort“ anfühlen sollen, können kleinere Stapel den zusätzlichen Energieverbrauch rechtfertigen – Nutzerinnen und Nutzer reagieren typischerweise stärker auf Verzögerungen als auf Stromkosten.

Wenn Hardware alles ausbremst

Der Energiebedarf war nicht nur eine Frage des Modells. In manchen Fällen entstand die grösste Verschwendung in den Schritten rund um das Modell.

KI-Systeme nutzen leistungsstarke Grafikprozessoren (GPUs) für den Grossteil der Berechnungen. Doch selbst wenn eine GPU auf Daten wartet, verbraucht sie weiterhin Strom. Energie kann also allein dadurch verloren gehen, dass die Abläufe im System nicht sauber aufeinander abgestimmt sind.

Gerade bei Bild- und Videoaufgaben muss eine Anfrage häufig zusätzlich vorbereitet werden, bevor sie die GPU erreicht.

Diese Vorarbeit läuft typischerweise auf herkömmlichen Prozessoren. Dauert sie zu lange, bleibt die GPU untätig – eingeschaltet, aber ohne produktive Arbeit.

In solchen Situationen löst ein Upgrade auf eine schnellere GPU das Problem nicht zwingend. Wenn andere Teile der Software weiterhin bremsen, wartet der teure Chip weiterhin – und zieht dabei weiterhin Leistung.

Wie Rechenaufwand Energie treibt

Bei Bild- und Videogeneratoren hing der Stromverbrauch weniger von der Parameterzahl ab als davon, was Nutzerinnen und Nutzer erzeugen lassen.

Ein kurzes KI-Video konnte deutlich mehr Energie beanspruchen als ein einzelnes Bild, weil der Erzeugungsprozess anders abläuft.

Diffusionsmodelle – Systeme, die visuelles Rauschen Schritt für Schritt verfeinern – führen ihre Kernoperationen wiederholt aus.

Mehr Schritte, höhere Auflösung und zusätzliche Frames erhöhen jeweils den Rechenaufwand und die Speicherbewegungen. Mit jeder „Aufwertung“ steigt damit auch der Energiebedarf.

Eine niedrigere Auflösung oder weniger Frames können den Energiehunger rasch reduzieren – allerdings verändern diese Anpassungen zugleich Bildschärfe und Bewegungsqualität.

Präzisionseinstellungen und Verkehrsmuster

Präzisionseinstellungen brachten eine weitere Ebene an Komplexität. Selbst wenn das Modell unverändert blieb, führten kleinere Zahlenformate im realen Betrieb nicht automatisch zu geringerem Stromverbrauch.

Bei der Quantisierung – Zahlen werden mit weniger Bits gespeichert – müssen Server zwar weniger Daten verschieben, leisten aber zusätzliche Umwandlungsarbeit.

Bei kleinen Stapelgrössen verhinderte dieser Mehraufwand mitunter eine effiziente Hardwareauslastung, sodass sowohl die Verzögerung als auch der Energieverbrauch anstiegen.

Damit hängt die effizienteste Präzisionswahl von den Verkehrsmustern ab; und welche Einstellung optimal ist, kann sich mit der Systemauslastung verschieben.

Mehr GPUs, gemischte Ergebnisse

Wenn ein Modell über mehr GPUs skaliert wurde, sanken die Antwortzeiten häufig – bei gleicher Stapelgrösse stieg der Gesamtenergieverbrauch jedoch meist.

Zusätzliche Geräte müssen sich über schnelle Verbindungen koordinieren, und diese Abstimmung erzeugt Overhead, der keine neuen Ausgabeeinheiten produziert.

Wenn Speichergrenzen auf einer einzelnen GPU grössere Stapel verhinderten, konnte das Verteilen des Modells über mehrere GPUs den Energieverbrauch insgesamt allerdings manchmal senken.

Welche Option praktikabel ist, hängt davon ab, wie viel Verzögerung Nutzerinnen und Nutzer akzeptieren – und ob das Modell ohne Reibungsverluste auf weniger Chips Platz findet.

KI mit Blick auf Energie entwerfen

Anstatt Energie als unsichtbaren Nebeneffekt zu behandeln, können Teams den Verbrauch pro Anfrage während Entwicklung und Tests mitführen.

Automatisierte Durchläufe lassen sich auf eigenen Modellen und eigener Hardware ausführen. Mit dem U-M-Werkzeugkasten können dabei Einstellungen ausprobiert werden, die eine Zielverzögerung einhalten und zugleich in einem Energiebudget bleiben.

Weil viele kommerzielle Angebote ihre Stromdaten nicht offenlegen, konzentriert sich die öffentliche Rangliste auf Modelle mit offenen Gewichten, deren interne Parameter sich prüfen und vergleichen lassen. Diese Transparenz macht zugleich eine grundsätzliche Lücke im Feld sichtbar.

„The reality is not black and white, and there’s a lot we don’t know because nobody is making direct measurements of AI power use available,“ sagte Chowdhury.

Klare Energiekennzahlen verbinden das, was ein Modell erzeugt, mit dem Verhalten der Server und der Arbeitsweise der Hardware – und machen daraus ein Budget, mit dem man praktisch planen kann.

Wenn mehr Gruppen direkte Messungen veröffentlichen, können Entwicklerinnen und Entwickler, Netzplaner sowie Käuferinnen und Käufer über KI-Wachstum auf Basis von Daten statt mit Worst-Case-Rechnungen diskutieren. Ausserdem lassen sich Systeme von Beginn an so gestalten, dass Leistung und Strombedarf gemeinsam optimiert werden.