Neue Studie: KI-Agenten verbrauchen bis zu 136,5-mal mehr Energie pro Anfrage als Chatbots

Eine neue Studie zeigt, dass KI-Agenten pro Anfrage bis zu 136,5-mal mehr Energie verbrauchen können als ein gewöhnlicher Chatbot, der eine vergleichbare Aufgabe bearbeitet. Der zusätzliche Strombedarf entsteht dabei nicht, weil die Antworten „klüger“ wären, sondern weil diese Systeme viel häufiger innehalten, Werkzeuge aufrufen und den nächsten Schritt erneut abwägen.

Damit wird aus einer Frage nach cleverer Software schnell eine Frage nach Strom. Sollten Agenten auch nur einen Teil alltäglicher Online-Aufgaben übernehmen, rechnet die Studie mit einem Energiebedarf, der gross genug wäre, um nationale Stromnetze zu belasten – und der beeinflussen könnte, wie die Infrastruktur hinter KI künftig gebaut wird.

Warum Agenten so viel Strom verbrauchen

Ein klassischer Chatbot antwortet in einem einzigen Durchlauf: Man stellt eine Frage, das Modell wird einmal ausgeführt, und die Antwort kommt zurück. Ein Agent geht anders vor. Er zerlegt ein Ziel in einzelne Schritte, ruft externe Werkzeuge wie eine Suchmaschine oder einen Rechner auf, liest die Ergebnisse und entscheidet dann über den nächsten Zug – und wiederholt diese Schleife, bis er bei einer Lösung ankommt.

Das Team um Professor Minsoo Rhu von der Korea Advanced Institute of Science and Technology (KAIST) School of Electrical Engineering wollte genau messen, was diese Schleifen kosten. Es handelte sich um eine direkte Messung: In der Versuchsanordnung liefen fünf Agenten-Designs auf Aufgaben wie Fragebeantwortung, Shopping, Mathematik und Programmieren, während jede einzelne Modellabfrage protokolliert wurde.

Der erste auffällige Befund war die Menge. Ein einfacher Chatbot löst eine Anfrage mit genau einem Aufruf an sein Sprachmodell; die Agenten riefen das Modell dagegen deutlich öfter auf – im Mittel etwa neunmal so häufig.

Ein Ansatz ging noch wesentlich weiter: Ein Tree-Search-Agent namens LATS kam im Durchschnitt auf 71 Modellaufrufe für eine einzige Anfrage, weil er mehrere Denkpfade in separaten Aufrufen erkundet, bevor er sich auf einen festlegt.

Das Problem mit untätigen GPUs

Diese vielen Aufrufe kosten nicht nur mehr Strom, sondern auch mehr Zeit. Jeder Schritt hängt vom vorherigen ab, weil das Modell erst das Ergebnis eines Werkzeugs sehen muss, bevor es entscheiden kann, wie es weitergeht.

Diese Kette lässt sich nur schwer beschleunigen. In den Tests der Studie konnte ein Agent mehr als 150-mal länger brauchen als ein Chatbot, der eine vergleichbare Frage beantwortet.

Der ungewöhnlichste Kostenpunkt steckt in der Hardware: Die teuren GPUs – spezialisierte Chips, auf denen diese Modelle laufen – stehen still, während ein Agent auf eine Websuche oder einen Taschenrechner wartet. In manchen Aufgaben blieben die Chips bis zu 54% der Laufzeit ungenutzt: eingeschaltet, aber ohne nützliche Arbeit.

Strombedarf im Massstab eines Stromnetzes

In Wattstunden wird die Differenz greifbar. Auf einem Modell mit 70 Milliarden Parametern, also einer Grössenordnung, die heutigen kommerziellen KI-Diensten ähnelt, benötigte ein reflexionsbasierter Agent namens Reflexion im Mittel etwa 348 Wattstunden, um eine einzelne Anfrage zu beantworten. Dasselbe Modell verbrauchte bei einer gewöhnlichen Chatbot-Anfrage ungefähr 2,5 Wattstunden.

Dass Agenten teuer sind, wurde in der Forschung schon länger vermutet – doch das Ausmass war bislang nicht direkt vermessen worden. Frühere Arbeiten hatten bereits gezeigt, dass generative KI für allgemeine Zwecke deutlich energiehungriger sein kann als spezialisierte Software; eine oft zitierte Studie kam etwa zu dem Ergebnis, dass sie pro Aufgabe um Grössenordnungen mehr Energie benötigen kann. Die neuen Daten setzen dieses Muster nun in der schrittweisen, wiederholenden Agentenwelt fort.

Die Hochrechnung der Studie skaliert diese Lücke bis hin zu nationalen Stromnetzen. Würden Agenten eines Tages 13,7 Milliarden Anfragen pro Tag abarbeiten – entsprechend dem heutigen Google-search-Volumen –, könnte der erforderliche Strombedarf laut Schätzung in die Nähe von 200 Gigawatt kommen.

Das liegt nahe an der Hälfte der durchschnittlichen Leistung, die das gesamte Stromnetz der Vereinigten Staaten zieht. Zugleich wäre das deutlich mehr als alles, was derzeit an KI-Rechenzentren geplant ist – einschliesslich der Multi-Gigawatt-Standorte, die Tech-Konzerne gerade mit Hochdruck bauen wollen.

Selbst bei heutigem Traffic bleibt der Bedarf hoch. Eine einzelne ChatGPT-artige Anfrage benötigt bereits etwa zehnmal so viel Strom wie eine Websuche, und andere Forschung warnt, dass der Gesamtappetit der KI bald dem eines kleinen Landes ähneln könnte.

Die Grenzen des Skalierens

Mehr Rechenaufwand kann die Qualität der Antworten verbessern. Der Haken: Der Nutzen flacht ab. Ab einem gewissen Punkt bleibt die Genauigkeit weitgehend stehen, während die Stromrechnung weiter steigt. Die Forschenden bezeichnen dieses Vorgehen als Test-Time-Scaling – also zusätzliche Rechenarbeit während der Antwortfindung statt eines grösseren Modells.

Diese Erträge schrumpfen schnell. Bei einem Agenten kostete es nahe am Genauigkeitslimit rund 31-mal mehr Rechenaufwand, um ein paar zusätzliche Genauigkeitspunkte herauszuholen, als dieselbe Verbesserung zuvor gekostet hatte.

Nicht jede Richtung führt jedoch in eine Sackgasse. Als das Team einem Agenten erlaubte, mehrere Denkpfade gleichzeitig zu prüfen statt nacheinander, stieg die Genauigkeit, und zugleich sank die Antwortzeit. Ein kleineres Modell mit dieser Methode kam nahe an die Leistung eines deutlich grösseren heran – bei geringerem Energieverbrauch.

Der Druck zeigt sich bereits bei Werkzeugen, die Menschen nutzen. OpenAIs Deep Research, das genau für solche mehrstufigen Aufgaben gebaut ist, kann bis zu 30 Minuten benötigen, um eine einzelne Anfrage zu beantworten. Um die Kosten zu begrenzen, beschränkt das Unternehmen, wie oft Abonnenten es verwenden dürfen.

Smartere KI-Agenten bauen

Was früher schwer zu greifen war, ist jetzt quantifiziert. Vor dieser Studie wurde der Stromverbrauch hinter dem „Denken“ eines Agenten meist nur grob geschätzt; nun gibt es harte Messwerte, die zeigen, dass die Kosten mit jeder zusätzlichen Schleife steigen – und dass zusätzliche Schleifen ab einem gewissen Punkt nur noch wenig bringen.

Rhu versteht das Ergebnis als Verschiebung dessen, was Fortschritt bedeuten sollte. „Diese Studie ist die erste, die quantitativ zeigt – nicht nur, wie KI intelligenter wird, sondern auch, wie viel Strom und welche Kosten erforderlich sind, um diese Intelligenz umzusetzen und aufrechtzuerhalten“, sagte Rhu.

Die Studie plädiert eher für schlankere Designs als für immer grössere Systeme. Eine von den Autoren hervorgehobene Option ist das Mischen kleiner und grosser Modelle: Ein leichtgewichtiges Modell übernimmt Routine-Schritte, und ein Schwergewicht wird nur dann zugeschaltet, wenn eine Aufgabe es wirklich verlangt – eine Idee, die laut einem aktuellen Paper sowohl Kosten als auch Verzögerungen senken könnte.

Für alle, die solche Werkzeuge verwenden, wird dieser Zielkonflikt in alltäglichen Begrenzungen sichtbar – etwa in Limits, wie viele „tiefe“ Anfragen ein Abo zulässt. Die grössere Frage bleibt, ob die Branche Kraftwerke baut, um brute-force Agenten zu betreiben, oder ob sie stattdessen klügere Agenten entwickelt, die von vornherein weniger Strom benötigen.