Energieverbrauch von generativen Sprachmodellen

Auf der Bits & Bäume Mailingliste gab es die Nachfrage zu konkreten Zahlen über den Energieverbrauch von ChatGPT und anderen Tools. Die durchweg sehr hilfreichen Antworten halte ich hier fest.

Zunächst ein paar plakative Vergleiche, die z.B. in Vorträgen genutzt werden können – samt Quellenangabe (Es ist zu beachten, dass neuere Versionen wie GPT4 im Gegensatz zu GPT2 durchaus noch einmal einen deutlich höheren Energieverbrauch haben können:

  • Jede ChatGPT-Abfrage verbraucht so viel Energie wie der Betrieb einer 5W-LED-Glühbirne für 26,5 Stunden (Quelle)
  • Ein Austausch mit KI kostet 10-mal mehr Energie als eine normale Stichwortsuche. (Quelle)
  • Das Training von GPT-3 verbrauchte 700.000 Liter sauberes Süßwasser (Quelle)
  • ChatGPT benötigt eine 500-ml-Flasche Wasser für eine kurze Unterhaltung mit etwa 20 bis 50 Fragen und Antworten. (Quelle)

Unter diesem Link findet sich zudem eine ausführliche Studie über den CO2-Verbrauch beim maschinellen Lernen, die in dieser Präsentation zusammengefasst ist.

Besonders hilfreich für mich fand ich diese ausführliche Darstellung – inklusive mehrerer Stichpunkte, wie KI-Technologie weniger klimaschädlich gestaltet und genutzt werden kann