Ich habe mal versucht, den Stromverbrauch und die CO2-Emissionen durch KI ausgehend von meinem eigenen Computer zu berechnen, also auch mit einem lokalen KI-Modell:

  • Während ich diese Zeilen hier tippe, liegt die Leistungsaufnahme meines Desktop-PCs bei etwa 100 Watt (einschließlich Monitor und FritzBox)
  • Wenn ich hingegen Train Sim World spiele, also CPU und Grafikkarte (GeForce RTX 3060) voll ausgelastet sind, komme ich auf 350-380 Watt.
  • Nehmen wir der Einfachkeit halber an, dass ein lokal laufende KI-Modell (das ja ähnlich viele Berechnungen auf der Grafikkarte ausführt) zu einer ähnlichen Leistungaufnahme führt.
  • 250 Watt mehr macht bei 4 Stunden am Tag, in denen das Modell arbeitet, also eine Kilowattstunde mehr pro Tag. 4 Stunden sind schon eine ganze Menge, schließlich wird man einen Teil der Zeit immer damit beschäftigt sein, den Output der KI zu überprüfen, nachzubearbeiten usw. Bei 220 Arbeitstagen im Jahr also 220 kWh.
  • Angenommen, ich würde den deutschen Durchschnitts-Strommix beziehen und nicht 100% Ökostrom von den Elektrizitätswerken Schönau: Dann wären wir bei 344 Gramm CO2 pro kWh
  • Bei 220 kWH wären das also ca. 76 kg CO2 mehr im Jahr
  • Das entspricht 630 km mit einem Verbrenner-Kleinwagen oder etwas mehr als der Hälfte eines Kurzstreckenflugs (Nürnberg-Frankfurt, einfache Strecke, mit Airbus A320 121 kg laut Myclimate)
  • Nicht einberechnet sind hier natürlich die Emissionen zum Trainieren des Modells. Die Zahlen, die man dazu findet, liegen Bereich von einigen hundert Tonnen CO2 für einen Lauf (z.B. hier), die sich dann aber über sehr viele Nutzungen verteilen
  • Es gibt auch noch High-End-Grafikkarten mit wesentlich höherer Leistungsaufnahme als bei meiner (über 500 Watt). Das sind auch genau die, mit denen sich auch größere KI-Modelle ausführen lassen.