KI & Klima

[Randow]

Rechnen braucht Energie, so weit, so trivial. Aber die Energieeffizienz des Rechnens ist ein Forschungsthema, das seine Grenze noch lange nicht erreicht hat. Viel innovativer als die Forderung nach neuen Kernkraftwerken für KI-Rechenzentren.

 

[Moogulator]

Am Ende ist das aber eben auch nur ein Problem der Versorgung - und das kann man schaffen. Die Wortwahl (meine) ist nicht so exakt - aber am Ende gibt es Lösungen dafür.
Das ist, wo ich mehr dran "glaube", als das man KI bremst oder weniger nutzt, quasi "sparen" als Konzept.

Das ist, was ich zum eigentlichen Thema sagen würde.
Als Land sind wir zwar technisch etwas zurück - aber man kann es schaffen, mehr so über 10-20 Jahre hinweg mit einem Konzept und den richtigen Maßnahmen und ggf. mehr Tarifen die das fördern. Geld macht das idR von allein so wie es sein soll. Das ist nicht viel Justage. Aber ein bisschen.

 

[e-online]

Rechnen braucht Energie, so weit, so trivial. Aber die Energieeffizienz des Rechnens ist ein Forschungsthema, das seine Grenze noch lange nicht erreicht hat. Viel innovativer als die Forderung nach neuen Kernkraftwerken für KI-Rechenzentren.

absolut. Stichwort Analogue Computing. Spart in etwa 70% Energie gegenüber KI-Berechnung in GPUs. Aber da ist noch einiges an Entwicklungsarbeit notwendig und die Akzeptanz, dies dann auch einzusetzen. Es ist daher aktuell einfacher, mit mehr Energie zu planen, anstatt auf Effizienz zu hoffen.

 

[ollo]

Das ist meiner Ansicht nach eine sehr naive Vorstellung, dem Problem zu begegnen.
Wenn es so ist, dass eigentlich jeder zusätzliche CO2 Ausstoß schon zu viel ist,
kann man einen erheblichen Mehraufwand an Energie nicht einfach mit ein bisschen PV kompensieren.
Schon allein, weil die PVs in dieser Sichtweise sowieso schon notwendig wären, auch ohne den KI Mehraufwand.

Also ich meine was denn nun, PV um die Welt zu retten oder für die KI ? Oder geht wirklich beides ?
Bzw. will man das wirklich drauf ankommen lassen, weil das ja so toll und so cool ist und so future ?
Das Zeug fällt ja nicht vom Himmel und hat ne gewissen Bilanz in der Herstellung, ebenso die Akkus.

Man muss den Leuten eben immer eine Lösung präsentieren, die auch in der Krise keinerlei Änderung eines bestimmten Verhaltens erzwingt. Sozusagen PV für die KI als Ibuprofen gegen den Kater, aber 2 Tage später weitersaufen .. oder eben weiter verschwenden.
Klingt für mich nach Selbstbetrug, muss aber jeder selbst wissen.

Dann dürfte man ja aber auch keine Musik machen, Synthesizer kosten auch Ressourcen und die DAW Strom.

 

[electric guillaume]

Dann dürfte man ja aber auch keine Musik machen, Synthesizer kosten auch Ressourcen und die DAW Strom.

Wer Musik mit Strom macht ist Teil des Problems.

 

[telefonhoerer]

Deswegen Versuch ich den Strom durch einen Spannungsverlauf in meiner Musik zu ersetzen

 

[ollo]

Wer Musik mit Strom macht ist Teil des Problems.

Wenn es danach geht darf ich aber nur noch wie ein Höhlenmensch mit Stöckern Musik machen.

Zumindest habe ich schon ewig Ökostrom und probiere die richtigen Leute zu wählen, mehr kann ich hier in Sachen Stromverbrauch nicht machen. Und ich habe einen Linux Mini-PC, der reicht auch für vieles aus und verbraucht fast nichts.

 

[electric guillaume]

Ich wollte damit eigentlich nur sagen, dass wir letztendlich alle Teil des Problems sind, jeder halt etwas anders und mehr oder weniger und ob wir wollen oder nicht.

Ich habe einen Ökostromtarif, erzeuge mit meiner PV Anlage seit 14 Jahren regelmäßig mehr Strom als ich verbrauche, aufs Jahr gerechnet. Da ich meine Musikelektronik hauptsächlich nachts, und im Winter häufiger nutze, läuft die rechnerisch halt auch oft mit 70% Kohlestrom.

Ich werde trotzdem weiter mit Strom Musik machen. Das was ich ohne Strom hinbekomme ist nämlich noch schlechter.

 

[wiggel]

In dem Vortrag geht es weniger um individuelle Konsumkritik am Energieverbrauch von Laptops, Synthesizern und so weiter - eher darum, dass mit KI besonders viel Energie verbraten wird. Durch die Einführung von generativer KI steigt der Energieverbrauch deutlich. Die spezialisierten KI-Beschleuniger-Chips von NVidia und Co. verbrauchen besonders viel Strom und kommerzielle Rechenzentren müssen nachrüsten, um dem Bedarf nachzukommen. In der Konsequenz bemühen sich Firmen wie Microsoft und Google derzeit um eigene Atomkraftwerke und beerdigen ihre Klimaziele.

Es ist sicher auch immer gut, allgemein den eigenen Energieverbrauch kritisch zu überprüfen, aber der besorgniserregende neue Trend ist eben, dass durch den KI-Trend der Stromverbrauch insgesamt so stark zunimmt, während wir heute schon nicht genug Ökostrom haben.

 

[Moogulator]

Auf dem 38c3 wurde das auch angesehen, zB für KI die Kriminelles voraussehen soll oder was KI heißt aber…
Naja, es gibt ja nur einen Namen für das, was grade angesagt ist - Wenn es Mustererkennung oder sowas ist, sucht man in der Stadt nach Gesichtern von „Spitzbuben“ - und findet vielleicht auch welche. Vorratsdatenspeicherung ist schon wieder im Gespräch - jeeeedes Mal, sind eigentlich noch Computerspiele schuld, wenn einer mal wild war? Früher war‘s das Fernsehen.

 

[einseinsnull]

Auf dem CCC gab es einen guten Vortrag zu Ressourcenverbrauch von KI-Modellen. Wir können uns danach die generative KI nicht wirklich leisten, wenn wir die Klimakatastrophen halbwegs in den Griff bekommen wollen:

Klimaschädlich by Design – die ökologischen Kosten des KI-Hypes

Sogenannte Generative KI hat einen hohen Rechenbedarf und braucht damit automatisch viel Energie. Wir wollen zeigen, was die AI-Bubble un...

media.ccc.de

wir brauchen die KI aber um die klimakatastrophe zu berechnen.

 

[einseinsnull]

Es ist sicher auch immer gut, allgemein den eigenen Energieverbrauch kritisch zu überprüfen, aber der besorgniserregende neue Trend ist eben, dass durch den KI-Trend der Stromverbrauch insgesamt so stark zunimmt, während wir heute schon nicht genug Ökostrom haben.

in deutschland bekommt man beim bau neuer rechenzentren meist zur auflage, dass man sich von anfang an 80-90% regenerative energiererzeugung selbst hinstellen muss, und ggf. langfristig sogar auf 100% kommen muss (so z.b. aktuell in hanau und offenbach)

soweit die theorie...

 

[einseinsnull]

Noch gibt es keine geeigneten Puffer für solch lange Zeiträume (also >1h).

bessere internationale vernetzung hilft da sicher. nirgendwo wind in ganz eurasien wäre schon eine sehr außergewöhnliche wetterlage.

die ehemaligen deutschen atomkraftwerke waren übrigens viel häufigerr alle gleichzeitig wegen störfall oder wartung runtergefahren oder offline wie die sonne und der wind das zur zeit tun.

Auch e-fuels könnten eine Variante darstellen, wenn man in den Phasen in denen das x-fache des benötigten Stroms aus Erneuerbaren stammen. E-Fuels weisen eine sehr hohe Energiedichte auf.

richtig, e-fuels oder notfalls auch einfach heizöl oder pellets.

oder verbesserte batterien. bzw. genauer "speichermöglichkeiten" (lagerenergie, wasserstoff-kreislauf, wärmespeicher...)

 

[einseinsnull]

Ich hab mit Llama hier mal mit dem neuesten Modell experimentiert - das bringt den M1 Max schon zum schwitzen,so, weil man nur Großkraftwerke hatte - heute ist das anders.

im vergleich mit anderen software anwendungen ist KI relativ hungirg. anders sieht das bild aus, wenn du KI mit anderen industrieanlagen oder haushaltsgeräten vergleichst.

so ein M1 mac braucht unter vollast mit allen GPU kernen ungefähr so viel energie wie 20 minuten staubsaugen oder 10 minuten backofen vorheizen, vom e-auto laden ganz zu schweigen.

 

[Der Fab]

am tag!

wieviel zieht der max? 30W? Das ist Glühbirnenniveau!

 

[Smai-Lee]

wieviel zieht der max? 30W? Das ist Glühbirnenniveau!

Nicht ganz...



Und der sortiert sich hier ein:



Ein fast gleichstarker Ryzen 5 5600x zieht max 65W, dazu noch wie bei Apple üblich MiniRam, Miniplatte und ein Miniboard ohne Erweiterungsmöglichkeit und ich behaupte der zieht vielleicht 10% mehr Strom als der M1.

Der Vorteil für KI beim Mac liegt alleine in der unified memory architecture , da spart man sich eine teure Grafikkarte mit viel RAM.

Hier mal 4 minis gekoppelt: Reddit

Das 70B läuft auch hier lokal auf einem einzigen Windows PC, aber 405B ist außer Reichweite für mich rein wegen der Speicherarchitektur und NVidias künstlicher SLI Verknappung.

Das soll kein mac ist besser/schlechter als win werden, jedes Tool hat seinen Zweck.

Ich finde es nur immer schade, das irgendwelche Werte gepostet werden ohne das zu belegen. Es gibt Leute, die glauben sowas unbesehen und verbreiten das einfach weiter.

 

[Der Fab]

oh, mein Fehler. Meinte maximal, nicht den "M1 Max" und meine hier das Gesamtsystem des Minis. Ein kompletter PC wird im idle schon um 100W ziehen.

 

[Moogulator]

im vergleich mit anderen software anwendungen ist KI relativ hungirg. anders sieht das bild aus, wenn du KI mit anderen industrieanlagen oder haushaltsgeräten vergleichst.

so ein M1 mac braucht unter vollast mit allen GPU kernen ungefähr so viel energie wie 20 minuten staubsaugen oder 10 minuten backofen vorheizen, vom e-auto laden ganz zu schweigen.

Du kannst ja je nach Anforderung auch ein leichteres Modell nutzen, dann dreht der Lüfter nicht hoch.
Daher - kann man natürlich schon skalieren - und ohne Monitor verbraucht sowas auch unterschiedlich viel. Wenn das ein stilles "Regelsystem" ist, dann geht das ggf. auch. Wie schon gesagt - ich kann mir vorstellen, dass man so etwas durchaus locker kompensieren kann mit alternativen Energien. Bei Privatleuten ist das sicher noch anders - aber die Serverfarmen…

Die arbeiten natürlich auch eher nicht mit Macs.
Allerdings eignen sie sich, sie sind auch skalierbar. Da muss man sehen, was da so in der Praxis wirklich genutzt wird. Die Haushalte berechnet man meist auch mit dem Durchschnitt - also "der Haushalt 4 Köpfig hat heute den Durchschnitt XY Watt" - da ist spielen, KI und sowas mit drin.
Und googeln auch. Aber lokal auf dem Rechner.
Man könnte das anstoßen von Wolkenkraft natürlich mitberechnen.

Weiss nicht, ob es dazu schon Stats gibt - weil die KI Sachen so langsam auch an die geraten, die sie gut brauchen können, also die die gar nicht so "computeraffin" sind. Damit sie eine Frage mit Bedingungen schreiben können.

 

[Moogulator]

oh, mein Fehler. Meinte maximal, nicht den "M1 Max" und meine hier das Gesamtsystem des Minis. Ein kompletter PC wird im idle schon um 100W ziehen.

Der Mini ist wirklich Mini im Verbrauch - hat aber einen Lüfter und kann dann mit dem und mehr Power mehr skalieren - 100W wird er im Normalfall nicht ziehen - weit weniger! aber wenn alles an ist und die KI alles frisst - das sind eher 3-5 Watt bei "Efficiency Core rumlungern", beim Tippen 8W - da machen die Hauptkerne noch nicht viel oder so nebenbei mal was, aber bei großer Last liegt das bei 65Watt, deshalb sind die Netzteile auf 70W bis 155W ausgelegt, M4 Pro in diesem Falle. SRC: https://www.nextpit.com/apple-mac-mini-2024-review

Also eigentlich ist das ein tolles Ding für Leistung und als Minihausserver, WEIL er so gut skaliert. Intel und Co. kriegen das nicht hin, daher würde ich sonst nur noch einen stillen Linuxrechner oder Kleinrechner hinstellen für Homesmartkrams oder sowas. Aber - das ist natürlich auch relativ "neu", dass sowas da ist. Ggf. könnte so ein Brain auch irgendwann von einem Hauptdingsi übernommen werden.