Kiitos artikkeleista. Kahdessa ensimmäisessä jakamassasi artikkelissa vain todettiin, että AI datakeskusten virrankulutus kasvaa räjähdysmäisesti GPU prosessorien virrankulutuksen ja server nodejen jäähdytyksen takia. Näin on, tarvitaan lisää energiaa.
Viherajattelua viimeisenä vuosikymmenenä ovat olleet tuuli- ja solarpuistot datakeskusten yhteydessä. Eivätkä ne riitä, tai ole riittäneet. Nyt tuutataan ydinvoimaloita ja kaasuvoimaloita pystyyn, että saadaan sähköä.
Viimeinen artikkeli jo taklasi ratkaisuun, mutta tietäen, että AMD on joutunut GPU-kisassa pahasti sivuraiteille, niin voin kutsua tuota touhua näpertelyksi.
95% AI training GPU-markkinoista on NVIDIAn hallussa. Tuote vain on kokonaisuudessaan NVIDIAlla paras, mutta ei mikään virtapihi. Yrittäjiä on haastamaan, mutta kukaan ei keskity nyt virrankulutukseen vaan scale uppiin - prosessoritehon ja kapasiteetin kasvatukseen - kilpailu on todella veristä ja panostuksia yhden GPU-piirin kehitykseen kapuavat satoihin miljooniin, miljardiin. Aika on NVIDIAn puolella. Kun kilpailijat ovat tuoneet tuotteitaan markkinoille - varsin teknisesti hienojakin uusia ratkaisuja - on NVIDIA jo taas tuplannut laskentatehon, väylänopeudet ja piirin io:den määrän. Nyt taistellaan aikaa vastaan tässä kisassa, sillä yhden NVIDIA Black Well GPU:n hinta on 40kusd. JOS, joku pystyisi haastamaan NVIDIAn ja olemaan markkinoilla todellinen vaihtoehto heidän GPU-serverilleen tarkoittaisi se monopolin loppua, 10% markkinasiivua saman tien, ja NVIDIAN hintojen laskua kilpailun myötä. Tämä on nyt target numero uno Hyperscalereilla mitä tulee kustannuksiin - ei virrankulutus.
Prosessorien virrankulutuspihejä teknologioita on tutkittu ja tuotteistettu Suomessakin. Yksi start-up oli alla oleva Minima. Muutama vuosi sitten siitä puhuttiin paljon, mutta eipä siitä tainnut sitten tulla hälyä kummempaa. Nämä virrankulutuspihit ratkaisut kun on yleensä kehitetty muualle kuin lähes jatkuvaan, taukoamattomaan laskentaan supertietokonemaisesssa AI-serverissä.
https://www.semi.org/en/resources/member-directory/minima-processor
Ja vähänkään thermomekaniikan lakeja ymmärtävä tietää, että GPU:issa, piirilevyillä, kaapeleissa kulkee sähköä, jossa jokainen transitio ykkösestä nollaan aiheuttaa energiapurkauksia, jotka taas muuttuvat suurelta osin hukkalämmöksi. Nyt kun datakeskuksista tulee nestejäähdytteisiä, myös upponestejäähdytteisiä saadaan hukkalämpö aika hyvin talteen, mutta mitä sille tehdään? Sitä ei Nokian teknologia ratkaise.
SLM:n varjopuolena on mallintamisen heikentynyt tarkkuus. Sama kun ottaisi yhden sylinterin veke V8:sta. Kulutus laskee, samoin tehot.
Telecom business in aivan eri businesta kuin boomaava AI-training datakeskukset. Teleoperaattoreiden bisnes ei kasva, infra on pääasiassa rakennettu, nyt tuottoja pyritään parantamaan mm. virrankulutukseen taklaamalla. Tämä aika tulee vielä AI trainingissäkin, mutta ei nyt. Nyt tapellaan markkinoista - kuka ne saa - kenen laitteilla - kenellä on parhaat laitteet! Markkina vetää eikä ole aikaa sivuseikoille.
