NVIDIA - Mahdottoman mahdollistaja

Tuli kilpailusta mieleen, että kysehän ei ole ainoastaan GPU:n tai custom chippien kehittämisestä vaan kokonaisuuteen ja asiakkaan saamaan hyötyyn vaikuttaa myös muita palasia, kuten data centereiden tiedonsiirron nopeus. Esim. Gavin Baker taisi podissaan todeta jotakuinkin niin, että jo nyt tiedonsiirton saattaa paikoitellen tulla pullonkaulaksi vaikka laskentatehoa riittäisi. Korjatkaa jos ymmärsin väärin, kuuntelin jakson vain kertaalleen. :sweat_smile:

Ja tähänhän Nvidia reagoi jo 2020 ostamalla Israelilaisen Mellanoxin, joka valmistaa InfiniBandeja data centereihin. Näiden osalta en tosin osaa arvioida sitäkään vähää kuinka kovaa kilpailu on tai tulee olemaan. Jos jollain on parempaa tietoa, niin kuulen mielelläni. :pray:t2:

The acquisition will unite two of the world’s leading companies in high performance computing (HPC). Together, NVIDIA’s computing platform and Mellanox’s interconnects power over 250 of the world’s TOP500 supercomputers and have as customers every major cloud service provider and computer maker.

The data and compute intensity of modern workloads in AI, scientific computing and data analytics is growing exponentially and has put enormous performance demands on hyperscale and enterprise datacenters. While computing demand is surging, CPU performance advances are slowing as Moore’s law has ended. This has led to the adoption of accelerated computing with NVIDIA GPUs and Mellanox’s intelligent networking solutions.

Datacenters in the future will be architected as giant compute engines with tens of thousands of compute nodes, designed holistically with their interconnects for optimal performance.

An early innovator in high-performance interconnect technology, Mellanox pioneered the InfiniBand interconnect technology, which along with its high-speed Ethernet products is now used in over half of the world’s fastest supercomputers and in many leading hyperscale datacenters.

With Mellanox, NVIDIA will optimize datacenter-scale workloads across the entire computing, networking and storage stack to achieve higher performance, greater utilization and lower operating cost for customers.

9 tykkäystä

Ihan tärkeä pointti. Tosin ymmärrykseni mukaan (korjatkaa jos olen väärässä) nämä nykyiset isot hyperscaler-tyyppiset asiakkaat eivät ehkä tyypillisesti osta DGX-tyyppisiä AI-bundleja, jossa on networking yms. niputettu yhdeksi AI-alustaksi, vaan kasaavat konesalit itse. Tosin näille itsekoottavillekin kokonaisratkaisuille Nvidialla on käsittääkseni ihan pätevät ratkaisut niin Ethernet- kuin InfiniBand-teknologian osalta.

Mellanox oli kyllä masterful ostos Nvidialta. Ehkä kaikki ei tätä tiedä, mutta Intelhän meinasi tuon napata, mutta Nvidia löi enemmän pätäkkää pöytään ja nyt tässä konesaliskaalan tekoälymittakaavassa tuo nokitus oli kyllä joka dollarin arvoinen.

Oma ymmärrys networkingistä on rajallinen, mutta silti en kuitenkaan ehkä sille antaisi liian isoa painoarvoa kilpailussa. Jos miettii, että esim. Ethernet-protokolla on säilynyt lähes muuttumattomana sellaisen 50 vuotta, niin ehkä se ei painoarvoltaan kilpaile prosessointikapasiteetin kanssa, jossa kehitys on eksponentiaalista.

10 tykkäystä

Onkos täällä ketjussa vielä pohdittu sitä mistä jatkuvaan datacenter kasvuun saadaan sähköä nyt ja tulevaisuudessa? Lisäsähköstä kun on kilpailemassa vihreä siirtymä ja ties mitä muita toimijoita. Datakeskukset taitaa olla sen sorttisia, että tahtoovat sähköä luotettavasti 24/7.

Yhdysvalloissa NIMBY hidastaa tehokkaasti jo valmiiksi ajastaan jääneen valtakunnanverkon vahvistamista. Uusia voimaloita ja runkoverkon linjoja kun ei ihan hetkessä pykätä lisää.

Herätteeksi löysin mm. alla olevan jutun, missä aihetta on pohdittu.

8 tykkäystä

En ole siis eri mieltä siitä, että Nvidian arvostus on melko vaikea, mutta eri mieltä argumentoinnistasi. Esimerkkinä:

5v päästä:

Tulos kasvaa 15% / vuosi tarkoittaa 18,9 P/E

10v päästö

Tulos kasvaa 15% / vuosi tarkoittaa 9,4 P/E

1 tykkäys

Tuossa artikkelissa oli asiaa jo hyvin pohdittu. Lisäksi USA:ssa Helion Energy yrittää tuoda fuusiorektorin ratkaisemaan asiaa.
Nuclear fusion needed to power future AI, OpenAI boss says | The Independent
Fuusiorektoreita on yritetty saada toimimaan varmaan 50 vuotta. Välttämättä tämä AI-boomikaan ei tuo ratkaisua fuusioreaktoreiden haasteisiin. Mutta pienydinvoimalat tutulla fissiotekniikalla lienevät realistisempi yrite kuin fuusioreaktorit. Itse arvelen, että GPU infrassa, softassa ja algoritmeissa on vielä paljon optimoitavaa. Ts. toimiala itse pystyy alentamaan energian kulutustaan. Eikös Blackwell ratkaisukin ole jo monta kertaa energiatehokkaampi kuin edeltäjänsä?

2 tykkäystä

Sähkö ja networking liittyy siinä mielessä toisiinsa, että iso malli voidaan treenata vain yhdessä konesalissa. Eri konesalien välillä yhteydet eivät ole riittävän nopeita vaan hajautuksen hyödyt menetetään hitaassa networkingssä. Tämä tarkoittaa että on optimaalista saada yksi massiivisen iso konesali. Rajoite tällä hetkellä konesalin koolle on sähkön määrä. Uutta konesalia suunnittelessa pitää kylkeen kytkeä atomivoimala, koska kantaverkosta ei saada riittävästi virtaa.

Scaling law on kiintoisa. Kun AI on oppinut kaiken tiedon joka on kirjoitettu, pitää sen alkaa itse tekemään tutkimusta saavuttaakseen superhuman tason. Shakissa tämä on jo tapahtunut, kun kone on loputtomasti pelannut itseään vastaan. Monissa muissa tieteissä tämä on paljon vaikeampaa.

6 tykkäystä

Kirjoitettu on tuossa avainsana. Esim. Yan Lecun on painottanut sitä, miten teksti on perin surkea opetusformaatti. Esim. neljävuotias lapsi on imenyt näköaistinsa kautta 50x enemmän informaatiota kuin nykyajan suurimmat kielimallit.

Näkisin, että tekstimodaalisuuden rajat voivat tulla vastaan, mutta se ei välttämättä vielä ole este sille, etteikö mallit voisi tulla paljonkin fiksummaksi esim. ihan vain audio- tai videosyötteellä.

6 tykkäystä

@Heikki_Keskivali:n tviitti Nvidiasta, osin ainakin tutusta teemasta. :slight_smile:

https://x.com/hkeskiva/status/1832753950895816717


EDIT:

@Jukka_Lepikko Keskivälin tviittiin:

https://x.com/JukkaLepikko/status/1832768147285246452

8 tykkäystä

Nvidian osakkeen 30 päivän volatiliteetti on nyt korkeimmillaan sitten vuoden 2022. Elokuussa osake nousi 43 % ja laski seuraavalla viikolla 18 %. Tviitissä sanotaan myös, että uhtiön markkina-arvosta on kadonnut 650 miljardia dollaria kesäkuun huipusta. Treidaajat tykkää (?).

https://x.com/KobeissiLetter/status/1832818040922054871

2 tykkäystä

Minusta tässä ongelma on osakkeen kannalta, että nykyennusteet sisältävät oletuksen nykyisten marginaalitasojen suht hyvästä pidosta!

NVIDIA pärjäisi kyllä yhtiönä alennusten kanssa, koska katteet ovat leveät.

Mutta sijoittajat eivät, koska he ovat virittäneet odotukset niin korkealle. :smiley:

12 tykkäystä

Näinhän tuo on. Tässä on lähinnä katsottu asiaa siltä kantilta että markkinaosuutta valuisi hyperscalereiden omiin virityksiin. Itse en näe tuota niin isona uhkana. Marginaalien (aina kun ne ovat näin rasvaisia) korkeana pysyminen on sitten toinen asia ja selvä uhka, mutta se mielestäni on kyllä jo ihan tiedossa - aina kun ala on kuuma ja kilpailua ilmaantuu (ks. AMDn ja osin myös Intelin panostukset laskentakortteihin sekä kaiken maailman startupit) ei nykyiset marginaalit pitkässä juoksussa todennäköisesti tule pysymään koskemattomina. Se, kuinka paljon tästä on sitten jo leivottu kurssiin on “sen kun tietäisi”-tason juttuja :slight_smile:

5 tykkäystä
5 tykkäystä

Nvidia Huang totesi, että tekoäly luo ihmisiä täydentäviä taitoja, kuten digitaalisia työntekijöitä (esim. robotti, chatbot), mikä laajentaa AI:n käyttöä entisestään.

Ei mun mielestä kovin ihmeellistä, mutta vähän ajateltavaa - tuota kommenttia jaettiin aika paljon Äxässä.

https://x.com/FreeSites_com/status/1833943441912582323

3 tykkäystä

Hyvä kokoelma kuvaajia mihin törmäsin X:ssä miksi NVIDIA ei olisi teknokuplan 2000 kaltaisessa kuplassa.

Elän itse kuitenkin käsityksessä, että varsinaisesti sijoittajan ei kannata NVIDIAssa niinkään vertailla P/E multippeleita yms. hihasääntöjä menneisyyteen. Firman nykyarvo on sen tulevat kassavirrat.

Avainkysymys mielestäni, mikä on NVIDIAn kestävä tulostaso ja onko pikemminkin marginaalit / kannattavuus / tulos kuplassa, tai jos kupla on liian raju sana niin ainakin epänormaalin kohonneita.

14 tykkäystä

Edellä @Oxymoron_007 teki hyviä nostoja Orcalen kautta tänne Nvidia ketjuun. Palaan nyt niihin ja muutamaan muuhun asiaan Oraclen viimeisimmän sijoittajapuhelun (Q1/2024 9. syykuuta) innoittamana.

Ensiksikin isot respectit Larry Ellisonille. Äijähän on ihan iskussa. En ollut kuunnellut Oraclen sijoittajapuheluita koskaan, mutta tämä ei nyt jäänyt viimeiseksi. Jensen puhuu minusta tosi hyvin ja kansantajuisesti, mutta Larry pani paremmaksi. Alkaa tuntua siltä, että markkina on kuunnellut Jensenin tarinat ihan puhki, ja kisaväsymystä alkaa sijoittajissa ilmetä – näinköhän tästä sittenkään mitään tulee. Ja helppo jättää Nvidia väliin, kun on niin korkea P/E.

Mutta Larry Ellison naulasi sijoittajapuhelussaan jokaisen kuulijan päähän sen, että AI toimiala voi hyvin ja tulevaisuudessa vielä paremmin. Avaan seuraavaksi sijoittajapuhelun asioita.

Toimitusjohtaja Safra Catz sanoi ponnekkaasti, että heillä on kannattava pilvibisnes (OCI) ja että he tekevät sillä tulevaisuudessa vielä paljon enemmän rahaa kuin nyt. Tilauskirjat ovat yläkurvalla. Liikevaihdon kasvu paranee 25%:iin. Ellison sanoi, että heidän kilpailuetuna on yhdenmukainen pilviratkaisu ja täysin automatisoitu tietokanta. DBA (tietokanta admin) on automatisoitu robotti. Heidän SaaS business ja pilvipalvelut rakentuvat täysin automatisoidun tietokannan päälle. Ellison ja Catz sanoivat olevansa muita edellä ja heidän SaaS ja pilvi on jatkossa erittäin kannattavaa, koska se skaalautuu nyt erittäin hyvin (automatisoituna).

Em. liittyy Nvidiaan monen eri kulman kautta. On hyvä, että SaaS pilvipalveluissa otetaan merkittäviä tuottavuus steppejä. Toimialalta jää siten rahaa AI hankeisiin. Ja näissä pilvissähän Nvidia GPU:t majailevat.

Ellison: “I think this is an ongoing battle for technical supremacy that will be fought by a handful of companies and maybe one nation state over the next five years at least, but probably more like 10. So this business is just growing larger and larger and larger. There’s no slowdown or shift coming.”

”So we’re in the middle of designing a data center that’s north of the gigawatt that has – but we found the location and the power place. We look at it, they’ve already got building permits for three nuclear reactors. These are the small modular nuclear reactors to power the data center. This is how crazy it’s getting. This is what’s going on.” Eli pienydinreaktoreita rakennetaan suurien datakeskusten kylkeen.

“When I talk about building gigawatt or multi-gigawatt data centers, I mean these AI models, these frontier models are going to – the entry price for a real frontier model from someone who wants to compete in that area is about $100 billion. Let me repeat, around $100 billion. That’s over the next four, five years for anyone who wants to play in that game.” Eli Nvidian ja kumppaneiden tilauskirjat eivät ole ohenemassa.

Tästä tuli nyt vähän härkämäinen yhteenveto; sijoittajapuhelu kokonaisuudessaan perusteli paremmin kuin minä AI:n valoisaa tulevaisuuta. En vaan osaa tuoda sijoittajapuhelun hallittua AI etukenoista tunnelmaa tähän.

Lopuksi – en aio sijoittaa Oracleen, koska se tekee 10 miljardia kassavirtaa vuodessa, mutta sen taseessa on nettovelkaa 73 miljardia. Ehkä tuo velka selittää Ellisonin härkämäisyyttä??

13 tykkäystä

Olen samaa mieltä ja vastausta näihin kysymyksiin ei ole kenelläkään. Samoin olisi kiva tietää minne AI-chippien markkina Esim. vuoteen 2030 mennessä kasvaa. Arvioita on yhtä paljon kuin vastaajia. Onko AI parin vuoden juttu vai tulevaisuuden mullistaja?

Tämä on vähän kuin rulettia, jossa fiiliksen mukaan lyöt joko punaiselle tai mustalle. Olen kuitenkin päättänyt pysyä kyydissä ja katsoa kortin loppuun.

Yhdestä asiasta kaikki tuntuu kuitenkin olevan jokseenkin yhtä mieltä: Siitä, että puolijohde on syklinen ala ainakin osittain. Välillä tulee kovia kysyntäpiikkejä ja välillä myynti sakkaa.

Tarkkaa tilastoa en muista, mutta Nvidia taitaa olla laskenut 70% tai enemmän noin 10 kertaa, joten todella vaikea lappu holdata. Ja varmaan laskee vielä tulevaisuudessakin: Kyllähän tuossa jo huipuista tultiin kerran 40% alas ilman mitää kummempaa syytä. Mitäs sitten kun on joku hyvä syy? Yritän itse varmaan kevennellä huipuista tätä. Heh juu hyvä idea: Kertaakaan en ole siinä vielä onnistunut!

Ja yksi asia mikä häiritsee on Nvidia tätä Nvidia sitä joka paikassa. Sillon kun se taksikuskikin ostaa vähän tekoäly chippiä niin pitäisi varmaan itse myydä! Täysin terve markkina tämä ei ole.

8 tykkäystä

Tässä yksi arvio. AI on siis tulevaisuuden mullistaja :slight_smile:

(13) Beth Kindig X:ssä: “Global chip sales are forecast to more than double to $1.2 trillion by 2030, fueled higher by Nvidia $NVDA and the rise of generative AI. $AMD $AVGO $QCOM $MU $INTC https://t.co/gUJjTRQkvV” / X

9 tykkäystä

Salkun rakentajan juttu Nvidiasta, jossa on lainattu mm. S&P Global Ratingsin materiaaleja. :slight_smile:

Blackwell pystyy käsittelemään suuria laskentatehtäviä, kuten tekoälymallien harjoittamista ja reaaliaikaista datan analysointia, tehokkaammin kuin aiemmat GPU-sukupolvet.

Uusi grafiikkaprosessori on suunniteltu myös energiatehokkaaksi. Se kuluttaa vähemmän energiaa suhteessa suorituskykyynsä, mikä on erityisen tärkeää datakeskuksille ja pilvipalveluntarjoajille, jotka etsivät keinoja pienentää energiankulutusta ja -kustannuksia.

Lisäksi Blackwell tarjoaa kehittyneitä ominaisuuksia, jotka parantavat käyttäjäkokemusta. Tuki uusimmille grafiikkatekniikoille, kuten ray tracingille, mahdollistaa entistä realistisemman grafiikan peleissä ja muissa sovelluksissa.

Alaotsikot:

  1. Osakkeessa vielä nousuvaraa
  2. Nvidia hyötyy asiakkaiden kasvavista investoinneista
  3. Uudessa Blackwell-prosessorissa vakuuttavia ominaisuuksia
  4. Suurin uhka on kilpailun kiristyminen
5 tykkäystä

Uutta AI-investointia pukkaa. Nvidia mukana “neuvonantajana”, mutta voihan siinä kauppaakin syntyä sivussa.

7 tykkäystä

Vähän hymyilytti tämä Huangin kommentti, kun eilen luin tämän saman uutisen FT:stä: “NVIDIA will use its expertise as a full stack computing platform to support GAIIP and its portfolio companies on the design and integration of AI factories to propel industry innovation.”

Jalomielisesti tosiaan Nvidia jeesaamassa GAIIPia käyttämään $100B Nvidian AI-stackkiin :slight_smile:

Viime viikolla tässä ketjussa mietittiin, mistä löytyy ne syvätaskut, jotka upottaa Nvidiaan ne seuraavat kymmenet ja sadat miljardit. Tämä yhteenliittymä on ihan hyvä esimerkki yhdestä tällaisesta uudenlaisesta toimijasta.

9 tykkäystä