NVIDIA - Mahdottoman mahdollistaja

Käsittääkseni Kiinassa rajoitusten takia valmiiksi downgradatut chipit menevät silti kaupaksi kuin häkä premium hintaan. Parempaakaan ei tosiaan ole markkinoilla eikä hetkeen tule.

Kertoo jotain tämäkin Nvidiasta. Lyhyellä tähtäimellä tosiaan ei ihmeellistä vaikutusta. Pidemmällä tähtäimellä toki kannustaa kiinalaisia keksimään omat variantit, mutta puhutaan varmaankin silti n. 10v timespanista

3 tykkäystä

Joo mutta nyt ne Kiina only mallit pääsevät bannilistalle, tietenkin jollain siirtymäajalla. Ja NVIDIAn pitää joko keittää uusi malli, tai lopettaa Kiinaan myynti. Todennäköisesti keittävät taas uuden mallin, mutta siinä menee tovi jos toinenkin ja se ei ole ilmaista.

Lyhyellä aikavälillä kun nykyisiä Kiina-A800/H800 -kiihdyttimiä vielä saa myydä ei vaikutusta, voi jopa hieman nostaa menekkiä jos mitenkään saavat enemmän valmistettua vehkeitä, mutta pitemmässä juoksussa ei tästä voi mitenkään vääntää positiivista asiaa NVIDIAlle ja muille AI-kiihdyttimiä väsääville lafkoille.

3 tykkäystä

Täsmälleen näin! Aika maltillisesti näköjään markkinakin lopulta reagoi.

PS. Tän viikon AI Summit Israelissa vähemmän yllättäen peruuntui, mutta Acquired-kaksikko haastatteli nahkatakkiäijää toissapäivänä. Löytyy täältä - suosittelen: https://youtu.be/y6NfxiemvHg?si=i0WHeAhkxBJrESDV

1 tykkäys

Niin,keväällä 2022 oli samanlainen rajoituskeissi. NVIDIA silloinkin sääti Kiinan laitteistoja säädösten mukaiseksi. Nytkin tulee pientä hiekkaa, mikä ei kuitenkaan muuta mitään isossa kuvassa.

1 tykkäys

Jos pystyvät keittämään uuden mallin - joka tietty maksaa rahaa toteuttaa. Ja ilmeisesti noita säädöksiä muutettiin niin ettei niiden kiertäminen olisi ihan niin triviaalia kuin viimeeksi. Viime kerralla riitti että rampautti korttien välisen kommunikointinopeuden tarpeeksi alhaiseksi, mutta se ei oikeasti vaikuttanut itse piirien laskentatehoon. Nyt nuo rajoitukset ovat astetta ikävämpiä. En vielä julistaisi että homma ei merkkaa mitään, riippuu siitä mitä NVIDIA saa kehitettyä tähän tilanteeseen. Vai saako mitään.

2 tykkäystä

NVIDIA pistänyt SEC:ille lappua (8-K) aiheesta “mitäs nyt” kun vientirajoituksia kiinaan pukkasi.

Kriittiset pätkät

The Interim Final Rule amends ECCN 3A090 and 4A090 and imposes additional licensing requirements for exports to China and Country Groups D1, D4, and D5 (including but not limited to Saudi Arabia, the United Arab Emirates, and Vietnam, but excluding Israel) of the Company’s integrated circuits exceeding certain performance thresholds (including but not limited to the A100, A800, H100, H800, L40, L40S, and RTX 4090). Any system that incorporates one or more of the covered integrated circuits (including but not limited to NVIDIA DGX and HGX systems) is also covered by the new licensing requirement. The licensing requirement includes future NVIDIA integrated circuits, boards, or systems classified with ECCN 3A090 or 4A090, achieving certain total processing performance and/or performance density.

The licensing requirement may impact the Company’s ability to complete development of products in a timely manner, support existing customers of covered products, or supply customers of covered products outside the impacted regions, and may require the Company to transition certain operations out of one or more of the identified countries.

The Interim Final Rule is effective thirty days after its publication. Given the strength of demand for our products worldwide, we do not anticipate that the additional restrictions will have a near-term meaningful impact on our financial results.

Koko juttu:

https://www.sec.gov/ix?doc=/Archives/edgar/data/1045810/000104581023000217/nvda-20231017.htm

Koska vähän kaikki mitä irti lähtee käy kaupaksi, uskon että tuo lyhyen aikavälin arvio pitää paikkansa. Mutta tuo RTX 4090 pelikortin laskeminen mukaan voi aiheuttaa tuskaa. Pääosa näistä valmistetaan Kiinassa kolmansien osapuolien toimesta. Jos heidän pitää siirtää korttivalmistus kiireellä muualle, se varmasti maksaa rahaa ja varmasti ei ainakaan laske korttien hintoja. Näiden katteet eivät myöskään ole ihan niin kosmisia että NVIDIA voisi ottaa tuon osuman vastaan, toisin kuin AI-korteissa.

Koska RTX 4080 ja RTX 4090 ovat korttivalmistajan kannalta käytännössä sama kortti jossa on pieniä eroja komponenteissa (osa virransyötöstä jätetään pois jos malli on RTX 4080, osa muistipiireistä jätetään pois ja itse kortille menevä GPU-piiri on eri versio, mutta fyysisesti saman kokoinen ja sama pinout) joko valmistuslinjat pitää tuplata tai siirtää myös ainakin RTX 4080n valmistus pois Kiinasta. Lisäksi tästä voinee lukea rivien välistä että seuraavan polven kortit joudutaan ainakin parin kovimman mallin osalta tekemään muualla kuin Kiinassa.

Joku ASUS tai MSI varmasti pystyy tähän taipumaan mutta se voi vaikuttaa hintaan. Pienemmät korttivalmistajat puolestaan saattavat yksinkertaisesti joutua jättämään huippumallit pois valikoimista jos ainoa tuotantolaitos on Kiinassa ja ei ole paukkuja lähteä siirtämään sitä tai pystyttämään toista.

Isommassa kuvassa saattaa vauhdittaa PC-valmistuksen siirtoa pois Kiinasta jos osa tavarasta on joka tapauksessa pakko valmistaa muualla.

Kiinnostavaa on myös nähdä mitä tämä vaikuttaa läppäreihin. Kannettavien “RTX 4090” on oikeasti vain markkinoitinimi, tehon puolesta se on niin paljon hitaampi että rehellisesti sitä voisi myydä RTX 4080-nimellä. En järkyttyisi jos tämän vuoksi NVIDIA joutuu kikkailemaan tuotemallien kanssa. Tai sitten ehkä se ei kuulu tämän piiriin vaikka tuo mallinimi mainitaankin, koska oikeasti se on eri tuote. Läppärivalmistus jos joudutaan myös hilaamaan pois Kiinasta kärkimallien osalta on varmasti melkoinen soppa.

Jos ajatellaan pidemmällä tähtäimellä, vuoden-parin aikajänteellä, en usko että tämä kaataa maailmaa NVIDIAlle, mutta NVIDIAn asiakkaat pääsevät maksamaan kovempia hintoja huippumalleista myös pelikorteissa kun jonkun pitää maksaa ne kustannukset mitä valmistuksen siirrosta tulee.

Mitä tulee sitten Kiinan markkinoihin, epäilen että salakuljettajille tulee kivat bisnekset varsinkin pelikorttien osalta koska maassa on iso asiakaskunta jolla on varaa maksaa parhaasta peliraudasta ja jos kovimpia kortteja ei saa kaupoista, ne hankitaan muita teitä…

9 tykkäystä

Näin se on. Hyvä ja avaava analyysi.

Hyvä analyysi Gaming-segmentin osalta ja joka sanasta samaa mieltä!

Mutta se on todettava, että tuo RTX on lähinnä marginaalinen sivujuonne Nvidian sadan miljardin stoorissa ja nykyarvostuksessa ja se iso mielenkiinto on noissa Data center -tuotteissa ja niiden bundleissa. Sieltä kuitenkin oman ymmärrykseni mukaan tulevien vuosien markkinaodotuksissa pitäisi tulla se joku +80% liikevaihdosta.

Nyt kun tarkemmin olen tutustunut tähän vientirajoitukseen, niin onhan tuo tilanne kaikin puolin aika mutkikas. Varmaa on, että jos Nvidia jonkin rajoitukset kiertävän tuoteversion laatii, se menee kuin kuumille kiville kuten ennenkin. Siitä pitää huolen Nvidian kaikki ne vallihautaominaisuudet, jotka tässäkin ketjussa on käyty kymmenet kerrat läpi. Mm. swtiching cost CUDA:sta on jättimäinen tai se on mahdotonta. Iso kysymys on kuitenkin se, pystyykö Nvidia kehittämään jonkun rajoituksiin sopivan tuotteen.

Toisaalta näkemys markkinoiltahan taitaa edelleen olla se, että jos kiinalaiset eivät osta tuotteita, löytyy kyllä muita ostajia, jotka hymyssä suin ottavat vastaan kaiken kiihdytetyn laskentaraudan, jota ylipäätään on saatavilla. Ymmärrykseni mukaan GPU-compute tarjonta on jo nyt rajallinen esim. CSP:llä, joilla on kyllä riittävän syvät taskut ja business case hankkia lisää kapasiteettia, jos rautaa tulee saataville. Lyhyellä aikavälillä tosiaan myös data center impact on varmasti melko rajallinen. Eiköhän kiinalaisetkin tankkaa nyt kaiken vientirajoitettavan raudan, jonka vain pystyvät saamaan.

Pitkällä aikavälillä tässä aukeaa kyllä uusille toimijoille pelin paikka. Nvidian kannalta hyvä puoli on se, että keskeisimmät kilpailijat ja heidän mahdolliset vaihtoehtoiset ratkaisunsa (kuten Googlen TPUt yms.) kuuluvat yhdysvaltailaisina varmasti hyvin nopeasti samojen rajoitusten piiriin - tai ovat jo nyt rajoituskategorioissa mukana.

3 tykkäystä

Kyllä, en sitä maininnut mutta tämä koskee lähinnä Gaming-segmenttiä. AI/serverikortit todennäköisesti myydään loppuun joka tapauksessa ja niiden kate on niin kova että valmistuksen siirto pois Kiinasta pitäisi onnistua kyllä. Saattaa tehdä kipua hieman NVIDIAn marginaaleihin, ja saattaa olla kova nakki tehdä tämä kuukaudessa, mutta muuten ei pitäisi olla ongelma.

Ja korvaava tuote tehdään varmasti, kysymys lähinnä on että kuinka kura sen pitää olla ja kelpaako se Kiinalaisille vai siirtyykö kysyntä harmaatuontiin, ts. NVIDIA myy kamansa muualle ja sieltä se valuu kiertoteitä Kiinaan…

1 tykkäys

Vähemmän yllättävä reaktio:

RTX 4090 korteista tuli niukkuustavaraa Kiinassa, joten jälleenmyyjät rahastaa…

Edit: Tosin nyt liikeellä on epämääräistä tietoa että kuluttajatavara olisi rajattu sääntöjen ulkopuolelle.

Lisäksi ilmeisesti itse valmistus on myös sittenkin edelleen sallittua, eli koomisesti Kiinassa voi valmistaa tuotteita joita ei saa myydä Kiinalaisille…!?

Ehkä tähän tulee selvyyttä lähipäivinä, toistaiseksi en löytänyt mitään yksiselitteistä juttua joka tämän vahvistaisi. Jos nämä pitävät paikkansa, tällöin Gaming-segmenttiin tämä ei vaikuttaisi muuten kuin ehkä sen osalta mitä Kiinalaiset kenties ovat ostaneet 4090-kortteja serverikäyttöön.

4 tykkäystä

Tämä on hitaasti mutta varmasti muuttumassa. AMD:llä ROCm:iin laitetaan kaikki paukut tällä hetkellä, kuulemani insiderin mukaan.

2 tykkäystä

Esitän nyt rohkean väitteen: millään kilpailevalla teknologialla ei tulla päihittämään CUDAa ikinä. Selvää on toki, että jos Nvidian tuotteita ei ole saatavilla, silloin on pakko siirtyä PyTorchiin, RCMään OpenClään jne. Mutta muussa tapauksessa Nvidian 30 vuotta kestänyttä alustadynastian kehitystä ei tulla kuromaan umpeen siten, että joku vapaaehtoisesti siirtyisi CUDAsta pois kilpailijan leiriin.

Itsellä on kova usko, että jos CUDAn haluaa syrjäyttää kiihdytetyn laskennan sovellusalustana/rajapintana tai miksi sitä nyt haluakaan kutsua, tulee se tehdä keksimällä täysin uusi prosessointiarkkitehtuurin paradigma.

5 tykkäystä

Tulee kuitenkin ottaa huomioon että paras tekninen ratkaisu ei aina voita. LLM at scale on hemmetin kallista firmoille, jos AMD:n rauta maksaa merkittävästi vähemmän voit olla varma että löytyy ukkoja koodaamaan cuda-konversioita.

5 tykkäystä

Tähän saakka Nvidian Arm-pohjaiset kamat ovat olleet serverikäyttöön, tämä on uusi avaus ja mielenkiintoista. Nvidialla on resursseja pistää myös softapuolen osaamista tämän jouduttamiseksi ja parin vuoden aikajänteellä on ihan realismia että Microsoft saa Windowsin Arm-version käyttökelpoiseksi muutenkin.

Saattaa aiheuttaa hikipisaroita AMDn ja Intelin leirissä, ja pahasti osuu Qualcommin muroihin joka on kovasti yrittänyt raivata markkinaa läppäreissä Arm-pohjaisilla piireillä. Nvidia on kova luu tähän kisaan koska tiedetään että GPU-puolella osaaminen on huippua ja näin voi olettaa että nämä piirit vetäisevät grafiikkapuolella kaulaa Qualcommin vastaaviin vaikka itse prosessoriytimet eivät olisi sen kummoisempia kuin Qualcommin.

Kiinnostavasti juttu myös mainitsee että AMD olisi tunkemassa samoille apajille (Arm windows)

14 tykkäystä

Iso uutinen. Strateginen moovi, en tätä skenaariota kyllä osannut vielä odottaa :). Intel kyllä kärsii nyt ja NVIDIA kerää hedelmiä. Uutisen ulostulo nosti heti Intelin kauppamääriä…

6 tykkäystä

RTX 4090 poistettu pakotelistalta

Seuraavana ohjelmassa: Kortin hinta Kiinassa romahtaa takaisin normaaliksi ja ne jotka menivät FOMOttamaan moisen kortin piikkihintaan ovat todennäköisesti kypsiä kuin orava jolla on käpy jäässä… No, se on sitä regulaatioriskiä se.

AI-laskentakorttien osalta tilanne edelleen sama, Kiina-only A800 ja H800 mallit lisätty listoille joten NVIDIA joutuu keksimään uusia jippoja. Voisin arvata että lähikuukausina tulee uusi malli jota on rampautettu lisää ja Kiina pääsee sitten pinoamaan näitä enemmän rinnakkain.

7 tykkäystä

Ja myyntihinta oletettavasti kuitenkin täysiverisen version mukainen😅 Eli isommat katteet ja isompaa volyymia Nvidialle.

2 tykkäystä

Kiinabannit lähestyy niin A800/H800-kortteja alettu kauppaamaan länsimarkkinoille. Kyllä näille ottajia löytyy tämänhetkisen AI-boomin viuhuessa.

4 tykkäystä

Nyt täytyy kysyä neuvoja viisaammilta, kun oma osaaminen ei tälle sektorille juuri ulotu. On nimittäin tullut seurailtua jkv jenkkiteknobuffaaja Luke Langon tarinoita liittyen mm tekoälyyn - ja samalla myös NVIDIAan. Tässä yksi artikkeli:

Katsoin myös yhden videopätkän, jossa hän selosti pähkinänkuoressa seuraavaa:

  • n 40% NVn lv:sta tuli alkuvuonna vain kahdelta asiakkaalta
  • Jenkkien suurimmat teknojätit (MS, Meta, Tesla, Google, Apple…) kehittävät kiivaasti omia custom AI chippejä
  • nämä inhouse CAIt ovat paljon kustannustehokkaampia kunkin omissa sovelluksissa kuin NVn ‘‘general purpose GPUt’’
    → NV tulee menettämään markkinaosuuksia merkittävästi

No NV on paljon muutakin kuin tämä AI puoli, enkä itse ole varsinaisesti NVstä kiinnostunut sijoitusmielessä tällä hetkellä. Mutta olisi kiva kuulla muidenkin mielipiteitä näistä megateknojen omista hankkeista ja niiden vaikutuksesta markkinaan.

Itse kuvittelisin, että nämä eri projektit ovat varsin haasteellisia ja kalliita toteuttaa. Kiinnostavin kysymys itselleni on kuitenkin se, että onko näillä yhteisiä nimittäjiä esim alihankinnan suhteen. Siis osaatteko nimetä yrityksiä, joiden teknologiaa nämä teknojätit välttämättä tai todennäköisesti käyttävät omien chppiprojektiensa toteutuksessa? Valmistusteknologiaa, laadunvarmistusta, (suunnittelu)ohjelmistoja ym??

Ajattelin, että jos löytyisi joku ‘‘hakku & lapio’’ yhtiö AI piirien valmistuksessa, jolla olisi pidemmän ajan hyvä kasvunäkymä tai jokin vallihauta, niin ei tarvitsisi arpoa, mihin piiri/korttivalmistajaan sijoittaa. Toki nekin lienevät jo ihan hyvissä hinnoissa. Saa heitellä ideoita ja ajatuksia matalalla kynnyksellä :star_struck:

5 tykkäystä

Sen nimi on TSMC. Juuri nyt käytännössä kaikki high-end tavara tulee heidän tehtailta. Mutta tuo ala on sitten ihan oma matopurkkinsa. Älyttömät investoinnit, vahvaa syklisyyttä jne.

Jos haluaa yrittää saalistaa käänneyhtiön osaketta pohjalta, Intel on potentiaalinen ehdokas - he ovat kovasti työntämässä nokkaansa Foundry-markkinoille ja ovat kuulemma saaneet ensimmäisiä asiakkaita. Voisiko jonkun megacapin AI-piiri tulla Intelin tehtailta muutaman vuoden päästä? Ihan realismia. Intel tosin joutuu alkuvaiheessa myymään tavaraa alta torihintojen koska track record on heikko.

Mutta… saatat missata mikä se NVIDIAn vallihauta tässä on. He ovat niin paljon muita edellä, että käytännössä kaikki muut ovat “also ran” ja nämä megacappien omat piiriprojektit ovat mallia ei sieltä helpoimmasta päästä. Ei riitä että Google tai Tesla vain kaatavat kasan rahaa ja uunista tulee ulos NVIDIAn kanssa vertailukelpoinen piiri mutta parempi/halvempi. Jos näin voisi tehdä, NVIDIAlla olisi enemmän kilpailijoita.

Se mitä nämä megacapit hakevat näillä omilla piireillään on mahdollisimman edullista “good enough”-piiriä tavaraan joka ei ole ihan kehityksen aallonharjalla. Ja silti riski on suuri että jos jotain menee poskelleen, saadaan lopulta ulos piiri joka on vuosia myöhässä eikä enää kilpailukykyinen.
NVIDIA ei lepää ja jos hirttää itsensä omaan piiriin voi käydä todella hassusti. Eräällä tavalla Google puhelinpuolella on tekemässä tätä erhettä - Google Tensor piti olla tapa kilpailla paremmin Applea vastaan, mutta piiri on aika lailla tuhnu ja haittaa jo Pixel-puhelimien suosiota. Tietenkin markkinalle saa upotettua myös keskinkertaisempaa tavaraa koska moni ei ymmärrä, mutta Applen huippumalleja vastaan homma ns. meni kiville. AI-laskentapiirit palvelinkeskuksiin ovat kertaluokkaa monimutkaisempi operaatio kuin pieni puhelin-SoC ja ala elää niin nopeasti että täysi ohjelmoitavuus on elintärkeää ja kustannustehokkuus ei välttämättä auta yhtään mitään jos hirveällä hinnalla tehdyt omat piirit eivät taivu viimeisimpiin juttuhin.

Eli oma näkemykseni on että molemmille on tilaa. Haluaako Google tehdä oman palvelinpuolen piirin jolla ajaa jotain AI-chatbottia halvemmalla? Varmasti, mutta realismi on että sen tekemiseen menee vuosia. Sillä aikaa NVIDIA kehittää tehokkaampaa rautaa jonka päällä se aallonharja ratsastaa koska CUDA ja tämän hetken kehittäjien mindshare.

Jos Google jättää ostamatta ja käyttämättä ja vannoo oman piirin nimeen, voi käydä niin että vaikkapa 3 vuoden päästä Googlella on hienosti toimiva chatGPT-wannabe joka on ihan yhtä hieno ja paljon halvempi pyörittää kuin ChatGPT-4 tänään. Samaan aikaan kilpailijoilla on pari sukupolvea uudempi malli joka saa Googlen “tein itse ja säästin”-version näyttämään vitsiltä, ja uudempi viritys ei taivu Googlen piirille koska joku rajoitus ja pitäisi tehdä uusi sukupolvi tai pari, jonka tekemisen aikana NVIDIA taas painuu horisonttiin.

Jopa AMD, joka on tehnyt näytönohjaimia vuosikymmeniä, on jatkuvasti sen vuoden-pari jälkijunassa vaikka muuten pysyy jotenkuten kärryillä.

NVIDIAn etumatka on taviksien näkökulmasta varsin piilossa ja “tehdään itse halvemmalla” ei käytännössä ole mahdollista ilman hyvin pitkää kehitystyötä jossa yritetään ottaa NVIDIA ensin kiinni. Varmasti on useampi megacap jonka kannattaa panostaa tähän työhön jotta pitkässä juoksussa ei tarvitsisi maksaa Nahkatakkimiehen katteita kaikesta raudasta, mutta veikkaisin että ollaan 5+ vuoden päässä siitä tilanteesta että kukaan, ehkä poislukien AMD, on edes samalla pallokentällä raudan suhteen.

NV on toisaalta osakkeena arvostettu niin kuuhun että vaikea on myöskään perustella siihen sijoittamista näissä hinnoissa. Ei ole helppoa ei, AI juna on jo täynnä, liput myytiin jo aikoja sitten. Ehkä rakentavampaa sijoittajan kannalta on yrittää etsiä sitä seuraavaa juttua, kenties teknologian soveltamispuolelta? Tosin tämän osalta vaihtoehdot lienevät “sijoita megacappeihin” tai “sijoita hirveään läjään random startuppeja ja toivo että google, MS tai Meta ostavat monet niistä pois rasvaisella valuaatiolla, ja tietäen että iso osa niistä menee konkkaan”.

Oma salkku sisältää NVIDA+AMD raudan puolella ja Microsoft soveltamispuolen pelinä. Molemmat ostettu aikoja sitten, joten mukavasti plussalla. En ole viime aikoina lisäillyt, tosin AMD painui välillä tuossa niin alas että jo mietin, mutta dippi ei ollut tarpeeksi syvä.

17 tykkäystä