Näiden osalta tarjolla on markkinointimiesten lupauksia. ChatGPTn kanssa käyttivät CUDAa ja NVIDIA-rautaa, todennäköisesti jostain hyvästä syystä. CUDA-tavara ei näillä Googlen ja Amazonin piireillä pyöri suoraan, joten se yksin voi olla tässä este. Toinen kysymysmerkki on muistin määrä. LLMt ovat viime aikoina pahiten kolisseet käytettävissä olevaan muistiin ja syy miksi NVIDIA on päässyt painamaan rahaa on heidän tarjoamansa yhteenlinkitetyt isomuistiset GPUt joihin mahtuu todella iso malli.
8 tykkäystä
Aikajanaa en ole tarkastanut, mutta hyvä syy saattoi olla se, että ChatGPT:n kehitys (tai ehkä ennemminkin sitä edeltävien OpenAI:n mallien/tuotteiden) alkoi jo sen verran aikaisin, että nämä “AI-piirit” olivat nimenomaan vasta myyntimiesten puheissa silloin, ja ei ole ollut järkevää lähteä vaihtamaan valitusta alustasta pois kun pitää takoa uutta mallia tuotantoon mahdollisimman nopeasti. Toimijoilla, jotka nyt ovat alkaneet kehittää omia sovelluksiaan kielimallien ympärille (ja päättäneet että nimenomaan tarvitsevat oman erikseen koulutetun mallin) sen sijaan on enemmän varaa valita. AWS kyllä väittää että heidän kiihdytinpiirinsä olisi kehitetty 100B+ parametrin malleille, ja jokaisessa kiihdytinpiirissä on 32 GB muistia, joten 16 kiihdyttimen Trn1-instanssissa olisi näin olleen 512 GB muistia (ja mallin ajoon tarkoitetuissa 12 kiihdyttimen Inf2:ssa 384 GB). Ei varmaankaan riitä ihan mihin tahansa, mutta kaipa noitakin kehitetään edelleen, ja toisaalta kaikki bisneskäyttäjäthän eivät suinkaan tarvitse ikiomaa GPT4:n kokoista kielimallia omiin sovelluksiinsa.
Mutta tosiaan, pointtini oli nostaa esiin se puoli, että LLM:ien vakiintuminen tuotantokäytössä ei välttämättä sada pelkästään NVidian kassaan, ja tämän paremmin en sitä pysty argumentoimaan koska oma osaamiseni on muualla teknologiassa kuin koneoppimisessa ja laskentaraudassa. Pointin painoarvon arviointi jää itse kunkin vastuulle.
3 tykkäystä
Kyllä, tästä olen samaa mieltä - muitakin ottajia potille on. Toisaalta kysyntä on tällä hetkellä sellaista että “kaikki menee mitä irti lähtee” joten tulee relevantiksi siinä vaiheessa kun tarjonta ylittää kysynnän ja rautaa haluavat voivat alkaa valikoida mitä haluavat.
4 tykkäystä
Itse lueskelin jotain twitter-ketjua, jossa arvuuteltiin (jokin tietolähdekin oli), että Nvidia oli sponssaamassa vähintään hinnalla OpenAI:ta, joten ehkä se oli ainakin yksi painava syy CUDA/Nvidia rautaan.
Noiden mallien kehittäminen on kuitenkin evoluution kautta tapahtuvaa ohjelmointia/laskentasääntöjen hiomista, joten uskoisin, että pelkkä rauta ei tässä ratkaissut. Raudan laskentakyky (max.rinnakkaisuus, lyhyet prosessiketjut syvien sijaan) tietysti ohjaa mallin luontia.
2 tykkäystä
Financial Timesin tietojen mukaan Nvidian lippulaiva chipit on myyty loppuun pitkälle vuoteen '24. Esim. H100 toimituksia on tarkoitus tehdä ensi vuonna 1.5-2 miljoonaa kun tänä vuonna niitä tulee arviolta 0.5 miljoonaa. Omissa arvioissa tällaiset luvut tarkoittaisi, että pelkästään data center liikevaihto voisi olla ensi vuonna +60B. Nvidia to Reportedly Triple Output of Compute GPUs in 2024: Up to 2 Million H100s | Tom's Hardware
8 tykkäystä
Ei muuta kuin vöitä kiinni ja kohti 1000 taalan hintaa.
9 tykkäystä
Aika villejä huhuja Nvidian ympärillä
5 tykkäystä
Parhaat saa parhaat jutut ja kovimmat vihamiehet, ja shorttaajat etsii saaliista heikkoa kohtaa. Jensen tietää, että vankila ei ole hänen juttunsa. Varmaan syntymässä aikamoinen härdelli. Kiitos jaosta @Jaakopp1
1 tykkäys
Näin tästä uutisen jo 2.9. mikä selittänee ainakin osittain 1.9. avaukseen syntynyttä laskua. Mielestäni laitoin täälläkin jonnekin tästä jonkin tweetin, mutta en ole ihan varma.
3 tykkäystä
Kannattaako tällaisista salaliittoteorioista keskustella sen enempää?
Juttu on vain lähtenyt siitä, että periaatteessa Nvidialla olisi ainekset kasassa kehitellä tästä petos, mutta yhtäkään todistetta sen puolesta ei ole.
Enkä liioin keksi yhtään hyvää syytä sille, miksi Nvidian perustaja, toimitusjohtaja ja multibiljonääri Jensen pumppaisi tällä tavoin Nvidian osaketta.
10 tykkäystä
Hyviä syitä tällaisen teorian keittämiselle voi sen sijaan löytyä näistä “NVIDIAn osake on aivan liian kallis”-karhuista jotka kenties ovat pinonneet shortteja jo ennen AI-hypelähtöä ja ovat nyt ns. Syvässä Lirissä. Edes lyhyt mutta voimakas dippi jonkin draaman ympärillä olisi heille kiva juttu…
Kertokaa jos joku löytää jotain oikeita todisteita ja mielellään edes jonkinlaisen teorian motiivista.
11 tykkäystä
Acquired podcast (joka on aivan röyhkeän kova kahden tech venture -sijoittajan vetämä yrityshistoria podcast-sarja) laittoi ulos uuden jakson, jossa käsitellään Nvidian viimeaikaisia tekemisiä ja tapahtumia, jotka johtaneet siihen, että market cap noussut alle parissa vuodessa ~1000B: Nvidia: The Dawn of the AI Era: The Complete History and Strategy
Jos on aukkoja prosessoriarkkitehtuurissa, syväoppimisessa, konesali set-upeissa ja siinä, miten noista syntyy Nvidian 70% katteet, niin ei voi kuin suositella. Samasta sarjasta löytyy myös kaksi muuta 3-4h Nvidia-jaksoa vuosista 1993-2006 ja 2006-2022.
12 tykkäystä
Ihan kiinnostavaa lukea perusteltuja kriittisiäkin näkemyksiä osakkeen arvostuksesta.
Arvotohtorin valuaatio tosin menee kyllä pahasti pieleen, jos Nvidia toimittaa ensi vuonna sen FT:n tietojen mukaisen 2 000 000 hopperia. Pelkästään se tekee AI/Data center segmentille n. 60B revenueta, jollaisia tohtori ennusti 4v päähän.
Ja 60B:kin voi olla ensi vuonna ihan paperia, kun noita hoppereita bundlataan DGX-räkkeihin ja myydään vielä vähän kovemmilla katteilla.
Siitä voi jokainen laskea, mikä on osakkeen hinta esim. +60B liikevaihdolla ja 45% profit marginilla, vaikka EPS-kertoimet puolittuisivat nykyisestä.
Itse en ole kovin huolissani tällä hetkellä.
5 tykkäystä
Ranskassa kilpailuviranomaiset ovat tutkivat, toimittaako Nvidia liian hyviä laitteita CSP:lle ja siten blokkaa 90% markkinaosuudellaan muut kilpailijat pois markkinoilta. Kuulostaa pikemminkin positiiviselta ongelmalta?
7 tykkäystä
Todella erikoinen artikkeli Beth Kindigiltä , I/O Fund.
“However, we do not believe current prices are ideal for a long-term, buy and hold mindset. Patience will likely pay off in the long run. So, it will be up to each investor to decide if they want to take on the risk of potentially getting one more high.”
Mulle ei aukea, miksi Beth selittää NVIDIA trimmaustaan kovin paljon teknisen analyysin kautta, ei fundan. Onhan NVIDIA varmaankin listan kallein arvostus. Mutta on se melkein aina ollut. Jotain muutakin I/O Fundilla on nyt mielessä kuin NVIDIA:n tekniset viivat.
1 tykkäys
Vähän kun tätä mietin, niin I/O Fund elää kvartaalitaloutta, se markkinoi tuottojaan useamman kerran vuodessa ja voipi olla, että I/O Fund alkaa enemmän ja enemmän treidata, kuin istua kruununjalokivien päällä. Rahaston manageri Knox Ridley on täysin omistautunut tekniseen analyysiin, netistä löytyy paljon videoita häneltä…
1 tykkäys
Toistan edelleen sen, että jos Nvidia toimittaa Financial Timesin insider-tiedonantajan kertoman mukaiset 2 miljoonaa Hopperia ensi vuonna 50% profit marginilla, niin siinä saa PE-kerroinkin about puolittua nykyisestä (mitä tietenkään tuollaisilla kasvuluvuilla ei tapahdu) ja silti tauluun tulee vielä 100% market cap kasvu.
Eri asia on toki se, että toteutuuko tämä, mutta ihan en nyt I/O:n tapaan kuuluttaisi, että ”fundamentit eivät voi muuttua näin nopeasti kuin nyt on nähty”.
4 tykkäystä
Nahkatakki-jäbä pitää Nvidian AI Summitin Key noten ja juttelee sen jälkeen edellä mainitun Acquired podcastin vetäjän kanssa kiihdytetystä laskennasta ja generatiivisesta tekoälystä. Tulee livenä Israelista, joten järkevään aikaan myös suomalaisille: NVIDIA CEO Jensen Huang Keynote at AI Summit 2023
4 tykkäystä
Taas se Bidenin hallinto suolaa Nahkatakkimiehen bisneksiä.
Tarvitaan siis taas uusi malli… tämä on ihan typerää, koska Kiina voi aina vain pistää muutaman hehtaarin lisää hallitilaa ja pari hiilivoimalaa lisää tulille ja vanhemmallakin raudalla voi tehdä saman asian jos kustannustehokkuudella ei ole väliä.
4 tykkäystä