Hyvät X poiminnat @Sijoittaja-alokas!
Yleisenä kommenttina sisäpiirimyynneistä: Osakepalkkiot ovat osa palkitsemisjärjestelmää. Moni on automatisoinut myynnit niin, että ne tapahtuvat mekaanisesti ennalta määritellyn myyntiohjelman mukaan. Lisäksi voi olla optiojärjestelyitä, joista syntyy veroseuraamuksia, ja jonka takia taas sisäpiiriläinen joutuu myymään kattaakseen verot. Eli jokainen voi miettiä asiaa ja sisäpiirimyyntejä seuraamalla voi muodostaa omaa kuvaa onko kyse mekaanisesta myynnistä.
Nvidian kohdallahan nyt jos kurssi dippaa kunnolla, niin saa herkulliset otsikot “minähän osoitin sisäpiirimyyntien olevan ihan tapissaan”. Kun taalamääräisesti taidetaan olla aika kovissa lukemissa. Korkea kurssi → kova palkkio → iso vero, myyntikierrehän tuosta syntyy.
Harvoinhan enää näkee ostoja, jotka ovat sellaisia, jotka huokuu vankkumatonta uskoa kurssin nousuun. Mielessäni on viime vuosilta Planetin toimarin (Marshall) ostot, ja HIMS:n toimari Dudum ja hallituksen uusi jäsen Payne ostivat tänä keväänä osakettaan.
Amerikkalainen talousmedia otsikoi näyttävästi, kuinka Nvidian toimari on myynyt 95 miljoonalla taalalla osakkeitaan. Se ei kuitenkaan ole prosenttiakaan hänen omistuksistaan.
Kuten Karhulainen tuossa jo vihjaisi, kyseessä näyttäisi olevan ennalta ilmoitetun myyntiohjelman toteuttaminen. Viime maaliskuussa kerrottiin, että Jen Hsun Huang aikoo myydä (myöhemmin toteutettu splitti huomioiden) 6 miljoonaa osaketta maaliskuun 25 loppuun mennessä. Viikon sisällä on myyty 480 000 osaketta, joten tässä joutuu järkyttymään vielä useaan otteeseen, ennen kuin myyntiohjelma on saatu valmiiksi.
Oma kiteytykseni/tulkintani siitä mitä Jensen sanoi, on tässä:
Kaikki merkittävät pilvipalveluyhtiöt ja palvelinkapasiteetin tarjoajat siirtyvät Blackwelliin
Itse pointtaan Jensenin luettelemalta listalta erityisesti Teslan ja X.ai:n. Tämä tarkoittaa sitä, että Elon Musk myös tulee käyttämään Nvidiaa ja Teslan mahdolliset omat siruhakkeet eivät nouse Teslalla päälinjaksi.
Voinemme olettaa, että Amazon ja Tesla/X.ai pyrkivät saamaan robotisaation nyt läpilyöntiin. Silloin alkaa purkautua paljon tuottavuutta, ja voi syntyä positiivinen kierre ja jatkuva kysyntä uudistaa koko ajan AI alustoja.
Nvidialla on nyt monopoliasema. Jensen toimii fixusti, puhuu kauniisti kaikista kumppaneistaan, hänelle kilpailijatkin ovat kumppaneita (ainakin julkisuudessa)
Jensen ei puheessaan maininnut yhtään epävarmuutta ilmentävää asiaa. Hän oli 100,00% varma, että Nvidia yhdessä ICT verkostonsa kanssa saa läpi tämän uuden teollisen vallankumouksen.
Joitakin lukuja esityksestä: 1T arvoinen datacenterkapasiteetti tulee pian uusiutumaan Nvidian arkkitehtuuriin. 50T arvoinen mekaaninen teollisuus alkaa hyödyntää Nvidian ratkaisuja. Yhteensä 100T arvosta eri toimialoja alkaa pikkuhiljaa hyödyntää Nvidian ratkaisuja.
Omniverse on keskeinen juttu. Sillä voidaan suunnitella/simuloida asiat etukäteen.
Jensen arvioi (Q&A sessiossa), että kvanttilaskennasta tulee arkea muutaman vuosikymmenen tähtäimellä. Nvidia tekee nyt laajasti yhteistyötä kvanttitoimijoiden kanssa.
Yritin yllä kiteyttää, mutta asiaa olikin aika paljon.
Oma johtopäätökseni on se, että elokuussa julkistettavat Q2 luvut ja ennusteet saavat taas kaikkien leuat loksahtamaan auki hämmästyksestä.
Tuo @Alan_Cali linkkaama kiinnostava artikkeli alkaa “Etched is Making the Biggest Bet in AI”
Ja tuo suurin veto on tehdä piiri, joka on optimoitu vain Transfomerille. Juuri muihin AI-malleihin se ei kykene.
He myös ennustavat, että tällaiset suppean tehtävän AI-piirit ovat tulevaisuutta
Tosin voisi kuvitella, että ei Transformeriin erikoistuneen piirin tekeminen ole NVIDIA:lle mahdotonta, joskin vienee aikaa.
Tuntuu, että suuressa osassa AI-teknologiauutisissa kerrotaan uudesta innovaatioista, joka pohjautuu Transformeriin.
Aikaisemmin ennustin tässä ketjussa tulevia AI-trendejä ja näin olettaisin edelleen.
Täysin odotuksien mukaan - ainoa tapa pienempien startuppien lähteä kisaan hardispuolella on tehdä hyvin kapeaan tarkoitukseen custom-lastu. Näissä on vain se huoli että jos kehitys kehittyy ja ohjelmistopuolella kaikki kääntyvät johonkin uuteen algoritmiin, se ei välttämättä taivu liian custom-piirillä ja firma on lirissä. Toisaalta isot megacapit ovat hyvin kiinnostuneita piireistä jotka tarjoaisivat kenties merkittävää kulusäästöä huomattavasti pienemmällä virrankulutuksella vs. teho. Heille kun ei ole mikään ongelma pistää läjää räkkejä pystyyn vain yhtä tiettyä duunia varten.
Näin toki ja ovat varmasti ottaneet oletuksena sen, että mallit muuttuvat, mutta Transformer on laajasti käytetty joitakin vuosia ja tämä riittää kannattavaan liiketoimintaan.
Eivät kertoneet tarkemmin teknistä ratkaisua, mutta oletan, että ratkaisu on rakennettu siten, että se toimii Transformerin kaltaisissa ratkaisuissa eli merkityksien vertailussa avaruudessa myös uudenlaisissa malleissa.
Toisaalta tähän saakka on (kymmeniä) vuosia käytetty CNN-tyyppistä kuvien käsittelyä, johon on vuosien saatossa hieman kehitystä tehty tai RNN/LSTM ratkaisuja. Eli mallit tahtovat kestää pitkään.
Transformers taas muutti ajatustapaa selkeästi, joka mahdollisti osaltaan nykyisen kehityksen
BRUSSELS, July 1 (Reuters) - French antitrust regulators are preparing to charge Nvidia for allegedly anti-competitive practices, people with direct knowledge of the matter said, making it the first enforcer to do so.
The French so-called statement of objections or charge sheet would follow dawn raids in the graphics cards sector in September last year which sources said targeted Nvidia.
I/O Fundin Beth Kindigiltä mielenkiintoinen ja lukemisen arvoinen näkemys AMD:stä.
Tästä voi hieman hahmottaa missä NVDIA:lla on vallihautaa ja missä kohtaa kilpailijoiden voi olla helpompi päästä vähän apajille haittaamaan NVDIA:n voittokulkua. Marginaalipaineen etc. hahmottamiseksi inferenssoinnin puolella mielestäni relevantti myös NVDIA:sta kiinnostuneille.
Vaikka NVDIA on menneillä tuotoilla ylivertainen, tulevaisuus voi olla tasaisempi tuotoiltaan AMD:n ja NVDIA:n välillä.
“Nvidia has greatly rewarded investors as it quickly ascended to be the pinnacle of the generative AI revolution of 2023 and 2024, with revenue consistently exceeding expectations so far on robust demand. Beth Kindig and the I/O Fund have projected Nvidia to potentially rise to a $10 trillion valuation by 2030 on strong data center growth from its rapid GPU roadmap and upcoming software and automotive opportunities, but Kindig believes that AMD and its opportunity in AI inference may help the stock outpace Nvidia’s projected 250% return through 2030.”
Joo hyvä nosto, kiitos @Jackwelshh . Kuuntelin keskustelun, ja lopulta minulle jäi sellainen olo Bethin tarinasta, että AMD on hyvä, Lisa Su on erinomainen johtaja siinä yhtiössä, ja että AMD on hyvä sijoitus nyt. Mutta pääroolin varasti Nvidia, ihan vahingossa. Beth moneen otteeseen toisti, että Nvidia on naulannut ykkösasemansa Cudan kautta, eikä vastaavaa ohjelmistokokonaisuutta AMD:llä ole. No miksi sitten AMD menestyy jatkossa? Bethin mukaan sen takia, että se myy GPU:t puolet halvemmalla kuin Nvidia. Tämä hintakilpailukyky oli minusta ainut selkeä pointti AMD:n hyväksi, tai ei se ollut selkeä, koska Beth totesi, että AMD ei pääse Nvidian marginaaleihin millään. Ja siihenkin Beth totesi, että AMD voi myydä halvemmalla vain silloin, kun ostajalla on vahvat omat inhouse ICT resurssit rakentaa AMD:n GPU:iden päälle tarvittava ohjelmistokokonaisuus. Ja Beth totesi, että tähän pystyy vain isoimmat (eli Microsoft ja vastaavat). Toinen kulma, mitä Beth toi esille, oli inferencing, eli AI päättely reunalla, päätelaitteissa. Tässä Beth näkee AMD:n olevan vahva. Mutta haastattelussa ei tullut mitään erityistä, miksi AMD olisi reunalaskennan kunkku. Minusta lienee täysin selvää, että Nvidia menee myös reunalle. Jotain puhettahan on ollut Nvidian AI PC:stä kevään aikana. Juuri reunalaskennan takia Nvidia yritti ostaa Armin (näin olen itse asian ajatellut). Nvidia omistaa nyt 0,1%:n Armista, mutta se on itse asiassa isoimpia teollisia omistajia siinä, ja isoin potti on SoftBankilla, 90%. Mielenkiintoisena yksityiskohtana vielä se, että AMD:n tj. Lisa Su ja Jensen ovat sukulaisia, molemmat syntyneet Taiwanissa ja pieninä lapsina muuttaneet USA:han.
Myöskään mä en ole ihan vakuuttunut, että pelkkä hinta lopulta AI-investoinneissa on välttämättä se merkittävin ajuri. Se voisi olla sitä, jos elämme tästä hamaan tulevaisuuteen ns. foundation-mallien aikakautta, jossa inference-kustannusten rooli korostuu, mutta se ei välttämättä ole niin.
Jos olisin itse investointipäätöksiä tekevä CIO/CTO, miettisin kyllä kaksi kertaa, lukitsenko itseni Nvidiaan vai AMD:hen (tai vaikkapa yllä mainittuun Etchediin) huomioiden kaikki mahdolliset tulevaisuuden innovaatiot. Mitä jos traning / fine-tuning tulee tulevaisuuden algoritmiikan kannalta inferencen marginaalikustannusta tärkeämmäksi tekijäksi? Mitä jos foundation mallien aikakausi loppuukin joskus? Mitä jos inference muuttuukin monimutkaisemmaksi tai siihen tulee jotain lisäulottuvuuksia? Haluaisinko näissä tilanteissa, että arkkitehtuurini ja käsilläni oleva laskentakapasiteettini on Nvidiaa + Cudaa vai jotain muuta?
Aquired podcastin kolmannessa Nvidia-jaksossa puhuttiin nimenomaan tästä - juuri kukaan ei halua ainakaan konesali-luokan kapasiteetissa lähteä tekemään muutoksia:
“Data center revenue and data center CapEx is some of the stickiest revenue that is known to humankind. Just the organizational switching costs involved in data center procurement and data center architecture standardization decisions—God, that’s a mouthful even to say—at Fortune 500 companies and the like is they’re not changing that more than once a decade at most… Nvidia is leveraging this excitement to go get some lock-in… I think they’re looking for capacity in every way they can get it to exploit this opportunity while it exists.”
Pieni huomio konesaleihin liittyen; Tekoälykuviot ovat sekoittaneet data center markkinoita, mutta oletus on, että tässäkin palataan samankaltaiseen tilaan myöhemmin - voittaja on se, kuka kykenee tuottamaan parhaan teho-sähkönkulutus suhteen. Pilvikonesalien kuluista suurin osa - luku saattoi olla jopa 90 % (en muista enää tarkasti) menee sähköön, joten pienikin muutos sähkönkulutuksessa on merkittävä. Ja käsittääkseni AMD on ollut tässä optimaalisin - konesalikäytössähän ei haeta tehokkainta prosessoria. Nvidia taasen pystyy tuottamaan huipputason piirejä, mutta konesalien bulkki-prosessoreiksi niistä ei ole.
Tästä ei taida vielä ollut puhetta täällä ketjussa. Ooredoo on Qatarilaisten “Telia”. Ooredoo toimii monikansallisesti ympäri Lähi-Itää, Pohjois-Afrikkaa jne. Minusta on merkittävä markkina-askel Nvidialle alkaa viedä AI teknologiaa pohjattoman kassan omaaville tahoille. Tähän asti Lähi-idässä on ostettu lähinnä Nvidian osaketta, mutta nyt siellä edetään ihan tositoimiin AI:n osalta. En nyt ota kantaa alueen valtioiden ihmisoikeusongelmiin, mutta isossa kuvassa teknologialla pullistelu on parempi asia kuin aseilla pullistelu. Eli näen Nvidian entryn Lähi-itään enemmän positiivisena asiana kuin negatiivisena ESG:n näkökulmasta.
Sähkönkulutuksesta tuli mieleen Acquired podcast, missä mainostettiin jotakin data center palvelua. Ideana oli hyödyntää öljyteollisuudessa poltettavaa kaasua, joka voidaan muuttaa sähköksi ja käyttää se laskentaan. Tekee varmaan ihan hyvää toiminnan kannattavuudelle.
Omassa projektissani olen päätynyt käyttämään omaa konettani laskentaan, kun pilvipalvelut voi olla aika suolaisesti hinnoiteltu. Maksan nyt palvelusta vain 5$/kk, kun pelkästään aineiston siirtäminen palveluun nostaisi sen hinnaksi yli 100$/kk. Tarkkaa hintaa hankala sanoa, kun pitäisi valita kustomoitu palvelu. Sähkölaskussa kulutuksen kasvu ei ole ainakaan erityisesti näkynyt. En yhtään ihmettelisi vaikka moni suunnittelisi alkavansa siirtymään pois pilvipalveluista.
Vaikka laskentaa voi tehdä omalla koneella, niin ydinluonteeltaan AI-palvelut on sellaisia, mitä voinee tarjota vain pilven laskentateholla. Tai ainakin kehittyneitä palveluita. Töissäkin AI on käynnistänyt täysin IT-infraa vuodet ja vuosikymmenet laiminlyönneille instituutioille ja yrityksille kiinnostuksen ottaa pilvi käyttöön nimenomaan AI:n vuoksi.
No käytännössä tässä vaiheessa kyse on hypestä, mutta pidemmällä tähtäimellä ainakin itse uskon AI:n olevan sellainen avainteknologia, joka vie yrityksiä yhä enemmän pilveen. Tosin jos infra ei tässä vaiheessa ole sillä tasolla, että voi käyttää pilveä hyödyksi, niin voi tulla aika lailla investoimista…
@Neon_Hauer:n kirjoituksesta tuli mieleen muutama ajatus, jota alla ajatuksenvirtana.
Hyperascalerit (AWS, MS, Google) ovat kyllä rakentaneet liiketoimintansa erittäin fiksusti tähän mennessä.
Lähtötilanne oli 80-luvun serveri toimiston nurkassa (osastotietokone), koska suurkonesaliin ei moisia tarvinnut olevinaan laittaa. Taisi verkkotekniikkakin olla tässä osasyyllinen.
Vuonna 2000 serverit oli jo siirretty konesaliin ja verkot nopeita. Tässä oli hyperscalierien kannalta ongelmana, ettei konesalit olleet niiden hallinnassa, eikä niistä saatu muuta liikevaihtoa kuin serverin lisenssimaksut.
Vuoteen 2020 tultaessa pienet konesalit oli korvattu pilvellä eli hieman isommilla hyperscalereiden hallitsemilla konesaliverkostoilla. Viesti on, että kaikki pitää olla pilvessä ja ohjelmisto Saasina. Raha virtaa hyperscalereille.
Tässä kohtaa on loistavaa markkinointia todeta, että AI vaatii valtavaa laskentatehoa ja mieluusti vielä turvallisessa ja salaisessa paikassa. Eli hyperscaleein pilvessä. Tämä on varmaan jopa monesti totta. Mutta mikä onkaan seuraava kehitysaskel? Pystyykö joku murentamaan hyperscalereiden ylivallan?
Onko konesalin pakko olla hyperscalerin? Miksi se ei voisi olla jonkun toisen, jolla on riittävästi pääoma konesalin rakentamiseen. Ja onko sen pakko olla jättimäinen. Voisiko NVIDIA rakentaa ”miljoona” pienempää konesalia.
Onko tietoturva ainoa ja oikea syy keskittää laskentateho suuriin saleihin? Mikä on valtioiden rooli jatkossa. Kiina kyllä varmasti hoitaa oman tonttinsa, mutta mita tekee Eurooppa?
Teloperaattoreilla on vielä hallussaan iso osa verkosta. Voisiko haastaja tulla siitä suunnasta? @karhulalainen nosti esiin Ooredoon ja Nvidian yhteistyön esimerkkinä.
Hyvä pohdintaa @MoneyWalker. Cloudflare on yhtenä esimerkkinä hajauttamisesta, se on alusta alkaen rakentanut valtavirrasta poikkeavaa ratkaisuaan, jossa lasketa hajautetaan ympäri palloamme. Eli heidän globaali verkko on ajoalusta, ja heillä on satoja Nvidian ja joidenkin muiden GPU:ita hajautettuna edgeen ympäri palloamme.
On useita syitä, miksi hyperscaler on monelle käyttäjälle optimaalisin ratkaisu. Esim. globaali palvelutarjoama ja -peitto poistavat käytännössä kaikki latenssi-, hajautus- ja interoperability -haasteet. Dedikoidumpiin tarpeisiin voi sitten käyttää dedikoidumpia konesaliratkaisuja. En nyt näe Nvidian pyörittävävän kuitenkaan DGX Cloud -ratkaisun lisäksi general purpose -infraa, joka ei missään mielessä ole yhtiön core competencya.
AI:n osalta, @Neon_Hauerin mainitseman laskentatehon lisäksi, keskeinen syy suorittaa AI-workloadit pilvessä on datan sijainti. Maailmassa on kohta 200 triljoonaa gigatavua dataa säilöttynä pääasiassa pilveen ja on luonnollista, että data ja laskenta ovat lähellä toisiaan. On päivän selvää, ettei ole millään mittarilla järkevää lähteä liikuttelemaan AI:n vaatimia datamassoja kovinkaan kauas laskennasta.
Tämä Acquiredin edellisten kausien sponsori on Crusoe: https://crusoe.ai/. Todella mielenkiintoinen yhtiö omassa AI-laskenta nichessään.
