Tämä on jo vanhaa SER-jätettä.
Se missä katteet taotaan on H100 (joita on pinottu 8kpl DGX H100-purkkeihin)
Mutta menekki on niin järjetöntä että kaikki vanhemmatkin versiot kyllä menevät kaupaksi. Ostajan kannalta molempi kelpaa, uudempi versio on tasoa +50% nopeampi, mutta muuten samaa kauraa.
Lisäksi Kiinaan on tehty A800 ja H800-versiot jotka on rampautettu niin että niitä saa sinne myydä (koska jenkkien asettamat rajoitukset)
Pelkkä H100 chip on myös kolme kertaa kalliimpi kuin A100 – noin 33 000$ (excl. tax). Eli katteet pysyvät kunnossa. On niin uusi, että ilmeisesti sitä tarjotaan toistaiseksi vain yksittäisille asiakkaille.
Mahdetaan Nvidialla olla hymyissä suin.
Jep, koska siitä viimeisimmästä ja parhaimmasta vehkeestä joka tarjoaa alhaisimmat käyttökustannukset (sähkö, konesalitila) yllättäen otetaan se rasvaisin kate…
NVDA on ollut itselleni hankala sijoituskohde. Itse taisin sinullekin täällä jossain kohtaa kertoa, että on panoksia enemmän tässä kuin esim. AMD:ssä ja kun olen luopunut/vähentänyt positioita, ne on lähtenyt ensin AMD:stä. Tai ainakin vähintään tähän suuntaan vihjannut.
Sijoittana on kuitenkin pakko katsoa myös kertoimia ja onhan ne NVDA:lla ison velkaosuuden lisäksi olleet poskettomia jo pitkään. Väittäisin, että AI:n kehitys tuli lopulta hieman yllätyksenä (vauhti), mutta sitä on mielestäni erittäin vaikea arvioida, mihin se johtaa ja miten paljon esim. regulaatiot tulee sitä rajoittamaan. Sehän on selvä, että AI:n kontrollointi joka tasolla softakehitystä myöten on pakko saada jossain määrin “vartioiduksi”.
Bruttokate ei kuitenkaan vielä kaikkea ratkaise, viivan alle jäävä osuus on lopulta sitä oikeaa rahaa myös sijoittajille. Kehitystyö ei tule ilmaiseksi ja mitä pidemmälle mennään, sen kehittyminen rautapuolella on väkisin vaikeampaa. Mielenkiintoiset pari vuotta edessä kyllä.
Onneksi olen hidas eläin, sain vielä lopulta todella mukavat tuotot tästä myydessäni tänään aamulla tuohon NVidian tulosyllätykseen… Niinhän ne sanoo, että buy the rumours, sell the news. Voiko mikään tuon jälkeen enää yllättää positiivisesti? 
Analyytikot muuallakin osaavat tavoitehintojen nopean korjauksen kun olivat pihalla tilanteesta
NVIDIA saa “pieniä” tavoitehintojen korjauksia. Hienosäätöä.
En nähnyt yhtään viestiä Googlen TPU:sta (Tensor Processing Unit) tässä ketjussa. Tai sitten ketjun haku toimii todella huonosti. Google TPU:lla voidaan viitata heidän custom made chippeihin tai sitten kokoelmaan näitä chippejä jotka yhdessä muodostava supertietokoneen joka on myös nimeltään TPU. Hyvin sekavasti kommunikoitu Googlelta, mutta tällä mennään. Tämä TPU on custom made chippi ja supertietokone neuroverkkoihin, jotka ovat nykyisen AI huuman takana.
Tämä vuoden 2017 paperi kuvaa itse prosessoria tarkemmin. Ovat siis tehneet tätä jo vuosia. [1704.04760] In-Datacenter Performance Analysis of a Tensor Processing Unit
Kuukausi sitten heiltä tuli pre-print jossa kertovat että.
Myötätuulta mielestäni Googlelle. Kokonaisuutena mulla ei hirveästi luottoa ole Googleen yrityksenä ja pelkään että ryssivät tämänkin. Aiempia patterneitä firmasta
Reutersin popularisointi kuukauden takaa.
Todennäköisesti pitävät piiriä vain omassa käytössä (sekä omat tuotteet, että pilvipalvelinten vuokraaminen muille) joten siinä mielessä kilpailuasetelma ei ole ihan niin selvä. Jos yritykset eivät voi ostaa koneita omaksi jossa on tämä custom-piiri, ei se oikeasti ole täysin samoilla apajilla kuin NVIDIAn tuotokset.
Fakta on että nämä AI-only erikoispiirit ovat virrankulutuksen puolesta tehokkaampia, mutta eivät välttämättä taivu ihan niin moneen asiaan kuin geneerisemmät GPU-pohjaiset ratkaisut.
Google (ja Amazon) eivät ole ainoa joilla on vastaavia, useita startuppeja löytyy jotka puuhailevat samaa mutta he myös myyvät rautaa muille, eivät vain yritä vuokrata servereitä. Tenstorrent tulee mieleen ensimmäisenä. NVIDIA on silti täysin suvereeni markkinajohtaja.
Pitkässä juoksussa odotan että nämä erikoispiirit yleistyvät tapauksissa jossa konesalia rakennetaan pyörittämään tiettyä spesifistä AI-duunia ja kaikki suunnitellaan tämän ympärille ja NVIDIAn, AMDn ja ehkä jollain aikavälillä Intelin “geneeriset” ratkaisut jylläävät kehitystyössä ja pienemmissä projekteissa jossa ei haluta sähkölaskun ja palvelinkeskusneliöiden alttarille optimoida vaan joustava raudan käyttö on tärkeämpää.
Paljon tosin riippuu myös näiden AI-custom-piirien kehityssykleistä - sieltä pitäisi puskea uutta mallia vähintään 2-3v välein tai jäävät ennen pitkää NVIDIAn ja AMDn jalkoihin joilla on selvä jatkuvasti uutta mallia jauhava roadmappi.
Ihan jees, jos AMD ja TSMC ottaa myös boostia tästä Nvidian piikistä. Oma näkemys on, että Nvidia on ja tulee olemaan laskentatehon kiistaton kuningas. Sitten tästä samasta kentästä riittää tonttia myös AMD:lle ja AMD on myös vahva prosessori puolella. Meni käytännössä Intelistä ohi teknisesti ja nyt sinivalkoiset joutuvat tosissaan tappelemaan ykköstontista. TSMC sitten taas ainoa high end chip valmistaja, jonka laariin raha sataa väkisin. Toki TSMC on geopoliittinen Kiina riski myös. Tämän takia näitä kolmea salkussa.
Tekisi kyllä mieli lisätä vielä Nvidiaa, mutta en tiedä uskaltaako näillä hinnoilla.
NVIDIAn laineilla surffaa myös Supermicro:
Hurjaa kyytiä tässäkin osoitteessa, joskin kertoimien puitteissa hieman ymmärrettävämpää. Eilinen targetin nosto 200 taalaan kuitenkin vanheni pikaisesti 
Ja Nvidian ja sen kumppaneiden tykityksestä kärsii puolestaan Intel, joka on tällä hetkellä jopa -7% liukumäessä ja aletaan lähestyä vuoden pohjia. Yllättyneet käsi ylös(?)…
Kyllä nyt lyötyä lyödään!
Vähemmän yllättäen itselläni on salkussa merkittävä Intel-positio 
Eli olen ostanut ajatuksen, että pitkällä aikavälillä Intel tulee valtaamaan markkinaosuuksia takaisin, jahka saavat prosessin kuntoon cutting-edge puolella. Intelin AI-sirut ovat vielä ainakin vuoden-parin päässä. Sijoittajille se on toki pitkä aika. Moni varmaan myös toivoo Intelin myyvän koko suunnittelupuolen kokonaan ulkopuolisille toimijoille ennenkuin usko palaa isossa kuvassa.
Ehkä ennemminkin valmistuspuolesta haluttaisiin Intelissä eroon, kun tuotantohaasteista johtuu merkittävä osa viivästyksistä tuotejulkaisuissa. Lisäksi tuotantolaitokset sitovat valtavasti pääomaa ja niiden kehittämiseen pitää jatkuvasti syöttää kassavirtaa, jolle saataisiin gigalomaanisesti parempi tuottavuus käyttämällä se uusien prosessorien suunnitteluun. Sirujen suunnittelupuoli taas pelaa ihan ok, vaikka viivästyksiä ja muita tuotteisiin liittyviä pettymyksiä sielläkin on välillä ollut.
Päinvastoin Intelhän on hyvin selkeästi ilmoittanut strategiakseen kasvattaa tuontantokapasiteettia USA:ssa ja tähän laajentumiseen on jo investoitu valtavasti.
Tällehän on myös kansalliset intressit jotta USA voi varmistaa sirujen saannin jos vaikka Kiina alkaa kiristämään ruuvia Taiwanin suhteen.
Se on sitten eri asia onko valmistus Intelin näkökulmasta kannattavinta ja järkevintä investointia, mutta yrityksellä itsellään selvästi ei ole mitään halua valmistuksesta luopua ihan lähitulevaisuudessa
Tässä on vaan kysymysmerkkejä ilmassa - onko valmistus kustannuksiltaan kilpailukykyistä ja saadaanko TSMCn ja Samsungin vetämä kaula valmistusteknologiassa kurottua umpeen. Preemiota maksetaan kyllä jos piirit ovat selvästi teknologisesti johtavassa asemassa, mutta jos uutuudet ovat mallia “samanlaisia tuli TSMC:n uunista jo vuosi sitten” ja se yhdistetään “niin ja valmistuskustannukset ovat +50% koska made in USA” niin kombo on pitkässä juoksussa täysin tuhoon tuomittu.
Jenkkien valtio voi jonkin verran tukea vaatimalla turvallisuuden kannalta tärkeissä paikoissa Made in USA-piirejä, mutta en jaksa uskoa että näin voitaisiin pakottaa perus-kuluttajaraudassa.
Jenkkitehtaat on “henkivakuutus” sen varalta että Kiina päättää tehdä jotain typerää, mutta muutoin kova on savotta jos niiden tuotoksia halutaan myydä kilpailukykyiseen hintaan.
Intelin peppumäen syy on looginen - arvio on että serverimarkkinoiden kokonaiskoko ei juuri muutu, ehkä kasvaa lievästi, mutta uudet sijoitukset ovat pääosin GPU-laskentaan AI-kiihdyttimiksi. Eli Intelin kakku pienenee ja NVIDIA & AMD syövät sen. Jos juuri nyt serverihankinnat ovat jotain 80% CPU, 20% GPU (paljonko kokonaispotista menee rahaa eri osa-alueisiin), tämä voi jopa keikahtaa ympäri. Jos yhtäkkiä uushankinnoista 20% menee CPU-puolelle ja 80% GPU-puolelle kun valtavat konesalit reivataan LLM-maailman asentoon, Intelin syväsukellus voi kokeilla ihan uusia pohjia ainakin datacenter-puolella.
GPU-laskennan osuuden kasvu koskettaa yhä enemmän serverimarkkinoiden lisäksi myös desktop-markkinoita, kun mm. 3d-mallinnus sekä muut tieteelliset laskutoimutukset hoituvat ajoittain jo nopeammin GPU- kuin CPU-siruilla. Tämä kaikki CPU-ydinten määrien jyrkästä kasvusta ja “stacking-tekniikasta” huolimatta. Näyttää isossa kuvassa siltä, että laskennan hyötysuhde siirtyy tulevaisuudessa yhä enemmän GPU-sirujen varaan. AI on tottakai tässä se suurin ajuri, mutta ei edes ainoa. Muutos koskee myös AMD:tä, jonka omat GPU-sirut eivät varsinkaan AI-käytössä pärjää Nvidialle.
Pääosin tästä syystä Intel oli pakotettu jalkautumaan myös GPU-puolelle. Vaikka alku on ollut kallis ja vaikea, niin ARC sisääntulo markkinoille on loppupeleissä ollut myönteinen signaali, kun ohjainongelmat on saatu nyt ilmeisesti selätettyä. Battlemage näyttää sitten suuntaa, että onko sitä kilpailuetua odotettavissa Nvidian suhteen ja missä määrin.
Pitkä tie Intelillä jokatapauksessa on. Pikavoittoja ei ole tiedossa.
Onhan se tosiaan Intelin oma tavoite ja ihan hyvät kannustimet tuotantokapasiteetin rakentamiseen löytyy lyhyellä aikavälillä. Pointtini oli enemmän, että jos Intel olisi valinnut ulkoistaa valmistuksen ja keskittyä vain prosessorien suunnitteluun, niin todennäköisesti tällä strategialla olisi pitkässä juoksussa luotu enemmän omistaja-arvoa. Tietysti ainahan on mahdollista, että Kiina lopulta päättääkin hyökätä Taiwaniin, niin siinä mustajoutsen tilanteessa ne omat tehtaat USA:ssa ja Euroopassa nousevat arvoon arvaamattomaan.
TSMC:llä on niin iso markkinaosuus, että jollei Intelillä olisi omia tehtaita, olisi se aikamoinen riski kaupallisesti, vaikkei Kiina tekisi mitään. Sitä taustaa vasten arvelen hyväksi, että Intel investoi omiin tehtaisiin. On siellä kuitenkin isot tuotantomäärät, että pitäisi onnistua kannattavasti. Arvostuskertoimet ovat houkuttelevat. Omistan Inteliä. Tappiolla on.
Törmäsin Twitterissä hyvään tiivistykseen puolijohdemarkkinasta. Ala on tunnetusti syklinen, mutta kasvaa edelleen nopeasti.
Kannattaa vilaista läpi etenkin, jos puolijohdemarkkina ei ole ennestään tuttu.
In conjunction with Computex 2023, Intel broke the silence for its next-generation 14th Gen lineup, also known as Meteor Lake. Where the blue chipmaker focused on bringing a new hybrid architecture and performance with the previous generations, the new lineup signals a shift to better power efficiency and “AI at Scale”
As for when we can expect Meteor Lake to be available, Intel didn’t specify an exact launch window but if the company’s trend is anything to go by, we could see the lineup rear its head nearing the end of the year.
Intel Unveils Details Of 14th Gen Meteor Lake CPU - Lowyat.NET
Ping @Jarnis , onko tässä mitään yllättävää?
Aloin vaan penkomaan uutisia kun preessä tarjotaan muutaman prosentin pomppua ja toki edeltävänä pörssipäivänä kova nousu. Vai onko se tuo “AI at Scale” nyt kaiken takana?
Edit: Toinen lähde → Upcoming Intel 14th Gen Core Family ‘Meteor Lake’ CPUs Have Integrated ‘VPUs’ For Local AI Acceleration - Gizbot News
Ei oikeastaan. Ei noita vielä näin aikaisin yleensä lyödä lukkoon toimitusaikataulun puolesta, mutta se että heillä on todistettavasti ollut engineering sampleja esillä Computexissa viittaa siihen että toivoa olisi että nuo ehtisivät joulumarkkinoille, ainakin rajoitetulla saatavuudella.
Se että sampleja on nyt esillä kertoo että kannettavien suunnittelu ja valmistus on aikataulussa ja ainoa avoin asia on että tuleeko jotain viime hetken ongelmia jotka siirtäisivät, tai onko vielä huolia massatuotannossa joka saattaisi siirtää launchia tai rajoittaa saatavuuden olemattomaksi.
AI-jutut vaikuttavat lähinnä hypetysyritykseltä. Joo, läppärien piireihin on nyt tulossa AI-kiihdytystä - niin Inteliltä kuin AMDltä - seuraaviin malleihin ja nämä ovat olleet työn alla jo vuosia. Auttavat ehkä joissain duuneissa tyyliin kuvantunnistukset jne. Mahdollinen kiihdytys tulee riippumaan käytettävästä softasta. Tuskin mitään merkitystä viimeisimmän LLM-hypen vuoksi, mutta eipä voi tietää mitä softapuoli vielä keittää.
Vastaavat kiihdytykset ovat olleet kännyköissä jo jokusen vuoden.
Intelin ja osakkeenomistajien kannalta isoin juttu lienee että Intelillä on perusteet lisätä maagiset kirjaimet “AI” joka paikkaan missä 14th gen läppäreistä hypetetään. Käytännön merkitys muuten aika pieni vielä. Softapuoli näiden kiihdyttimien käyttöön Windows-clienttipuolella kun vielä on mallia “miehet koodaamassa, katsotaan milloin jotain hyödyllistä on saatu valmiiksi”. No, ei ole ainakaan budjetista kiinni nämä projetkti kun katsoo AI-hypen lämpötilaa.
Toisaalta voi aiheuttaa pientä ongelmaa kun hyllyt on täynnä 13. ja 12. sukupolven prossuilla tehtyjä läppäreitä joiden menekki on ollut verkkaista ja nyt jos hankintaorganisaatiot saavat päähänsä “mutta näissä ei oo sitä AI-kilkettä!” niin käy Osborne-efekti ja kamat jäävät hyllyyn kun kaikki odottavat sitä missä on se AI juttu 
