Kukaan ei tällaista teknistä tekstiä jaksa lukea, mutta laitetaan nyt, koska liittyy omaan pohdintaan Mobileye vs. Tesla FSD.
Uskon, että Teslan käyttämä end2end tulee vaikuttamaan autonomisten ajoneuvojen ratkaisuihin tulevaisuudessa.
Sijoittaisin itse Teslaan, mutta kun sijoitin muutama vuosi sitten, koska mielestäni Tesla on sähköautoja valmistamisessa kilpailijoita edellä, tein osakkeella kuitenkin pienet tappiot. Hiemankin suuremmassa kurssilaskussa myyn liian helposti Teslan kaltaista korkean arvostuksen firmaa. Pää ei kestä.
Minulla on pieni sijoitus Mobileyetä ja harkitsen sen position pienentämistä alla olevalla perusteella.
end2end laajenee.
end2end-valmistaja Wayve on saanut miljardin investoinnin NVIDIAlta sekä Microsoftilta. Suurten AI-mallien tekijät uskovat datapohjaiseen end2end-malliin.
NVIDIA alkaa rakentamaan Drive-järjestelmäänsä tukemaan vahvemmin end2end-mallia, eli vaikka Mersu saattaa käyttää tulevaisuudessa Teslan kaltaista end2end-mallia
Alla kuva avoimen lähdekoodin end2end-paperista, joka on vastaavan kaltainen kuin vaikka NVIDIAn malli ja oletettavasti myös Teslan malli on konseptitasolla sama.
Tässä karkeasti ero perinteisen ja end2end välillä ja missä asioissa end2end on mielestäni parempi.
End2end malli
Yllä kuvassa ratkaisu koostuu kolmesta Transformer-mallista. Kameroiden tieto muutetaan BEV/BirdsEyeView kartaksi, jota Transformerit käyttävät.
Yksi oppii ennustamaan agenttien (autot, kävelijät…) liikeradat agenttien suhteiden perusteella.
Toinen oppii ennustamaan kartan elementit (ajoradat, kaistat…).
Näiden perusteella tehdään vektorit Planning Transformeriin, joka päättää miten ajetaan.
Opetus tapahtuu datalla, jota ei ole labeloitu ja malli oppii tunnistamaan tarvittavat objektit. Kun opetusvaihe on tehty, on mallilla kaikkien opittujen asioiden suhteet tiedossa (moniulotteisessa avaruudessa).
Kun tuotannossa luetaan sen hetkinen kameroiden tuottama BEV, päättelee malli objektien suhteista (agentit/autot, kävelijät, kaistat…) mitä tehdään.
Päätöksessä se siis ottaa tällaisia asioita huomioon: Jos nuo tuolla etäisyydellä olevat autot lähestyvät tuota vauhtia, nuo kävelijät tuota vauhtia, tiessä on tuossa kohdassa kuoppa ja koirakin ylittää tietä, mitä tulisi tehdä.
Päättely on siis ihmismäistä, sillä alitajuisesti ihminenkin päättelee risteyksessä kaikkien liikenteen objektien liikkeiden perusteella, mitä on tehtävä.
Tuon kuvan end2end-malli oppii turvallisuuteen liittyviä asioita (etäisyydet autoihin …) opetuvaiheessa LOSS-arvon laskentalogiikassa, jossa on parametroituna halutut etäisyydet. LOSS-arvon mukaanhan muutetaan opetuksessa parametreja.
Perinteinen malli
Ihminen päättää mitä objektieja tunnistetaan (autot, kävelijät). Objektien liikkeet ennustetaan jollain ML-mallilla ja osin koodilla lasketaan seuraavat liikkeet.
Tässä on siis enemmän teknistä laskentaa eikä niin ihmismäistä
Paitsi tuo ihmismäisyys, saattaa perinteisellä mallilla varsinkin Mobileyen ratkaisussa (RSS/Responsibility-Sensitive Safety) ongelmaksi tulla runsas matemaattisten kaavojen käyttö.
Neuroverkkomallin oppiminenhan tapahtuu siten, että opetuksessa AI-mallin parametrit asettuvat arvoihin, joissa kaikki sisääntulojen variaatiot antavat mahdollisen oikeat lähtötiedot opetusdatan mukaan.
On mielestäni lähes mahdotonta tehdä kaavaa, joka laskee saman tuloksen kuin suuren määrän parametreja omaavan AI-malli.
Esimerkiksi on mielestäni vaikea toteuttaa GPT4-kielimallia yhdeksi yleispäteväksi kaavaksi.
Yhteenveto
Itse siis uskon, että perinteisten ratkaisujen tekijöiden on muutettava ratkaisuaan Teslan end2end-ratkaisun kaltaiseksi.
Waymo on jo muuttanut ja vähentänyt kaavoja Transformerien käytöllä.
Teslan ja muiden end2end-ratkaisuiden valmistajien haaste voi olla se, että näitä on kehitetty niin vähän aikaa, että ne muutaman viimeiset prosentit vaativat työtä.
Kiinnostava kuunnella Mobileyen Q2 sekä Teslan aikanaan tuleva Robotaksi-tiedotus
NVIDIAn malli jos jotain kiinnostaa. Varsinkin lopussa oleva sääntöjen parametrointi on toteutettu yllä mainittun end2end-mallin LOSS-arvon laskentaa laadukkaammin ns. teacher-student knowledge distillation mallilla.
