Olen sanonut usein, että suurin este siirtymiselle FSD:hen tai muihin AI-käyttökohteisiin, jossa korvataan ihminen, löytyy ihmisten korvien välistä .
Jo nyt FSD (etenkin motariajossa), on selvästi - siis aivan järkyttävän selvästi - turvallisempi ajaja kuin ihminen. Karkeasti jokaista FSD:n onnettomuutta kohden ihminen aiheuttaa samalla ajetulla matkamäärällä viisi onnettomuutta.
Mutta kyllähän se tiedetään, jos AI tekee edes yhden virheen, siitä revitään ympäri maailmaa jäätävät otsikot. Samaan aikaan ihminen on tehnyt 5-10 vastaavaa virhettä ja se on business as usual.
Ihan sama dynamiikka on havaittavissa kaikkialla - lääketiede, lainsäädäntö, yritysten prosessiautomatisaatio. Pitäisi olla 1.0 accuracy, että AI hyväksytään. Ironista tästä tekee se, että tuollaiseen accuracyyn tuskin päästään, koska kone opetetaan aineistolla, joka pitää sisällään ihmisen virheet.
Muistan kun esittelin joskus asiakkaan talousjohtajalle kirjanpidon AI-ratkaisuja. 95% tarkkuus ei kelvannut - ei vaikka oman työvoiman tarkuustasoksi oltiin mitattu 85%.
Itselle FSD verrattuna muihin käyttökohteisiin kulminoituu juuri tuohon ihmisen mukana olemiseen:
Lääketieteessä AI on jo auttanut ennustamaan esim. kasvaimia hyvin suurella todennäköisyydellä
Lainsäädännössä AI pystyy tekemään hyvin vertailua eri lakitekstien (esim sopimusversioiden) välillä ja parhaassa tapauksessa jopa ehdottaa ratkaisua.
Prosessiautomaatiossa on jo useampi käyttökohde (ostolaskut, datan keruu, raportointi ym.).
Näissä kaikissa on kuitenkin oman käsitykseni mukaan edelleen lopulta mukana ihminen, joka ns. “kuittaa” AI:n työn samalla omaksuen vastuun tehdystä työstä. Eli kun AI on oman osuutensa tehnyt, sen käy läpi vielä ihminen joka sitten hyväksyy työn tai tekee muutoksia)
FSD:n kohdalla (@Thuile :n kuvailema tilanne takapenkillä istumisesta on hyvä esimerkki) itselle ongelmaksi muodostuu juuri tämä, että matkalla vuoriston seinämää alas hieman suorempaa reittiä auton tehtyä virheen, kukaan ei enää pysty kuittaamaan (tai mielummin korjaamaan) AI:n tekemää päätöstä.
Eli pitkän tarinan jälkeen yhdyn @Roope_K :n toteamukseen FSD:n läpimurron suurimpana esteenä olevan ihmisten korvien väli
Eihän tämä voi mitenkään pitää paikkaansa, tai ainakaan siitä ei voi olla mitään näyttöä. Mikä tämän lähde on? Jos määrittelee että “FSD:n onnettomuudet” on onnettomuudet + disengagements niin ei ole totta. Mutta en keksi miten muutenkaan sen voisi määritellä, kun käsittääkseni missään ei vielä aja julkisilla teillä FSD:tä ilman ihmis-backuppia, joka ottaa ohjat kun FSD ei osaa.
Tällaiseen väitteeseen vaadittaisiin jo jonkinlaista dataa. Ei riitä, että ihan vain sanoo niin kuten Elon usein monen asian kohdalla tekee.
Ihminen päätyy onnettomuuteen keskimäärin yli 600 000 km välein (muistinvarainen lukema). FSD tarvitsee intervention vähän datasta riippuen 200-800km välein, että mikä lienee sitten olisi tässä vaiheessa tuo fiktiivinen onnettomuusväli?
Miles to critical disengagement lienee se tärkein mittari, tällä hetkellä fsdtracker näyttää jotain n. 500 mailin keskimääräistä ajoa per CDE.
ja siis CDE:n määritelmä on että jos ei kuski puuttuisi ajoon niin tulisi osuma/onnettomuus, jokainen voi arvioida onko 500mailia eli vajaa 800km paljon vai vähän vrt. ihmiskuskien onnettomuusherkkyys.
Tämä on - kauniisti sanottuna - aivan puutaheinää. Ihmiskuljettajat ajavat kaikissa olosuhteissa, FSD ei. Lisäksi pitäisi ottaa huomioon kaikki ne interventiot, joissa ihminen on estänyt FSD:n aiheuttaman onnettomuuden. Datasta pitäisi myös karsia rattijuopot, huumehörhöt sun muut tahalliset tapaukset pois, jos oikeasti haluttaisiin edes likimain tilastollisesti vertailtavaa dataa.
No ei. Tesla FSD trackerissa “kriittinen disengagement” (CDE) viittaa tilanteeseen, jossa kuljettaja joutuu ottamaan järjestelmän hallinnan välttääkseen turvallisuusriskin tai tieliikenteessä laittoman toiminnan. Tällaisia tilanteita ovat esimerkiksi stop-merkin tai punaisen liikennevalon läpiajo, auton kääntyminen väärälle puolelle tietä tai muu epäturvallinen toiminta. Toisin sanoen, kriittinen disengagement tapahtuu, kun järjestelmän toiminta VOISI johtaa vaaralliseen tilanteeseen ilman kuljettajan puuttumista.
Tästä voidaan johtaa se, että jotta tapahtuisi osuma/onnettomuus täytyy:
tapahtua CDE
olla ympärillä tien käyttäjä, joka osuisi juuri auton linjalle
tilanteen kehittyä niin, että Tesla ei pystyisi osumaa/onnettomuutta estämään viime hetkellä
tilanteen kehittyä niin, että toinen tien käyttäjä ei pystyisi osumaa/onnettomuutta estämään
FSD:n oikeasti aiheuttamien osumien/onnettomuuksien väli on siis merkittävästi suurempi, kuin CDE luku.
Non-critical DE on: ei-turvallisuuteen liittyvä ongelma (huono kaistavalinta navigoinnissa, liikennne kohteliaisuus, liittymisongelma jne.)
The graph (below) does show an improvement between FSD 12.5 and 13.2, with the latter reaching 724 miles between critical disengagements. In this context, a critical disengagement means the FSD system will crash if the user does not intercede.
Tämä artikkeli siis hieman oikoo mutkia tulkinnan suhteen nyt kun kävin katsomassa fsdtrackerin määritelmät uudestaan mutta varmaan voidaan puhua “potentiaalisista osumista/onnettomuuksista”.
Mutta pointti edelleen sama, nykyisillä fsdtrackerin luvuilla ei mielestäni olla lähelläkään “safer than human” -tasoja.
Toki tuolla määritelmällä moni ihminen tekee näitä kriittisiä mokia kilsan välein.
Itse ainakin tykkään tyhjällä tiellä ottaa ajolinjan mutkaisella tiellä suoremmaksi vähän vastaan tulijan kaistalta, stopit myös menee selvällä jarrutuksella, mutta harvoin täysin rengas pysähtyy jos tie on tyhjä, parkkiksella voin oikaista tyhjän ruudun läpi. Jne. Minä olen rauhallinen kuski. Satoja tuhansia kilometrejä ajettu eikä edes parkkisakkoa saati läheltäpiti tilannetta omasta käytöksestä johtuen…
Jotenkin huvittava ajatus, että ihmisten tekemistä virheistä pitäisi ottaa kaikki tilastoja alentavat tapaukset pois ja fsd:n tilastoihin pitäisi varmaan lisätä myös läheltä piti tilanteet.
Jos rattijuoppo hyppää ratittomaan fsd-autoon, niin eihän se voi kolaroida? Joten on typerää ottaa tilastoista noi pois. Toisaalta jos ne otetaan pois, niin sitten ihmisten tekemiin tilastoihin pitää lisätä myös kaistallapitoavustimen tai auton automaattisen hätäjarrutuksen aktivoituminen. Koska sillon tietokone on pelastanut ihmisen kolarilta.
Mutta kuten jo aikaisemmin sanottiin, tietokoneelta odotetaan virheettömyyttä eikä parempi kuin ihminen riitä. Jos ajaa ite kolarin, niin ihminen hyväksyy sen. Mutta jos fsd ajaa kolarin, niin sen voi lukee somesta ja iltapäivälehdistä.
ja ennenku mut teilataa tesla bulliksi, niin sanon etten omista enkä ole koskaan omistanut teslan osakkeita. Yritän vain ajatella objektiivisesti enkä tunteella.
Tuohan riippuu ihan siitä, mitä halutaan vertailla. On kuitenkin aikamoinen lausunto sanoa, että ”on typerää ottaa tilastoista rattijuopumukset pois”.
38 % kuolemaan johtaneista onnettomuuksista on Suomessa rattijuoppojen aiheuttamia. Itse en aja kännissä. Harvempi taksikuskikaan ajaa. Siksi minua ei kiinnosta vertailla FSD:n ajotaitoa rattijuoppojen ajotaitoihin, vaan ainakin ihan keskimääräiseen ”hyvään kuskiin”, Vasta tämän vertailun perusteella voin muodostaa realistisen näkemyksen siitä, kumpaan kyytiin minun on turvallisempi nousta.
Jos haluttaisiin vertailla vain automaattisia tai ei-automatisoituja liikennesysteemejä, niin toki silloin voitaisiin karsia dataa vähemmän. Silti vähintään ajo-olosuhteet pitäisi vakioida, eli karsia ihmiskuskeilta kaikki hankalimmat olosuhteet pois, koska FSD ei aja niissä ollenkaan. Tämä tarkastelu ei kuitenkaan enää olisi relevantti ”tavalliselle” kuljettajalle.
Ajoavustinten turvallisuutta parantava vaikutus on toki totta, mutta ihan eri asia. Tässä väitettiin ilman lähdettä, että FSD on useita kertaluokkia ihmiskuljettajaa turvallisempi jo nyt. Tämä on yhä mainospuhetta ja faktuaalisesti puutaheinää.
Nyt puhutaan FSD:n suorituskyvystä ja verrataan FSD-trackerin tilastoja Waymon tilastoihin ja tullaan johtopäätökseen että FSD ei ole kesällä robotaksikunnossa. Tilastot eivät ole millään tapaa vertailukelpoisia ihan jo siitä syystä että Waymo ajaa rajoitetuilla alueilla. FSD:n tilastot olisivat aivan erilaiset mikäli ajoalueet ja olosuhteet olisivat rajoitetut.
Teslalla on takuuvarmasti hyvin kattavaa ja yksityiskohtaista tietoa millaiset olosuhteet ja tilanteet aiheuttavat ongelmia nykyiselle softalle. Nyt kun aloitetaan rajatulla alueella niin myös näitä ongelmakohtia voidaan kiertää esim. reittivalinnoilla. Samaa tekee Waymokin.
Aika paljon tullut katsottua eri valmistajien autonomisen ajamisen videoita ja jos sieltä jotain yleistä kommenttia nousee esiin niin se on se että miten nopeasti ihmiset tottuu ja alkaa luottamaan itsestään ajavaan autoon. Tämä on tietenkin vaarallista kehityksen tässä vaiheessa jos se johtaa siihen ettei enää keskity kunnolla valvomaan tilanteita mutta kuvastaa lähinnä sitä että suurimmat epäilijät ovat niitä jotka eivät ole itse kokeneet kyydissä olemista.
Vaikuttaa siltä että autonomisten autojen yleistymisessä keskeinen haaste on se, että annetaanko koneen ottaa valta omasta liikkumisesta. Toisaalta kulkeehan ihmiset hissilläkin, jotkut toki pelkäävät niihin jumiin jäämistä.
Joskus paikallisliikenteen bussissa on hirvittänyt, kun ihmiskuski paahtanut kovaa nopeutta kuoppaista kapeaa katua pitkin. Silloin ajatellut, että eiköhän se kuski kuitenkin tiedä mitä tekee. En tiedä miten suhtautuisi vaaralliselta tuntuvaan tilanteeseen, jos ihmiskuskia ei olisi. Sitten jos kuolemaan johtavia onnettomuuksia tapahtuu, joissa koneen tekemä virhe oli pääosassa, miten se vaikuttaa kyseisen teknologian hyväksymiseen. Jos tietäisit, että jokin tietty taksikuski on ajanut kuolettavan kolarin, hyppäisitkö hänen kyytiin.
Moni paljon autoa ajava saattaa olla varuillaan ollessaan toisen kyydissä. Saattaa esim. itse ajaessaan väsyneenä jopa nukahtaa rattiin, mutta vaihdettaessa kuljettajaa adrenaali kyydissä ollessa pitääkin hereillä.
Toinen merkittävä psykologinen asia on ihmiskuljettajalla se, että omakin henki on kyseessä ajovirheissä. Robotille kolari ei merkitse mitään.
Ei taideta joelassa juuri jalankulkijoiden turvallisuutta miettiä, jos kolmetonninen roskalaatikko saa viisi tähteä…
“When compared to the European Euro NCAP, the NHTSA rating system lacks forward collision warning and automatic emergency braking systems, lane departure warning systems, driver monitoring systems, and other active and passive component designed to also protect pedestrians and bicyclists, according to NTSB.”
Nopeuden ei varmaan tarvitse olla kovin kova kun massan liike-energia tekee valtaosan tuhosta oli ne kulmat sitten miten pyöreitä tahansa. Mutta toki voi myöntää ettei Cybertruck ole siinä suhteessa ideaali muotoilultaan.
Teslan maine ongelmat ottavat Euroopassa ihan uusia kierroksia, jos Musk vetää anti-Ukraina ja anti-Zelenskyi linjaa. Auto ei ole kaikilla pelkkä mekaaninen liikkumisväline vaan myös osa omaa imagoa, eli emotionaalinen jatke.
.