ChatGPT - Ongelmien ratkaisua AI:n avulla

Voisi pyrkiä myös energian käytön vähentämiseen.

Mietin olemmeko me niitä viimeisiä sukupolvia, joilla on vielä yleisesti kyky tunnistaa AI:n tekemiä virheitä?

Selitän taustaa. Jos AI-mallit tulevat työelämään ja opetukseen ja tekoälystä saadaan ihmisen korvaan kuiskiva apuri, ei meillä ehkä ole enää halua käyttää aikaa tiedon omaksumiseen ja ulkoa oppimiseen. KVG on kuollut, eläköön KVAI?

On myös mielenkiintoista nähdä kuinka nopeasti AI-malleille tapahtuu samanlainen biasoituminen vasen/oikea-akselilla kuin mediassa. AI:n antamilla vastauksilla on todella kova painoarvo ja ei kestä kauaa, kun kielimallien rakentamista keksitään käyttää poliittisten tarkoitusperien toteuttamiseen.

Joka kuratoi kielimalliin päätyvän datan ja ohjaa mallin rakentamista, säätää samalla mallin antamaa vastausavaruutta. Termi “tietokone” on silti lähempänä sanojen kantamaa merkitystä kuin sanan lanseeraushetkellä, jolloin se oli lähinnä iso laskin.

Jatkoa määrittää myös AI-yhtiöiden bisneslogiikka. Myydäänkö taas mainoksia ja käyttäjädataa, kuten netin perusparadigma on ollut ja näytetäänkö annettu vastaus ilman yritysviestinnän sivuvaikutuksia? Saako hilikaivosyhtiö esimerkiksi vaikuttaa ilmastonmuutosta käaittelevän vastauksen koostumukseen?

Huhhuh. Täytyy yrittää muistaa kirjoitettu ja katsoa asiaa viiden vuoden päästä. Moni nyt auki oleva asia näyttää silloin ilmeiseltä.

(Editoin typon pois)

15 tykkäystä

Eikös tämä ole luonteeltaan sama ilmiö kuin se, että taskulaskinten tultua markkinoille käsinlaskutaidon käytännön tarve laski olemattomaksi. Siitä lähtien koululaiset ovat kysyneet opettajaltaan, miksi allekkainlasku pitää opetella koulussa.

3 tykkäystä

Tämä biasoituminen tapahtui heti koska opetusmateriaali on biasoitunutta.

7 tykkäystä

Maksetut “mainokset” eli firmaa puoltava vastaus rahalla :slight_smile:

“Mikä analyysitalo on tuottanut parhaiten viimeisen 10v aikana?”

1 tykkäys

Ei kai sentään kaikkien ihmisten, ymmärsin kyllä tässä yksikön 1. persoonan käytön spesifinä enkä yleistävänä. :wink: Tästä taas päästäisiinkin aasinsillan kautta kielimallien heikkouksiin, mutta ei mennä nyt siihen.

Joo, twiitti on tarpeettoman provokatiivinen. Olen kuitenkin eri mieltä siitä, että kielimalleilla olisi kyky suodattaa täsmällisiä vastauksia. Roskan määrää voidaan erilaisin keinoin yrittää rajata, mutta kovin vaikea sitä on saada kokonaan katoamaan. Se, miten haitallista tämä roska on, riippuu tietysti käyttäjästä ja käyttötarkoituksesta. Lainaan tässä taas Gary Marcusta:

Large language models do something very different: they are not databases; they are text predictors, turbocharged versions of autocomplete. Fundamentally, what they learn are relationships between bits of text, like words, phrases, even whole sentences. And they use those relationships to predict other bits of text. And then they do something almost magical: they paraphrase those bits of texts, almost like a thesaurus but much much better. But as they do so, as they glom stuff together, something often gets lost in translation: which bits of text do and do not truly belong together.

When GPT gets things right, it is often combining bits that don’t belong together, but not quite in random ways, but rather in ways where there is some overlap in some aspect or another.

In some sense, GPT is like a glorified version of cut and paste, where everything that is cut goes through a paraphrasing/synonymy process before it is paste but together—and a lot of important stuff is sometimes lost along the way.

When GPT sounds plausible, it is because every paraphrased bit that it pastes together is grounded in something that actual humans said, and there is often some vague (but often irrelevant) relationship between…

Vaikka luonnollisen kielen käsittelyssä on otettu hienoja askelia, seuraa NLP yhä melko orjallisesti firthiläistä tutkimustraditiota: You shall know a word by the company it keeps. Mielestäni tarvitaan paradigman muutos, jotta transformer-malleista päästään kohti kokonaisvaltaisempaa läpimurtoa. Oman näkemykseni mukaan seuraava suurelle yleisölle hyödyllinen LLM-työkalu liittyy tekstikokonaisuuksien hallintaan ja tiivistämiseen. Tällaisen ominaisuudenhan Google otti jo viime keväänä käyttöön Workspacen enterprise-versiossa:

3 tykkäystä