ChatGPT, muut kielimallit ja tekoäly

Kuten @Hurton tuossa viittasikin, on olemassa ratkaisu “Retrieval Augmented Generation” jota ainakin eräs Microsoftin AI-asiantuntija blogitekstissään pitää selkeästi parempana ratkaisuna kuin mallin fine-tuningia.

Kuvassa “Retrieve most relevant paragraphs” tarkoittaa käytännössä härveliä, joka semanttista hakua käyttäen kaivaa esiin dokkarit ja niiden osat joissa käsitellään kysymykseen liittyviä asioita, mikä on tehtävissä ilmeisen laadukkaasti käyttäen samaa tekstin muuttamista vektorimuotoon mitä kielimallitkin käyttävät, mutta tilanteesta riippuen riittävä osumatarkkuus voi tulla perinteisemmilläkin tekstihakuratkaisuilla.

En ole minäkään ML-asiantuntija, mutta käytin useamman päivän yrityksen omaan käyttöön tehtävän chatbotin toteutusvaihtoehtojen tutkimiseen (ehdottomasti paras nakkihomma hyvin pitkään aikaan :smiley: ) ja vakuutuin tämän paremmuudesta verrattuna pelkkään uudelleenkoulutettuun kielimalliin (esim. yrityksen sisäisessä käytössä olevan chatbotin mahdollisesti tarvitsee kyetä rajaamaan käyttäjän pääsyä osaan tiedoista, mitä ei pelkällä kielimallilla voine tehdä varmatoimisesti). Ja näitä jopa saa valmiina palvelunakin jo.

5 tykkäystä

Tuo on vasta tietokoneajan kustannus. Lisäksi tarvitaan ihmisarmeija kouluttamaan eli kertomaan mallille, milloin se vastasi hyvin, milloin huonommin. Tuo on yleensä se kallein komponentti, maksaa ihmisarmeijalle palkkoja.

Nämä isot amerikkalais-AI-firmat Open AI:ta myöden teettävät sen ihmistyön pääosin Aasiassa.

1 tykkäys

Tjaah. Tuosta alasta aika paljonkin ymmärtävänä plus jonkinlainen käsitys on tekoälyn tasosta + haasteista:
Ehkä jossain hyvin bulkkimaisessa uudisrakentamisessa robotti voi tehdä yksinkertaisia töitä. Muuten emme kyllä tule näkemään mitään robosähkömiehiä. Työ on kaikeasta huolimatta niin monitahoista, vaikeaakin ja tapahtuu vaikka minkälaisissa ympäristöissä, ettei sitä ihan hetkessä roboilla korvata.

Mutta varmaan 10 vuoden päästä korvataan simppelimpiä hommia. Itse veikkaan jotain hampurilaisen valmistusta sellaiseksi.

Itse käytin ChatGPT:tä Italian lomamme suunnitteluun heinäkuussa. Enkä tehnyt sitä vitsillä ja läpällä vaan sain vinkin keväällä käymälläni ChatGPT kurssilla.

Kyllähän ChatGPT:stä apua oli MUTTA (sitten se fine print):

  • esim. ajoreittisuunnittelussa (teimme sitä vars. Toscanassa) ChatGPT teki aika epäoptimaalisia reittejä ajettavaksi - kannattaa itse käydä ajatuksen kansa läpi mitä se ehdottelee

  • kaupunkien nähtävyydet kannattaa vielä itse jälkitarkastaa Googlen kanssa

  • erikoisemmat nähtävyydet kuten käynti Parmesan juustolassa löytyivät sitten vain omin päin - ei chatgepetterin avulla - eli kyllä se Google ja osaava hakukoneen hakkaaja on edelleen joissain asioissa lyömätön

  • esim. ZTL vyöhykkeistä ChatGPT ei oikein tiennyt mitään - kyllä se oli kovan googletksen takana tietämyksen lisääminen niistä ja karttojen löytäminen, että millaisia ne missäkin kaupungissa ovat

Mutta joo - kyllä siitä hyötyä oli - ja vaimo katsoi silmät ymmyrkäisenä kun ChatGPT:tä promptattiin. Meikän guru-säekehä kirkastui taas parin luumenin verran vaimon silmissä.

3 tykkäystä

Meta Is Developing a New, More Powerful AI System as Technology Race Escalates

Parent of Facebook and Instagram wants artificial-intelligence system to be as capable as OpenAI’s most advanced model

Sept 10 2023

The parent of Facebook and Instagram is working on a new artificial-intelligence system intended to be as powerful as the most advanced model offered by OpenAI, the

Microsoft

-backed startup that created ChatGPT, according to people familiar with the matter. Meta aims for its new AI model, which it hopes to be ready next year, to be several times more powerful than the one it released just two months ago, dubbed Llama 2

  • The planned system, details of which could still change, would help other companies to build services that produce sophisticated text, analysis and other output.
  • It is the work of a group formed early this year by Meta Chief Executive Mark Zuckerberg to accelerate development of so-called generative AI tools that can produce humanlike expressions.
  • Meta expects to start training the new AI system, known as a large language model, in early 2024, some of the people said.

Exllama2 julkaistiin uudella kvantisointiformaatilla, joka alustavissa testeissä mahdollistaa 70B parametrin mallien ajamisen yhdellä 24 GB kuluttajanäytönohjaimella. Tällä hetkellä pyörivät vain 34B mallit, joten ero laadussa potentiaalisesti mielettömän iso, mikäli perplexity ei kasva liikaa. Lisäksi Exllama2 on huomattavasti nopeampi kuin Exllama1, joten taas avoimet mallit ottavat hyvin pian suuren harppauksen eteenpäin, kunhan jengi saa otettua tuon käyttöön :+1:

3 tykkäystä

Mielestäni GPT-4 inhimillistyy päivä päivältä. :smiley:

Tämä löytyi Redditistä.

image

25 tykkäystä

GPT 3.5 laskee aluksi yhtä hyvin (huonosti) ja korjaa yhtä hyvin, mutta maksamalla saa tuon ”odota, itse asiassa, kyllä, pahoitteluni sekaannuksesta” :+1:t3:

Olisiko AI-jai tarkistanut laskelman ja huomannut, että 450 plus 10% = 495? :wink:

Inhimillisyyden elkeet, ei inhimillisyys. @OldFeki

Noniin, toiveeni ovat toteutumassa. Ikävä kyllä, tämä käynnistetään alkuunsa vain USA:ssa.

Alexasta on tulossa kielimallilla terästetty versio. Hinta vielä arvoitus.

Nyt Venture Beat kertoo, että Amazon herättää Alexan henkiin. Uusittu avustaja saa tuekseen laajan kielimallin, jonka luvataan antavan Alexalle kyvyn keskustella rennosti ja realistisesti kuin ihminen. Alexan kanssa voi esimerkiksi jutella resepteistä ja lomamatkaideoista, tai laatia sen kanssa yhdessä runoja.

Amazonin tekoälyjohtaja Rohit Prasad kertoo, että uusittu Alexa rakennettiin neljän peruspilarin ympärille: laajat kielimallit, reaaliaikaiset palvelut, räätälöity toiminta sekä vastuullisesti toimiva tekoäly.

Amazonin mukaan Alexa ohittaa ChatGPT:n kyvyt korkealta ja kovaa. Siinä missä ChatGPT:n tietokanta päättyy vuoden 2021 loppuun, Alexa tarjoaa reaaliaikaista tietoa. Sen lisäksi uutta Alexaa vaivaa pienempi viive kuin aiemmin.

2 tykkäystä

En löytänyt ainakaan ketjuhaulla tietoa, että oliko se toiminnallisuus ChatGPT-pohjaisten PowerPoint-esitysten tekemiseen jo olemassa?

Muistelen, että jokunen kuukausi sitten oli demovideoita, joissa PowerPointiin syötettiin tehtävä (tai jopa erillinen dokumentti?), josta PP sitten laati valmiiksi visualisoidun nätin diashown.

Tietääkö joku, että onko tällaiseen tuotteeseen normikuluttajalla pääsyä?

Tarkoittanet MS:n copilottia PowerPointille ja muille Office-ohjelmistoille. Julkaisupäivää ei ole vielä tälle olemassa, mutta eiköhän se sieltä tule kuluttajalle.

Sillä välin voi käyttää esim. tätä vaihtoehtoa: https://www.slidesai.io/.

Vaihtoehtoisestihan kelmut voi luoda myös GPT:llä VBA:na skriptinä ja syöttää skripti PPT-makrolle.

6 tykkäystä

Aika hyvä ajoitus. :smiley:

3 tykkäystä

Varsinainen katsaus on täällä. Kiinnostavia näkemyksiä siitä, missä nyt mennään generatiivisen tekoälyn sovellusten alueella.

5 tykkäystä

Jos jollekin oli epäselvää niin ChatGPT parantaa tuottavuutta. Alla oleva kuva on Boston Consulting Groupin konsulteilla tehdyn kokeen tuloksista. Tehtävinä realistisia liikkeenjohdon konsultin tehtäviä:

  1. Hahmottele jalkine idea erikoismarkkinoille ja määrittelemään jokainen siihen liittyvä vaihe, prototyypin kuvauksesta markkinasegmentointiin ja markkinoille pääsyyn

  2. Liiketoiminnan ongelmanratkaisutehtävä käyttäen kvantitatiivista dataa, asiakas- ja yritys haastatteluja.

Viimeistään vuoden 2024 BKT-lukemissa pitäisi näkyä AI:n vaikutus. Hyötyjä pitäisi tulla kaikilla tietotyön alueilla.

9 tykkäystä

Githubin CEO Thomas Dohmke kertoi Yahoo:lle Githubin tehneen omia tutkimuksiaan, joiden mukaan Copilottia käyttävät kehittäjät olivat jopa 55% verrokkejaan nopeampia. Hän piti tätä ensimerkkinä koko sektoria odottavasta tehokkuuden lisääntymisestä AI:n myötä.

We actually did research to show that developers [who] use Copilot are up to 55% faster. That’s a massive productivity increase and probably one of the first use cases for AI, where a whole sector’s workforce becomes more productive through adopting AI.

Lisää tuolta →

Github (tai joku muu oikeinkirjoituksesta huolestunut) on muuten varmistanut, että huomaat kirjoittaneesi githubin osoitteen väärin. :smiley: Harvalla on oma domain tällaista varten. →

https://www.guthib.com

3 tykkäystä

Ääni ja kuva saapui ChatGPT:lle

5 tykkäystä

Yksi lyhyt näkemys suljettujen mallien ja opensource AI kehittäjien kyvyistä.
Artikkeli ei edes maininnut että isot poikkeuksetta lobotomisoivat omansa käyttökelvottomiksi poliittisen korrektiuden nimessä.

Kiitos kaikille minunkin puolestani hyvästä keskustelusta. o7

3 tykkäystä

Ruotsalaisten oma AI-guru, Linus Ekenstam, on leikkinyt HeyGen-softalla ja onhan tämä jälleen melko uskomatonta settiä. Dubbaus ja lipsync samassa paketissa.

AI on kiihdyttänyt uuden teknologian käyttöönottoa kaikessa julkaisemisessa ja kommunikoinnissa – ja se on hieno homma se. Mielestäni Linus esittää ihan uskottavan vision tulevaisuuden palavereista.

Lisäämäni (formerly known as)Twitter-linkin takaa löytyy täyspitkät videot eri kielillä.

image

19 tykkäystä

Tekoälyn sensoroimattomuus on tärkeä asia myös tavallisille käyttäjille. Eric Hartford käy läpi hyviä esimerkkejä, että miten sensurointi rajoittaa tekoälyn hyödyllisyyttä:

https://www.news.upveda.in/2023/08/02/machine-learning-engineer-eric-hartford-explores-uncensored-ai-models-in-popular-blog-post/

2 tykkäystä