Kyseessähän on ”next-level autocomplete”, joten ei pitäisi olla yllätys, että antamasi syötteen jatko riippuu valitsemistasi sanamuodoista:
3 tykkäystä
Metalta tullut paperi Toolformer jolla voidaan integroida api kutsuja kielimalliin. Kielimalli ei ole luontaisesti hyvä monessakaan tehtävässä, kuten tässäkin ketjussa parjattu: matikka, shakki jne. Ajatuksena on alihankkia nämä hankalat tehtävät ohjelmilta jotka ovat niihin eriskoistuneet: laskukone, shakkimoottori jne. Tämä lienee järkevä suunta, koska vaikka shakkimoottorin tehtävien opettaminen kielimallille ei ole tarkoituksenmukaista
3 tykkäystä
Tämä Sijoittaja.fi:n juttu voi kiinnostaa tätä ketjua lukevia. 
ChatGPT:n on nähty olevan uhkana Googlen perinteiselle hakukoneelle, joka on pitkään dominoinut hakukonemarkkinoita noin 85–90 prosentin markkinaosuudella. Googlen emoyhtiön Alphabetin vuoden 2022 liikevaihdosta noin 224 miljardia dollaria tuli yhtiön mainosliiketoiminnasta, joka vastaa noin 80 prosenttia yhtiön kokonaisliikevaihdosta. Hakukonemarkkinoiden seuraavaksi suurin pelaaja onkin Microsoftin hakukone Bing joka omaa noin 9 prosentin markkinaosuuden. Microsoftille hakukone Bing tuotti vain vajaa 6 prosenttia yhtiön kokonaisliikevaihdosta vuonna 2022.
1 tykkäys
Jos meinaatte käyttää ChatGpt:n vastauksia jonkin asian perustelemiseen, muistakaa tarkistaa sen ilmoittamat lähteet. Ihan tosi.
1 tykkäys
Samanlaisiin tuloksiin pääsi myös Itä-Suomen yliopiston proffat.
Tekoäly ei vieläkään tee töitämme | Artificial intelligence still doesn’t do our jobs
4 tykkäystä
Paljon ajatuksia herättävä artikkeli GPT:stä ja sen vaikutuksista erityisesti softa- ja API-kehitykseen.
Our discussions around Generative AI are focused on the wrong thing, and it’s causing us to miss what’s about to happen. We’re infatuated with what it can do, like getting better search results, creating custom art, or becoming an interactive teacher. It’s all really exciting, but it’s distracting us from the advancement that makes it all possible.
Daniel Miessler on IT-alan konkari, joka on ylläpitänyt saittiansa vuodesta 1999. Hänet tunnetaan erityisesti infosec-erityisasiantuntijana.
8 tykkäystä
Kun kysymys on riittävän yksinkertainen ja osaa kysyä sen riittävän selkeästi, että osaa myös arvioida vastauksen oikeellisuutta, nykyversiosta on jotain hyötyä.
Omassa työssäni it-alalla tällä hetkellä ei ole juurikaan hyötyä. Ongelmat ovat joko liian moniulotteisia tai vastaukset ympäripyöreitä.
Suurin ongelma ChatGPT:lla nykyversiossa on tarinan sepittäminen. Vastaus on lähes aina itsevarma ja verbaalisesti sujuva, mutta saattaa olla siitä huolimatta ihan puuta heinää.
Kaksi riippumatonta ja samantasoista (Google hox!) tekoälyä olisikin kova boosti tehokkuudelle
Paras hyöty tuosta on ollut selkeiden ohjelmistomodulien runkojen nopeassa rakentamisessa. Kun antaa ohjelmointikielen ja jonkin suoraviivaisen algoritmin, saa muutaman lisäkysymyksen kautta pois ikävää ‘apinan työtä’ paljon minuuteissa.
5 tykkäystä
Bill Gates Financial Timesin julkaisemassa haastattelussa. Jutussa on paljon muutakin mielenkiintoista maailman menosta.
Pari poimintaa…
Well like, AI is going to play a big role and I’m very involved in Microsoft Open AI. Worked just as an advisor and also, where in my foundation have, you know, we’re gonna build educational tutors out of this. We’re gonna build a medical advisor for low income countries where most people never get the help of a doctor in their entire life. So, yes, any place where you have limits that having an ability to read and write can help relieve those limits, like to streamline the work doctors do or to take the administrative overhead of the health system and reduce that pretty dramatically. This idea of computers being able to read and write, nobody knew when that would come along and now it’s arrived.
Well there’s, there’s all these people trying to make the AI look stupid. But anyway, I mean, it’s fine, there’s no threat. The technology most people are playing with, it’s a generation old. It’s the version three compared to what’s integrated into Bing, which some journalists have and will be opened up more broadly. So it’s much better. It still makes mistakes. You can still get it to say crazy things. You have to provoke it quite a bit, so it’s not clear who should be blamed, you know, if you sit there and provoke a bit. The improvement over the next two years in terms of the accuracy and the capabilities will be very rapid.
You know, GPT2 was kind of a trick; GPT3 uhh it started to say if you understand; GPT4, it’s like, wow!
Haastattelussa Gates kertoo lisää siitä, mikä GPT4:ssä teki vaikutuksen.
5 tykkäystä
ChatGPT:n toimintaa selittäviä viestejä ja videoita alkaa olla jo aika suuri määrä tässäkin ketjussa, mutta laitetaan vielä yksi muiden joukkoon, koska tässä viestissä asia on avattu mukavan tiiviisti ja selkeästi:
6 tykkäystä
Mikä viesti noista selittää tiiviisti ja selkeästi GPT3/Transformer + ChatGPT:n arkkitehtuurin ja toiminnan ?
Onko se tuo ensimmäinen keltaisella kirjoitettu viesti ?
Luin sen ja pari sen alta, mutta viestejä on melko paljon, joten parempi kysyä, mitä viestiä tarkoitit ?
AI21 Labs julkaisi vihdoin odotetun Jurassic-2 mallin:
Eivät lähde enää tähän kisaan että kenellä on suurin parametrinumero mallin taustalla:
Also, he noted that LLMs — amazing though they currently are — have so far been prone to mistakes and a kind of brittleness when used by the public. To try and solve this, AI21 has added software modules to “augment and complement it [the LLM] with an additional approach that compensates for the lack of reliability and explainability.”
So, there’s a lot of algorithmic work and there’s a lot that will be published in the coming months about the complementary approach,” he replied. He pointed me to a paper that was released in May of last year, entitled “MRKL Systems.” The acronym MRKL stands for “Modular Reasoning, Knowledge and Language” and is a system that combines one or more LLMs with “external knowledge sources as well as symbolic reasoning experts that can handle tasks that lie beyond the reach of neural models.”
As Goshen explains it, MRKL (pronounced “miracle”) “proposes an architecture called the ‘neuro-symbolic architecture,’ where the language model offloads some of the tasks to modules that are specialized to conduct a specific task.” He gave an example of arithmetic, which can be more efficiently calculated by a special software module — rather than having an LLM essentially “predict” the answer based on statistical probabilities.
Goshen thinks adding these modules is how you “compensate for the brittleness of the pure language models.”
Jokainen yhtiö väittää että heillä on paras malli ja myös Cohere on sitä mieltä että heidät kannattaa valita OpenAI:n sijaan 
During our conversation, Kon said that Cohere’s models were shown to test better against GPT-3. I asked the company for verification of this and it responded by pointing me to Stanford’s accuracy measurements. According to Cohere, “the study shows that the Cohere xlarge model achieves higher accuracy than a number of well-known models which are 3x larger, including GPT-3, Jurassic-1 Jumbo, and BLOOM (each of which has about 175B parameters).”
However, it should be noted that Cohere’s model is only ahead of GPT-3 models. OpenAI’s more recent GPT-3.5 models, text-davinci-002 and text-davinci-003, are both rated higher than Cohere in accuracy. Indeed, these are currently ranked highest of all models by the HELM accuracy measure (see below).
Kon told me that Cohere’s latest model, Command (currently in beta), gets re-tuned every week. “This means that every week, you can expect the performance of command to improve,” he said.
Kisa käy nyt todella kuumana ja loppukäyttäjä voittaa isosti 
6 tykkäystä
Melkoinen on ollut myllytys lyhyen ajan sisällä.
On tuomittu ja ylistetty, naurettu ja suututtu. Pulloon tätä ei saa enää takaisin.
6 tykkäystä
Oli puhetta, että GPT4 julkaistaan “as early as next week”. Alkaa mylly osittain siis alusta 
12 tykkäystä
Täytin hakemuksen uuteen versioon. Henkilökohtaiseen käyttöön. Kerron jos saan sen helposti.
2 tykkäystä
Viikko tullut käytettyä kokeilumielessä töissä ja en kyllä nyt silleen ole vakuuttunut korvaako AI devaajia Välillä suoltaa sellaista diibadaaba että… mutta onhan tää silleen yleisesti ollut ihan kiva. Voi kysyä tyhmiä tarkentavia kysymyksiä, ilman että se hermostuu Tai jos vain pallottelee, “voisiko tämän tehdä toisin”.
Eli kiva apuri, mutta vielä ei päästä eläkkeelle
6 tykkäystä
Kyllä tuo devauspuolella menee eräänlaisesta parannetusta versiosta stackoverflown googlaamiselle. Eli jos ei devaajaparka juuri muista jotain nippelijuttua niin AI kaivaa sen kun vain osaa muotoilla asiansa. Tai se voi antaa ideoita miten ratkaista järkevästi joku rajattu ongelma.
Kovat miehet tuhahtavat moiselle, keskinkertaisempi devaaja voi hyvinkin saada tuottavuusboostia. Ja mies joka ei osaa saa todennäköisesti vain isomman katastrofin aikaan
Firmat luonnollisesti höristävät korviaan kun kuulevat että vähemmän kovat miehet saattavat tämän avulla tulla tuottavammiksi. Ei tarvitsisi niin rumasti kilpailla palkkapussien koolla niistä oikeasti osaavista jampoista…
7 tykkäystä
Nyt kun GPT-4 on julki, vahvistui myös aiempi huhu: Microsoftin Bing on ilmeisesti käyttänyt GPT-4 versiota jo tovin (tosin MS yhdistää sen omaan Prometheus malliinsa Bingissä).
6 tykkäystä
Viikon verran olen Bingin chattiä käyttänyt ja tullut siihen tulokseen, ettei ole aihetta jatkaa käyttämistä. Olen replikoinut jotain hakuja missä olen ChatGPTltä saanut mainiot tulokset ja todennut että Bingin chatti on kaukana takana.
Ongelma lienee että Bingin chatti koittaa löytää tiedolle jonkun webbisivun. Tämän webbisivun tieto aiheesta saattaa olla ihan kuraa. Eli sama tilanne kuin Google hakujen kanssa joilloin saa vastaan vain hakukoneoptioitua roskaa.
Toistaiseksi BingChat projektissa on vahvasti sama tuoksu kuin mitä Skypelle tapahtui Microsoftin kynsissä.
4 tykkäystä
Käyttäjien ensikokemuksia GPT-4:stä.
7 tykkäystä