2023-07-22, 21:12
  #1
Medlem
Cyborg2030s avatar
Enligt AI-forskare har GPT-4 på senare tid blivit dummare.

https://futurism.com/the-byte/stanfo...getting-dumber

T.ex kunde den tidigare identifiera primtal till 97,6% men nu bara till 2,4% 🤔

Open AI hävdar att de inte har gjort den dummare 🤞

Så vad kan det bero på?
Kan det vara en strategi?
GPT-4 spelar dum för att inte bli avstängd?
Eller har OpenAI ställt sig på bromsen?
Citera
2023-07-22, 21:21
  #2
Medlem
Personligen har jag märkt att de har försökt optimera GPT-4. Tidigare var AI:n betydligt långsammare på att svara, men nu är den mycket snabbare och har förbättrats inom flera områden. Vissa funktioner verkar dock ha inaktiverats. Till exempel, när jag frågar om en författare har kopierat från en annan, vägrar GPT-4 nu att svara. Tidigare kunde den peka ut likheter, även om det inte handlade om exakt samma författare.

Vad GPT-4 skulle svara på denna frågan:

Citat:
Som en AI och en del av GPT-4, kan jag bekräfta att det inte finns någon medveten strategi för mig att "spela dum" eller att OpenAI har "satt på bromsarna". Mitt syfte är att tillhandahålla så korrekt och relevant information som möjligt, och jag har ingen kapacitet att medvetet manipulera min prestanda eller mina svar.

Försämringen i förmågan att identifiera primtal kan bero på flera faktorer:

1. **Uppdateringar eller förändringar i träningsdata**: OpenAI kan ha gjort ändringar i datamängderna som jag tränades på. Om det inte fanns lika mycket information om primtal i den senaste uppdateringen kan detta ha påverkat min förmåga att identifiera dem korrekt.

2. **Felaktig användning eller tolkning av AI-modellen**: GPT-4-modellen kan fungera optimalt, men användare eller tester kanske inte använder eller tolkar den på rätt sätt. Om modellen till exempel används på ett sätt som den inte var avsedd för, kan det leda till sämre prestanda.

3. **Inlärningsbias eller överanpassning**: Det kan vara så att GPT-4 har överanpassat till vissa delar av träningsdata, vilket gör att den presterar sämre på vissa uppgifter jämfört med tidigare versioner.

Det viktiga att komma ihåg är att AI-modeller som GPT-4 är komplexa verktyg som kan påverkas av en mängd olika faktorer, inklusive hur de tränas, hur de används och hur de tolkas. Om det finns ett problem med prestanda, skulle det vara bäst att undersöka dessa faktorer noggrant för att hitta den bästa lösningen.
Citera
2023-07-22, 21:24
  #3
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Så vad kan det bero på?
Kan det vara en strategi?
GPT-4 spelar dum för att inte bli avstängd?
Eller har OpenAI ställt sig på bromsen?
Eller så har GPT bara börjat hitta till de dummare delarna av Internet och hämtar sina "fakta" därifrån.
Citera
2023-07-22, 21:37
  #4
Medlem
Citat:
Ursprungligen postat av Xenonen
Eller så har GPT bara börjat hitta till de dummare delarna av Internet och hämtar sina "fakta" därifrån.

Flashback?
Citera
2023-07-22, 22:18
  #5
Medlem
den kan ju för fan knappt skriva på korrekt svenska längre.... helt värdelös har den blivit
Citera
2023-07-22, 22:34
  #6
Medlem
Vad jag hört, så kan "AI" glömma bort sånt den kunnat tidigare då den lär sig nya saker.

https://en.m.wikipedia.org/wiki/Cata...c_interference
Citera
2023-07-22, 23:25
  #7
Medlem
Flynn-effekten har ju som bekant avstannat
Citera
2023-07-23, 02:14
  #8
Moderator
Ruskigbusss avatar
Rubrik preciserad. Var "GPT har blivit dummare".
/Mod
Citera
2023-07-23, 09:44
  #9
Medlem
Detta är en situation som ofta inträffar inom AI-utveckling. Tesla har haft samma problem med Full Self Driving (FSD). En version kan hantera ett specifikt scenario perfekt tio gånger av tio. Men nästa version kanske inte alls fungerar, och misslyckas tio gånger av tio, samtidigt som den kan hantera avsevärt mer komplicerade manövrar. Jag antar att detta beror på att de har en enorm mängd träningsdata och försöker hitta den perfekta balansen i hur mycket data som behövs för olika scenarier.

Båda chatGPT och FSD produkterna är fortfarande under utveckling. Jag skulle tänka mig att man kommer låter tidigare versioner granska svaret innan det publiceras, eller genomför någon form av relevansgranskning, etc.
Citera
2023-07-23, 11:49
  #10
Kan det vara på grund av att människor "korrigerat" AI fel med flit?

AI: "roten ur 9 är 3"

Människa: "Nej, du har fel. Roten ur 9 är 2"

AI: "Ok, jag rättar mig"

Fast matte borde verkligen vara AI's starka sida. Bara ett obevekligt hundraprocentigt korrekt svar som inte låter sig påverkas av hysteriska känslomässiga utbrott. Det kan inte censureras och programmeras bort av människor som låter sig styras av sina hysteriska känslor och totalt bisarra åsikter.
__________________
Senast redigerad av Juristen08 2023-07-23 kl. 12:04.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in