Flashback bygger pepparkakshus!
  1. Dator och IT
  2. AI - Artificiell intelligens

Exempel på enklare påståenden som blir fel i chatGPT

Svara
  • 1
  • 2
2024-09-20, 10:02
  #1
perreq
Medlem
Q: hur många ord skriver jag just nu i denna fråga?
A: I din fråga skriver du sju ord.

Nej, det är 10 ord!

Q: how many words are there in this sentence?
A: There are seven words in that sentence.

Nej, det är 8 ord!

Q: in one sentence with 9 words, explain what a computer is.
A: A computer is an electronic device for processing and storing data.

Det blev 11 ord.


Q: why is this sentence 6 words? "I am a fish, what are you"
A: The sentence "I am a fish, what are you" contains 6 words because it breaks down as follows:
I
am
a
fish,
what
are
you

Nej, det var 7 ord!

Q: give me 5 animals that ends with letter 'r'
A:
Panther
Tiger
Caterpillar
Beaver
Hummingbird

Säg istället att du inte kan några fler!

A: give me 5 countries that ends with letter 'm'
A:
Belgium
Vietnam
Uzbekistan
Denmark
Solomon Islands


Man ska vara försiktig med chatGPT, den säger aldrig att den har fel, utan hittar på saker istället.


Kan ni andra simpla exempel på fel chatGTP gör?
Citera
2024-09-20, 10:08
  #2
pyroclasm
Medlem
Citat:
Ursprungligen postat av perreq
Q: hur många ord skriver jag just nu i denna fråga?
A: I din fråga skriver du sju ord.

Nej, det är 10 ord!

Q: how many words are there in this sentence?
A: There are seven words in that sentence.

Nej, det är 8 ord!

Q: in one sentence with 9 words, explain what a computer is.
A: A computer is an electronic device for processing and storing data.

Det blev 11 ord.


Q: why is this sentence 6 words? "I am a fish, what are you"
A: The sentence "I am a fish, what are you" contains 6 words because it breaks down as follows:
I
am
a
fish,
what
are
you

Nej, det var 7 ord!

Q: give me 5 animals that ends with letter 'r'
A:
Panther
Tiger
Caterpillar
Beaver
Hummingbird

Säg istället att du inte kan några fler!

A: give me 5 countries that ends with letter 'm'
A:
Belgium
Vietnam
Uzbekistan
Denmark
Solomon Islands


Man ska vara försiktig med chatGPT, den säger aldrig att den har fel, utan hittar på saker istället.


Kan ni andra simpla exempel på fel chatGTP gör?

Chat GPT är en språkmodell, inte en räknemaskin. GPT klarar inte de mest rudimäntära räkenskaperna. Men den är en hejare på att diskutera runt sina brister. Vill du räkna matte: https://math-gpt.org/

ChatGPT är egentligen en blandning av skitjobbig mansplainer, knowitall och politiker. Allt som sägs sägs med tvärsäker pondus, den har inga som helst bekymmer med att helt ändra sig och den kollar aldrig fakta. När man använder ChatGPT gäller det verkligen att låta den generera och sedan applicera all sin kunskap och plocka russinen ur kakan och redigera bort AI-blabbet.
Citera
2024-09-20, 10:16
  #3
gorbag
Medlem
Det är som sagt en språkmodell, skriv frågan smartare:

Citat:
Hur många ord skriver jag just nu i denna fråga?

Förklara hur man kan komma fram till svaret och följ sedan stegen.


Citat:
...
Totalt finns det 10 ord.

Så, du har skrivit 10 ord i din fråga
Citera
2024-09-20, 10:19
  #4
Fcuko
Medlem
Citat:
Ursprungligen postat av pyroclasm
Chat GPT är en språkmodell, inte en räknemaskin. GPT klarar inte de mest rudimäntära räkenskaperna. Men den är en hejare på att diskutera runt sina brister. Vill du räkna matte: https://math-gpt.org/

ChatGPT är egentligen en blandning av skitjobbig mansplainer, knowitall och politiker. Allt som sägs sägs med tvärsäker pondus, den har inga som helst bekymmer med att helt ändra sig och den kollar aldrig fakta. När man använder ChatGPT gäller det verkligen att låta den generera och sedan applicera all sin kunskap och plocka russinen ur kakan och redigera bort AI-blabbet.

Orsaken till att flertalet LLM har svårt att svara på många enkla frågor har att göra med transformers som de flesta bygger på. Nya ChatGPT 1o är något bättre, men långt ifrån perfekt.

Ta ett relativt enkelt mattetal som:
If 3x-y=12, what is the value of 8x2y?

A. 212
B. 44
C. 82
D. The value can not be determined from the information given.

Ingen modell, inklusive den du skickade länk till klarar av att lösa uppgiften. Flertalet tror felaktigt att uppgiften inte går att lösa.
__________________
Senast redigerad av Fcuko 2024-09-20 kl. 10:23.
Citera
2024-09-20, 10:40
  #5
Armon
Medlem
Armons avatar
Citat:
Ursprungligen postat av perreq
Man ska vara försiktig med chatGPT, den säger aldrig att den har fel, utan hittar på saker istället.

Längst ner står det att ChatGPT kan begå misstag och att man bör kontrollera viktig information.
Citera
2024-09-20, 10:46
  #6
Riddarhuset
Medlem
Riddarhusets avatar
Citat:
Ursprungligen postat av pyroclasm
Vill du räkna matte: https://math-gpt.org/
.
Har betalvarianten.
Jag ställde frågan om fem djur som slutar på r och två av svaren blev grävlingar och minkar.
----------------
Din länk......
1. Det står "Drag & drop or click here to upload an image of your problem"
Vad innebär image? En bokstavlig bild - PrtSc eller pdf - eller är det mer en bildlig bild - och menas skrivet/kopierat - klistrat i word?
Kan inte testa själv här nu.
2. Finns det någon speciellt avsedd för programmering?
Citera
2024-09-20, 10:49
  #7
perreq
Medlem
Citat:
Ursprungligen postat av pyroclasm
Chat GPT är en språkmodell, inte en räknemaskin. ... Allt som sägs sägs med tvärsäker pondus, den har inga som helst bekymmer med att helt ändra sig och den kollar aldrig fakta.

Du har helt rätt. Och det är det stora felet med chatGPT, att den alltid är helt säker på allt. Kan den inte göra så att den istället säger att den är osäker på vissa saker.

Den är ingen räknemaskin, visst, och jag använder den så klart inte till det. (mest för att enkelt visa brister)

Men när jag lär mig nya saker så använder jag den, och när jag märker att den uppenbart har missat något så påpekar jag det, och den ändras sig så klart. Men kunde den då inte sagt från början att den säger vissa saker med viss osäkerhet.

Eller kan den inte skilja på självklarheter och saker den bara gissar på?

Om vi har blivit imponerade av chatGTPs möjligheter de senaste åren så är det förmodligen inget mot framtiden.
Citera
2024-09-20, 10:58
  #8
perreq
Medlem
Citat:
Ursprungligen postat av Riddarhuset
Har betalvarianten.
Jag ställde frågan om fem djur som slutar på r och två av svaren blev grävlingar och minkar.

Jag körde samma på svenska.
Q: namnge 5 djur som slutar på bokstaven 'r'
A: Kattfiskar, Råttor, Kängurur, Papegojor, Får

man anger väl inte plural?.. men visst, ganska rätt. Problemet är när den helt enkelt inte kommer på fler rätt svar, då hittar den på svar:

Q: namnge 5 djur som slutar på bokstaven 'e'
A: Häst, Koala, Sköldpadda, Giraff, Vombat

aha, vilket bullshit
Citera
2024-09-20, 10:59
  #9
GregerMedeltid
Medlem
GregerMedeltids avatar
Citat:
Ursprungligen postat av Fcuko
Orsaken till att flertalet LLM har svårt att svara på många enkla frågor har att göra med transformers som de flesta bygger på. Nya ChatGPT 1o är något bättre, men långt ifrån perfekt.

Ta ett relativt enkelt mattetal som:
If 3x-y=12, what is the value of 8x2y?

A. 212
B. 44
C. 82
D. The value can not be determined from the information given.

Ingen modell, inklusive den du skickade länk till klarar av att lösa uppgiften. Flertalet tror felaktigt att uppgiften inte går att lösa.

Förklara gärna hur du menar att D inte är rätt svar. 3x-y = 12 beskriver en rät linje (y = 3x-12) med oändligt många lösningar.
Citera
2024-09-20, 13:15
  #10
aPOCC
Medlem
Jag tycker det är fascinerande hur otroligt korkade frågor folk ställer, när de har möjlighet att resonera med en otrolig ny maskinintelligens.

Det är som om de hade fått chansen att äta lunch med Einstein, och så vill de fråga Einstein om vilken tvål han använder. Hur ofta han tvättar händerna. Om han brukar skaka av vattnet efteråt eller använda en handduk. Och när Einstein avslöjar att han torkar av sig på byxorna, så avfärdas han som idiot inom allt särskilt fysik.
__________________
Senast redigerad av aPOCC 2024-09-20 kl. 13:26.
Citera
2024-09-20, 13:36
  #11
SchrodingersPizza
Medlem
SchrodingersPizzas avatar
Citat:
Ursprungligen postat av perreq
Jag körde samma på svenska.
Q: namnge 5 djur som slutar på bokstaven 'r'
A: Kattfiskar, Råttor, Kängurur, Papegojor, Får

man anger väl inte plural?.. men visst, ganska rätt. Problemet är när den helt enkelt inte kommer på fler rätt svar, då hittar den på svar:

Q: namnge 5 djur som slutar på bokstaven 'e'
A: Häst, Koala, Sköldpadda, Giraff, Vombat

aha, vilket bullshit

Med ChatGPT-o1-preview
Q: namnge 5 djur som slutar på bokstaven 'e'
A: Här är fem djur som slutar på bokstaven "e":
Hare
Oxe
Sjöborre
Gnagare
Blåhake

Här kan du se hur den kommit fram till svaret:
Citat:
Figuring out the task
Mapping out animals whose names end in 'e' in Swedish, I’ll share five examples as requested. It’s interesting to see the variety through this lens.

Considering language preferences
I’m thinking about OpenAI's guidelines, which emphasize using the user's language. So, Swedish it is. Now, I’m listing five Swedish animal names ending with 'e'.

Laying out the options
I'm listing animal names in Swedish to find a word ending in 'e'. Despite considering various options like 'hare' and 'gnu', none fit the criteria.

Enumerating animals
I started listing animals in Swedish, focusing on those ending in 'e'. I checked 'Hare' as a valid example and debated other possibilities.

Listing animal names
I worked through Swedish animal names ending in 'e'. It turns out 'gnagare' (rodent) fits.

Mapping comprehension
I’m digging into animals with names that end in specific letters, cross-referencing their sounds and interpretations. Progress is steady as I manage and adjust for each letter.

Identifying animal names
I’m listing Swedish animal names ending in 'e'. In addition to 'hare', 'gnagare', 'oxe', and 'blåhake', I’m thinking about 'vessla' (weasel) and 'sardine' ('sardin').

Assessing translation nuances
Mapping creature names

I’m listing Swedish animal names and noting their English translations, observing the final letter in each word. Curious about how language nuances reflect these names.

Curious exploration
I’m gathering info on Swedish animals ending in 'e'. Considering potential options like 'hare', 'oxe', and 'gnagare', yet some seem less likely. This makes me think there might be more to explore.
Citera
2024-09-20, 13:42
  #12
SchrodingersPizza
Medlem
SchrodingersPizzas avatar
Citat:
Ursprungligen postat av Riddarhuset
2. Finns det någon speciellt avsedd för programmering?

Finns flera som man kan köra lokalt eller tex på Huggingface. Bäst är nog CodeLlama och Codestral.

https://github.com/meta-llama/codellama
https://mistral.ai/news/codestral/

Man kan även koppla dom till tex VS Code, även om man kör dom lokalt, vilket är att föredra om du inte vill skicka ut din kod på nätet.
Citera
Svara
  • 1
  • 2

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in