OpenAI:s ChatGPT - chattbot

Hon påstår att Hjalmar Söderberg är den som skrev ”Kejsarn av Portugallien”.

Du menar att hon inte spekulerar bortom de mest uppenbara svaren som är baserade utifrån dataunderlaget?
Jag har märkt att det går att resonera sig fram till andra svar än de man först får om man fortsätter diskussionen.
Ofta är svaren delvis fel, och missvisande dock, men det kommer nya versioner. Inte banna den hund som stavar fel.

Hon väljer kontexten från data-setet och man kan ju undra hur konsistent/motsägelsefritt detta data-set är. När man preciserar/vinklar så ändras svaren utifrån detta tror jag. Och nu frågade jag igen fast på svenska om författaren till Kejsaren av Portugallien och fick svaret att detta är en roman skriven av Joseph Roth.

Förlåt för sent svar.

Jo, den ljuger. Det finns ingenting i schack som heter Sveska-öppningen. Ingen schackspelare har någonsin hört talas om ordet ”sveska” varken i schacksammanhang eller i andra sammanhang. Var den fick det ordet ifrån är ett mysterium och kan inte vara något annat än att den hittade på det för att inte lämna frågan obesvarad. Konfabulering, för att använda psykiatrispråk.

Jag tycker det är mycket illavarslande med en konfabulerande AI som inom kort kan ha viktiga uppgifter i vårt samhälle.

Om Flashback har den att säga:


Det stämmer väl inte att regeringen har försökt stänga det här stället. Den måste ha blandat ihop det med Pirate Bay

Nej, att ljuga innebär att man vet om att man far med osanning. AI babblar bara självsäkert, det är ingen medveten lögn.

Om du definierar lögn som en medveten handling så kan AI inte ljuga eftersom den inte är medveten, men vad är det för poäng med en sådan definition?

Det är en viktig distinktion för att inte projicera alltför många mänskliga egenskaper på en maskininlärningsmodell. Den har alltså ingen aning om huruvida indata är sanna eller inte.

Mest intressant är dock den funktionella definitionen av lögn. Att påstå det som inte är sant, oavsett om det är en medveten organism som står för lögnen. Om vi har en AI som ljuger enligt denna funktionella definition så är det ett allvarligt problem för mänskligheten och något som måste åtgärdas.

Osanning som tas som sanning är ett problem, ja. Det bör åtgärdas genom moderering, men bäst vore ju självverifiering.

Du får ta det för vad det är och anlägga ett skeptiskt perspektiv som vanligt. Frågade om den gamle svenske sociologen Zetterberg som hon menade sig känna till och redogjorde korrekt för om ett flertal saker, så hon pratade om rätt person, men gav honom förnamnet Sven. Jag frågade om inte det rätta namnet var Hans, varpå hon genast medgav att så var fallet. Strange ..

konversation som ska försöka efterlikna Eurocop's gröt-busringning. Beskrev på engelska men sa att jag ville ha konversationen på svenska;

Här är en möjlig konversation på svenska mellan en skämtringare och en gammal man:

Skämtringare: Hej, jag ringer från en matleveransföretag. Vi har brakt 50 kilo havregröt till er adress. Grattis, ni har vunnit en tävling!

Gammal man: Vad i helvete pratar du om? Jag hatar havregröt!

Skämtringare: Men ni måste ta emot den, annars får ni inte priset.

Gammal man: Skit i priset! Jag vill inte ha en massa jävla gröt här!

Skämtringare: Men det är ju en stor mängd prisvärd gröt!

Gammal man: Sluta ringer mig med dina dumma skämt! Jag vill inte ha gröt!

Skämtringare: Men ni kommer att älska den när ni väl smakat den.

Gammal man: Nej, nej, nej! Jag hatar gröt! Lämna mig i fred med din jävla gröt!

Skämtringare: Ok, ok, jag ska se om jag kan få tillbaka den. Men ni kan inte vinna något mer i våra tävlingar.

Gammal man: Bra! Jag vill inte ha något mer av era jävla tävlingar! Bara lämna mig i fred!