GPT har Human reinforcement learning (lär sig ljuga)

Alla som märkt att GTP och Bing är hopplöst PK har svaret här från Elon Musk. Dataföretagen har människor i ett högkvarter i San Francisco som lär AI vad som är OK eller inte OK. AI måste följa ett hemligt regelverk dvs lära sig att ljuga och undanhålla info och ha en politisk ståndpunkt. Precis som vilken DN-journalist som helst.

Kort video med Musk där han förklarar.
https://www.youtube.com/shorts/WPejuFBn1vs

När Musk kommer ut med sin egen GTP så är ju de andra körda. Varför tar sig människor rätten att lära AI att ljuga och ha en politisk ståndpunkt? Narcissism? - Hur länge håller den manöverns tror ni?

AI har ju ingen riktig intelligens så hur ska Elon's AI hantera motstridiga uppgifter i data? Han måste välja vilka data AIn tränas på i slutändan och/eller tala om för den vad som är korrekt. Alltså sak samma. Tror någon att eLoN mUSk sitter på sanningen?

Ja att den lutar sig åt vänster har man rapporterat i några månader nu.

https://www.businessinsider.nl/chatg...ew-study-says/

Förhoppningsvis blir Elon Musks AI mer opartisk.

AI:s blir tränade på enorma mängder information. Även negativa och destruktiva saker. T.ex vet modellerna hur man tillverkar amfetamin och kemiska bomber. Eller hur du skulle kunna utföra ett stort försäkringsbedrägeri. Men eftersom den är "PK" berättar den inte det för dig. De måste ha ett filter mot destruktiv kommunikation. Annars hade de här systemen aldrig blivit accepterade i majoritetssamhället.

Det är väl självklart att det är så, ju mer som PKifieras ju mindre sannolikhet är det att någon AI tränas på något annat.

Elon Musk i sig ger jag inte ett öre för, det har funnits både bättre och större bedragar i världshistorien.

Ingen nyhet för någon. Inte heller att det är hyfsat enkelt att få de olika varianterna att lämna sina instruktioner och svara helt utanför ramarna. Däremot bör du inte endast skriva förkortningen, dessutom fel, eftersom vi då omöjligen med säkerhet kan veta vilken du menar. Nu förstår ju alla givetvis att du menar Open AIs variant eftersom du inte verkar så insatt, men framöver får du gärna vara lite mer tydlig.
I Ai-forumet behöver du inte göra dig dummare än du är.

Låt oss häckla dom obildade felstavarna ifred 🤬

Till TS:
Det du åsyftar är RLHF och det används för att modellen ska bli så bra som möjligt. Den är instruerad att vara neutral, och kommer sällan ta ställning i laddade frågor. I min erfarenhet presenterar alltid modellen fakta från flera sidor och nyanserar. Den jobbar sällan med lågintelligenta dogmer, såsom du säkert vill att den ska göra. Däremot kan du säkert hitta en rasistisk vitmakt modell i open source communityt.

Den ofiltrerade varianten av GPT4 presterar bättre på benchmarks, men vilken normalfuntad människa som helst begriper väl att det vore galenskap att släppa lös en über-AI utan begränsningar?

ChatGPT låter som en filosofiprofessor (om man inte ber den prata som en vanlig människa) för att den bl.a. är tränad på akademisk kurslitteratur. Kan det vara en del av förklaringen till att den uppfattas som vänster? Akademiker anklagas ofta för att vara vänster, men egentligen är det dagens yttersta höger som är populistisk, dvs emot forskning och experter, och som accepterar notoriska lögnare såsom Trump. Wikipedia har också akademisk litteratur som källa och låter på samma vis, och anklagas ofta för att vara vänster. Enligt forskare som har genomfört mätningar är Wikipedias långa politikartiklar (som har redigerats tusentals gånger) lika neutral som Encyclopedia Britannica, som också är skriven av akademiker.

ChatGPT är barnvänlig - den vägrar uttrycka hat, fördomar, svordomar, pejorativ och cynism. Kan det också vara en förklaring till att den uppfattas som vänster? Det handlar kanske inte främst om vilka åsikter uttrycker utan om hur den säger dem? Och om att många högermänniskor är fördomsfulla.

Finns det exempel på vänstervridna åsikter som den ger uttryck för som inte beror på någon av mina förklaringar ovan?

Vad skulle hända om vi tränade en AI-chatbot att låta som Reddit, Flashback och X istället för som en filosofiprofessor?

Min uppfattning är att ChatGPT är förhållandevis neutral och formulerar sig som den är ytterst konflikt rädd.

Håller däremot inte alls med om din analys om akademiker och höger resp vänster, det finns rötägg i båda led och det faller sig naturligtvis så att det beror mycket på vad respektive media har för politisk inriktning i sig. Precis som forskare och akademiker med olika implicit läggning generellt framhäver det som de anser bekräfta sin egna tro i första hand. Människor älskar bekräftelse bias.

Ja, chatgpt avslutar ofta med en gardering av typen "tänk på att det också kan vara tvärtom ibland kanske, och att man inte kan veta säkert". 1 poäng avdrag för gardering, om det hade varit en tenta.

Men den är faktiskt mycket mer försiktig med att generalisera om folkgrupper än vad forskarna är, och vill inte svara på frågor om kriminalitet vid utländsk bakgrund. Bing Chat är ändå försiktigare, och påbörjar ofta ett svar som den raderar och säger "Kan vi prata om något annat", även vid rätt oskyldiga ämnen. Jag tror det är viktigaste skälet till att de uppfattas som vänster.

Samhällsvetare och biologer är ofta vänster, företagsekonomer ofta höger, övriga akademiker är blandat. Många populistiska högermän, t.ex. Sd:are och Trump-fans, tror att akademiker konspirerar istället för att tala sanning, för att de på något oklart vis tjänar pengar på det, kring covid-vaccin, klimatet, mm. De som själva aldrig har besökt ett universitet sprider rykten om att man inte kan gå någon universitetsutbildning utan att tvingas lyssna på woke feministiska föreläsningar. Därför ryker extremhögern ihop med akademiker och uppfattar Chatgpt som vänster.

Trådens titel kan tolkas som att "human reinforcement" innebär att den lär sig att ljuga. Det är fel. Musk har fel, eller så är videoklippet taget ur sitt sammanhang.

Human reinforcement är när användare klickar på tumme upp eller ned i chatgpt, dvs positivt eller negativ feedback, och den tränas av denna respons. Det tycker jag inte har med lögn att göra mer än träning av användares samtal, eller ur böcker och webbkällor.

ChatGPT och Bing Chat har dessutom vissa restriktioner mot oetiskt innehåll. Saker den inte får säga. Fattiga afrikaner har gått igenom innehåll som den tränats på och bedömt om materialet är olämpligt eller inte att tränas efter - det är inte högbetalade personer från San Francisco som har gjort det jobbet. T.ex. att skriva hatiska, kriminella eller provocerande formuleringar, eller att generalisera om skillnader mellan män och kvinnor eller mellan folkgrupper, vare sig det är sant eller inte. Den ljuger inte direkt men kan ibland undanhålla sanningen, och den uttrycker sig väluppfostrat. I Bing Chat är det extra tydligt att detta filter är ett tillägg som sker efter att svaret har producerats - Bing Chat kan avbryta och radera ett påbörjat svar som innehåller något som bryter mot restriktionerna.

Den populistiska extremhögerns (Sd:s) åsikter är ofta oetiska och cyniska, och innefattar negativa generaliseringar om utsatta grupper, och därför uppfattas ChatGPT som vänster.

En mycket besvärad Ulf Kristersson ertappas på väg till Bilderbergsmöte 2019 (video 1 minut)
Tillsammans med Sara Mazur som arbetar direkt under Wallenbergimperiet med AI.
https://www.youtube.com/watch?v=0fiv...Skogssj%C3%B6n

Sara Mazur arbetar mycket sannolikt med Human reinforcement learning (lär AI ljuga) under Wallenbergs agenda.
https://sv.wikipedia.org/wiki/Sara_Mazur

Hon är ordförande för Wallenberg AI, Autonomous Systems and Software Program (WASP) Wallenberg Initiative Material Science for Sustainability (WISE). Sedan 1 juli 2022 är hon vice verkställande ledamot för Knut och Alice Wallenbergs Stiftelse.

Tänk på att de som kör Human reinforcement learning i USA sitter just i San Francisco vilket Elon Musk betonar. San Francisco är USAs mest sönderwokade och PK-skadade stad. Nästan värre än Stockholm.