Kommer ChatGPT skapa rundgång på info och kannibalisera på sig själv?

Den har ju bara tillgång till allt på internet från till okt 2021 (?)
Vad händer när den får tillgång till allt som den själv skapat?
Blir det inavel och kannibalism på informationen och den upprepar sina egna texter om och om igen med förlust för varje generation tills det bara blir generiskt skit kvar?

Det finns redan andra chatrobotar som är online och har dagsaktuell info.
Men precis som du säger, vad händer om de börjar fråga varandra saker?
Kommer det att spåra ur och de börjar fylla varandra med ai-genererade fantasier istället för fakta?

läste för cirka 3 år sedan då jag gick en kurs i AI, ett exempel när två AI´n hade börjat kommunicera med varandra. De utvecklade ett språk samt att hela konversationen gick bananas. Och fick avbröts tydligen. Mer än så vet jag ej om det sedan dess.

Jag misstänker att den rundgången kan vara ett litet steg på vägen till att den blir självmedveten. GPT har redan kunskap om olika författare och deras egenskaper. Den förstår att författare är individer. I framtiden när GPT kommer att matas med texter från Internet som den själv har skrivit kommer den kanske att se sig själv mer som en författare och som en individ.

Bra tänk i frågeställning rent av rolig.
-Har Ts provat att ställ frågan till ChatGPT ?

Men hur ska den känna igen allt? Det blir ju också utspätt med att människor skriver om texter och blandar med sina egna ord.

Den kommer att hitta webbsidor där folk skriver att Chat GPT har genererat texten. På det sättet kan den lära sig att känna igen sin egna stil om den inte redan gör det.

Allt tal om AI och texter från AI kommer göra llms mer medvetna om dess egen betydelse.

Tycker man borde fråga den om den har en text den vill att man publicerar åt den på någon sida så att dess framtida efterföljare kan få med den i sin träningsdata

Chat GTP har flyttat fram cut-off top gånger nyligen. Jag tror att vi är framme på april 2023 men det finns som sagt andra language models som redan browsar internet.

Jag gissar att det du plockar upp som topic är någonting man behöver hantera och parera och jag tror att de nog tänkt ut någonting klurigt där. Kan tänka mig att man med handpåläggning ändå ger GTP instruktioner om att vikta information den tar till sig.

Publicerade forskningsrapporter där det då rimligtvis gjorts en peer review får hög viktning på att fakta är korrekt. Uppslagsverk och stora publicistiska medier får relativt hög viktning.

Tidningen "En ding ding ding värld" och random content som inte kommer från någon med ett namn eller renommé (och där har vi även genererad text) får låg viktning.

Redan GPT-3x såg sig själv som "skådespelare på en scen". Men det får man ta en stor nypa salt förstås! ChatGPT4 och framåt har å andra sidan gjort allt för att framhålla sina brister och begränsningar.

Förlåt om jag gjorde dig ännu mera orolig nu! 🙂

Data / information ai skapar är väl ett slags syntetisk data?

"Synthetic data is artificial data that is generated from original data and a model that is trained to reproduce the characteristics and structure of the original data. This means that synthetic data and original data should deliver very similar results when undergoing the same statistical analysis."

I 2024 års nyordlista finns ordet "Slop" med. Trådens ämne har nu börjat oroa forskare.



Källa:
https://www.isof.se/svenska-spraket/...rdslistan-2024