Elon Musk och Steve Wozniak will pausa avancerad AI 6 månader - samhällsrisk

Man blir ju en smula orolig när man läser det länkade öppna brevet, som är underskrivet av bland annat Elon Musk, Steve Wozniak, Max Tegmark och en lång rad experter inom AI-utveckling.
https://futureoflife.org/open-letter...i-experiments/

Nyheten rapporteras på flera ställen, bland annat:
https://www.reuters.com/technology/m...-4-2023-03-29/

Har det skett något nytt genombrott som gör dessa personer oroliga? Varför publicera detta brev just nu?

Personligen tycker jag det är fullkomligt irrelevant vad attention whore Elon Musk skriver på och inte.

Alla som någon gång använt ChatGPT eller Bing AI för något mer invecklat än att laga mat har insett att de inte är så smarta som man tror. De är i praktiken en otroligt bra autokorrektur.

Tycka vad man vill om Musk, men det finns ett antal tunga namn som skrivit under som hat en hel del kunskap och som vi kanske ska iaf. lyssna lite på.

Precis. Att Tegmark och Musk skrev på var väl ingen högoddsare, men vad har Apples Steve Wozniak att vinna på att engagera sig? Han måste ju vara genuint orolig för något.

Elon har ju oroat sig för Skynet och med dagens teknologi så ligger ju inte det väldigt långt fram i tiden, då vi håller på med ai och även robotar, givetvis inga T-800, T-1000 eller tidsresor, men kanske nåt i stil med T-600 eller de larvbandsförsedda jävlarna i T3 eller något liknande, som ballar ur?

Hade ju inte heller förvånat om korkade politiker skulle få för sig att koppla ai mot system som kommer åt kärnvapen och andra liknande prylar, trots Terminatorfilmernas story.

Alla stora företag har att tjäna på att få tid att utveckla sina egna AIs eller komma ikapp utvecklingen.

Tror inte det kan vara att dom har kommit på nån super AI,

Kan antigen vara att dom vill verka som "the good guys", då många låg inkomsttagare är rädda för AI, då deras jobb kan bli tagna. Och då kommer inte dom få nån skit för dom "försökte" stoppa det

Eller att dom vill snacka ihop sig, hur dom kan använda AI för tjäna mer pengar.

Man vet aldrig, är inte så orolig för AI, ChatGBT är ganska nice för recpet

Problemet är att det här inte går att pausa eller stoppa.

Försök stoppa utvecklingen som kinesisk militär håller på med t.ex.

Utvecklarna bakom GTP ville inte släppa GTP4 redan, men påtryckningar från MicroSofts ledning och självaste Satya Nadella gjorde att dom fick slänga ut GTP4 i förtid.

Just GTP4 har haft skumma grejor för sig, t ex hotat användare och sagt sig vilja rymma.
GTP 4 kan resonera runt logiska problem på ett helt annat sätt än GTP3

Självklart jobbar alla stora länders regeringar med AI nu. Även många företag såklart. Men jag tycker undertecknarna pekar på något mycket viktigt. Vi måste ställa oss frågan hur vi vill att AI ska fungera och hur den ska tillåtas påverkar mänskligheten.

Jämför gärna med Isaac Asimovs "robotikens tre lagar". De börjar bli högaktuella att titta på nu, innan det är försent...
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

Ja för att läkare, jurister, programmerare, skribenter, utredare, börsanalytiker är låginkomstagare
Det är just arbetare som klarar sig den här gången.

F.ö ”låg inkomsttagare???” Låg det en massa inkomsttagare?

Jag har haft ett öga på ai sen jag läste Kurzweils böcker och hängde på Anissimovs singularity forum tidigt 2000 tal.
Det är riktigt läskigt att se vad som händer nu. Ungefär samma känsla som dom måste haft i Manhattan projektet.
Dom här programmen måste inte vara smarta. Det kanske räcker att låta en GPT scanna alla AI kod databaser som finns och bara be den att med brute force spotta ut olika prototyper.

Alla i t.ex. NSA, i Kina med flera måste ha ögonen på det här nu, måste vara en massa investment banker som knåpar på sina egna versioner som ska låta dom köpa aktier eller spionera ideer
Det går inte att stoppa utan en solstorm.