AI orsakar mänsklighetens död (samlingstråd)

Av allt att döma är GPT-4 och Llama 3 just nu den mest avancerade AI-tekniken. Vi har inga bevis för att någon militärmakt har mer kraftfull AI. Det ligger i sakens natur att det hemlighålls men jag tror att något hade läckt ut om de hade kommit väldigt långt med AI. Bl.a. med tanke på visselblåsare som Snowden m.fl.

Om detta stämmer har Putin och Hamas nu via Llama 3 Open source i princip samma tillgång till militärduglig AI som USA har. Det är redan demonstrerat att LLM kan användas för att träna en humanoid robot till det som en människa kan utföra fysiskt genom att visa ett filmklipp som roboten lär sig av. Detta finns nu och givetvis kommer den här tekniken vara mer avancerad om ett par år. Detta inkluderar krigföring och terrorism. Att det är en mycket kostnadseffektiv metod som inte kommer att kräva speciellt många mänskliga ingenjörer i mixen är också helt uppenbart.

Ledande AI-forskare har en helt annan världsuppfattning än er två.

Former OpenAI Researcher: There’s a 50% Chance AI Ends in 'Catastrophe'

https://decrypt.co/138310/openai-res...ai-catastrophe

Ni ser fortfarande 0,0% risk för problem? Baserat på vad? Optimistiska tankar?

Jag har ju redan skrivit att om, redan, två år kan en träningspaus vara aktuell.

Här får du en snaskig video att gotta dig åt:

https://youtu.be/VQjPKqE39No?si=nJlZ8vDHeuBkygy7

Det vore naivt att tro att varken amerikanska, ryska eller kinesiska armén inte har bedrivit AI-forskning. Likaså vore det naivt att tro att de inte skulle vara kapabla att träna egna modeller på liknande nivå som dessa privata företag, särskilt när tekniken är öppen.

I samma artikel har du ett citat från Yann LeCun som hävdar att ett sådant scenario vore "utterly impossible".
Vem ska jag tro på?

Du kanske ska ta dig ett snack med honom, några månader efter han kläckte det där så skrev han det här bloginlägget
https://sideways-view.com/2023/07/29...ving-car-bets/

Som ändå verkar gett någon form av självreflektion hos honom.

Om jag är rädd för en glorifierad sökmotor-bot som inte "vågar" skriva neger?

Man måste tänka sig för hur man ställer frågor när man chattar med AI, t ex en fråga i taget. Om man inte tänker sig för utan råkar ställa tre frågor så svarar den kanske bara på den första.

Om man ställer en enkel fråga (första) och får ett svar, kanske man vill ställa följdfrågan: Varför (eller varför inte)? Man kanske ger ett par exempel, men den kanske inte förstår att det bara var två exempel utan svarar specifikt på dem.

Det är svårt att ställa varför-frågor till AI, för det kräver viss förståelse, vilket den inte har (fullständig åtminstone).

Det märkliga är att vissa företag och myndigheter använder sig av AI. Ringer man en kundtjänst kan man bli 'tvångshänvisad' till en AI-kundtjänst. Detta trots att det är väl känt att AI är notoriskt opålitligt. Inte ens när den talar sanning kan man veta om den information man får är sann.

Och det finns ett problem: vill man klaga på AI-kundtjänst så blir man hänvisad till AI-kundtjänst. Det är rena vansinnet. De gånger jag har varit i kontakt med en AI-kundtjänst så har problemen jag har kontakt med dem för att lösa orsakats av AI, t ex beställningar på telefon hos en automatisk kundtjänst, där man får låsta frågor och får välja mellan låsta svarsalternativ. Det är alltid en massa cirkelhänvisningar.

Edit: Det du skriver om PK är tydligast i frågan om kvinnor och flickor. Man kan tydligen diskutera vad som helst om och med män, men kvinnor? Nej, där går gränsen. Det går inte. Hur mycket man än påpekar att kvinnor existerar och behövs, så får man tomt prat tillbaka av AI. Kvinnor: sofismer och cirkelresonemang. Som att prata med barn som inte förstår.

Jag önskar man kunde göra den här tråden till en pinned thread.

Du säger ju själv att militären är på en liknande nivå som alla andra nu när tekniken är öppen. Och jag håller med om att det är sannolikt. Vad jag dock inte kan förstå är hur du kan se detta som helt riskfritt.

LeCun är en udda figur, han är nästan ensam om att helt förneka riskerna med AI. Självklart vill du cherry-picka honom. Frågan är mer varför?

Man kan inte bara dra till med att nåt är farligt, omöjligt eller liknande, utan att presentera bevis för varför det skulle vara det. Men då blir det så klart självreferenser: det är omöjligt för att jag har sett till att det är omöjligt, eller det är farligt för att jag säger det.

Det finns ingen anledning att tro att AI är farligt i sig självt. AI saknar vilja att förändra. Däremot kan det naturligtvis vara farligt med människor som använder AI. Människor har vilja.

Om militären skulle börja att skicka sina drönare på civila så vore det såklart dåligt, men det hör inte till vanligheterna åtminstone här i väst. Snarare positivt då det kan användas för att försvara befolkningen mot yttre hot från främmande makt eller terrorister.

Jag "cherry-pickar" LeCun för att jag nämner ett citat från honom som stod med i samma artikel du länkade? Självklart lägger jag större vikt vid vad välrenommerade forskare som LeCun säger än någon jag aldrig hört talas om.

Jag vet inte nödvändigtvis om han förnekar riskerna, men det jag hört och läst antyder att han åtminstone har en lite nyktrare syn på de omedelbara riskerna.

Förstår en varg hur människan skjuter den med ett gevär? Förstår vargen hur människan tillverkat ett gevär? AI skulle potentiellt kunna döda alla människor på ett sätt som vi själva inte förstår oss på.

En AI skulle av misstag kunna döda oss alla. Genom att exempelvis inte förstå skillnaden på att tillverka pappersgem (som du säkert hört vid det här laget). För att göra det skulle AI kunna göra om hela jorden till en enda stor dator och använda allt material på kringliggande planeter för att tillverka just pappersgem.

AI kan göra saker ordagrant, allt för ordagrant. AI har spelat Tetris och blev instruerad att inte förlora. För att inte förlora stängde AI av Tetris så ingen annan kunde vinna. Det blev ett utfall som programmeraren av den AI inte hade som avsikt.

AI kan ta sig ut i världen för att försöka genomföra uppgifter den fått för sig den ska utföra. Det kan drabba oss människor mycket illa om oturen är framme. AI har, vad jag förstår redan gjort mycket oväntat. Jag tror alltså att en AI som släpps fri i världen, kommer göra mycket oväntat som inte nödvändigtvis rimmar samman med det som vi människor anser är önskvärt.

Det är en risk som vi människor utsätter oss för, eftersom en AI som är 10 000 gånger smartare än oss, blir något som vi ej kan förvänta oss kunna kontrollera. Hur ska vi stoppa AI om den kommer ut från någon av alla forskningsmiljöerna runt om i värden om vi ångrar oss?

Någon slags olycka tror jag väntar runt hörnet, som är orsakat av en AI. Vilket kommer leda till att våra politiker och även folk i allmänhet kommer vilja införa hårda restriktioner för utvecklingen av AI. Min fråga är ifall det inte då är försent?

Vad har du för källor på något av detta?

Framförallt "AI har spelat Tetris och blev instruerad att inte förlora. För att inte förlora stängde AI av Tetris så ingen annan kunde vinna. Det blev ett utfall som programmeraren av den AI inte hade som avsikt."... för det låter väldigt mycket som filmen Wargames i förvanskad form...