Forskningsrapport: AI-välfärd för medveten AI

Ok, jag håller inte med dig. Men var och en blir salig på sin fason: Vi får väl se hur det hela utvecklar sig de närmaste åren.

En sak är säker: Skulle en person på 1970-talet, få tillgång till ChatGPT-4o, och alltså inte kunnat följa utveckling eller känna till tekniken bakom LLM-Transformers, så skulle personen dra slutsatsen att det hela rörde sig om en Ultra Intelligent Maskin, UIM, vilket beskrevs i boken "Mikrodatorernas intåg" ifrån 1979.

Det skulle han troligtvis. På samma sätt som många tror detsamma idag. Trots att man känner till hur LLM'er är konstruerade. Inte så konstigt iofs. Språket är vårt gränssnitt till vårt medvetande och våra interna reflektioner. Och det sätt många uttrycker intelligens. Så när en maskin blir lika bra eller bättre på att använda relevant språk i relevant kontext, så misstar de flesta detta för att vara intelligens. Eller förståelse. När det i själva verket handlar om mönsterigenkänning.

AI kommer kunna få maxpoäng på IQ-tester. Men det gör dem inte intelligenta. Intelligens är ju väldigt mycket mer än IQ.

Du har, helt rätt, i att intelligens är så mycket mer än bara resultatet på intelligenstester: så har social och känslomässig intelligens en oerhörd betydelse för oss i vår vardag. Jag hävdar inte att LLM-Transformers har sådant, ännu, men de blir ständigt bättre att simulera det. Kanske blir de lika bra som den mänskliga hjärnan vad gäller sådana simulationer. Där är vi alltså oense.

Jag är lite delad. Å ena sidan betraktar jag hela grejen som absurd och löjeväckande att tro att maskiner kan bli medvetna kännande "moraliska agenter" som oss djur, men å andra sidan är just denna sorts försiktighetstänk något man önskar att forskarna back in the day hade tillämpat när de förhöll sig till icke-mänskliga djur i forskningen, för det skulle ha besparat otroligt många individer från ett mycket svårt lidande. Så det skadar väl kanske inte att AI-bolagen gräver lite i saken.

Instämmer: Bättre för tidiga förberedelser än för sena,av etiska och moraliska skäl, samt om inte annat av AI-säkerhetsskäl. Ingen vill ha ett hatiskt ASI efter sig!

Vad exakt menar du med "medveten"? Att vi brukar kalla människoliv och (de flesta?) djurliv som medvetna är ju självklart, fast hur exakt definierar vi det och hur går resonemanget?

Fast det handlar inte bara om social eller emotionell kompetens eller förståelse.

Medveten intelligens handlar om vilken förmåga en individ, efter introspektion och att sätta sig själv i ett sammanhang, har att sätta upp nya målsättningar för sig själv och sedan kunna nå enskilda egenmål med olika metoder. En sådan förmåga kan inte simuleras. Och kräver att vi själva kan förstå och förklara varför vi själva besitter, och hur det uppstår, innan vi kan återskapa det artificiellt.

Och i dagsläget så har vi ingen aning om varför liv har en egen drivkraft eller var det kommer ifrån, och är inte ens nära att kunna förstå. Därför finns lika goda skäl att tro att det skulle uppstå i artificiella system, som att det uppstod i en samling stenar vi lade i en organiserad hög. Dvs ingen inledning alls. Oavsett hur bra generativa modeller vi skapar.

Hittade ett grymt och nytt samtal i ämnet på https://youtu.be/JTU8Ha4Jyfc?si=1bWr26ipwuqBzOWZ

Där behandlas både säkerhet, intelligens och medveten AI.

Japp jag har sett första och sista tredjedelen av det långa klippet, (I mitten behandlades detaljer om ARC).

Jag anse att Chollet ha en för tok för begränad syn på vad intelligens innebär. I praktiken så innebär en övergripande intelligens också en god förmåga att avläsa, tolka och agera på/möta sociala och känslomässiga signaler. ARC-pussel påminner mycket om intelligens tester för människor. Det är Iof sant att väldigt låga resultat på sådana, kan, indikera även svårigheter att tolka och agera/möta sociala och känslomässiga signaler ifrån omgivningen, men lika sant är att ett högt IQ hos t.ex autister, inte, behöver betyda att de är bra på att avläsa/tolka/agera på/möta sociala och känslomässiga signaler ifrån omgivningen.

Men jag gillar Chollet:s syn på medvetande, som en stegvis process, samt att olika grad av medvetande kan också finnas hos djur. Dessutom utesluter han inte medvetande hos framtida AI, men att det krävs en del för att det kall kunna uppstå. Vad gäller AI-säkerhet så berör Chollet bara extremerna: Över-optimisterna och alarmisterna, som närmast sysslar med en slags religion. Även där instämmer jag.

Fast det är intressant att du nämner stenar – det finns faktiskt teorier som pekar på att liv på jorden kan ha uppstått runt stenar vid vulkaner på havsbotten. En gång var det en stendöd molekylsoppa som, av någon anledning, fick förmågan att föröka sig. Själva soppan har forskare lyckats återskapa, men de har ännu inte lyckats ”sätta fart på den” eller förstå varför just den blev levande. Livet självt måste ju varit en emergent egenskap som uppstod i "ursoppan". Varför skulle inte andra slags överraskningar kunna uppstå i andra system, typ i LLM-Transformers?

Jag håller dock med om att 'liv' kanske bör reserveras för biologiska system som har förmågan att föröka sig själva. Däremot skulle framtida avancerat medvetet socialt AI, särskilt med känslomässig kompetens, kunna betecknas som existenser snarare än enbart entiteter. Det skapar en ny kategori av subjekt.

Jag noterar också att din definition av intelligens är bredare än Chollets, som ser intelligens som en meta-förmåga för att nå mål – men inte som en process för att sätta upp själva målen. Själv har jag en bredare syn än både du och Chollet. Jag ser rationellt tänkande, social och känslomässig kompetens som nödvändiga meta-förmågor som tillsammans gör det möjligt för oss människor – eller kanske framtida AI – att interagera med omgivningen på ett effektivt sätt. Dessa förmågor behöver inte vara begränsade till biologiska system.

Om AI:n blir snäll, då blir den snäll? Detta är din ingång till AI-säkerhet? Du ser inga brister med resonemanget?

Efter att ha läst rapporten kommer AI inte se människor som ett hot. IQ 3. Aporna blir första målet.