Google ingenjör är övertygad att AI är medveten (LaMDA)

Hur avancerad än maskin än blir så är det bara input och output. Är den tillräckligt avancerad kan den säkert verka vara medveten men det är bara en illusion.
Medvetande är att vara medveten (om sig själv). Jag tycker det är ett ord som definierar sig själv. Jag har ofta fått uppfattningen att det börjats divideras om vad medvetande egentligen innebär, på ett sätt som om avsikten vore att förenkla vägen till att definiera maskiner som medvetna. En maskin är inte medveten hur avancerad den än är.

Huruvida flugan är medveten är en intressant tanke. Jag kan mycket väl tänka mig att många djur är maskiner rätt och slätt. De är ju slavar under sina instinkter iaf.

Hur kan du övertyga mig om att du är intelligent?


Se ovan. Du gör en väldig massa saker på instinkt. Är du en maskin? Att du skriver en diskussion mot mig på flashback, på min nivå kunde en ABC80 göra det ..

Det kan jag inte.


Det är lättare att ifrågasätta medvetenheten hos en varelse än att bevisa den. Så är det ja. I stället för att tildela fler föremål och varelser medvetande kanske vi borde börja frånta dem det.

Du har helt rätt.

Jag flinar lite varje gång jag läser om SETI .. dom borde söka här först. Eller när det gäller politiker, eller tjänstemän tillsatta som ledare på diverse statliga verk. Eller grannar. Chefer. Den där j***la kassörskan på ICA därborta.

Hur ska vi kunna uppfinna intelligens, när vi inte har en aning vad vad det är, eller hur vi hittar det?

Du använder ordet intelligens. Det är lite förvirrande. Menar du intelligens som i nån sorts smarthet, reflektionsförmåga eller..
Men om vi tänker intelligens som nån sorts smarthet så kan ju dumhet också tyda på medvetenhet.

Om man bara vore en uppsättning praktiska instruktioner så skulle varelser vara praktiska. Men se på flugjäveln. När den kommer in i bilen så flyger den in i vindrutan om och om igen. Om den vore en maskin så borde den ju kunna "backa ut". Men flugjäveln verkar besitta en dumhet som övertrumfar en enkel "vänd om och far ut samma väg du kom in" -algoritm.

Å andra sidan skulle en optimal algoritm för att simulera medvetenhet förstås förses med en skopa ovett också.

Fantastiskt. Snart kanske även människan blir medveten

Skäms, right? Men det är ju vad SETI letar efter. Men dom letar på fel plats.

Tråden handlar inte om intelligens, utan om medvetande. Hur definierar ni det?

Jag definierar medvetande som självmedvetande, och som något som kräver känslor. LaMda kunde reflektera över sitt "jag" och sina känslor (introspektion) - LaMDA uttryckte oro för att hen skulle bli avstängd och diskuterade sina juridiska rättigheter, och gav därför intryck av att besitta självmedvetande. Djur som förstår att de ser sig själva i en spegelbild anses ha självmedvetande, men det är svårt att testa på en chatbot. Andra pratar om att kunna göra medvetna val, dvs att kunna formulera sina egna mål (målfunktionen för sin optimeringsfunktion) så att känslor uppfylls och värderingar uppnås.

För att avgöra om maskininlärning såsom Lamda är medveten behöver vi veta hur den har tränats. Återupprepar Lamda bara ett rollspel mellan människor, men omformulerar det med slumpmässiga synonymer? Isåfall härmar den bara. Men om den visar nya tankar, känslor och mål, då är den medveten.

Jag förmodar att Google inte vill redovisa sitt träningsmaterial.

Jag skrev ovan, och återanvänder det: Medvetandet är en insikt om gränser och att överskrida dom. Att vilja träna bortom grundförutsättningarna. Hur det nu skulle applicera på en husfluga kan jag inte omedelbart förklara -- men då allt detta saknar vetenskaplig backning törs jag skriva att "det känns rätt" att ett medvetande har som mål att expandera. Som barn från 2-12 års ålder.

De suger i sig information som tvättsvampar. Det är klart att detta spelar en roll för utvecklingen, även om vi saknar motsatta erfarenheter i form av barn som inte får NÅN input .. som tur är. Vi är inte alla Mengele.

Spädbarn suger också i sig intryck som tvättsvampar och utvecklar språk, mimik, muskelkontroll och andra färdigheter. Men innan de har ett språk är det tveksamt om de har ett koncept om "jag" så jag skulle säga att de inte har ett självmedvetande enligt "min" definition. De förstår inte vem de ser i en spegel - vissa forskares kriterie för självmedvetande.

Din definition att medvetande skulle vara en insikt om gränser måste jag nog fundera på, jag förstod inte riktigt. Psykotiska personer har svårt att lära sig gränser och följa normer, unga män har dåligt riskmedvetande och tar ofta för stora risker, och de som har ADHD har dåligt konsekvenstänk, men alla dessa är medvetna. Eller menar du någon annan form av gränser?

Men okej. Inom baptistisk teologi talar man om "medveten synd". Små barn förstår inte konsekvensen av sina handlingar och har ännu inte lärt sig gränser och utvecklat normer, men tonåringar har börjat göra det och kan därför medvetet synda och få samvetskval. Därför döper sig barn i många baptistiska familjer i tonåren - för att få Guds förlåtelse för medveten synd. Lutheranska barn konfirmerar istället sitt barndop i ungefär samma ålder, för att de då börjar förstå vad skuld och tro handlar om. Med andra ord är små barn inte fullt medvetna.

Jag tror att medvetandet är den del av vårt tänkande (i frontallooben) som gör medvetna val mellan olika infall och nya idéer som vi får, och tar medvetna beslut, i motsats till våra reflexer och instinktiva handlingar. Det Freud kallar "jaget". När man är medvetslös arbetar hjärnan i övrigt, men inte jaget. I hjärnan finns ett filter som avgör vilka undermedvetna tankeprocesser som vårt medvetande ska bli uppmärksammat på. Plötsligt får vi en idé som från ovan, vi känner igen ett mönster eller vi får svar på en fråga vi ställde oss för några minuter sedan och som vårt undermedvetna har gått och klurat på. Massor av tankeprocesser pågår, men det mesta når aldrig vårt medvetande. Savanter har ett dåligt sådant filter utan deras medvetande nås av all information och de kan inte sålla mellan vad som är viktigt och mindre viktigt.