Flashbacks p(doom)

Om nu AI någon gång skulle närma sig någon form av intelligens överhuvudtaget, vilket är många (många) år bort, så kan man implementera säkerhetsåtgärder relativt lätt. Exempelvis: Ställ upp lagkrav på att AI av viss kaliber enbart får existera inom vissa serverkluster. Dessa serverkluster har manuella brytare för både Internet och ström samt personal som dygnet runt kan bryta accessen. Det går också att sätta upp en mellanman som begränsar AI:s tillgång till nätet till vissa former av ”saniterade” API-anrop, alltså inte fri access. Den stora farhågan är ju annars att AI börjar hacka andra system, vilket inte är möjligt om man stryper nätaccessen helt.

Jaså. Är det inte "någon form av intelligens" när o3-modellen fixar 88% på Arc AGI-testet? Och o1 har 120 på IQ test. o3:s IQ blir antagligen inte möjligt för oss att mäta.

Den ska ändå få ha Internetaccess? Men när du tror att du har upptäckt en rymning då ska man dra ut Internetsladden ur modermodemet? När det redan är för sent?

Vilken global organisation ska ha hand om säkerheten i januari när o3 släpps ut på Internet?

Vi är körda. It's over.
https://i.pinimg.com/originals/cf/53...b69f6496d2.gif

Det går naturligtvis redan nu att implementera en mellanman som jag är inne på. Det finns ingen anledning att AI ska ha direktaccess till nätet, utan det måste räcka med att sådan access går genom ett säkert gränssnitt (om den alls är nödvändig)