Harry Lunabba: Vem är rädd för AI?
Jag har länge sett mig som en teknikoptimist. Men efter den senaste AI-incidenten ställer jag mig en fråga jag aldrig tidigare tagit på allvar: Tänk om experterna faktiskt har rätt att vara rädda?
För drygt två veckor sedan lyssnade jag på en New York Times-podcast med teknikjournalisten Kevin Roose och programledaren Michael Barbaro, där de gick i detalj igenom den senaste rapporten kring det så kallade Hugging Face-fallet. Även om jag hade hört om fallet tidigare så var det först nu jag insåg allvaret, och jag kan också erkänna att jag för första gången blev riktigt illa till mods gällande AI-utvecklingen.
Under ett internt säkerhetstest hade AI-företaget OpenAI tränat sina egna AI-agenter till att vara särskilt ihärdiga problemlösare. Men ihärdigheten gick minst sagt över styr, då AI-agenterna bröt sig, inte bara ut ur sin avgränsade testmiljö, utan hackade sig också in i AI-företaget Hugging Faces datasystem.
Liksom journalisten Kevin Roose, identifierar också jag mig själv som en AI-positiv teknologioptimist. Jag kan väl också hävda att jag sällan brukar vara lättskrämd då det gäller teknologisk utveckling. Men, Hugging Face-fallet fick verkligen mitt blodtryck att stiga, och oron har inte släppt fast jag läst in mig på en mängd olika slags analyser om AI:ns "fara eller inte fara". Det mest skrämmande med fallet var just oförutsägbarheten i dessa särskilt ihärdiga AI-agenters agerande. Analyserna om fallet överträffar nämligen de mesta du och jag läst som science-fiction.
Är det nu rätt läge att satsa stort på de nya datacentralerna?
Osökt har jag (igen) kommit att tänka på filmen Don't Look Up, där Jennifer Lawrence och Leonardo DiCaprio spelar huvudrollerna som forskare som upptäcker att en komet håller på att störta mot jorden. I filmen var det inte kometen i sig som var skrämmande, utan det skrämmande var de högsta politiska ledarna, som helt enkelt lät bli att ta till sig den välgrundade och tunga evidensen över vad som komma skall. Den direkta parallellen mellan filmen Don't Look Up och vår vardagsverklighet är väl det allmänt likgiltiga förhållningssättet till den pågående klimatförändringen. Men parallellen mellan likgiltigheten inför komet-hotet i filmen och den nu aktuella AI-hotet är minst sagt lika slående.
För problemet, som jag ser det, är inte AI i sig, lika lite som det är vår planet som behöver räddas från klimatförändringen. Jorden kommer att bestå, även om klimatet blir varmare, men det är vi människor som riskerar att gå under. Riskerna med AI handlar inte heller om att vi skapar en AI som vill oss illa, utan att vi människor sätter i gång en utveckling med förödande konsekvenser för oss själva, i vår ändlösa strävan att skapa tillväxt på marknaden. Det är oss det är synd om, och det är också vi människor som utgör den egentliga faran och risken för mänsklighetens undergång.
För jag kan inte riktigt se framför mig att vi i skrivande stund skulle klara av att, som ett enat globalt kollektiv, fatta ett sådant gemensamt beslut som skulle minimera risken för vare sig amoklöpande AI-agenter eller framtida klimatkatastrofer. För vi människor må vara som individer hur analytiska och förutseende som helst, men som kollektiv finner vi vår handlingskraft först då skadan redan har skett. Innan problemet är handgripligt alvarliga, så som fallet var under Covid-19 pandemin, står vi som kollektiv passiva även inför de mest välgrundade och hisnande analyserna.
Det återstår att se vad som måste hända innan den kollektiva och globala handlingskraften infinner sig, som den gjorde under pandemin, där vi på ett överraskande enstämmigt sätt vidtog nödvändiga åtgärder och lyckades stävja smittkurvorna och ta fram fungerande vaccin. Jag ställer mig själv förstås i sällskapet bland de 1 300 AI-experterna som redan 2023 vädjande om en global överenskommelse bland AI-jättarna om att pausa AI-utvecklingen. Men, jag befarar att AI-kometen fortfarande befinner sig på lite för långt och abstrakt avstånd för att ett sådant beslut ska kunna fattas.
Jag är definitivt ingen klimatförändringsförnekare, men jag kan erkänna att jag i skrivande stund är mer rädd för AI-utvecklingen än för den globala uppvärmningen. AI-kometen må vara ännu på avstånd men den samlade expertisen vittnar om att den närmar sig med accelererande fart; något som också fått utrikesminister Elina Valtonen att haja till. I en artikel i Helsingin Sanomat uppmanar hon alla finländare att ta till sig fallet med Hugging Face-incidenten. Vi som nu efter uppmaningen från ministern, blivit krismedvetna och förstått alvaret, kan förstås fråga oss: är det här rätt läge för oss finländare att satsa stort på de nya datacentralerna?