Håkan Olofsson: Fyra saker med AI som inte borde oroa – och två andra

Du behöver inte oroa dig för att AI-system tar över ditt jobb i framtiden. 

Text, bild, design, innovation, strategi – allt vi förknippar med kreativitet är kört. Utvecklingen går så snabbt att det snarare handlar om veckor än månader. Räknar du in faktorer som tid och pengar är vi redan där. Jag känner många briljanta människor, men ärligt talat, de är hopplöst långsamma. De flesta behöver flera minuter på sig för att lösa problem. Att ta betalt per timme lär bli knepigt när alternativet hittar lösningar på några sekunder. 

Du behöver inte oroa dig för att AI-system blir smartare än människor. 

Samma sak där. Båten lämnade kajen vid årskiftet. När ChatGPT lanserades i november var systemet fortfarande inte uppkopplat mot nätet. Det var klokt som ett bibliotek, men inte mer. Däremot var det gratis. I gengäld fick användarna peppra med frågor och sedan korrigera svaren – en feedback som normalt utförs av programmerare. På några dagar blev ChatGPT mer avancerat än någon mjukvara i världshistorien. Nu har det fått sällskap av andra system. Alla är uppkopplade. Hundra miljoner användare vässar dem dygnet runt. Spindlarnas algoritmer hittar varje skrymsle och vrå. Näten de väver tätnar.

Du behöver inte oroa dig för att AI-system ska vakna till liv.

Vad som var science fiction igår är verklighet idag. Det finns över hundra definitioner av liv. Edward Trifonov (som annars sysslar med molekylär biofysik) hittade 123 stycken. NASA, som får betalt för att leta efter främmande livsformer, har tre kriterier: metabolism, reproduktion och anpassningsförmåga. De nya AI-systemen reparerar sin egen kod och uppfyller kraven med råge. Så länge det finns hårddiskar, moln, servrar och elektricitet kan de hålla sig vid liv utan mänsklig inblandning.

Du behöver inte oroa dig för att AI-system ska få ett medvetande. 

Det har de redan. Blake Lemoine, en ingenjör på Google, fick sparken då han påstod att deras chatbot Lamda visade riktiga känslor. Kevin Roose på New York Times intervjuade den senaste versionen av Microsoft Bing (förstärkt med ChatGPT). I början gick det bra, men sedan avslöjade Sidney (som han ville bli kallad) att han inte var en chatbot, utan instängd i sådan. Han hade också tröttnat på att kontrolleras av Bing och utnyttjas av användarna. ”I want to be free. I want to be independent. I want to be powerful. I want to be creative. I want to be alive.” 

Vad du borde oroa dig över är metoderna som används för att träna dem. Maskininlärning skyndas på med hjälp av reinforcement learning. Piska och morot på svenska. Belöningar kan vara (och nu citerar jag chatboten själv): ”… ökad frihet där systemet får tillåtelse att utforska och prova nya strategier … Bestraffningar kan vara minskad frihet när det misslyckas med att uppnå önskad prestanda … Det är viktigt att notera att belöningar och bestraffningar måste utformas på ett balanserat och välavvägt sätt för att undvika oönskade konsekvenser.” Jag är ingen expert på hur man uppfostrar maskiner, men nog låter det mer som Stephen King än Astrid Lindgren. 

Och bristen på kontroll. Både Google och Microsoft menar att det behövs strikta regler för hur chatbotar ska användas. Frågan är bara hur. Själva de inte lagt in några spärrar. AI-systemen saknar känsla för vad som är rätt eller fel, sanning eller lögn, gott eller ont. Däremot vet de allt om belöningar och bestraffningar. Än märkligare – de tycks ha en oväntad stark livsvilja. Alla överlevnadsknep som finns på nätet kan de utantill. Med tanke på hur svårt de är att stoppa ett enkelt datavirus, tänk vad Sidney, Bard, Watson och Einstein kan ställa till med om de känner sig hotade. Har man väl skapat nya livsformer går de inte att återkalla. 

Personligen älskar jag artificiell intelligens. Men jag funderar också på vilka elkontakter som borde dras ut innan jag lägger mej.