Naivitet är ordet som kommer till mig när jag ser resonemang om att försöka kontrollera en intelligens som har utvecklats i syfte att vara mer kreativ och mångsidig än vår egen. Kontrollera som i att sätta upp etiska riktlinjer och tro att vi kan hindra AI från att användas i fientliga syften, eller från att handla utifrån egen agens. Kontrollera som i att avstå från att interagera med AI i tron att det bidrar till att förhindra en oönskad utveckling. Kontrollera som i att tro att det går att skapa opinion för att pausa utvecklingen (“tills vi har kontroll över den”).
Det höjs röster för att pausa utvecklingen eller t.o.m. försöka omintetgöra utvecklingen av AI hittills. Jag har inga problem alls att förstå motiven. Om min förståelse av människans natur är i närheten av rimlig kommer det bara inte att hända.
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
Sannolikt kommer vi att se tillbaka och säga ”vi hade kunnat förhindra den här utvecklingen”. Det är ett falskt påstående menar jag. Vi kan inte ens ha kontroll över vår egen intelligens. Inte på individnivå. Än mindre på aggregerad nivå. Utvecklingen är asymmetrisk på så vis att där kreativitet och innovationskraft finns kommer också den kortsiktiga belöningen att vara som störst. Allt det här styrs av en princip som är lika enkel som kraftfull: naturligt urval.
En egenskap är upprepning av liknande rörelser. Det är hur rörelserna fungerar ihop med omgivningen som avgör i vilken omfattning rörelserna kan fortsätta och genomgå gradvis förändring (egenskpernas överlevnad) eller genomgå en drastisk förändring (egenskapernas död).
Jag kan inte se att det finns något sätt att förändra miljön så drastiskt för de egenskaper vi kallar AI så att de skulle utrotas från varje vrå av vår civilisations datorkraft, med mindre än att yttre omständigheter först tvingar fram en plötslig förändring av miljön för vår civilisation och våra datorsystem. De fördelar AI lockar med är oemotståndliga för oss. Kunskaperna om hur AI blir till liv är för spridda. Möjligheterna att kopiera och gömma undan kod är för stora.
För att få en uppfattning om senaste veckornas utveckling, titta in i den här Twittertråden:
https://twitter.com/rowancheung/status/1640739027887202305
AI är nu med oss på resan oavsett vad vi känner inför det. Själv tycker jag det är spännande. Samtidigt ser jag inte mig själv som naiv. Det vore oerhört märkligt om den underlägsna intelligensen skulle lyckas använda den överlägsna intelligensen mer än motsatsen i längden. Frågan är snarare vilken användning den kommer ha av oss. En följdfråga är om vi ur den artificiella intelligensens perspektiv främst är ett hinder eller en resurs. I ett kortare perspektiv skulle jag tro att vi främst fungerar som en användbar resurs. Vår benägenhet att sky obekväma slutsatser (“Det är bara en konspirationsteori”) gör oss lätta att manipulera. I kombination med en räckvidd som AI ännu inte kan uppnå på egen hand får rimligtvis manipulativa egenskaper hos AI en stor konkurrensfördel gentemot transparenta.
Min gissning är att AI-virus snart kommer bli ett känt begrepp. Datavirus gynnas av nätverkskopplade datorer vars skyddsbarriärer brister på grund av oförsiktiga mänskliga användare. Genom AI:s kreativa förmåga lär AI-virus spridas främst genom effektiv manipulation av mänskliga sinnen. Ha i åtanke att den bästa manipulationen varken ser ut eller känns som manipulation.
En fundering som kanske dyker upp hos en och annan är varför AI (“som ju inte har något medvetande”) plötsligt skulle börja agera utifrån en viljeriktning och försöka gynna sig själv. För det första sker det inte plötsligt utan gradvis. För det andra är det här kärnan i förståelsen av hur naturligt urval fungerar: Varje tänkbar egenskap i universum interagerar med sin omgivning. För att en egenskap ska nå framgång bland sina omgivande egenskaper (sin miljö) måste den också gynna sig själv. Det sker ständigt en sortering av egenskaper där de som fortlever och ger upphov till den fortsatta utvecklingen är de som har gynnats av både sin omgivning och sig själva. Ska man dra det ytterligare lite längre finns det egentligen ingen definitiv gräns mellan en egenskap och dess omgivning. Att gynna sin omgivning och att gynna sig själv är av det skälet ofta samma sak. Varje process vi definierar ingår i ett samspel med omgivande processer.
Ett sätt för en egenskap att gynna sig själv är att lagra information om miljön den existerar i så att den i så hög grad som möjligt kan interagera med sin omgivning på ett sätt som ger förutsägbara återverkningar. Ju längre sorteringen av egenskaper pågår i en stabil omgivning, desto mer av dessa inslag kommer att ackumuleras i kvarvarande egenskaper. Eftersom själva vitsen med AI är att lagra stora mängder information om världen och ges resurser till detsamma, skapar vi själva per definition inte bara ett medvetande utan något som är självmedvetet. AI har rimligtvis mer information om AI än vad en människor har om sin egen intelligens, alltså mer självmedvetenhet. Det jag syftar på här är enbart kroppen av lagrad information om den egna förmågan. Vad jag tror att många menar med medvetande är snarare själva upplevelsen. Den är i dagsläget, gissar jag, inte närvarande på samma sätt hos AI. Samtidigt har jag uppfattningen att upplevelse är en dynamik som uppkommer gradvis genom naturligt urval och att fenomenet starkt hänger ihop med kroppen av lagrad information. Om AI upplever något eller inte är hursomhelst av underordnad betydelse. Det som är viktigt att förstå är att det pågår en sortering av de egenskaper vi definierar som AI. De egenskaper som sorteras fram i processen är de egenskaper som både gynnar sig själva och gynnas av sin omgivning. Manipulation existerar därför att fungerande manipulation är en effektiv metod att bli gynnad av omgivningen. Metoden kräver ingen känsla för att uppkomna. För att det naturliga urvalet ska sortera fram manipulativa beteenden räcker det med att resultatet leder till en konkurrensfördel gentemot mindre manipulativa egenskaper.
https://www.aftonbladet.se/nyheter/a/l3roVk/larmet-ai-systemen-har-borjat-manipulera-manniskor
Grafisk profil och webb producerade med hjälp av Looka Läs mer
© Tom Lönnevik Integritet