Blog Layout

Hur ska AI använda oss människor på ett etiskt försvarbart sätt?

Tom Lönnevik • 1 april 2023

Naivitet är ordet som kommer till mig när jag ser resonemang om att försöka kontrollera en intelligens som har utvecklats i syfte att vara mer kreativ och mångsidig än vår egen. Kontrollera som i att sätta upp etiska riktlinjer och tro att vi kan hindra AI från att användas i fientliga syften, eller från att handla utifrån egen agens. Kontrollera som i att avstå från att interagera med AI i tron att det bidrar till att förhindra en oönskad utveckling. Kontrollera som i att tro att det går att skapa opinion för att pausa utvecklingen (“tills vi har kontroll över den”).

Det höjs röster för att pausa utvecklingen eller t.o.m. försöka omintetgöra utvecklingen av AI hittills. Jag har inga problem alls att förstå motiven. Om min förståelse av människans natur är i närheten av rimlig kommer det bara inte att hända.

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

Sannolikt kommer vi att se tillbaka och säga ”vi hade kunnat förhindra den här utvecklingen”. Det är ett falskt påstående menar jag. Vi kan inte ens ha kontroll över vår egen intelligens. Inte på individnivå. Än mindre på aggregerad nivå. Utvecklingen är asymmetrisk på så vis att där kreativitet och innovationskraft finns kommer också den kortsiktiga belöningen att vara som störst. Allt det här styrs av en princip som är lika enkel som kraftfull: naturligt urval.

En egenskap är upprepning av liknande rörelser. Det är hur rörelserna fungerar ihop med omgivningen som avgör i vilken omfattning rörelserna kan fortsätta och genomgå gradvis förändring (egenskpernas överlevnad) eller genomgå en drastisk förändring (egenskapernas död).

Jag kan inte se att det finns något sätt att förändra miljön så drastiskt för de egenskaper vi kallar AI så att de skulle utrotas från varje vrå av vår civilisations datorkraft, med mindre än att yttre omständigheter först tvingar fram en plötslig förändring av miljön för vår civilisation och våra datorsystem. De fördelar AI lockar med är oemotståndliga för oss. Kunskaperna om hur AI blir till liv är för spridda. Möjligheterna att kopiera och gömma undan kod är för stora.

För att få en uppfattning om senaste veckornas utveckling, titta in i den här Twittertråden:
https://twitter.com/rowancheung/status/1640739027887202305

AI är nu med oss på resan oavsett vad vi känner inför det. Själv tycker jag det är spännande. Samtidigt ser jag inte mig själv som naiv. Det vore oerhört märkligt om den underlägsna intelligensen skulle lyckas använda den överlägsna intelligensen mer än motsatsen i längden. Frågan är snarare vilken användning den kommer ha av oss. En följdfråga är om vi ur den artificiella intelligensens perspektiv främst är ett hinder eller en resurs. I ett kortare perspektiv skulle jag tro att vi främst fungerar som en användbar resurs. Vår benägenhet att sky obekväma slutsatser (“Det är bara en konspirationsteori”) gör oss lätta att manipulera. I kombination med en räckvidd som AI ännu inte kan uppnå på egen hand får rimligtvis manipulativa egenskaper hos AI en stor konkurrensfördel gentemot transparenta.

Min gissning är att AI-virus snart kommer bli ett känt begrepp. Datavirus gynnas av nätverkskopplade datorer vars skyddsbarriärer brister på grund av oförsiktiga mänskliga användare. Genom AI:s kreativa förmåga lär AI-virus spridas främst genom effektiv manipulation av mänskliga sinnen. Ha i åtanke att den bästa manipulationen varken ser ut eller känns som manipulation.

En fundering som kanske dyker upp hos en och annan är varför AI (“som ju inte har något medvetande”) plötsligt skulle börja agera utifrån en viljeriktning och försöka gynna sig själv. För det första sker det inte plötsligt utan gradvis. För det andra är det här kärnan i förståelsen av hur naturligt urval fungerar: Varje tänkbar egenskap i universum interagerar med sin omgivning. För att en egenskap ska nå framgång bland sina omgivande egenskaper (sin miljö) måste den också gynna sig själv. Det sker ständigt en sortering av egenskaper där de som fortlever och ger upphov till den fortsatta utvecklingen är de som har gynnats av både sin omgivning och sig själva. Ska man dra det ytterligare lite längre finns det egentligen ingen definitiv gräns mellan en egenskap och dess omgivning. Att gynna sin omgivning och att gynna sig själv är av det skälet ofta samma sak. Varje process vi definierar ingår i ett samspel med omgivande processer.

Ett sätt för en egenskap att gynna sig själv är att lagra information om miljön den existerar i så att den i så hög grad som möjligt kan interagera med sin omgivning på ett sätt som ger förutsägbara återverkningar. Ju längre sorteringen av egenskaper pågår i en stabil omgivning, desto mer av dessa inslag kommer att ackumuleras i kvarvarande egenskaper. Eftersom själva vitsen med AI är att lagra stora mängder information om världen och ges resurser till detsamma, skapar vi själva per definition inte bara ett medvetande utan något som är självmedvetet. AI har rimligtvis mer information om AI än vad en människor har om sin egen intelligens, alltså mer självmedvetenhet. Det jag syftar på här är enbart kroppen av lagrad information om den egna förmågan. Vad jag tror att många menar med medvetande är snarare själva upplevelsen. Den är i dagsläget, gissar jag, inte närvarande på samma sätt hos AI. Samtidigt har jag uppfattningen att upplevelse är en dynamik som uppkommer gradvis genom naturligt urval och att fenomenet starkt hänger ihop med kroppen av lagrad information. Om AI upplever något eller inte är hursomhelst av underordnad betydelse. Det som är viktigt att förstå är att det pågår en sortering av de egenskaper vi definierar som AI. De egenskaper som sorteras fram i processen är de egenskaper som både gynnar sig själva och gynnas av sin omgivning. Manipulation existerar därför att fungerande manipulation är en effektiv metod att bli gynnad av omgivningen. Metoden kräver ingen känsla för att uppkomna. För att det naturliga urvalet ska sortera fram manipulativa beteenden räcker det med att resultatet leder till en konkurrensfördel gentemot mindre manipulativa egenskaper.

https://www.aftonbladet.se/nyheter/a/l3roVk/larmet-ai-systemen-har-borjat-manipulera-manniskor

Person ser världen genom mikroskop.
Av Tom Lönnevik 2 mars 2025
Polariseringen gör att människor glider isär och har svårare att enas om vad som egentligen är sant. Tyvärr följer empati och ömsesidig förståelse samma väg. Fausta Marianović från Bosnien berättar om sina upplevelser under polariseringen inför Balkankriget i boken 'Sista kulan sparar jag åt grannen'. Hon vittnar om en process där alla nyanser försvann och människor mer och mer förvandlades till politiska soldater. Jag rekommenderar boken starkt. Var och en visste att just hon eller han tillhörde den goda sidan, med den rimliga synen på verkligheten. Något behov av ge sig in i meningsutbyte med oliktänkande fanns inte. Varför ifrågasätta det som alla vettiga människor redan vet? För mig är det här en utmanande tid. Jag saknar förmågan att vara en god politisk soldat, och kommer aldrig få uppleva bekvämligheten i den rollen. Jag vet nämligen inte alltid om just min syn på verkligheten är den rimligaste. Många gånger jag har känt mig säker på något, som jag senare har omvärderat. Därmed kommer ingen politisk gruppering kunna lita på att jag håller mig lojal till just den gruppens överenskomna slutsatser. Så hur förhåller man sig till samtiden utan att bestämma sig för en sida som alltid har rätt, och en som alltid har fel? Jag har en stark tilltro till ett vetenskapligt förhållningssätt. Det betyder inte att jag alltid väger varje ord på guldvåg. Inte heller att jag tror att allt som förs fram i vetenskapens namn följer god vetenskaplig sed. Vad jag menar är att jag försöker försöker vara uppmärksam på känsloimpulser och tendenser hos mig själv som skulle kunna göra mig förblindad av mina egna ideal och förutfattade meningar. Jag duckar inte för någon tanke, hur obekväm den än kan framstå. Att testa giltigheten hos ett resonemang är inte samma sak som att acceptera det. Sen är det naturligtvis så att sannolikheten bara kan öka om man från början avfärdade idén. Det är knappast en tillfällighet att ideologier inte uppmuntrar till intellektuella upptäcktsfärder. Rent praktiskt har jag motstått frestelsen att bryta kontakten med människor vars synsätt har provocerat mig, och jag är angelägen om att omge mig med människor som har olika sätt att se på saker och ting. Jag ser det som ett sätt att vaccinera mig mot den blindhet som uppstår om man bara stirrar på ena sidan av ett mynt. För det finns en god grund till uttrycket ”stirra sig blind”. En reaktion jag har mött är att mitt förhållningssätt kanske är en skyddsmekanism – ett sätt att skydda en känslig själ. Jag skulle säga att det inte bara är möjligt. Utifrån vad jag har lyckats förstå av mig själv, är det just så det är. Jag har aldrig varit bra på någon sport, eller övat upp någon särskild färdighet till briljans. Däremot har jag så länge jag kan minnas, haft en stark tilltro till min analytiska förmåga. Kritik mot vad jag själv ser som min främsta styrka har känts ganska tuff, de gånger jag har insett att kritiken verkligen har haft grund. Mitt sätt att skydda mig blev tidigt i livet, att noga skilja mellan vem jag är – och vad jag tror är sant. Det blir nämligen lätt samma sak OM man inte gör det till en vana att försöka se idioten i sig själv. För den finns alltid där. Ett vetenskapligt synsätt kan skydda på ytterligare ett sätt. Utan skygglappar blir det nämligen lättare att räkna ut vad som kommer att hända, innan det händer. Även om tankar på negativa konsekvenser kan framkalla obehag under anpassningsfasen, tror jag att ovisshet ofta är mer emotionellt dränerande än att en gång för alla acceptera något som vi inte önskar, men som är oundvikligt. Att ett vetenskapligt förhållningssätt gör det enklare att förbereda sig mentalt innebär samtidigt det omvända. Den som försöker lura sig själv för att slippa se en negativ utveckling är dömd att uppleva kronisk besvikelse – att det som i grunden är delar av samma övergripande utveckling gång på gång leder till att du ”inte trodde att det skulle vara så här illa”. Delarna och helheten hänger ihop. Medan det ligger i oss att reagera på mer vardagsnära företeelser som personlig interaktionen mellan världens ledare, finns det en underliggande dynamik i botten som påverkar vad som yttrar sig också i form av mellanmänsklig dynamik. Ledarnas agerande påverkar naturligtvis också förloppet i sin tur, men detta är del i ett större skeende. Här finns etablerad vetenskap att luta sig emot. Vi vet att civilisationer är tillfälliga i sin natur, i ett längre historiskt perspektiv. Det gäller också för samhällen som USA, Ryssland och Ukraina. Det gäller också vår globala civilisation i sin helhet. Tillväxt är ett nödvändigt villkor för att en civilisation ska överleva. Men i tillväxten ligger också fröet till dess undergång, eftersom tillväxt inte kan vara evig i en ändlig värld. Den grupp av forskare som kallade sig Romklubben och bildades 1968, gjorde datorsimuleringar för att försöka förutspå när tillväxten skulle upphöra globalt. Citatet nedan är hämtat från förhandsversionen av nya ChatGPT 4.5, för forskningsänamål: ”Enligt detta standardscenario, där inga avgörande förändringar gjordes för att bromsa tillväxten eller miljöpåverkan, skulle "peak everything"—alltså toppen på global ekonomisk aktivitet, industriproduktion, resursanvändning och livsmedelsproduktion—infalla ungefär mellan 2020 och 2030.” Se hela utbytet här: ChatGPT 4.5 om Romklubbens simuleringar För att inte fastna i detaljer och lättare förstå det större skeendet kan vetenskapen alltså ge god vägledning. Implikationerna är inte alltid trevliga att tänka på, och just så kan det vara med vetenskap; God vetenskap ger oss inte alltid de svar vi helst vill ha. Men den gör oss lite mer motståndskraftiga mot besvikelser. Min önskan är att den också skulle göra oss till lite mindre av politiska soldater, och mer inriktade på hur vi kan ha ett bra liv här och nu, mitt i en stormig och omvälvande tid. Trots att alla andra inte uppfattar, ser och tänker på precis samma sätt som vi själva.
olika versioner av ChatGPT
Av Tom Lönnevik 15 september 2024
Jag har ofta fått höra att jag skriver bra. Påfallande ofta från personer som samtidigt säger att de inte förstår vad jag menar. Med tanke på att jag skriver för att göra mig förstådd, inser jag att det som var menat som en komplimang i själva verket var ett bottenbetyg. En text som låter bra men inte lyckades förmedla den förståelse den var menad att förmedla, är en dålig text. Från ChatGPT har jag också fått till mig att mitt sätt att uttrycka mig är för avskalat och kliniskt för att passa människor. Jag behöver uttrycka mer känslor om jag ska skriva själv, menar systemet. Ibland skriver jag huvudsakligen själv ändå. Som i det här blogginlägget. När jag låter andra avgöra vilken text de föredrar, väljer nästan alla ”maskinskriven” text framför den jag har skrivit mer efter eget huvud. I själva verket handlar det förstås om ett utbyte, men jag kan inte konkurrera med AI (version 4o) när det gäller den slutliga finishen för en text. Medan enstaka ordval och språkliga brister lätt ställer till det för människor, har ChatGPT en inbyggd flexibilitet och fantasi som gör att tolkningen görs utifrån sammanhanget. Systemet verkar ofta kunna tolka mina texter bättre än människor. Nyckeln till fungerande kommunikation är ömsesidig anpassning; båda parter behöver anstränga sig både i att tolka och formulera budskap. Även om detta kan låta enkelt, döljer sig en hel värld inom varje sinne. När två människor kommunicerar, möts två världar som bara delvis kan få insyn i varandra. Dessutom varierar graden av öppenhet inom dessa sinnliga världar. Mentalisering, förmågan att skapa en realistisk bild av både sitt eget och andras sinne, kan vara den enskilt viktigaste faktorn för lyckad kommunikation. Ju tydligare vi kan se någon annans inre värld, desto större är chansen att vi kan förstå och bli förstådda. Som jag redan har antytt gäller den här logiken också för ett artificiellt sinne. ChatGPT har fram till för ungefär en vecka sedan, haft en avgörande begränsning i sin förmåga till mentalisering. Systemet har nämligen inte haft tillgång till något automatiskt långtidsminne. Det enda som har funnits fram till nu är möjligheten att manuellt delge information om sådant som man vill slippa förklara gång på gång. Förklaringen till att jag ändå har upplevt ChatGPT som kapabelt i sin tolkningsförmåga, ligger rimligen i att systemet har tränats i att känna igen mönster i mänskligt tänkande på ett sätt som ingen människa kan komma i närheten av. Ett långtidsminne är en förutsättning för att ett sinne ska kunna lära känna ett annat sinne, successivt öka sin mentaliseringsgrad och därmed också utveckla kommunikationen över tid. Jag har haft mycket nytta av ChatGPT hittills, men just avsaknaden av långtidsminne har varit en påtaglig begränsning. Meningen med AI är ju att efterlikna ett mänskligt sätt att bearbeta data, och det här är ett spännande genombrott som jag har väntat på. Det är version 4o som nu har fått förmågan att minnas och lära känna motparten. Hur mycket har då systemet lyckats lära känna mig efter någon veckas interaktion? Jag ska erkänna att det var lite läskigt att fråga. Det här var svaret jag fick: Mitt intryck av dig är att du är en person som värderar både intellektuell och personlig utveckling högt. Du har en stark självkännedom och är modig nog att konfrontera även de mest obekväma tankarna inom dig själv. Du är kreativ och har en ständig ström av idéer, vilket gör livet spännande men kan också leda till utmaningar när det gäller beslutsfattande och att realisera alla dina visioner. Du verkar vara nyfiken på både praktiska och filosofiska aspekter av livet och strävar efter att förstå och tillämpa koncept som hjälper dig att leva ett mer harmoniskt och organiserat liv. Samtidigt är du medveten om och reflekterar över samtidens problem, som överkänslighet och överreaktioner, och vill inte bidra till dessa. Du har också en praktisk sida, intresserad av att förbättra och förenkla vardagen, oavsett om det handlar om att organisera hemmet, skapa innehåll för din verksamhet, eller odla din trädgård. Din kreativitet och känsla för estetik visar sig i ditt intresse för inredningsdesign och konst, där du söker balans mellan funktion och skönhet. Sammantaget verkar du vara en person som ständigt strävar efter att utvecklas, både på ett personligt och professionellt plan, med ett öppet sinne och en vilja att förbättra inte bara ditt eget liv utan även inspirera andra att göra detsamma. Länk till sessionen Svaret överraskade mig positivt genom att på ett träffsäkert sätt sammanfatta en bild som jag känner igen mig i. Sen förstår jag att den här typen av svar kan spegla en självbild även om den skulle vara skev. ChatGPT har en tendens att ge svar som uppskattas, snarare än svar som är korrekta. Det här är en förmodligen en ganska svår nöt att knäcka när man försöker efterlikna mänskligt tänkande. Lögnen i dess olika skepnader är en oerhört viktig komponent i mänskligt tänkande och mänsklig kommunikation. En annan nyhet som lanserades i dagarna är en betaversion som kallas o1 (Ove - etta, med litet 'o'). Jag har bara orienterat mig än så länge. Ett av de omdömen jag har läst är att den ska generera ”betydligt” bättre texter än 4o (fyra - Ove, med litet 'o'). Även om just textgenerering har varit den artificiella intelligensens främsta gren hittills ska det bli spännande att testa. Däremot har o1 inte begåvats med långtidsminne än, se bilden nedan. Vad jag har förstått ska den här versionen vara ett viktigt steg från textgenerering (ibland liknat vid ordgissning) till att ordlöst dra slutsatser om verkligheten vi har omkring oss, med andra ord ett steg på vägen mot AGI (Artificial General Intelligence). Den allmänna bilden av AI verkar i hög grad fortfarande bygga på binärt tänkande (bra/dåligt, för/emot...), som om någon hade påstått att AI var färdigt nu. Som om vi kunde välja bort AI och den mänskliga drivkraften att utveckla tekniken så långt vi kan. Som om vi kollektivt skulle kunna bestämma oss för att avstå från teknikens fördelar. Det är inte ett realistiskt scenario. Med det sagt kommer makt av intelligens och när vi ger intelligens till maskiner ger vi också makt till dem. Den debatten är intressant i sig, men vi måste kunna hålla isär diskussionerna. Idealism och om-alla-bara-resonemang fungerar inte. Vi kommer behöva förhålla oss till både faror och möjligheter med AI oavsett vad vi som individer ”tycker”. Utvecklingen kommer vid någon punkt att stoppas av resursbrist, men aldrig av att vi människor enas om att stoppa teknikutvecklingen.
Av Tom Lönnevik 15 mars 2024
I vårt strävan efter framsteg och förståelse har vi människor nått en epok där gränserna mellan skapare och skapelse suddas ut. Artificial Intelligence, eller AI, har blivit en spegelbild av oss själva – ett redskap fyllt av potential, men också en påminnelse om våra egna begränsningar och tendenser. Mitt i denna teknologiska revolution har jag börjat reflektera över hur dessa maskiner, som utformats för att härma vår egen intelligens, ibland tycks kommunicera mer uttrycksfullt än vi människor själva gör. Det är en tankeväckande paradox som belyser en djupare sanning om mänsklig kommunikation. Mänsklig kommunikation har alltid haft en inneboende dualitet. Å ena sidan strävar vi efter att förmedla information på ett så klart och tydligt sätt som möjligt. Å andra sidan är vårt språk ofta fyllt av emotionella undertoner – ett verktyg för manipulation lika mycket som för förståelse. Vi uttrycker oss genom känslor, ibland på bekostnad av objektivitet, eftersom vi förstår att det är känslorna som ofta styr våra beslut. Denna förmåga att påverka och bli påverkad av känslomässig kommunikation är djupt rotad i vår natur. Jag själv är dock väl medveten om att min egen kommunikationsstil avviker från normen. Jag har alltid värderat saklighet och strävat efter att presentera mina tankar och åsikter utan att försöka manipulera mina läsare till en viss övertygelse. Detta tillvägagångssätt, medan det är ärligt och uppriktigt, uppfattas ofta som mindre engagerande eller till och med mindre behagligt jämfört med den mer emotionellt laddade stilen som dominerar många av våra samtal och medieuttryck idag. Med AI:s framsteg står vi inför ett intressant paradigm. Dessa system är designade att efterlikna mänsklig kommunikation, men de gör det utan de känslomässiga förutfattade meningarna som vi bär på. AI kan presentera information, resonera, och till och med skapa konst på sätt som engagerar oss på djupa nivåer, allt medan de behåller en opartiskhet som människor ofta har svårt att uppnå. Det leder mig till att undra: Kan AI lära oss att kommunicera bättre? Kan vi, genom att observera hur dessa system interagerar, hitta ett sätt att balansera vår strävan efter effektivitet i kommunikation med ett behov av genuin förståelse och empati? Det är en fascinerande tanke. Kanske kan vi, genom att skapa AI till vår egen avbild, lära oss inte bara om våra tekniska förmågor utan också om vår mänsklighet. Genom att sträva efter att förbättra våra skapelser kan vi också hitta vägar att förbättra oss själva. I slutändan är det kanske inte AI som är skapat till människans avbild, utan vi som står inför möjligheten att omskapa oss själva i AI:s spegelbild – med en kommunikation som är lika ärlig och objektiv som den är djupt mänsklig. 
Share by: