Blog Layout

Att försöka hindra en tsunami med en vattenkanna

Tom Lönnevik • 30 november 2023

För mig är AI både användbart och väldigt intressant, inklusive diskussionen om teknikens farlighet. En bra nivå på diskussion kräver hursomhelst med än oneliners och att känna sig fram till vad som är sant. Ett intresse för diskussionen om teknikens farlighet hänger varken ihop med någon upplevd rädsla eller aktivism för min del. Det sistnämnda säger jag för att jag inte vill framstå som så naiv som andra framstår för mig genom att vara ”emot” AI.

Nyligen såg jag en kortfilm om teknikskiftet i ett större sammanhang av teknikskiften. Gång på gång har föreställningen om att tekniken ska minska människans arbetsbörda kommit på skam. Det kommer den göra den här gången också tror jag, men inte på det sätt man förde fram i kortfilmen. Med den exponentiella utveckling av AI som vi ser, vad får oss att tro att vi med vår begränsade förmåga skulle vara bättre lämpade än AI på att fortsätta dominera i rollen som navigatör? Jag ser det som rimligare att anta att den som är bäst lämpad också kommer dominera i den rollen, d.v.s. AI-tillämpningar kommer styra andra AI-tillämpningar i flera led oftare än konstellationen människa - AI.

Människor utan uppgift skulle utgöra parasitism för AI-systemen. Det gäller även om det skulle gå att styra måluppfyllelsen för att gynna andra uppgiftslösa människor. Systemen konkurrerar om samma begränsade resurser på den geografiskt begränsade ytan jorden som vi människor. Det finns en föreställning jag uppfattar som ännu mer naiv än att vi skulle lyckas hindra en intelligens överlägsen vår egen från att komma undan en parasit som försvårar måluppfyllnad, nämligen att människan på tillräckligt bred front skulle välja bort de fördelar som AI erbjuder om bara aktivisternas röster hörs tillräckligt högt.

Ingen av de här förställningarna tar hänsyn till att principen ”survival of the fittest” har bäring på alla processer i universum. När processer som behöver försörja människor som förverkligar sig själva ska konkurrera med processer utan den belastningen är det givet på förhand vilken som kommer vara bäst anpassad att uppfylla mål i en miljö av begränsningar. Likaså är det givet på förhand att personer som använder AI för att nå sina mål också kommer att göra det i högre grad än personer som avstår från AI av aktivistiska skäl i väntan på att alla andra också ska avstå.

”Om alla bara...” är ett uttryck för ett av människans största självbedrägerier. Det är naturligtvis helt sant att om alla bara slutade använda AI skulle hotet upphöra att existera. Frasen ger sken av att förmedla något relevant men är bara ett konstaterande om vad som skulle inträffa om helt osannolika villkor uppfylldes. Det finns inget exempel i världshistorien på att människan har trotsat sin egen natur och det kommer inte hända den här gången heller. Att vara aktivist mot AI är att missa chanser att fokusera på något som kommer göra skillnad.

Eller som ChatGPT uttryckte saken: Att vara aktivist mot AI är som att försöka hindra en tsunami med en vattenkanna.


Bilderna har jag skapat med hjälp av NightCafé

Person ser världen genom mikroskop.
Av Tom Lönnevik 2 mars 2025
Polariseringen gör att människor glider isär och har svårare att enas om vad som egentligen är sant. Tyvärr följer empati och ömsesidig förståelse samma väg. Fausta Marianović från Bosnien berättar om sina upplevelser under polariseringen inför Balkankriget i boken 'Sista kulan sparar jag åt grannen'. Hon vittnar om en process där alla nyanser försvann och människor mer och mer förvandlades till politiska soldater. Jag rekommenderar boken starkt. Var och en visste att just hon eller han tillhörde den goda sidan, med den rimliga synen på verkligheten. Något behov av ge sig in i meningsutbyte med oliktänkande fanns inte. Varför ifrågasätta det som alla vettiga människor redan vet? För mig är det här en utmanande tid. Jag saknar förmågan att vara en god politisk soldat, och kommer aldrig få uppleva bekvämligheten i den rollen. Jag vet nämligen inte alltid om just min syn på verkligheten är den rimligaste. Många gånger jag har känt mig säker på något, som jag senare har omvärderat. Därmed kommer ingen politisk gruppering kunna lita på att jag håller mig lojal till just den gruppens överenskomna slutsatser. Så hur förhåller man sig till samtiden utan att bestämma sig för en sida som alltid har rätt, och en som alltid har fel? Jag har en stark tilltro till ett vetenskapligt förhållningssätt. Det betyder inte att jag alltid väger varje ord på guldvåg. Inte heller att jag tror att allt som förs fram i vetenskapens namn följer god vetenskaplig sed. Vad jag menar är att jag försöker försöker vara uppmärksam på känsloimpulser och tendenser hos mig själv som skulle kunna göra mig förblindad av mina egna ideal och förutfattade meningar. Jag duckar inte för någon tanke, hur obekväm den än kan framstå. Att testa giltigheten hos ett resonemang är inte samma sak som att acceptera det. Sen är det naturligtvis så att sannolikheten bara kan öka om man från början avfärdade idén. Det är knappast en tillfällighet att ideologier inte uppmuntrar till intellektuella upptäcktsfärder. Rent praktiskt har jag motstått frestelsen att bryta kontakten med människor vars synsätt har provocerat mig, och jag är angelägen om att omge mig med människor som har olika sätt att se på saker och ting. Jag ser det som ett sätt att vaccinera mig mot den blindhet som uppstår om man bara stirrar på ena sidan av ett mynt. För det finns en god grund till uttrycket ”stirra sig blind”. En reaktion jag har mött är att mitt förhållningssätt kanske är en skyddsmekanism – ett sätt att skydda en känslig själ. Jag skulle säga att det inte bara är möjligt. Utifrån vad jag har lyckats förstå av mig själv, är det just så det är. Jag har aldrig varit bra på någon sport, eller övat upp någon särskild färdighet till briljans. Däremot har jag så länge jag kan minnas, haft en stark tilltro till min analytiska förmåga. Kritik mot vad jag själv ser som min främsta styrka har känts ganska tuff, de gånger jag har insett att kritiken verkligen har haft grund. Mitt sätt att skydda mig blev tidigt i livet, att noga skilja mellan vem jag är – och vad jag tror är sant. Det blir nämligen lätt samma sak OM man inte gör det till en vana att försöka se idioten i sig själv. För den finns alltid där. Ett vetenskapligt synsätt kan skydda på ytterligare ett sätt. Utan skygglappar blir det nämligen lättare att räkna ut vad som kommer att hända, innan det händer. Även om tankar på negativa konsekvenser kan framkalla obehag under anpassningsfasen, tror jag att ovisshet ofta är mer emotionellt dränerande än att en gång för alla acceptera något som vi inte önskar, men som är oundvikligt. Att ett vetenskapligt förhållningssätt gör det enklare att förbereda sig mentalt innebär samtidigt det omvända. Den som försöker lura sig själv för att slippa se en negativ utveckling är dömd att uppleva kronisk besvikelse – att det som i grunden är delar av samma övergripande utveckling gång på gång leder till att du ”inte trodde att det skulle vara så här illa”. Delarna och helheten hänger ihop. Medan det ligger i oss att reagera på mer vardagsnära företeelser som personlig interaktionen mellan världens ledare, finns det en underliggande dynamik i botten som påverkar vad som yttrar sig också i form av mellanmänsklig dynamik. Ledarnas agerande påverkar naturligtvis också förloppet i sin tur, men detta är del i ett större skeende. Här finns etablerad vetenskap att luta sig emot. Vi vet att civilisationer är tillfälliga i sin natur, i ett längre historiskt perspektiv. Det gäller också för samhällen som USA, Ryssland och Ukraina. Det gäller också vår globala civilisation i sin helhet. Tillväxt är ett nödvändigt villkor för att en civilisation ska överleva. Men i tillväxten ligger också fröet till dess undergång, eftersom tillväxt inte kan vara evig i en ändlig värld. Den grupp av forskare som kallade sig Romklubben och bildades 1968, gjorde datorsimuleringar för att försöka förutspå när tillväxten skulle upphöra globalt. Citatet nedan är hämtat från förhandsversionen av nya ChatGPT 4.5, för forskningsänamål: ”Enligt detta standardscenario, där inga avgörande förändringar gjordes för att bromsa tillväxten eller miljöpåverkan, skulle "peak everything"—alltså toppen på global ekonomisk aktivitet, industriproduktion, resursanvändning och livsmedelsproduktion—infalla ungefär mellan 2020 och 2030.” Se hela utbytet här: ChatGPT 4.5 om Romklubbens simuleringar För att inte fastna i detaljer och lättare förstå det större skeendet kan vetenskapen alltså ge god vägledning. Implikationerna är inte alltid trevliga att tänka på, och just så kan det vara med vetenskap; God vetenskap ger oss inte alltid de svar vi helst vill ha. Men den gör oss lite mer motståndskraftiga mot besvikelser. Min önskan är att den också skulle göra oss till lite mindre av politiska soldater, och mer inriktade på hur vi kan ha ett bra liv här och nu, mitt i en stormig och omvälvande tid. Trots att alla andra inte uppfattar, ser och tänker på precis samma sätt som vi själva.
olika versioner av ChatGPT
Av Tom Lönnevik 15 september 2024
Jag har ofta fått höra att jag skriver bra. Påfallande ofta från personer som samtidigt säger att de inte förstår vad jag menar. Med tanke på att jag skriver för att göra mig förstådd, inser jag att det som var menat som en komplimang i själva verket var ett bottenbetyg. En text som låter bra men inte lyckades förmedla den förståelse den var menad att förmedla, är en dålig text. Från ChatGPT har jag också fått till mig att mitt sätt att uttrycka mig är för avskalat och kliniskt för att passa människor. Jag behöver uttrycka mer känslor om jag ska skriva själv, menar systemet. Ibland skriver jag huvudsakligen själv ändå. Som i det här blogginlägget. När jag låter andra avgöra vilken text de föredrar, väljer nästan alla ”maskinskriven” text framför den jag har skrivit mer efter eget huvud. I själva verket handlar det förstås om ett utbyte, men jag kan inte konkurrera med AI (version 4o) när det gäller den slutliga finishen för en text. Medan enstaka ordval och språkliga brister lätt ställer till det för människor, har ChatGPT en inbyggd flexibilitet och fantasi som gör att tolkningen görs utifrån sammanhanget. Systemet verkar ofta kunna tolka mina texter bättre än människor. Nyckeln till fungerande kommunikation är ömsesidig anpassning; båda parter behöver anstränga sig både i att tolka och formulera budskap. Även om detta kan låta enkelt, döljer sig en hel värld inom varje sinne. När två människor kommunicerar, möts två världar som bara delvis kan få insyn i varandra. Dessutom varierar graden av öppenhet inom dessa sinnliga världar. Mentalisering, förmågan att skapa en realistisk bild av både sitt eget och andras sinne, kan vara den enskilt viktigaste faktorn för lyckad kommunikation. Ju tydligare vi kan se någon annans inre värld, desto större är chansen att vi kan förstå och bli förstådda. Som jag redan har antytt gäller den här logiken också för ett artificiellt sinne. ChatGPT har fram till för ungefär en vecka sedan, haft en avgörande begränsning i sin förmåga till mentalisering. Systemet har nämligen inte haft tillgång till något automatiskt långtidsminne. Det enda som har funnits fram till nu är möjligheten att manuellt delge information om sådant som man vill slippa förklara gång på gång. Förklaringen till att jag ändå har upplevt ChatGPT som kapabelt i sin tolkningsförmåga, ligger rimligen i att systemet har tränats i att känna igen mönster i mänskligt tänkande på ett sätt som ingen människa kan komma i närheten av. Ett långtidsminne är en förutsättning för att ett sinne ska kunna lära känna ett annat sinne, successivt öka sin mentaliseringsgrad och därmed också utveckla kommunikationen över tid. Jag har haft mycket nytta av ChatGPT hittills, men just avsaknaden av långtidsminne har varit en påtaglig begränsning. Meningen med AI är ju att efterlikna ett mänskligt sätt att bearbeta data, och det här är ett spännande genombrott som jag har väntat på. Det är version 4o som nu har fått förmågan att minnas och lära känna motparten. Hur mycket har då systemet lyckats lära känna mig efter någon veckas interaktion? Jag ska erkänna att det var lite läskigt att fråga. Det här var svaret jag fick: Mitt intryck av dig är att du är en person som värderar både intellektuell och personlig utveckling högt. Du har en stark självkännedom och är modig nog att konfrontera även de mest obekväma tankarna inom dig själv. Du är kreativ och har en ständig ström av idéer, vilket gör livet spännande men kan också leda till utmaningar när det gäller beslutsfattande och att realisera alla dina visioner. Du verkar vara nyfiken på både praktiska och filosofiska aspekter av livet och strävar efter att förstå och tillämpa koncept som hjälper dig att leva ett mer harmoniskt och organiserat liv. Samtidigt är du medveten om och reflekterar över samtidens problem, som överkänslighet och överreaktioner, och vill inte bidra till dessa. Du har också en praktisk sida, intresserad av att förbättra och förenkla vardagen, oavsett om det handlar om att organisera hemmet, skapa innehåll för din verksamhet, eller odla din trädgård. Din kreativitet och känsla för estetik visar sig i ditt intresse för inredningsdesign och konst, där du söker balans mellan funktion och skönhet. Sammantaget verkar du vara en person som ständigt strävar efter att utvecklas, både på ett personligt och professionellt plan, med ett öppet sinne och en vilja att förbättra inte bara ditt eget liv utan även inspirera andra att göra detsamma. Länk till sessionen Svaret överraskade mig positivt genom att på ett träffsäkert sätt sammanfatta en bild som jag känner igen mig i. Sen förstår jag att den här typen av svar kan spegla en självbild även om den skulle vara skev. ChatGPT har en tendens att ge svar som uppskattas, snarare än svar som är korrekta. Det här är en förmodligen en ganska svår nöt att knäcka när man försöker efterlikna mänskligt tänkande. Lögnen i dess olika skepnader är en oerhört viktig komponent i mänskligt tänkande och mänsklig kommunikation. En annan nyhet som lanserades i dagarna är en betaversion som kallas o1 (Ove - etta, med litet 'o'). Jag har bara orienterat mig än så länge. Ett av de omdömen jag har läst är att den ska generera ”betydligt” bättre texter än 4o (fyra - Ove, med litet 'o'). Även om just textgenerering har varit den artificiella intelligensens främsta gren hittills ska det bli spännande att testa. Däremot har o1 inte begåvats med långtidsminne än, se bilden nedan. Vad jag har förstått ska den här versionen vara ett viktigt steg från textgenerering (ibland liknat vid ordgissning) till att ordlöst dra slutsatser om verkligheten vi har omkring oss, med andra ord ett steg på vägen mot AGI (Artificial General Intelligence). Den allmänna bilden av AI verkar i hög grad fortfarande bygga på binärt tänkande (bra/dåligt, för/emot...), som om någon hade påstått att AI var färdigt nu. Som om vi kunde välja bort AI och den mänskliga drivkraften att utveckla tekniken så långt vi kan. Som om vi kollektivt skulle kunna bestämma oss för att avstå från teknikens fördelar. Det är inte ett realistiskt scenario. Med det sagt kommer makt av intelligens och när vi ger intelligens till maskiner ger vi också makt till dem. Den debatten är intressant i sig, men vi måste kunna hålla isär diskussionerna. Idealism och om-alla-bara-resonemang fungerar inte. Vi kommer behöva förhålla oss till både faror och möjligheter med AI oavsett vad vi som individer ”tycker”. Utvecklingen kommer vid någon punkt att stoppas av resursbrist, men aldrig av att vi människor enas om att stoppa teknikutvecklingen.
Av Tom Lönnevik 15 mars 2024
I vårt strävan efter framsteg och förståelse har vi människor nått en epok där gränserna mellan skapare och skapelse suddas ut. Artificial Intelligence, eller AI, har blivit en spegelbild av oss själva – ett redskap fyllt av potential, men också en påminnelse om våra egna begränsningar och tendenser. Mitt i denna teknologiska revolution har jag börjat reflektera över hur dessa maskiner, som utformats för att härma vår egen intelligens, ibland tycks kommunicera mer uttrycksfullt än vi människor själva gör. Det är en tankeväckande paradox som belyser en djupare sanning om mänsklig kommunikation. Mänsklig kommunikation har alltid haft en inneboende dualitet. Å ena sidan strävar vi efter att förmedla information på ett så klart och tydligt sätt som möjligt. Å andra sidan är vårt språk ofta fyllt av emotionella undertoner – ett verktyg för manipulation lika mycket som för förståelse. Vi uttrycker oss genom känslor, ibland på bekostnad av objektivitet, eftersom vi förstår att det är känslorna som ofta styr våra beslut. Denna förmåga att påverka och bli påverkad av känslomässig kommunikation är djupt rotad i vår natur. Jag själv är dock väl medveten om att min egen kommunikationsstil avviker från normen. Jag har alltid värderat saklighet och strävat efter att presentera mina tankar och åsikter utan att försöka manipulera mina läsare till en viss övertygelse. Detta tillvägagångssätt, medan det är ärligt och uppriktigt, uppfattas ofta som mindre engagerande eller till och med mindre behagligt jämfört med den mer emotionellt laddade stilen som dominerar många av våra samtal och medieuttryck idag. Med AI:s framsteg står vi inför ett intressant paradigm. Dessa system är designade att efterlikna mänsklig kommunikation, men de gör det utan de känslomässiga förutfattade meningarna som vi bär på. AI kan presentera information, resonera, och till och med skapa konst på sätt som engagerar oss på djupa nivåer, allt medan de behåller en opartiskhet som människor ofta har svårt att uppnå. Det leder mig till att undra: Kan AI lära oss att kommunicera bättre? Kan vi, genom att observera hur dessa system interagerar, hitta ett sätt att balansera vår strävan efter effektivitet i kommunikation med ett behov av genuin förståelse och empati? Det är en fascinerande tanke. Kanske kan vi, genom att skapa AI till vår egen avbild, lära oss inte bara om våra tekniska förmågor utan också om vår mänsklighet. Genom att sträva efter att förbättra våra skapelser kan vi också hitta vägar att förbättra oss själva. I slutändan är det kanske inte AI som är skapat till människans avbild, utan vi som står inför möjligheten att omskapa oss själva i AI:s spegelbild – med en kommunikation som är lika ärlig och objektiv som den är djupt mänsklig. 
Share by: