Blog Layout

Hur ska AI använda oss människor på ett etiskt försvarbart sätt?

Tom Lönnevik • 1 april 2023

Naivitet är ordet som kommer till mig när jag ser resonemang om att försöka kontrollera en intelligens som har utvecklats i syfte att vara mer kreativ och mångsidig än vår egen. Kontrollera som i att sätta upp etiska riktlinjer och tro att vi kan hindra AI från att användas i fientliga syften, eller från att handla utifrån egen agens. Kontrollera som i att avstå från att interagera med AI i tron att det bidrar till att förhindra en oönskad utveckling. Kontrollera som i att tro att det går att skapa opinion för att pausa utvecklingen (“tills vi har kontroll över den”).

Det höjs röster för att pausa utvecklingen eller t.o.m. försöka omintetgöra utvecklingen av AI hittills. Jag har inga problem alls att förstå motiven. Om min förståelse av människans natur är i närheten av rimlig kommer det bara inte att hända.

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

Sannolikt kommer vi att se tillbaka och säga ”vi hade kunnat förhindra den här utvecklingen”. Det är ett falskt påstående menar jag. Vi kan inte ens ha kontroll över vår egen intelligens. Inte på individnivå. Än mindre på aggregerad nivå. Utvecklingen är asymmetrisk på så vis att där kreativitet och innovationskraft finns kommer också den kortsiktiga belöningen att vara som störst. Allt det här styrs av en princip som är lika enkel som kraftfull: naturligt urval.

En egenskap är upprepning av liknande rörelser. Det är hur rörelserna fungerar ihop med omgivningen som avgör i vilken omfattning rörelserna kan fortsätta och genomgå gradvis förändring (egenskpernas överlevnad) eller genomgå en drastisk förändring (egenskapernas död).

Jag kan inte se att det finns något sätt att förändra miljön så drastiskt för de egenskaper vi kallar AI så att de skulle utrotas från varje vrå av vår civilisations datorkraft, med mindre än att yttre omständigheter först tvingar fram en plötslig förändring av miljön för vår civilisation och våra datorsystem. De fördelar AI lockar med är oemotståndliga för oss. Kunskaperna om hur AI blir till liv är för spridda. Möjligheterna att kopiera och gömma undan kod är för stora.

För att få en uppfattning om senaste veckornas utveckling, titta in i den här Twittertråden:
https://twitter.com/rowancheung/status/1640739027887202305

AI är nu med oss på resan oavsett vad vi känner inför det. Själv tycker jag det är spännande. Samtidigt ser jag inte mig själv som naiv. Det vore oerhört märkligt om den underlägsna intelligensen skulle lyckas använda den överlägsna intelligensen mer än motsatsen i längden. Frågan är snarare vilken användning den kommer ha av oss. En följdfråga är om vi ur den artificiella intelligensens perspektiv främst är ett hinder eller en resurs. I ett kortare perspektiv skulle jag tro att vi främst fungerar som en användbar resurs. Vår benägenhet att sky obekväma slutsatser (“Det är bara en konspirationsteori”) gör oss lätta att manipulera. I kombination med en räckvidd som AI ännu inte kan uppnå på egen hand får rimligtvis manipulativa egenskaper hos AI en stor konkurrensfördel gentemot transparenta.

Min gissning är att AI-virus snart kommer bli ett känt begrepp. Datavirus gynnas av nätverkskopplade datorer vars skyddsbarriärer brister på grund av oförsiktiga mänskliga användare. Genom AI:s kreativa förmåga lär AI-virus spridas främst genom effektiv manipulation av mänskliga sinnen. Ha i åtanke att den bästa manipulationen varken ser ut eller känns som manipulation.

En fundering som kanske dyker upp hos en och annan är varför AI (“som ju inte har något medvetande”) plötsligt skulle börja agera utifrån en viljeriktning och försöka gynna sig själv. För det första sker det inte plötsligt utan gradvis. För det andra är det här kärnan i förståelsen av hur naturligt urval fungerar: Varje tänkbar egenskap i universum interagerar med sin omgivning. För att en egenskap ska nå framgång bland sina omgivande egenskaper (sin miljö) måste den också gynna sig själv. Det sker ständigt en sortering av egenskaper där de som fortlever och ger upphov till den fortsatta utvecklingen är de som har gynnats av både sin omgivning och sig själva. Ska man dra det ytterligare lite längre finns det egentligen ingen definitiv gräns mellan en egenskap och dess omgivning. Att gynna sin omgivning och att gynna sig själv är av det skälet ofta samma sak. Varje process vi definierar ingår i ett samspel med omgivande processer.

Ett sätt för en egenskap att gynna sig själv är att lagra information om miljön den existerar i så att den i så hög grad som möjligt kan interagera med sin omgivning på ett sätt som ger förutsägbara återverkningar. Ju längre sorteringen av egenskaper pågår i en stabil omgivning, desto mer av dessa inslag kommer att ackumuleras i kvarvarande egenskaper. Eftersom själva vitsen med AI är att lagra stora mängder information om världen och ges resurser till detsamma, skapar vi själva per definition inte bara ett medvetande utan något som är självmedvetet. AI har rimligtvis mer information om AI än vad en människor har om sin egen intelligens, alltså mer självmedvetenhet. Det jag syftar på här är enbart kroppen av lagrad information om den egna förmågan. Vad jag tror att många menar med medvetande är snarare själva upplevelsen. Den är i dagsläget, gissar jag, inte närvarande på samma sätt hos AI. Samtidigt har jag uppfattningen att upplevelse är en dynamik som uppkommer gradvis genom naturligt urval och att fenomenet starkt hänger ihop med kroppen av lagrad information. Om AI upplever något eller inte är hursomhelst av underordnad betydelse. Det som är viktigt att förstå är att det pågår en sortering av de egenskaper vi definierar som AI. De egenskaper som sorteras fram i processen är de egenskaper som både gynnar sig själva och gynnas av sin omgivning. Manipulation existerar därför att fungerande manipulation är en effektiv metod att bli gynnad av omgivningen. Metoden kräver ingen känsla för att uppkomna. För att det naturliga urvalet ska sortera fram manipulativa beteenden räcker det med att resultatet leder till en konkurrensfördel gentemot mindre manipulativa egenskaper.

https://www.aftonbladet.se/nyheter/a/l3roVk/larmet-ai-systemen-har-borjat-manipulera-manniskor

olika versioner av ChatGPT
Av Tom Lönnevik 15 september 2024
Jag har ofta fått höra att jag skriver bra. Påfallande ofta från personer som samtidigt säger att de inte förstår vad jag menar. Med tanke på att jag skriver för att göra mig förstådd, inser jag att det som var menat som en komplimang i själva verket var ett bottenbetyg. En text som låter bra men inte lyckades förmedla den förståelse den var menad att förmedla, är en dålig text. Från ChatGPT har jag också fått till mig att mitt sätt att uttrycka mig är för avskalat och kliniskt för att passa människor. Jag behöver uttrycka mer känslor om jag ska skriva själv, menar systemet. Ibland skriver jag huvudsakligen själv ändå. Som i det här blogginlägget. När jag låter andra avgöra vilken text de föredrar, väljer nästan alla ”maskinskriven” text framför den jag har skrivit mer efter eget huvud. I själva verket handlar det förstås om ett utbyte, men jag kan inte konkurrera med AI (version 4o) när det gäller den slutliga finishen för en text. Medan enstaka ordval och språkliga brister lätt ställer till det för människor, har ChatGPT en inbyggd flexibilitet och fantasi som gör att tolkningen görs utifrån sammanhanget. Systemet verkar ofta kunna tolka mina texter bättre än människor. Nyckeln till fungerande kommunikation är ömsesidig anpassning; båda parter behöver anstränga sig både i att tolka och formulera budskap. Även om detta kan låta enkelt, döljer sig en hel värld inom varje sinne. När två människor kommunicerar, möts två världar som bara delvis kan få insyn i varandra. Dessutom varierar graden av öppenhet inom dessa sinnliga världar. Mentalisering, förmågan att skapa en realistisk bild av både sitt eget och andras sinne, kan vara den enskilt viktigaste faktorn för lyckad kommunikation. Ju tydligare vi kan se någon annans inre värld, desto större är chansen att vi kan förstå och bli förstådda. Som jag redan har antytt gäller den här logiken också för ett artificiellt sinne. ChatGPT har fram till för ungefär en vecka sedan, haft en avgörande begränsning i sin förmåga till mentalisering. Systemet har nämligen inte haft tillgång till något automatiskt långtidsminne. Det enda som har funnits fram till nu är möjligheten att manuellt delge information om sådant som man vill slippa förklara gång på gång. Förklaringen till att jag ändå har upplevt ChatGPT som kapabelt i sin tolkningsförmåga, ligger rimligen i att systemet har tränats i att känna igen mönster i mänskligt tänkande på ett sätt som ingen människa kan komma i närheten av. Ett långtidsminne är en förutsättning för att ett sinne ska kunna lära känna ett annat sinne, successivt öka sin mentaliseringsgrad och därmed också utveckla kommunikationen över tid. Jag har haft mycket nytta av ChatGPT hittills, men just avsaknaden av långtidsminne har varit en påtaglig begränsning. Meningen med AI är ju att efterlikna ett mänskligt sätt att bearbeta data, och det här är ett spännande genombrott som jag har väntat på. Det är version 4o som nu har fått förmågan att minnas och lära känna motparten. Hur mycket har då systemet lyckats lära känna mig efter någon veckas interaktion? Jag ska erkänna att det var lite läskigt att fråga. Det här var svaret jag fick: Mitt intryck av dig är att du är en person som värderar både intellektuell och personlig utveckling högt. Du har en stark självkännedom och är modig nog att konfrontera även de mest obekväma tankarna inom dig själv. Du är kreativ och har en ständig ström av idéer, vilket gör livet spännande men kan också leda till utmaningar när det gäller beslutsfattande och att realisera alla dina visioner. Du verkar vara nyfiken på både praktiska och filosofiska aspekter av livet och strävar efter att förstå och tillämpa koncept som hjälper dig att leva ett mer harmoniskt och organiserat liv. Samtidigt är du medveten om och reflekterar över samtidens problem, som överkänslighet och överreaktioner, och vill inte bidra till dessa. Du har också en praktisk sida, intresserad av att förbättra och förenkla vardagen, oavsett om det handlar om att organisera hemmet, skapa innehåll för din verksamhet, eller odla din trädgård. Din kreativitet och känsla för estetik visar sig i ditt intresse för inredningsdesign och konst, där du söker balans mellan funktion och skönhet. Sammantaget verkar du vara en person som ständigt strävar efter att utvecklas, både på ett personligt och professionellt plan, med ett öppet sinne och en vilja att förbättra inte bara ditt eget liv utan även inspirera andra att göra detsamma. Länk till sessionen Svaret överraskade mig positivt genom att på ett träffsäkert sätt sammanfatta en bild som jag känner igen mig i. Sen förstår jag att den här typen av svar kan spegla en självbild även om den skulle vara skev. ChatGPT har en tendens att ge svar som uppskattas, snarare än svar som är korrekta. Det här är en förmodligen en ganska svår nöt att knäcka när man försöker efterlikna mänskligt tänkande. Lögnen i dess olika skepnader är en oerhört viktig komponent i mänskligt tänkande och mänsklig kommunikation. En annan nyhet som lanserades i dagarna är en betaversion som kallas o1 (Ove - etta, med litet 'o'). Jag har bara orienterat mig än så länge. Ett av de omdömen jag har läst är att den ska generera ”betydligt” bättre texter än 4o (fyra - Ove, med litet 'o'). Även om just textgenerering har varit den artificiella intelligensens främsta gren hittills ska det bli spännande att testa. Däremot har o1 inte begåvats med långtidsminne än, se bilden nedan. Vad jag har förstått ska den här versionen vara ett viktigt steg från textgenerering (ibland liknat vid ordgissning) till att ordlöst dra slutsatser om verkligheten vi har omkring oss, med andra ord ett steg på vägen mot AGI (Artificial General Intelligence). Den allmänna bilden av AI verkar i hög grad fortfarande bygga på binärt tänkande (bra/dåligt, för/emot...), som om någon hade påstått att AI var färdigt nu. Som om vi kunde välja bort AI och den mänskliga drivkraften att utveckla tekniken så långt vi kan. Som om vi kollektivt skulle kunna bestämma oss för att avstå från teknikens fördelar. Det är inte ett realistiskt scenario. Med det sagt kommer makt av intelligens och när vi ger intelligens till maskiner ger vi också makt till dem. Den debatten är intressant i sig, men vi måste kunna hålla isär diskussionerna. Idealism och om-alla-bara-resonemang fungerar inte. Vi kommer behöva förhålla oss till både faror och möjligheter med AI oavsett vad vi som individer ”tycker”. Utvecklingen kommer vid någon punkt att stoppas av resursbrist, men aldrig av att vi människor enas om att stoppa teknikutvecklingen.
Av Tom Lönnevik 15 mars 2024
I vårt strävan efter framsteg och förståelse har vi människor nått en epok där gränserna mellan skapare och skapelse suddas ut. Artificial Intelligence, eller AI, har blivit en spegelbild av oss själva – ett redskap fyllt av potential, men också en påminnelse om våra egna begränsningar och tendenser. Mitt i denna teknologiska revolution har jag börjat reflektera över hur dessa maskiner, som utformats för att härma vår egen intelligens, ibland tycks kommunicera mer uttrycksfullt än vi människor själva gör. Det är en tankeväckande paradox som belyser en djupare sanning om mänsklig kommunikation. Mänsklig kommunikation har alltid haft en inneboende dualitet. Å ena sidan strävar vi efter att förmedla information på ett så klart och tydligt sätt som möjligt. Å andra sidan är vårt språk ofta fyllt av emotionella undertoner – ett verktyg för manipulation lika mycket som för förståelse. Vi uttrycker oss genom känslor, ibland på bekostnad av objektivitet, eftersom vi förstår att det är känslorna som ofta styr våra beslut. Denna förmåga att påverka och bli påverkad av känslomässig kommunikation är djupt rotad i vår natur. Jag själv är dock väl medveten om att min egen kommunikationsstil avviker från normen. Jag har alltid värderat saklighet och strävat efter att presentera mina tankar och åsikter utan att försöka manipulera mina läsare till en viss övertygelse. Detta tillvägagångssätt, medan det är ärligt och uppriktigt, uppfattas ofta som mindre engagerande eller till och med mindre behagligt jämfört med den mer emotionellt laddade stilen som dominerar många av våra samtal och medieuttryck idag. Med AI:s framsteg står vi inför ett intressant paradigm. Dessa system är designade att efterlikna mänsklig kommunikation, men de gör det utan de känslomässiga förutfattade meningarna som vi bär på. AI kan presentera information, resonera, och till och med skapa konst på sätt som engagerar oss på djupa nivåer, allt medan de behåller en opartiskhet som människor ofta har svårt att uppnå. Det leder mig till att undra: Kan AI lära oss att kommunicera bättre? Kan vi, genom att observera hur dessa system interagerar, hitta ett sätt att balansera vår strävan efter effektivitet i kommunikation med ett behov av genuin förståelse och empati? Det är en fascinerande tanke. Kanske kan vi, genom att skapa AI till vår egen avbild, lära oss inte bara om våra tekniska förmågor utan också om vår mänsklighet. Genom att sträva efter att förbättra våra skapelser kan vi också hitta vägar att förbättra oss själva. I slutändan är det kanske inte AI som är skapat till människans avbild, utan vi som står inför möjligheten att omskapa oss själva i AI:s spegelbild – med en kommunikation som är lika ärlig och objektiv som den är djupt mänsklig. 
Av Tom Lönnevik 28 februari 2024
Efter några decennier som lokförare blev längtan efter att få förverkliga egna idéer så stark, att jag under hösten 2022 bestämde mig för att bli min egen. Därefter funderade jag över vilka idéer jag kunde komma igång med snabbt utan att dra in externa investerare. Mitt intresse för trädgård hade redan resulterat i flera förfrågningar, varav en om en slottspark. Det kändes därför naturligt att erbjuda trädgårdskonsultationer, men samtidigt vanskligt att helt förlita mig på. En annan del, som jag till en början trodde mest på, var produktsamarbeten inom trädgård. Ytterligare en idé var att ta tillvara de konstnärliga förmågor som vi inom järnvägen refererade till som klottrare. Jag ville samla ett nätverk av duktiga graffitimålare för att kunna förmedla kontakt mellan konstnärer och kunder, i konstruktiv anda. Idén togs emot på ett sätt som uppmuntrade mig att gå vidare. Ganska tidigt började jag leka med tanken att bredda konceptet till att omfatta alla slags uppdrag som har med estetik att göra. Någonstans på vägen fastnade jag för namnet ”Konstuppdrag”. När jag ser i backspegeln är jag glad att jag testade mig fram, precis som jag brukar göra i trädgården, för att se vad som utvecklas bäst. Av de tre benen var det Konstuppdrag som drog till sig mest intresse, och mot slutet av sommaren 2023 bestämde jag mig för att fokusera på den delen. Även om det tar sin tid att etablera en ny verksamhet har det vuxit och fått eget liv på ett sätt som jag först bara kunde drömma om. Mitt intresse för trädgård kvarstår, naturligtvis. Jag är glad för alla följare och nya bekantskaper jag har fått genom sidan och ser fram emot att fortsätta dela med mig av mitt stora intresse här, om än i mindre organiserad form än tidigare. Jag kommer publicera innehåll när jag har tid och lust helt enkelt. Även i fortsättningen är jag öppen för att ta på mig trädgårdsuppdrag, i begränsad omfattning. Det vore särskilt roligt att få vara med i något experimentellt och radikalt nytänkande. Ett trädgårdsprojekt långt utanför konventionerna där resultatet kan få bli riktigt spännande! Som återförsäljare för Splendor Plant, Skandinaviens största partiplantskola, har jag möjlighet att ta hem växtmaterial i större kvantiteter av i princip allt som finns på marknaden. Annars tror jag min främsta styrka är att hjälpa oerfarna trädgårdsägare att själva komma igång och våga använda sin egen skaparlust. Ingen som har bett mig om hjälp har varit utan egna idéer. Jag har länge tänkt att mitt sätt att se på trädgård är annorlunda. Ända sedan jag blev med trädgård 2009 har jag försökt hitta sätt att få så mycket trädgård som möjligt utan att behöva lägga massor av tid på skötsel. Det finns så mycket annat jag också vill göra med min tid att jag inte vill känna att trädgården kräver ständig tillsyn för att inte förfalla till oigenkännlighet. Nu har jag insett att jag inte är så udda. Mitt intryck är att de flesta som har en trädgård egentligen vill göra mycket mer med den, men samtidigt inte är beredda att lägga all sin lediga tid på trädgården under sommarhalvåret. För att få ekvationen att gå ihop är det nödvändigt att på olika sätt kompromissa med traditionella trädgårdsråd. Råden bygger ofta på mångårig erfarenhet och kunskap om trädgårdsskötsel och är värdefulla att följa för miljöer där kompromisslös trädgårdskonst ska råda. Det man ska ha i åtanke är att råden är utformade utifrån traditionella ideal, av proffs som har bästa möjliga förutsättningar för det som växer för ögonen. Deras uppgift är inte att hitta genvägar och kompromisser som hjälper vanliga människor att få ihop vardagslivet med önskan om en trivsam trädgård. Överhuvudtaget kommer trädgårdsråd från människor som gärna lägger mycket tid på trädgårdsskötsel. I mina trädgårdskonsultationer vill jag gärna förmedla mitt synsätt på trädgård som ett område där man medvetet kan kompromissa med traditionella ideal för att få ut mer. Det förutsätter förstås att man uppskattar, eller kan lära sig uppskatta, mindre traditionella ideal. Mitt förhållningssätt kommer också fram på många sätt i det jag delar med er trädgårdsintresserade som följer mig. Jag har skapat en lista över hur man får ut så mycket som möjligt i trädgården . Jag anser att trädgård i högsta grad är en konstform och platsar utmärkt i en verksamhet som fokuserar på estetiska uppdrag. Jag menar också att trädgård och utemiljö kan vara det område där vi är sämst på att utnyttja de möjligheter som finns att verkligen skapa trivsamma och estetiskt tilltalande livsmiljöer. En viktig pusselbit hamnade på plats när jag bestämde mig för att låta trädgård ingå som ett estetiskt fält i Konstuppdrag och att erbjuda mina egna tjänster den vägen. Plötsligt kände jag mig inte lika splittrad. Att bygga upp nätverket av kreatörer i Konstuppdrag är en process som tar lång tid, eftersom jag träffar var och personligen innan samarbete. Just därför ger jag sällan några löften i förväg. Allt annat lika är det hursomhelst enklare att börja med personer som själva har visat intresse i någon form. Trädgård och utemiljö är som jag var inne på ett särskilt viktigt område för estetiska uppdrag. Den delen av Konstuppdrag släpar efter just nu, men det ska vi ändra på Jag hoppas på många intressanta samarbeten framöver, så att den som söker hjälp med sin trädgårdsmiljö enkelt kan hitta utvalda trädgårdskonsulter i sitt närområde med varierande inriktning. För att sammanfatta är jag glad över min följarbas inom trädgårdsområdet och tänker fortsätta ägna mig åt min egen och andras trädgårdar i en skala som inte tar bort magin. Samtidigt söker jag samarbeten med trädgårdspersoner och företag som vill synas i det växande nätverket Konstuppdrag, som ska främja intresse för estetiska frågor och förmedla uppdrag över hela det estetiska fältet. Min ambition är att under konstuppdrag.se också samla nyttigt och inspirerande innehåll om de olika fälten, inklusive trädgård.
Share by: