🤯⚡️Allt du önskar kan du få

Så får vi super-AI att bara göra gott. Detta förändrar ju allt!

DFJA är ett prisbelönt nyhetsbrev där Tomas Seo, innovationsstrateg på Phorecast, berättar om händelser, upptäckter, ny teknik och AI som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Bilden är AI-genererad, ASI kommer troligen inte vara blå.

Vad har hänt?

- Meta och Google samarbetar i en internationell satsning som ska göra det möjligt att testa idéer till nya behandlingar på virtuella celler.

Kan ett nytt läkemedel slå ut en cancercell utan att skada friska celler? Det är ett exempel på vad forskare hoppas kunna undersöka med virtuella celler. En virtuell cell är en datormodell som ska kunna förutsäga hur en riktig cell reagerar, exempelvis när den utsätts för ett läkemedel. Tanken är att forskare ska kunna pröva många idéer i datorn och använda resultaten för att välja vilka experiment de sedan genomför på verkliga celler. För att bygga tillförlitliga modeller behövs stora mängder mätningar av hur celler faktiskt fungerar.

Det är den datan som forskningsorganisationen Biohub nu samlar fler aktörer kring. [Redan 2023 skrev jag om Priscilla Chan och Mark Zuckerbergs organisation CZI och deras planer på virtuella celler. Deras vetenskapliga team har sedan dess samlats under namnet Biohub]

Den 7 oktober presenterade Biohub ett utökat samarbete med amerikanska myndigheter och Meta, men också med Google DeepMind och Google finansierade startupen Isomorphic Labs. Insatserna motsvarar sammanlagt 1,8 miljarder dollar i finansiering, data, beräkningsresurser och mätteknik, inklusive tidigare investeringar. De biologiska data som tas fram ska vara öppna för forskarsamhället.

Demis Hassabis som både grundat DeepMind och nu senast Isomorphic Labs sa i 60 Minutes 2025 att AI kanske kan bota alla sjukdomar inom ungefär ett decennium och Isomorphic Labs mål beskrivs ofta som ”Cure all diseases”. Bolaget använder AI för att utveckla läkemedel och enligt Bloomberg pågår samtal om ny finansiering vilket skulle värdera Isometric Labs till minst 40 miljarder dollar.

Detta förändrar ju allt

Bota alla sjukdomar.

För Demis Hassabis är det den ultimata prompten han bygger AI för att kunna utföra. Hade det varit för några år sedan skulle det snarare uppfattats som en bön. Eller en av tre önskningar till en ande. Det får mig att fundera på vilka önskningar vi skulle formulera om vi trodde att det faktiskt fanns någon som kunde uppfylla dem.

Vi börjar veckans brev med en rak fråga:
Vad är din första prompt om/när du får tillgång till ASI?
Innan jag berättar vad jag själv skulle svara, så vill jag att du själv tänker på ett svar.

ASI, Artificiell superintelligens är en AI som är så kraftfull att den klarar alla tänkbara kunskapsområden bättre än den bästa människan i världen. Hen kan själv lära sig och dra nya slutsatser på grund av nya metoder eller ny upptäckt kunskap och hen minns allting för alltid. Det är lite upp till var och en att avgöra om det här betyder att en ASI har en fysisk kropp för att kunna interagera med vår fysiska värld redan från start när ASI inträffar och du plötsligt får möjlighet att ge en prompt till hen, eller om fysisk kropp kommer senare. Det är också upp till var och en att fundera över om vi vill behandla en ASI som en kommandobaserad maskin eller en person med medvetande.

Du får fundera på ditt svar medan jag berättar om veckans utforskning.

Det intressanta med frågeställningen är att statusen på en prompt till en ASI blir en blandning mellan en fantasifull drömkonversation med en önskningsuppfyllande ande, en bön till allsmäktig gud/gudar och en lotterivinst som helt och hållet tar bort materiella begränsningar.

För ett samhälle efter ASI uppfinns (eller uppfinner sig själv) blir det därför en relevant frågeställning kring vad människor kommer prompta. Varje prompt har makten att förändra vårt samhälle fundamentalt.

Jag har den senaste tiden fastnat i en tanke om att all AI är som en spegel av oss själva. Den allra första chatbotten Eliza frågade frågor och upprepade kontextuella ord tillbaka för att vi skulle reflektera över oss själva, och jag landar mer och mer i att vilka möjligheter och risker vi ser med kommande AI i en obestämd framtid till stor del är en reflektion av hur vi ser på oss människor. De som tror att människor är uppfinningsrika och klarar stora problem tillsammans för det har vi gjort tidigare är AI-positiva och de som känner misstro till mänskligheten är doomers. De flesta ligger förmodligen någonstans däremellan men AI håller på att bli ett slagträ i ett kulturkrig där vi binärt tvingas vara antingen för eller emot. Det är svårt att inte oroa sig för att en misantropisk tonåring ska be ASI att utrota en annan skola eller en annan nation, säger doomers. Det är svårt att se hur vi inte kan be en ASI se till att misantropiska tonåringar inte ska kunna utrota skolor eller nationer, säger de som tror på mänskligheten.

Det är därför jag blir nyfiken på hur många som skulle ASI-prompta något altruistiskt, något själviskt, något bra för sin familj eller något dåligt för många andra.

Forskningen jag hittar inom de tre ämnesområdena har alla ett gemensamt problem. De studerar bara svar där människor kanske håller tillbaka för att de vet att de blir övervakade (av forskare eller allsmäktig gud/gudar). Det är därför rimligt att de håller tillbaka.

Jag har redan tidigare skrivit om forskningen av lotterivinnare för att dyka ner i vad som händer när AI ger oss mer obegränsad produktionskapacitet så jag redovisar mer om de andra spåren i dagens brev.

Religionsforskaren Tania ap Siôn har ett upplägg som ger lite fler ledtrådar i det. 2016 gick hon igenom 500 böner som människor skickat in till Church of Englands webbplats Pray One for Me. Bönerna som skickades in skulle sedan en grupp människor be att Gud skulle uppfylla för inskickaren. Forskaren klassade att 45% av de inskickade bönerna handlade om önskemål för personen själv, medan 42% gällde någon annan som personen kände. Det skilde sig markant från när forskaren tittade på motsvarande böner som var inlämnade som lappar i fysiska katedraler. Där endast 5–14% av bönerna handlade om personen själv och 73–86% om andra människor. Vi ser alltså att hur altruistiska vi är i våra önskemål skiljer sig beroende på insamlingsställe men även när det är via internet så är det ganska jämnt mellan att önska sig något för sig själv och önska något för andra.

I en annan studie publicerad i Nature Sustainability 2022 fick 7 860 personer från 33 länder föreställa sig sitt absolut perfekta liv. Sedan fick de välja hur mycket pengar de ville vinna i ett fiktivt lotteri. Alternativen sträckte sig från 10 000 dollar till 100 miljarder dollar och alla belopp hade exakt samma vinstchans. Vad studien ville bevisa var att inte alla skulle välja max-summan och i 86% av länderna valde en majoritet 10 miljoner dollar eller mindre. Bara 8–39% beroende på land, valde maxbeloppet. Det är inte ett entydigt bevis, men det visar i alla fall på en möjlighet att en stor majoritet av världens befolkning inte maxxar bara för att de kan. Men frågan är ju fortfarande om de är modesta för att inte verkar giriga inför forskarna, det var ju inte som att de faktiskt skulle få pengarna.

Forskarna frågade sedan hur de skulle använda den fiktiva lotterivinsten. De som valde att kunna vinna maxbeloppet på 100 miljarder dollar var oftare benägna att säga att de skulle använda pengarna till att lösa stora samhällsproblem än de som nöjde sig med mindre belopp.

I gruppen som valde max hade 48% minst en önskan som riktade sig bortom den egna familjen, till exempel samhället, behövande eller världen. För de som valde att vinna mindre än max så var motsvarande siffra bara 21%.

Det är inget definitivt bevis men skulle kunna indikera att de som valde max mer såg pengarna som ett verktyg för större förändringar, och inte bara för egen konsumtion.

Jag hittar flera andra rapporter om innehåll i böner och nyårsönskningar, en genomgående tråd verkar vara att majoriteten av de som önskar sig något för egen del handlar om att göra vardagen uppgraderad, bättre boendeförhållanden återkommer i flera studier på olika sätt. Bilden jag får är att önskan som ligger närmast att berätta för andra handlar om hur familjen ska få bättre bostad om man önskar något mer privat och att det är ganska sällsynt att önska orimliga saker även när fantasin är det enda som sätter gränserna för vad man får önska.

En intressant grej var att lotteri-studien hade publicerat sitt forskningsunderlag öppet, det betydde att jag själv kunde gå igenom och göra nya studier av de över 2000 svaren. Jag fick nyligen tillgång till Hark, en personlig AI-agent liknande Muse och Dot (men som funkar i EU redan nu!) från robot-företaget Figures grundare, så jag tänkte att det här kunde vara ett bra exempel på hur jag använder personliga AI-agenter.

I det ursprungliga materialet redovisade forskarna bara de som ville ha max pengar och de som valde under max som två grupper. Jag undrade om det fanns någon mer nyanserad bild, och därför bad jag min Hark att bygga en textanalys-miljö och klassa datan. Jag räknade med att det inte skulle bli perfekt klassning (det skulle behövas att jag själv klassade runt 300 svar först då) men jag tänker att resultatet för sammanhanget här ändå är relevant. För då såg jag ett tydligt mönster att samhällsinriktade önskningar blir vanligare med högre belopp, inte bara att de som önskar max plötsligt blir altruister. Någonstans vid 1 miljon dollar blir syften bortom det personliga vanligare och vanligare ju mer man önskade sig.

Jag hittar också att 65% av de som inte önskar pengar till sig själva vill antingen donera dem till en välgörenhetsorganisation eller starta en egen välgörenhetsorganisation. 30% vill använda pengarna för att förändra förhållandena i samhället i en närliggande region genom att utrota fattigdom eller starta skolor.

För övrigt är det fantastiskt att öppen forskningsdata plus en AI kan hjälpa mig göra en egen preliminär ny analys på ett par timmar. Och här kommer jag tillbaka till veckans nyhet med Biohub, jag tycker deras initiativ att ge alla forskare möjligheten att använda den öppna datan för att undersöka biologiska frågor är något som på riktigt kommer att förändra allt. (Det är bara så konstigt att Zuckerberg gör bra saker).

Min klassificering av lotteriönskningar går förstås inte att jämföra med att utveckla läkemedel. Men jag får en liten känsla för möjligheten med att de som samlar in ett material inte behöver vara de sista som kommer på något intressant att fråga det. Det är ett exempel på hur exponentiellt kunskap kommer kunna växa när våra system delar med sig av data till varandra och kan hitta samband som inte tidigare beforskats av de ursprungliga forskarna. Vilket i sig är en försmak på hur ASI kommer jobba när vi äntligen bestämmer oss för vad vår första prompt till hen borde vara.

Har du kommit på vad din första ASI-prompt kommer bli än?

Det belyser också hur metodkritik är något som blir ännu viktigare att förstå när AI kan följa den metod vi ger hen. Vi behöver vara mer vaksamma i att förstå hur datan vi analyserar har samlats in. Till exempel så hade de som skrivit fritextsvaren jag analyserat från den första delen av lotteristudien strax innan besvarat frågor om hållbarhetsmål och samhällsförändring innan de fick föreställa sig sin lotterivinst.

Vi som vibeforskar behöver då förstå att det vare sig betyder att deras önskningar om att hjälpa andra var påhittade eller att det bevisar att hållbarhetsfrågorna gjorde svaren mer altruistiska. Men vi måste ta ställning till om vi kan leta efter människors innersta önskningar i ett material där forskarna redan har hjälpt till att välja vad som ligger överst på önskelistan. Kan kontexten runt frågan gjort inception av vilka svar som ligger i forskningsdatan?

På samma sätt som jag medan du har funderat på din första ASI-prompt kanske påverkat ditt svar? Jag har jämfört superintelligensen med en ande, en gud och en lotterivinst. Sedan har jag berättat om statistik som normaliserar att majoriteten av människor vill hjälpa sin omvärld, sina familjer och utrota fattigdom.

Är din första prompt fortfarande densamma som när du började läsa? Har den förändrats så vet vi förstås inte om det beror på exemplen, på att du fått längre betänketid eller på något helt annat. När jag var grafisk designer så skämtade vi ibland om att det trots allt inte var liv eller död som var på spel om vi gjorde fel. Men hur kommer UX för ASI att se ut? Vad blir det för olika konsekvenser om ledtexten på välkomstskärmen säger ”Vad vill du ha?” eller ”Vad vill du slippa?”, eller ännu hellre ”Vad skulle vi kunna förbättra tillsammans?”. Det är samma superintelligens bakom textrutan, men jag misstänker att vi skulle börja våra samtal på ganska olika sätt.

Min egen första prompt till ASI då? Eftersom Demis förmodligen är före mig i kön för att prompta så har han ju redan botat alla sjukdomar så jag får komma på något annat. Annars är det nog min första uppriktiga prompt. Eller så har jag blivit influerad av honom i min research när jag skriver dagens brev, man vet aldrig säkert. Min prompt nummer två är lite techig, men den skulle nog vara Hitta ett recept på ett material som är supraledande i rumstemperatur under normalt atmosfärstryck (det löser nämligen att vi teoretiskt kan få i princip obegränsat med el).

Jag hittar därmed (tyvärr) inte det definitiva svaret på om fler kommer önska gott än ont av en ASI eftersom det finns för lite forskning om vad vi önskar oss när ingen tittar. Men jag har i alla fall löst problemet med hur vi minskar risken att ASI förverkligar någons domedagsplan!

Det är en två-delad UX-lösning med dels en tydlig text som leder in promptaren att göra något för andra och dels en beskrivning av att ens prompt inte är direkt utan först läses av en kommitté. Eftersom det är tydligt att vi naturligt filtrerar oss ifall vi måste skriva ner det vi önskar oss av gudar eller lotterier så det kan läsas av andra. De prompter som klarar den processen kommer i hög utsträckning handla om saker som gör livet bättre för många och i de fall där det handlar om personliga önskemål så blir de också rimliga.

Vi verkar helt enkelt behöva en ASI med en indirekt demokratisk/byråkratisk process för att få prompta den så att risken för doom blir lika med noll. Perfekt för EU! Och detta förändrar ju allt.

Vad kan du göra idag?

Förstå

Faran med ASI målas ofta upp som att plötsligt finns ASI och sekunderna efter så är hela världen förändrad. Det är lika naivt som att tro att om en ASI upptäcker botemedlet för alla sjukdomar så försvinner all sjukdom över en natt.

Om vi översätter det så här. Vi säger att det finns en person i världen som kan besvara alla frågor korrekt oavsett hur svåra de är, vi kan kalla hen för Lelle. Problemet med Lelle är att hen inte kan lämna sin lilla lägenhet i djupaste Småland så Lelles förmåga att faktiskt förändra världen är väldigt begränsad. Hur jag än ber Lelle att bota all cancer i världen, eller utplåna fattigdom så skulle Lelle bara kunna göra det genom att påverka andra. Han saknar bred distribution av sina intelligenta upptäckter och lösningar.

Alla som bygger med AI som inte tidigare jobbat med att nå ut eller få distribution tänker i klassisk Field of Dreams-anda att ”if you build it, they will come”. Men det stämmer inte (inte ens i filmen där det Kevin Costner faktiskt får viskat till sig är ”if you build it, HE will come” och HE är ett spöke), affärer dyker inte bara upp för att man bygger något. Bra idéer sprids inte alltid och de bästa idéerna vinner inte alltid mest spridning på sikt.

Det är det som gör det så svårt för mig att vara övertygad om att en allsmäktig superintelligens skulle kunna göra vare sig skada eller nytta utan en väldigt utbredd distribution. Vilket också gör att den enkla frågan om vilken människors första prompt till en artificiell superintelligens i praktiken blir underordnad till frågan om hur vi ser till att de bra saker som ASI kommer på faktiskt kan göra nytta i vårt samhälle?

Planera

När vi planerar för hur våra organisationer ska bli bättre så blir det ofta kraftigt neddragna ambitioner. Vi planerar hur en process ska bli lite effektivare eller hur vi kan få någon KPI att gå upp ett par procent. Det finns idag möjlighet för alla organisationer att tänka mycket mer gränslöst på ambition. AI har varit tillräckligt bra för optimering långt bortom vad mer än endast ett fåtal världsledare har implementerat redan innan AI blev likställt med LLM:er. Det är dock LLM:er som nu gör det möjligt att implementera avancerad automatisering till kostnader som passar även små organisationer.

De som väntar på att AI ska bli en superkraft behöver först berätta vad deras första prompt till denna superdator skulle vara. Då kommer det att visa sig att de flesta organisationers önskemål redan går att uppfylla.

Gör

Träna på att önska dig det omöjliga.
Fundera över en förändring du sedan länge accepterat är omöjlig. Inte för att det är dyrt eller svårt, utan något du helt enkelt betraktar som omöjligt.

Be sedan dagens AI att beskriva vilka upptäckter, uppfinningar eller samhällsförändringar som skulle krävas för att det skulle bli möjligt. Poängen är att träna sig på att ifrågasätta gränsen för vad man över huvud taget får önska sig.

Bonus, läs Liftarens guide till galaxen av Douglas Adams (eller läs om). Till exempel kapitel 25 när de sätter på superdatorn Deep Thought och hur filosoferna kräver att svaret på livet, universum och allting måste få fortsätta att vara debatterbart, vilket är väldigt tankeväckande för hur ASI förmodligen kommer tas emot.

Länkar

Biohubs satsning på öppna data för virtuella celler.
https://biohub.org/news/virtual-biology-initiative-expansion/

Isomorphic Labs om sin plattform för läkemedelsutveckling.
https://www.isomorphiclabs.com/articles/building-a-new-path-to-make-medicines-with-ai

Bloomberg om Isomorphic Labs finansieringssamtal, via Yahoo.
https://finance.yahoo.com/healthcare/articles/alphabet-isomorphic-labs-funding-talks-040000989.html

Demis Hassabis om att bota alla sjukdomar. Intervjun i 60 Minutes.
https://www.cbsnews.com/news/artificial-intelligence-google-deepmind-ceo-demis-hassabis-60-minutes-transcript/

Längre intervju med Hassabis om AI och vägen till nya läkemedel.
https://www.thetwentyminutevc.com/demis-hassabis

Tania ap Siôns studie av böner på nätet jämfört med katedraler.
https://wrap.warwick.ac.uk/id/eprint/78828/

Bain och Bongiornos lotteristudie i Nature Sustainability.
https://www.nature.com/articles/s41893-022-00902-y

Lotteristudien med extramaterial. Se S2.3 för frågornas ordning och S4.4 för önskningarna.
https://www.researchgate.net/publication/361354351_Evidence_from_33_countries_challenges_the_assumption_of_unlimited_wants

Originaldata och undersökningsmaterial från lotteristudiens första del.
https://osf.io/25398/

Hark, AI-agenten jag använde för min nya analys av deras data. (men vilken agent som helst hade funkat förstås)
https://hark.com/

Sedan sist vi hördes

En förändring jag återkommer till när jag föreläst för ledningsgrupper och styrelser senaste tiden är trenden att vi tar ett steg tillbaka från full AI-generering. Det har med EU-märkningen att göra men också att de flesta är lite trötta på AI-genererat innehåll. Istället berättar jag mer om hur vi sätter upp förutsättningar för att AI-editera. Så ämnet för träffen för betalande medlemmar blir:

Bort från AI-generering till AI-editering.
Tid: torsdag 15de oktober kl 12:00-12:45
Plats: Digitalt möte. Du som är betalande medlem ska ha fått inbjudan, annars får du hojta till!

Agenda
Jag börjar med en inspirationsdragning och sedan får alla närvarande möjlighet att fråga mig och varandra om tips och råd kring ämnet eller något annat som känns intressant att diskutera med de som är där. Det är alltid väldigt intressanta ämnen som tas upp tycker jag!

Är du en insiktsdelare?

Känner du någon som är orolig för AI som kanske skulle vara intresserad av en ny vinkel? Eller kanske någon som väntar på ASI utan att inse vad som redan nu är möjligt? Vem tänkte du på? Skicka vidare!

Själv vill jag tipsa om den här väldigt brittiska prisutdelningen till Demis Hassabi. Både introduktionen och hans tal är underhållande på ett nördigt torrt sätt.

Nästa vecka blir det inget nyhetsbrev men träffen för betalande medlemmar är ju på torsdag! Fortsätt utforska så ses vi i din inbox veckan efter!
Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):