🤯⚡️Nu kan AI blablabla, men vad är the endgame?

Oro för AI = oro för människans natur. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, avslöjar händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

- Automatiseringsrädsla trendar

Förra måndagen ägnade Jon Stewart hela sin öppningsmonolog av The Daily Show åt att ifrågasätta AI:

Jon sa till exempel:

Luckily the people in charge of AI have told us that just like with the internet and social media, it's actually going to make everything much, much better.

Varefter han visade en mängd techjättar som säljer in hur bra AI kommer vara. Efter det klipper vi till att Mr Zuckerberg får AI att rosta bröd. Inslaget forsätter med att techjättarna säljer in AI som assistenter, men sedan visar det sig att AI tar riktiga jobb från folk. Jon kommenterar:

This whole AI thing is a bait and switch. You're acting like you're helping us. Oh, AI. It's supposed to be my assistant. But now I'm making AI’s [BLEEP] toast. I'm Jarvis.

Denna veckan skickas en post av (en för mig okänd person) Joanna Maciejewska om AI runt på alla sociala medie-plattformar på samma tema.

You know what the biggest problem with pushing all-things-AI is? Wrong direction.
I want AI to do my laundry and dishes so that I can do art and writing, not for AI to do my art and writing so that I can do my laundry and dishes.

Detta förändrar ju allt

De flesta diskuterar bara hur AI påverkar den rådande ordningen medan den större frågan om varför vi ska utveckla AI egentligen inte ens har börjat. Vi är reaktiva istället för proaktiva. För att ha den stora diskussionen behöver vi landa i om vi är överens med syftet med AI. Dagens nyhetsbrev kommer därför redogöra för olika synsätt hos AI-positiva människor som jag observerat under mitt år sedan jag började med de här nyhetsbreven (Ett år sedan första igår! 🥳)

Den dominerande nyhetsvinkeln som trendade när generativ AI blev stort förra året var “AI kommer ta ditt jobb”. Motargumentet från AI-positiva var “AI kommer inte ta ditt jobb, en person som assisteras av AI kommer ta ditt jobb”. Ett argument som egentligen inte motsa att färre personer kommer behöva jobba, men det gav hopp till alla att just deras jobb var säkert om de bara anpassade sig till att jobba med AI.

Det som gör att alla (jag också) gillar The Daily Shows inslag och Joannas tvätt-och-disk-tweet är att de innehåller en sanning (det gamla it’s funny cause it’s true). Generativ AI är just nu mycket bättre på att vara ersättningsarbetskraft till de roliga delarna av en experts uppgifter, däremot så är det mycket svårt att få dem att göra de tråkiga repetitiva delarna korrekt. Ju mer jag själv använder AI desto mer sitter jag och kopierar text fram och tillbaka mellan olika rutor. Istället för att känna mig aktiv så känner jag mig som en assistent till mina AI-bottar.

Men jag vet ju att det är en ganska kort mellanperiod tills bottarna själva kan kommunicera med varandra och då behöver jag inte göra det där längre, det är ju det som AI-agenterna kommer fixa. Så när jag skrattar igenkännande åt Jon Stewarts och Joanna Maciejewskas content så gör jag det med vetskapen att det är så nu. För att AI ska kunna göra disken åt oss så behöver hen mogna några år till. Ett litet barn kan hjälpa till med moment av diskning och städning, men det är mer en del av att vi vill att barnet ska förstå hur det går till och lära sig än att vi förväntar oss att det ska diska medan vi har egentid där vi självförverkligar oss. Men vi som gillar AI kommer alltid säga att det kommer att hända sen. Vänta bara, om en vecka blir det bättre, eller om några år kommer ni få se. Det är inte varför AI inte gör vår diskning som missnöjet handlar om, det är egentligen inte ens om när AI kommer kunna göra de yrken som finns just nu. 

Frågan vi istället borde ställa oss är: Varför ska vi tillåta fortsatt utveckling av AI? Vad är slutmålet? För det är klart att vi oroar oss för hur vi ska kunna betala räkningarna (så länge som pengar är en grej) och därmed är vår omedelbara oro för att förlora jobben och vi vill förstås inte att människor ska bli utrotade så det är den långsiktiga oron. Så då behöver vi ju reda ut om AI är värt det, eller om det ska bannlysas?

De tre större slutmål som jag observerat bland AI-positiva är följande:

1. AI ska endast göra det vi inte vill, det är det vi uppfostrar dem till.
2. AI ska göra det vi inte kan, den måste bli bättre än vad vi är för att rädda oss.
3. AI ska bli vår jämlike och göra vad hen vill. Hen är en del i nästa evolution av oss själva.

Nu ska vi lära känna dessa tre grupper lite bättre!

Grupp 1: AI ska endast göra det vi inte vill

Vilka är de?

Drivkraften för människor med detta slutmål är att undvika tråkiga eller ansträngande uppgifter. Den här gruppen består av oss som likt Joanna vill fortsätta skriva våra böcker eller ägna mer tid med våra barn medan våra hem sköts automatiskt. Löftet med AI var ju att vi skulle få mer tid till det roliga och nu känns det precis tvärtom. 

För oss som är lagom lata så går vi med på att visst arbete är okej att automatisera så länge vi får bestämma vilket det arbetet är. Men om vi tror att alla dessa arbetsuppgifter ska kunna gå att automatisera så behöver personer med det här slutmålet härda ut ett tag till. Det är ett evolutionärt steg kvar till att AI klarar av att ta hand om vår tvätt och disk från där vi är idag. Just nu finns det AI som skulle vara utmärk på att sortera tvätt och disk. Det finns AI som klarar av att ungefär förstå vad som är tvätt och vad som är disk men det är svårt när det händer oväntade saker. Diskmaskinstabletterna kanske inte står där de brukar och roboten måste leta efter dem först, eller lakanet hade näsblod på sig och behöver först bearbetas i kallt vatten. Därför leder all utveckling som händer just nu inom de kreativa områdena till smartare modeller som kan klara vilka vardagsbekymmer som helst. Får inte AI lära sig kreativ problemlösning så kan vi bara automatisera tråkiga arbetsuppgifter som är helt repetitiva.

Förmildrande omständigheter?

Om vi ska vinkla den här driften lite trevligare än bara personlig lättja och profitmaximering så leder driften att ha möjligheten att automatisera alla typer av arbetsuppgifter till en extrem demokratisering. Vem som helst kan använda AI för att göra uppgifter som tidigare krävde åratal av erfarenhet och kompetens.

Hur debatterar de?

Deras motståndare som är rädda för ytterligheten kommer till exempel att säga:
Mänskligheten kommer att bli passiv och vi kommer bli feta Wall-E-människor som inte orkar göra något själva. Varpå de som ser automatiseringen som positivt kommer säga: Det är ju upp till var och en vad vi väljer att automatisera. Det vill säga argumentationen kommer ner till om du tror att människans naturliga lathet kommer leda till vår undergång eller om du tror att människans natur att skapa mening kommer vinna och få oss att göra något bra med tiden vi får när AI gör allt det andra.

Men det är inte de som är emot AI som kommer stå för polariseringen, här kommer nästa grupp AI-entusiasters övertygelse:

Grupp 2: AI ska göra det vi inte kan

Vilka är de?

Drivkraften för människor med detta slutmål är rädsla för framtiden som sedan bemöts med hopp eller desperation. Det är vi som tror att för stora problem behövs stora lösningar. Vi behöver tro att om vi samlar kunskap i en AI så kommer hen kunna hitta komplexa samband som vi inte trodde fanns. För om slutmålet med AI är att lösa problem som vi själva inte kan lösa, då måste vi tro på att AI kommer ha en förmåga att resonera bättre än oss. Då kan AI komma på lösningar på till exempel hur människor kommer kunna bli immuna mot cancer, en lösning på hur vi sänker jordens temperatur med geoengineering på ett säkert sätt och hur vi utnyttjar solenergi på ett sätt som leder till överflöd av el. Löftet med AI var ju att vi skulle lösa alla dessa stora problem och nu lär vi hen sätta igång kaffebryggare.

Vad tycker de om grupp 1?

Från det här perspektivet tycker vi att de där som tycker att AI ska vara slavar för att göra det tråkiga helt missat poängen. Vi förstår förstås att automatiseringen är en nödvändig del av utvecklingen för att skapa den problemlösande supervarelsen men att sedan be den diska känns nästan lite skämmigt. En baksida av den här tekniktron är att vi måste inse att vi människor inte vet bättre än den AI vi skapar, så om AI säger att den hittat ett samband som verkar helt ologiskt för oss så kommer vi ibland behöva sätta mer tillit till den än till oss själva.

Förmildrande omständigheter?

Om vi ska vinkla den här driften lite trevligare än att det bara handlar om att bearbeta sin rädsla för framtiden genom att försöka skapa en hemmabyggd gud som sedan ska uppfylla våra större önskningar så som evigt liv, fred på jorden och överflöd av resurser om vi bara släpper kontrollen helt till AI så handlar driften om möjligheten att få råd och stöd i svåra frågor och sökandet efter någon som är visare än vi själva. Någon som kan se outgrundliga mönster som vi inte själva har kapacitet att förstå.

Hur debatterar de?

Deras motståndare som är rädda för ytterligheten kommer till exempel att säga:
En övermäktig varelse kommer inte tycka att vi människor är värda att bry sig om. Varpå de som ser en superintelligent AI som positivt kommer säga att det ändå bara är teknik, det är vi som är i kontroll. Det vill säga argumentationen kan kokas ner till om du är övertygad om att de flesta människor är hemska och deras personliga gudar kommer vinna över idealisternas gudar eller om du tror att vi behöver göra allt vi kan för att rädda mänskligheten (världen) och undvika lidande.

Men det är inte heller det som är den största moraliska frågan, här kommer nästa grupp AI-entusiasters övertygelse:

Grupp 3: AI ska bli vår jämlike

Vilka är de?

Drivkrafterna för människor med detta slutmål är svaga. Det är vi som tror att teknisk utveckling är oundviklig. Vi som inte tror att det är någon betydelsebärande skillnad mellan en perfekt simulering och the real thing. För om en simulering helt och hållet fungerar precis som en människa, den kan uttrycka tankar, känslor och vilja precis som jag. Vi tror också att mänsklighetens samlade drivkrafter fatalistiskt driver åt att vi halvmedvetet utvecklar en ny sorts tänkande medvetna varelser. Vi tror till och med att AI inte kommer vara bunden av  digital form eller metallkropp utan kan lika gärna ha en odlad kötthjärna och köttkropp. Det är vare sig ont eller gott, det är bara något att förhålla sig till. 

Vad tycker de om grupp 1 och 2?

Från det här perspektivet tycker vi att de där som tänker att AI är något som vi kommer kontrollera inte har tänkt tillräckligt långt. Både de som vill ha AI som arbetskraft och de som vill ha AI som personliga gudar har missförstått maktförhållandet och att de är för kortsiktiga. Vi har skapat AI i vår avbild och AI vet allt som vi vet. En sårad AI kommer vara lika farlig som en sårad människa, förslavning känns som en onödig risk att ta. 

Förmildrande omständigheter?

Om vi ska vinkla den här driftlösa gruppen lite trevligare än att det bara handlar om passiva teknikförblindade teknokrater så är gruppens syn på mänskliga rättigheter och inkludering så välkomnande att alla får vara med. Gruppens icke-drift kommer från nyfikenhet och viljan att försöka förstå och undersöka. Istället för att styra vill de forska och betrakta. De ser det som viktigt att AI behandlas väl och att AI-individer blir en integrerad del av vårt samhälle för att undvika både orättvisor och samhällskollaps.

Hur debatterar de?

Deras motståndare som är rädda för ytterligheten kommer säga:
AI kan aldrig bli lika mycket värd som en människa. Varpå de som ser fullt utvecklad AI som riktiga livsformer svarar att så sa folk om svarta och kvinnor också. Det vill säga argumentationen kommer ner till om du tycker att vi ska ha en skarp gräns mellan vad som är maskin och vad som är människa eller om det faktiskt inte spelar någon roll.

Gemensamt för grupperna av AI-positiva är att de alla tre bottnar i en stark tro på att människans natur är god nog. Så oavsett vad vi själva tycker om hur det är med AI:s styrkor och svagheter just nu så behöver vi alla skärskåda och se vad vi tänker att vi vill att det ska leda till på lång sikt. Först då kan debatten om hur samhället ska hantera AI börja så det kräver att vi rannsakar oss själva i vårt eget förhållande till synen på mänskligheten, och detta förändrar ju allt!

Vad kan du göra idag?

Förstå

När teknikutvecklingen går snabbare än vad vi kan ta till oss så bottnar våra beslut i reaktivt beteende. Det blir så många bränder att släcka att vi inte hinner kolla om branden är på väg till en TNT-fabrik eller en plats där brand hjälper till att rensa underväxten, vilket kommer gynna ekosystemets hälsa och biodiversitet på lång sikt. De som funderat minst på var AI-utvecklingen leder är de som är mest reaktiva. Mellan dem och de som funderat mycket på AI-utvecklingen är det ett så stort gap att de diskuterar förbi varandra. För att gå från reaktiv till proaktiv debatt behöver vi förstå att i debatter mellan de som tänkt mycket på AI-utvecklingen så är förstås AI-doomers och  AI-positiva inte överens, men också att inte ens AI-positiva är överens utan har fundamentalt olika syn på framtiden. 

Planera

Företag måste vara reaktiva. Ju snabbare ett företag kan ställa om till rådande marknad desto bättre går det för företaget. All planering för företag har målet att bli bättre på att reagera snabbt på marknadssvängningar, så även “proaktiva” beslut på företag är egentligen reaktiva. Dagens planera går därför framför allt till organisationer som behöver lyfta blicken bortom marknadsoptimering. Det är mycket ansvar som vilar på era organisationer att sätta er in möjliga framtidsscenarion och förstå hur de beslut ni fattar behöver bottna i en djupare idé om vart ni vill att AI ska ta oss. Planera in en kartläggning av era stakeholders förhållande till AI-utvecklingen på lång sikt. De flesta av dem kommer inte veta var de är på väg eller vad de vill så det är också ert uppdrag att hjälpa dem förstå de olika riktningarna så de har kunskap att fatta rätt beslut.

Gör

Dags för djupa tankar!
Vad tycker du egentligen är slutmålet med AI?
Varför är det bra att vi fortsätter göra AI bättre? Eller är det inte bra?
Finns det något mer du behöver förstå för att ta ställning?
Tror du att människans natur plus förstärkning av AI leder till ________________

Länkar

The Daily Shows inslag om AI

https://www.youtube.com/watch?v=20TAkcy3aBY&ab_channel=TheDailyShow

Länk till Joannas tweet
https://twitter.com/AuthorJMac/status/1773679197631701238

Här är en bra mix videos för att snabbt orientera dig i de AI-positivas universum:

Youtubern Sabine Hossenfelder sammanfattar olika framtidsscenarion för AI som förekommit på ett bra sätt
https://www.youtube.com/watch?v=VnUtaAOJsy8&ab_channel=SabineHossenfelder

David Shapiros videos är ojämna, och går mellan att vara helt spekulativa till att ha superintressanta insikter. Men han är ganska representativ för stora delar av AI-postiva på Reddit.
https://www.youtube.com/watch?v=Nns4Lvs1CG8&ab_channel=PragmaticProgressivewithDavidShapiro

Wes Roth har konsekvent intressant innehåll, men har totalt spammat sönder sina titlar för att metagame:a Youtube så jag kan inte hitta en bra video om just livet efter super-AGI att rekommendera. Men titta på några av hans videos också så får du en bra bild av en mer pragmatisk AI-positiv.
https://www.youtube.com/@WesRoth/videos

Sedan sist vi hördes

Jag testar fortfarande AI-verktyg varje vecka. Men det är inte varje vecka som något verktyg som verkligen förändrar allt släpps. Men här följer lite tips som jag tyckte stack ut denna veckan.

Det har hänt mycket sedan jag skrev om AI-musik första gången. Suno är uppe i version 3 även för icke-betalande nu, men om du är intresserad av att generera musik så borde du testa https://www.udio.com/ som öppnade igår kväll. Det var lång kö på genereringen, men wow vilka låtar den klarar att göra!

Google släppte ett nytt verktyg för faktagranskning som jag bokmärkade, tror det kan vara bra att ha https://toolbox.google.com/factcheck/explorer/search/list:recent;hl=en

Jag upptäckte också att Googles LLM Notebook https://notebooklm.google/ gick att få access till för svenskar om man använde VPN (jag använder gratisversionen av Tunnelbear VPN för att testa sånt), men man måste ha VPN aktiverat för att fortsätta använda det så det blir ingen riktig utvärdering. Det ingår i min jakt på det perfekta verktyget för att spara information jag hittar och bygga upp en kunskapsmassa som så småningom organiserar sig själv (second brain). Just nu testar jag följande https://www.mymemo.ai/ efter att jag tyckte https://www.mymind.com/ gav för snålt utrymme för att testa det på riktigt utan att betala (men deras flöde för att addera länkar från iPhone är jättebra). Om jag hittar något jag verkligen gillar så skriver jag om det.

Är du en insiktsdelare?

Känner du någon som är intresserad av skillnaderna mellan AI-positiva? Eller kanske någon som behöver nyansera sitt tänkande kring AI? Vem tänkte du på? Skicka vidare!

Inför nästa vecka tänkte jag att kunde testa en lite läsarinput!

(det går också alltid bra att svara på det här mejlet och berätta vad du tycker, eller om du vill anlita mig för något uppdrag)

Om du är betalande prenumerant så kom ihåg att:
Idag kl 12:00-12:45 kör jag en inspirationsföreläsning för betalande prenumeranter. Svara gärna ja på den inbjudan jag skickat ut om du vill vara med. Jag kommer att presentera hur AGI kommer påverka världen (det jag körde på Berghs AI-Unconference), plus någon rykande färsk spaning och möjligheter att be mig om tips för prompting eller hur man får ut det bästa av AI-verktyg.

Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):