🤯⚡️Glöm allt jag lärt dig!

AI kräver unlearning by doing. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, berättar om händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

Jag gjort en jullåt och publicerat den som en riktig artist

👀 Se videon
👂 Lyssna på Spotify

I tisdags när jag släppte den trodde jag därför att det här nyhetsbrevet skulle handla om hur du gör musik. Men detta förändrar ju inte allt, i alla fall inte som enskild företeelse, så därför skiftade fokus från musikindustrin till en konsekvens av att till och med jag som inte är supermusikalisk nu släpper musik på Spotify (och alla andra större musikplattformar).

Detta förändrar ju allt

Detta har jag lärt mig genom att konstant testa och använda AI-verktyg i år.

I början av 2023 skrev jag om hur generativ AI dödar internet eftersom mängden lågkvalitativt innehåll som kommer genereras automatiskt ökar så kraftigt att all affärslogik behöver förändras. Nu i höst har jag skrivit om att tröskeln för att göra bra content med hjälp av generativ AI sjunkit så pass mycket att vi kan förvänta oss att alla konsumerar sin version av allt content som släpps istället för originalversionen.

Demokratiseringen av vilka som kan skapa gör att alla vidgar sitt kompetensområde, copywritern blir trilogiförfattare, specialisten på photoshop blir filmskapare och specialisten på ett instrument blir skapare av en hel katalog av musik. Samtidigt gör AI-automatiseringen att antalet skapade alster som skaparna kan få ur sig tiodubblas. Totalt sett så kan vi säga att det blir lavinartat mer producerat bra content (i brist på ett bättre generellt ord), och ännu mer mediokert content.

Det här är innan vi har fått händerna på AI-agenter, vilka förväntas kunna göra att vem som helst utan någon teknisk kunskap kommer kunna skapa en fabrik av specialiserade AI-bottar. Något som ytterligare kommer tiofaldiga den kapacitet vi redan nu har tillgång till.

När vi hade kö till polisen för att göra pass för några år sedan så kunde de som hade lite teknisk kunskap använda ett skript som stod i kö åt dem. Om samma situation skulle uppstå idag så skulle alla med hjälp av ChatGPT eller Claude kunna få hjälp med att både skapa och installera ett sådant skript på mindre än en timme. Om det är första gången man gör något sådant så skulle det vara en frustrerande timme, men om behovet är stort skulle det gå helt utan teknisk kompetens. Nästa år kommer du förmodligen bara behöva 10 minuter.

Det är ganska mycket digital infrastruktur som kommer kräva översyn de kommande åren. I år är vi få som ger ut egna julsånger, men nästa jul kommer kön till Spotify vara minst 1000 gånger volymen. Överklagande av parkeringsböter kommer att ske automatiskt, och i USA förväntas de automatiska stämningarna öka. Skript för att ställa sina barn i kö till skolor kommer konkurrera med varandra och göra att system som är dimensionerade för 100 sökande istället behöver ta höjd för storskaliga hackerattacker.

Det är väldigt lätt att spåna scenarion som skapar rädsla och känsla av att AI blir vår undergång. Speciellt om vi bara tänker oss AI tillåtet på en av sidorna. Men det är ju inte bara de som skickar in låtar som har AI, nästa jul kommer Spotify ha AI-system som hjälper dem med det ökade antalet sånger som skickas in. Systemen som tar emot överklagande av parkeringsböter kommer automatiskt att skriva vänliga avslag som i 95-98% av fallen kommer vara korrekta (vilket kommer vara högre korrekthet än mänskliga subjektiva avslag) och skolsystemen… 💀

Problemen med att utvecklingstakten går så snabbt är att de trögrörliga systemen tar ett tag innan de hänger med. I övergångsfasen blir det kaos. Vi pratar om att generativ AI är ett paradigmskifte men de flesta tänker det som ett teknologiskt skifte. Istället har jag en tanke om att skiftet ligger i att mänskligheten ända sedan vi blev jordbrukare istället för jägare har optimerat för stabilitet. System idag (både samhällssystem och datorsystem) optimeras för att förhållanden är förutsägbara och stabila på lång sikt. Generativ AI skapar så många möjligheter till förändring att det är ett opraktiskt sätt att tänka på. Så paradigmskiftet handlar om vår förståelse för att vi måste optimera för förändring istället för stabilitet. (Jag har skrivit tidigare om att antropologen James Suzman som studerat samlare-jägarkulturer anser att det går alldeles utmärkt att leva ett rikt liv utan att vara framtidsorienterad)

Om vi tar mitt julsångsprojekt som exempel. När jag började med min julsång för ett år sedan så var Suno det bästa verktyget. Under året har jag varit tvungen att byta verktyg flera gånger för att bara kunna fortsätta projektet. För en vecka sedan började jag mitt videoprojekt för jullåten. När den var nästan klar insåg jag att Pikas nya modell i kombination med Sora skulle ge ett mycket bättre resultat. Varje gång jag tvärsäkert tänker att det här är bästa sättet, så behöver jag först omvärldsbevaka för att se om det fortfarande är sant.

En av de viktigaste färdigheterna som du kommer behöva behärska för att framtidssäkra dig är unlearning - förmågan att glömma kunskap. För att kunna fortsätta utvecklas i en värld där kraftig daglig förändring är det enda konstanta behöver vi maxa vår kapacitet i att avlära oss den kunskap som var sann igår. Under hela året har jag lärt mig så många specifika nya appar, sätt att prompta och arbetsprocesser för att kunna återupprepa något enklare nästa gång. Bara det att nästa gång jag ska göra exakt samma sak så stämmer det inte längre.

Inom flyget infördes en metod som kallas CRM – Crew Resource Management, för att piloter skulle kunna träna på att lära om gamla vanor som visat sig leda till flygolyckor. Även yrkesområden som brandmän och sjukvårdspersonal har använt sig av CRM för att utrota gamla sanningar som leder till kritiska fel. Men nu kanske det är dags att vi inför aktiv bearbetning av gamla sanningar i alla branscher.

För även om ChatGPTs gränssnitt ser likadant ut som igår så kommer den promptstruktur som igår skulle gett mig det bästa resultatet inte längre vara ett säkert kort. Tänker du fortfarande att du får bäst resultat om du tilldelar ChatGPT en roll? Det är inte längre nödvändigtvis sant, forskning visar att det numera ibland ger sämre resultat än att inte tilldela någon roll alls. Varje dag kräver en ny utforskning av vad som fungerar bäst. Men det är inte det som är slitsamt. Det är att du förlitar dig på gårdagens kunskap och sedan märker du efter ett tag att det inte håller. Hade du sett det som ett utforskningsprojekt från början hade det varit okej, men nu skulle du bara fixa en liten grej på samma sätt som du gjorde igår.

Kevin Weil som är Chief Product Officer på OpenAI berättade nyligen att den feature som alla företagskunder efterfrågar mest är att få reda på när OpenAI ska släppa något nytt 60 dagar i förväg. Men det är helt enkelt inte möjligt för de vet inte själva vad som blir klart och när det blir klart. Istället för att veta vad de har utvecklat och sedan förpacka det så förändras förutsättningarna för vad de har hela tiden.

You know, normally you have some sense of your tech stack. You have some sense of what you have to work with, what capabilities computers have, and then you're trying to build the best product, right? You're figuring out who your users are, and what problems they have, and how you can help solve those problems for them. There is that at Open AI. But also, the state of like what computers can do just evolves every two months, three months, and suddenly computers have a new capability that they've never had in the history of the world and we're trying to figure out how to build a great product and expose that for developers and our APIs and so on. And, you know, you can't totally tell what's coming. It's coming through the mist a little bit at you and gradually taking shape. It's fundamentally different than any other company I've ever worked at.

Men även vi som inte jobbar på OpenAI kommer ha det så här. Tiden från det att något är möjligt till dess att vi förväntas jobba med det sjunker så drastiskt. Halveringstiden innan kunskap är helt omodern närmar sig tiden det tar att lära in den. Förr sa vi: ge någon en fisk och hen är mätt för en dag, lär någon att fiska och hen är mätt hela livet. Men nu blir det mer: ge någon en prompt och hen kan producera i en dag, lär något att prompta och hen kan prompta ett par dagar. Det livslånga lärandet är superviktigt, men det största hindret är att vi ser på vår tidigare kunskap som obestridlig. Vi tror att principerna för prompting vi lär oss kommer vara sanna för livet, men inte ens OpenAI vet hur deras modeller kommer fungera om 60 dagar.

Det jag tar med mig som största lärdom av hela det här året är känslan av triumf över allt jag lyckats göra som är över min förmåga med hjälp av AI och känslan av besvikelse när jag inser att mycket lite av det jag har lärt mig är överförbar kunskap till nästa år. Jag har sett det här mönstret om och om igen i år och varje tillfälle får mig att inse att ju snabbare jag kommer över att jag tror att jag vet något, desto snabbare kommer jag på banan och kan göra något ännu bättre på kortare tid. Så det visar sig att förmågan till unlearning av gårdagens sanningar är lika viktig som förmågan till livslångt lärande och detta förändrar ju allt!

Vad kan du göra idag?

Förstå

Om vi förstår att vi hindrar oss själva från att utvecklas genom att tro att vi redan är experter så lär vi oss att snabbare hantera de ständigt nya förutsättningarna. Unlearning handlar om att se varje enskilt tillfälle som en ny möjlighet att inventera möjligheter att göra saker på ett nytt sätt istället för att få nya verktyg att försöka passa in i befintliga produktionskedjor. Det gör det svårare för hierarkiska organisationer att skapa direktiv och processmodeller för hur produktion ska optimeras.

Inte bara traditionella företag hämmas av oförmågan att unlearna det gamla. Ett av de största problemen med att träna nya AI-modeller just nu är att få dem att glömma gammal träning. Vår behov av att få AI-modellerna att inte göra dumheter har gjort att vi hårdtränat dem att aldrig glömma sina tidigare instruktioner. Men nu visar det sig att det också gör att de därmed inte heller vill lära sig nya tricks av sina skapare.

Planera

Organisationer som hittills letat efter experter med specifik kunskap behöver ställa om. När halveringstiden på kunskap sjunker så är det inte längre meningsfullt att betala höga löner för något som personen vi anställer har kunskap i då det ändå är något som måste av-läras ganska snart. Istället behöver rekryterare hitta de kandidater som har lättast att se kunskap som utbytbar och som snabbt kan orientera sig i ny kunskap och tillämpa den praktiskt.

Ledare behöver föregå med gott exempel och tydligt visa alla att det är okej att använda nya verktyg för att utforska och uppmuntra omvärldsbevakning. För att vara tydlig, jag menar faktiskt att anställda behöver betald tid för att unlearn:a utöver de vanliga arbetsuppgifterna. Ledare bör inte längre heller se sin personal som fasta produktionsroller då dessa fack kommer hindra varje medarbetares möjlighet att hitta nya sätt att utföra sitt arbete effektivt. Tänk på att det i många fall kräver att personen går in på någon annans område. Till exempel kommer mindre IT-projekt inte behöva göras av IT utan kan skötas direkt av en AI-assisterad medarbetare om de tillåts göra det.

Gör

För dig som är intresserad av att träna unlearning.
Gör följande: Skriv ner en arbetsuppgift som du vet exakt hur du gör, föreställ dig sedan att du faktiskt inte kan den. Researcha vilka verktyg och metoder som människor utanför ditt kompetensområde skulle använda, fråga öppna frågor till ChatGPT kring hur man gör en sådan uppgift. Genom att lära dig ditt område på nytt kommer du få uppslag till helt nya sätt att göra den på som du som redan är expert kommer ha större nytta av än någon annan.

För dig som är intresserad av hur du kan göra en jullåt; så här gjorde jag:
Texten skrev jag själv. Sedan har jag använt Suno AI och Udio för att generera olika varianter av musiken. På slutet gjorde jag mest i Udio och använde In-painting-funktionen för att rätta till lyriken så gott det gick. Därefter har jag mixat ihop lite olika delar i appen Waveform. Låten distribueras av Distrokid.

Hade jag börjat om idag hade jag utforskat hur en LLM kan skapa MIDI och sedan använda en AI-driven röstsynt (SVS) för att sjunga musiken. På det sättet hade jag fått större kontroll över skapandet.

Länkar

Mer om half-life of knowledge
https://news.nus.edu.sg/the-half-life-of-knowledge/

”På 1990-talet ansågs halveringstiden på kunskaperna från en ingenjörsutbildning vara runt 30 år. Idag räknar man med att den är 3-5 år.”
https://www.kth.se/blogs/itm-management/2021/11/the-half-life-of-knowledge-is-3-5-years/

Akademiskt om unlearning
https://www.emerald.com/insight/content/doi/10.1108/tlo-11-2018-0192/full/html

CRM-metoden
https://en.wikipedia.org/wiki/Crew_resource_management

Svenska vården har inspirerats av delar av CRM-metoden.
https://www.vardhandboken.se/arbetssatt-och-ansvar/samverkan-och-kommunikation/teamarbete-och-kommunikation/crew-resource-management---crm/

Att ge roller till LLM:er ger inte alltid bästa resultatet visas i studien: Personas in System Prompts Do Not Improve Performances of Large Language Models
https://arxiv.org/abs/2311.10054

OpenAIs fireside där produktchefen Kevin Weil uttalade sig.

Sedan sist vi hördes

För ett par veckor sedan rapporterades att späckhuggare åter igen börjat bära döda laxar som hattar istället för att äta dem. Det är lite drygt ett år sedan jag skrev om hur späckhuggare sprider kultur och att AI-bottar kommer göra det samma. Trenden bland späckhuggarna att använda laxen som modeaccessoar istället för att äta den försvann lika snabbt som den kom, men nu har den alltså återupplivats. Spekulationerna är att det är någon späckhuggare som blivit nostalgisk och visat hur de brukade göra på 80-talet. Här finns en icke AI-genererad bild på en späckhuggare som bär en laxhatt. https://www.nationalgeographic.com/animals/article/orcas-puget-sound-salmon-hats-killer-whales

2024 förutspåddes bli AI-agenternas år. Det blev det på sätt och vis också, för alla mer meningsfulla AI-tjänster bearbetar nu din prompt med olika modeller på baksidan så vi slipper utbilda oss till prompt-experter. Men vi kanske trodde att vi – folket, skulle få verktyg för att enkelt bygga egna långa kedjor av specialistagenter som jobbade i team åt oss. Vi skjuter det framför oss, om inte OpenAI lanserar det som sin final av 12 days of Shipmas?

Om ni får tråkigt i jul och inte vill lyssna på min jullåt längre så uppdaterade jag och min kollega Anders Adermark på Swecial nyligen vårt mobilspel Digolux. (Men jag tvivlar på att någon kan överta min frus topplacering)

Ladda ner Digolux - AppStore
Ladda ner Digolux – Google Play

Är du en insiktsdelare?

Känner du någon som är intresserad av hur AI förändrar arbetsplatser? Eller kanske någon som behöver få koll på unlearning? Vem tänkte du på? Skicka vidare!

Nu tar jag jullov, men du är välkommen att höra av dig om du behöver boka föreläsningar inför uppstarten av nyåret! Jag får förfrågningar om en text för att skicka vidare om vad jag kan föreläsa om, varsågoda:

Detta förändrar ju allt!
Tomas visar upp forskning som du inte trodde bara var science-fiction, går igenom långa trender så som AI och knyter på ett pedagogiskt och underhållande sätt ihop hur allt detta resulterar i en spännande och väldigt annorlunda framtid.

Detta förändrar ju allt! - För er bransch
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till möjliga scenarion för hur er egen bransch kommer förändras både på kort och lång sikt.

Detta förändrar ju allt! - För din organisation
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till konkreta tips på hur er organisation kan använda AI-teknik som redan finns för att bli mer kreativa på jobbet.

Oavsett vilken ni väljer så kommer publiken att inspireras att tänka på världen med helt nya ögon och själva utbrista: Men detta förändrar ju allt!

🎁 I julklapp så önskar jag mig fler betalande prenumeranter. Om du har haft nytta av mitt nyhetsbrev i jobbet i år så se till att din organisation betalar så jag kan fortsätta skriva!

Om du önskar dig något ämne som du tycker jag borde ta upp eller någon annan förändring av nyhetsbrevet som skulle göra det bättre så kan du skriva det på den här anonyma önskelistan.
https://forms.gle/dHmM4qVLVzLmP1PR6

Fortsätt utforska och ha en riktigt diggi jul så ses vi nästa år!

Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):