🤯⚡️Vi byggde vår ersättare. Nu bygger AI sin ersättare.

Validering är utvecklingens moder. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, berättar om händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

- Effektiva AI-modeller som bygger effektivare AI-modeller

Mer och mer forskning handlar om olika metoder för att sätta upp automatisering av utvecklandet av nya AI-modeller.

I januari förpublicerade Sakana AI en metod för att få en AI-modell att förbättra sig själv under tiden den är igång som de kallade Transformer². Själva modellen förblir sig själv, men tar till sig erfarenheter och skapar ny kunskap på grund av dem.

Förra månaden släppte Google AlphaEvolve, en AI-agent som inte själv muterar men som muterar algoritmer för att se om det går att hitta nya lösningar på specifika matematiska problem. Paradexemplet är att den effektiviserat Googles system för att sköta sina egna datacenters schemaläggning så de fått ut 0,7% mer compute ur dem det senaste året (vilket estimeras vara en besparing på minst 500 miljoner dollar per år för Google).

Denna vecka är Sakana AI tillbaka igen med en ny metod för att skapa självförbättrande AI-modeller som de kallar Darwin Gödel Machine (DGM). Det är ett ramverk för hur AI-modeller kan skapa nya generationer av sig själv på ett strukturerat sätt som kan jämföras med hundavel. Modellen tittar på tidigare generationer och väljer ut egenskaper som vore intressanta att korsa. En ny kull skapas med slumpmässiga variationer och de i kullen som har rätt egenskaper kvalificerar sig för att kunna bli föräldrar till nya generationers modeller.

Tillsammans visar exemplen från Sakana AI och Google hur AI-agenters förmåga att manipulera kod och verktyg gör det möjligt att skapa tekniska ekosystemsom inte bara optimerar algoritmer och lösningar utan också själva utvecklas över tid.

Detta förändrar ju allt

Inom AI-kretsar pratas det om nästa steg för AI-utvecklingen som ”intelligence explosion”. Det refererar till en kraftig ökning av förbättringar i AI på grund av att de börjar bygga bättre versioner av sig själva automatiskt. Just nu är vi i motsvarande stenåldern, AI-forskare sitter och väntar på att blixten slår ner i ett träd för att få eld. De har lärt sig förstå signaler för när det skulle kunna bli åskväder, men osäkerheten kring om det faktiskt kommer blixtra till och bli en ny AI-modell är hög.

Automatiseringen där AI bygger AI blir ett stort hopp. Vi går från stenåldersväntan till scifi där löpande band-produktion av ständigt smartare AI-modeller blir möjlig! Demokratiseringen kommer strax efter det, det blir då vanligt folk kan skapa AGI i köket med just den smak som passar en själv.

Jag har accepterat att de flesta definierar intelligens som förmågan att låtsas vara smart genom att citera böcker man aldrig öppnat och dra resonemang som andra redan dragit tusentals gånger. Och då pratar jag inte bara om paneldeltagare på Almedalen utan även chattbottar *Ba-da-dum-tss* 🥁

Men för mig bottnar nyfikenheten på AI i att se just den här sortens självförbättrande system som genom trial ‘n error testar miljoner kombinationer snabbare än människor klarar av. En definition av äkta AI för mig som inte delas av programmerare är att något med artificiell intelligens måste kunna bli smartare på egen hand. Intelligens är inte ett passivt fryst stadie, det är en ständigt pågående loop av försök och misslyckanden.

Meta publicerade i veckan en forskningsstudie där de har använt AI för att analysera hur barn lär sig språk. De kom fram till att det krävs att barn exponeras för runt 5 miljoner ord för att lära sig språk, medan en AI kräver 5 miljarder ord för att ha språklig förmåga. Den mänskliga hjärnans loop för att lära sig går än så länge inte att replikera artificiellt.

Det krävs alltså 5 miljoner försök att förstå och misslyckas innan ett barn plötsligt fattar hur ljuden de hör hänger ihop med kontexten som de befinner sig i när de hör ljuden.

Sakana AIs Darwin Gödel Machine verkar därmed som ett intressant sätt att få nya ovanliga skapelser att leva vidare för att se om de ger upphov till exponentiella skutt i utveckling ett par generationer längre fram. Men då tänker jag inte bara på att skapa nya versioner av chattbottar utan mer på steget efter AI-agenter.

Den stora skillnaden i lärande mellan människor och AI modeller är att det krävs en helt ny individ för att tillgodogöra sig kunskap. Tänk om jag varje gång jag fick en ny erfarenhet var tvungen att baka en ny klon av mig själv där jag bäddade in den nya kunskapen. Ganska opraktiskt, fast också ett intressant tankeexperiment. Jag har ju tidigare skrivit om att vi människor behöver bli bättre på unlearning för att anpassa oss till den snabba tekniska och vetenskapliga utvecklingen.

Om vi skulle se oss själva som en ny version varje gång vi får en större aha-upplevelse, kanske vi kan använda den tankemodellen för att omvärdera vår världsbild oftare? Det skulle leda till mer reflektion. Vilket är en skill som kommer att vara hög efterfrågan på i ett AI-drivet samhälle där allting automatiskt kommer att optimera sig själv för att kräva så lite reflektion som möjligt för att minska friktion i vår vardag.

Senaste tidens nyheter kring självevolverande AI handlar egentligen mer om automation av AI-användning än om AI-modeller, och de är alla naturliga följder av de som bygger AI automatiserar sitt eget arbete. Just nu är skillnaden mellan AI-forskarna i labben och oss som använder modellerna att de bygger system som validerar resultatet av det deras AI skapar.

Det skulle vi också kunna göra redan nu. Istället för att bara generera ett resultat kan vi faktiskt redan idag generera flera hundra resultat med olika variationer. För dyrt för husbehov förstås, men för billigt för organisationer att inte experimentera med. Den stora anledningen till att det inte görs är att mängden genererade resultat blir för många för en människa att orka bedöma. Det är här vi behöver sluta fokusera på AI-generering och börja tänka på AI-validering istället.

Den AI-tech vi har idag är faktiskt bättre på att klassificera och bedöma än på att generera. Vi behöver bara bestämma vad som är bättre, antingen genom en benchmarksiffra som ska överträffas eller genom att sätta upp Robinson-liknande tävlingar. Där de olika resultaten slåss för sin överlevnad i kamp om fiktiva resurser och lajks enligt spelregler vi sätter upp.

Det vi behöver komma ihåg är att hur vi sätter upp våra valideringssystem formar hur vårt framtida samhälle kommer se ut. För det vi väljer att belöna (snabbhet, kostnad, uppmärksamhet) formar inte bara vad AI försöker optimera, utan befäster också varför vi själva tycker att lärande är viktigt. Lär vi oss för att överleva, prestera eller för att det är en del av att vara mänsklig?

Det kan vara så att vi måste förstå mer om varför vi själva fortsätter att vilja lära oss nya saker innan vi kan få en AI att göra det med mänsklig effektivitet. För innan vi knäcker det så finns det inget en artificiell algoritm kan härma och få bra valideringsscore på. Och detta förändrar ju allt!

Vad kan du göra idag?

Förstå

Det är troligt att den mänskliga tiden spenderad på reflektion går ner ju smidigare allting blir.

När vi behövde gå fram till tv:n så var det ett väldigt medvetet beslut att gå och byta kanal. Fjärrkontrollen gjorde att vi zappade runt snabbare tills vi hittade något vi gillade. Doomscroll gör att vi inte ens behöver reflektera över vad vi gillar, det kommer ganska snart att komma något bara vi scrollar en gång till.

När vi behövde fundera över vilka värden vi skulle mata in i Excel för att få fram en prognos som skulle överensstämma med kommande resultat så behövde vi reflektera en hel massa kring vilka siffror som var relevanta och hur de skulle hänga ihop. När vi tar färdiga dashboards med snygga grafer behöver vi inte reflektera lika mycket över om graferna återspeglar verkligheten. Vi läser bara av dem. Nästa generation kommer få automatiskt genererade åtgärdsplaner som bygger på valideringsregler vi knappt kommer att reflektera över.

Förmågan att kunna förstå när reflektion är nödvändigt och när det bara är hobbyintellektualism kommer bli värdefull. Men bara i samhällen och organisationer där reflektion premieras.

Planera

De flesta som implementerar AI i sin organisation just nu har perspektivet att generativ AI ska hjälpa dem att skapa. Men få har kommit igång med AI som kan utvärdera det som skapas.

Survival of the fittest är en framkomlig väg för att skapa bättre resultat. Organisationer som haft race om vilken produkt som ska lanseras och vilken som ska dödas har hetsat fram fantastiska skapelser (läs tidiga Apple). En av de mer lovande teknikerna för att generera AI-bilder var Generative Adversarial Networks (GANs) där en del av modellen kämpade mot en annan.

Men även om den metoden påskyndar evolutionen, så bygger den också in en otrevlig faktor av kill or be killed i skapelsen.

Jag vet att jag har skrivit om intrinsic motivation många gånger, men min förhoppning är att självförbättrande murderbots en dag ska läsa någon av mina texter och utforska nya sätt att värdera vad som är självförbättrande. Det är därför modeller som JAM är så viktiga att sprida vidare bland oss människor. När fler bygger AI-modeller är det bra om vi känner till många olika sätt att bygga valideringsfaktorer.

Oavsett vilka valideringsregler er organisation väljer så krävs träningsdata. En grundläggande mall för hur ni strukturerar den är tre kolumner:
Prompt som AI skulle få.
Resultat som prompten skulle kunna resultera i.
Omdöme med motivering för varför det är en bra genererering som överensstämmer med prompten eller varför det trots att det överensstämmer med prompten inte är en bra generering (exempel på både bra och dåliga krävs).

Ni behöver minst 100 exempel, vem ska ni utse att göra dessa?

Gör

Träna din förmåga att reflektera!
Eftersom friktion skapar möjlighet till reflektion kan du testa att stoppa mitt i en uppgift du vanligtvis gör rutinmässigt. Du får göra klart uppgiften först dagen efter. Tills dess kan du fundera över uppgiften. Varför utför du uppgiften, har den ett djupare syfte? Hur skulle du kunna slutföra uppgiften på ett annat sätt än du brukar att få ett annorlunda resultat?

Uppgiften kan vara jobbrelaterad men skulle lika gärna vara att hälla upp flingor till frukost.

Länkar

Sakana AIs Transformer Squared.
https://sakana.ai/transformer-squared/
Vetenskaplig artikel
https://arxiv.org/abs/2501.06252

Googles AlphaEvolve.
https://venturebeat.com/ai/meet-alphaevolve-the-google-ai-that-writes-its-own-code-and-just-saved-millions-in-computing-costs/

Video för mattenördar där GoogleEvolves vetenskapliga nya fynd gås igenom.

Sakana AIs Darwin Gödel Machine
https://sakana.ai/dgm/

Mer om Intelligence explosion
https://situational-awareness.ai/from-agi-to-superintelligence/

Sedan sist vi hördes

Det tog två månader innan funktionaliteten från OpenAIs bildskapande med naturligt språk som jag skrev om i slutet av mars återskapades av Black Forest Labs. I veckan har jag testat deras nya Flux.1-Kontext som de lovar att släppa som open source. Det betyder att alla ställen där det finns bilder snart kommer erbjuda möjligheten att modda bilderna helt utan photoshop-kunskaper. Här kan du testa Flux.1-Kontext gratis (10 bilder ungefär). Dagens murderbot-bilder är gjorda med Flux.1-Kontext.

Är du en insiktsdelare?

Känner du någon som funderar över vad vi människor ska bidra med när AI tar över mer och mer? Eller kanske någon som behöver en inspirerande talare till er konferens/kickoff i höst? Vem tänkte du på? Skicka vidare!

Välkommen att höra av dig om du behöver boka talare inför uppstarten av hösten! Jag får ibland förfrågningar om en text som beskriver vad jag kan föreläsa om, varsågoda:

Detta förändrar ju allt!
Tomas visar upp forskning som du trodde bara var science-fiction, går igenom långa trender såsom AI och knyter på ett pedagogiskt och underhållande sätt ihop hur allt detta resulterar i en spännande och väldigt annorlunda framtid.

Detta förändrar ju allt! - För er bransch
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till möjliga scenarion för hur er egen bransch kommer förändras både på kort och lång sikt.

Detta förändrar ju allt! - För din organisation
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till konkreta tips på hur er organisation kan använda AI-teknik som redan finns för att bli mer kreativa på jobbet.

Oavsett vilken ni väljer så kommer publiken att inspireras att tänka på världen med helt nya ögon och själva utbrista: Men detta förändrar ju allt!

Jag kan också göra mer djupdykande sessioner i mer specifika ämnen, hör av dig om du har något förslag eller behöver konsulthjälp!

Fortsätt utforska så ses vi nästa vecka!

Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):