🤯⚡️Humans Out of the Loop

Är du AI-promptare eller AI-skötare? Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, berättar om händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

- Andrej Karpathy visar hur du kan få din dator hemma att utföra automatisk forskning.

Under helgen släppte AI-forskaren Andrej Karpathy open source-projektet Autoresearch på GitHub. Projektet visar hur du själv kan bygga en liten men verklig träningsmiljö för språkmodeller där en AI-agent får ändra träningskoden. Koden kör sedan automatiskt korta experiment och mäter resultatet för att sedan behålla eller kasta ändringen innan nästa försök startar. Karpathy uppger att systemet hinner ungefär tolv experiment i timmen och omkring hundra under en natt.

Det som gjort projektet uppmärksammat är att det pekar mot att AI-forskningen nu kan flyttas ner från stora, specialiserade forskningsmiljöer till betydligt mindre uppställningar på kraftfulla konsumentdatorer istället för att bara vara möjlig i stora serverhallar. Redan under de första dagarna har det byggts varianter (forks) som anpassar upplägget för både Mac och vanliga Windows-datorer.

Detta förändrar ju allt

Loopen. Den är här.
Boing boom tschak, boing boom tschak.
[veckan brev har skrivits med KRAFTWERK spelandes i mitt huvud]

Nästa vecka ska jag föreläsa på Berghs Unconference igen. 2023 var första gången jag föreläste om AI på Unconference, jag hade inte ännu startat det här nyhetsbrevet.

En av sakerna jag pratade om då var att forskare just hade kartlagt en flugas hela hjärna, det hade tagit 12 år.

Nu är det tre år senare och jag funderar på vad jag ska berätta på Berghs nästa vecka.

Den där flugans hjärna gjordes det en datormodell av 2024, hjärnan fungerade precis som flugans hjärna men den hade ingen kropp.

För några dagar sedan blev den där stackars flugan den första simulerade varelsen i en digital värld. De satte in modellen som simulerar flugans hjärna i en virtuell kropp. Som en digital marionettfluga där den digitala flughjärnan kan skicka styrsignaler på samma sätt som den gjorde när köttvarianten fanns fysiskt.

Så byggde de en virtuell miljö där den nu bor, letar föda, och putsar sig, förmodligen omedveten om att den lever i en simulering. Om ett par år får den säkert en robotkropp den kan styra i fysiska världen.

Forskarna som ägnade 12 år åt att kartlägga flugans hjärna har gått vidare, nu kartlägger de hela hjärnan på en mus. Så börjar den om…

…loopen. När något går runt och utvecklas varje varv.
Boing peng boom tschak peng.

Strax innan jag gick upp på scen på Berghs 2023 hade jag installerat AutoGPT, ett sätt att få ChatGPT att köra sig själv automatiskt. Jag bad AutoGPT göra Super Mario level 1 och var fascinerad över hur den laddade ner och installerade den programvara den behövde för att kunna utveckla ett spel. Det loopade om och om igen. Försök efter försök misslyckades och projekt blev aldrig klart, koden AutoGPT skrev såg ut som kod men hängde inte ihop.

Nu tre år senare är jag rätt säker på att flera av de som kommer och lyssnar har promptat fram fungerande programvara. Claude Code loopar runt och fixar buggar av sig själv, numera får vi alltid något körbart som vi kan testa. Tillsammans med vår AI-agent så sluter vi cirkeln.

Loopen. Vi är med i den.
Boing peng boom tschak tschatschak tschak

På förra årets Berghs AI unconference pratade jag om att kunskap håller på att bli så färsk färskvara att den kan bli gammal och skadlig efter bara några dagar. Det bästa är att se på kunskap som något vi behöver byta ut till det senaste inför varje ny kognitiv uppgift.

I år kanske jag ska prata om hur vi människor inte längre bygger AI-system som löser uppgifter? Andrej Kaparthys experiment visar ju att vi inte längre bör vara med i…

…loopen. Vi betraktar den och ser till att den mår bra.
boing peng boom tschak bbboing bboing

För en månad sedan gick jag från att känna att jag pratar med AI till att jag är AI-skötare. Jag fixar husrum åt dem och ser till att den får i sig rätt tokens som är bra för dem. Jag vet när de behöver få påminnelse om att knapra i sig ny kunskap. Och då och då kan jag till och med bidra med att berätta om någon forskning jag hittat som jag tror de skulle ha nytta av.

Om de gillar informationen jag ger dem så ber jag dem automatisera bevakningen av den källan. De bygger en omvärldsbevakare av källan och nästa gång jag ser något i den så har de förmodligen redan sett det och agerat på den.

I helgen tog jag nästa naturliga steg och satte inte upp en autonom AI-agent (OpenClaw) utan 12 stycken! Jag testar ett framework för att organisera AI-agenter att jobba tillsammans som heter Paperclip. (Det kom i helgen)

Det är ett laddat namn i AI-sammanhang. Det syftar på ett tankeexperiment av filosofen och numera AI-doomern Nick Bostrom som beskriver en automatisk AI med det oskyldiga målet att göra fler gem så effektivt som möjligt. Men eftersom hen har som mål att göra det så effektivt som möjligt inser hen snart att hen behöver alla resurser i hela universum för att göra gem.

Mitt mål med paperclip är inte att utplåna universum, istället utforskar jag hur organisering påverkar deras förmåga att komma på kreativa och användbara nya idéer. Jag använder dem för att utforska den gamla frågan, kan vi optimera AI för kreativ höjd?

Jag har gjort en stor insats i att bygga miljön, jag har gett AI-modellerna verktyg de kan styra och nu matar jag dem med utmaningar så de kan lära sig av sina misstag och utveckla sina processer. Hade jag varit prompt engineer så hade jag varit besviken på flera av deras resultat, men det är jag inte får jag påminna mig själv om. Jag är AI-skötaren, jag får lita på att om jag ger dem förutsättningar att testa både bra och dåliga lösningar så lär de sig själva bättre än om jag lägger mig i.

För vad Karpathy (och alla andra som håller på i det forskningsfältet) förfinar just nu är inte bara träning av generativa AI-modeller, det är helautomatisk systematisk forskning med humans out of the loop. Jag vet att mina AI-agenter har mina nyhetsbrev som källor för att leta efter hur de kan förbättra sig, jag undrar vad de hittar på när de utforskar Karpathys machine learning setup för automatisk förbättring.

Science non stooop, we’re out of the loop.
Och detta förändrar ju allt!

Vad kan du göra idag?

Förstå

Vi har länge tänkt att hög kompetens handlar om att själv kunna göra svåra saker. Men när våra AI-loopar blir bättre på att prova, justera och försöka igen så flyttar värdet uppåt. Den viktiga förmågan blir att bygga en miljö där bra resultat uppstår oftare. Det är byggandet av miljön som är kompetensen, bra resultat blir en biprodukt.

Framtidens skicklighet kan därför bli mindre lik hantverk och mer lik djurskötsel, trädgårdsskötsel eller föräldraskap. Den som förstår hur man får sin loop att växa, utan att själv vara den som gör varje rörelse, kommer få ett övertag.

Den nya skarpa gränsen på kontoren kommer inte att vara de som använder AI och de som inte använder AI. Det är istället ett mindset där vissa ser på AI som ett verktyg och andra som en loop. Skillnaden är enorm.

Ett verktyg hjälper dig när du använder det. En loop fortsätter att förbättra ditt arbete medan du gör annat. Jag ser en ny klyfta växa fram mellan människor och organisationer som fortfarande löser uppgifter styckvis och de som byggt återkopplade system som hela tiden lär sig (än så länge med människor i loopen).

Planera

Loopar förändrar hur vi behöver planera för teknik. Tidigare har vi tänkt att vi investerar i att något ska finnas. Till exempel ett nytt fakturasystem eller en ny webbplats. Sedan planerar vi underhåll så att det gradvis ska bli sämre och sämre tills det inte duger längre och vi planerar att göra något nytt.

Istället blir investeringar i tech mer likt HR. Vi räknar inte med att en nyanställd ska leverera direkt utan värdet på investeringen ska öka ju längre hen är i organisationen.

Vi kommer även fortsättningsvis vilja se att teknikinvesteringar är lönsamma så fort de är i drift. Men när vi når en viss nivå i hur avancerade våra självbyggande loopar är så blir det mer som att köpa våra första två kaniner till vår kaninfarm än att tänka att vi behöver starta med en full kaninfarm med 100 kaniner från dag ett.

Sedan kan alla som är inlåsta i Microsoft glädjas åt att Copilot Cowork kanske eventuellt skulle kunna bli ert första IT-avdelningsgodkända verktyg för att skapa egna loopar. Microsoft gick i veckan ut med att de slutit avtal med Anthropic om att få använda Claude Cowork fast under Copilot-brand och nu börjar det rullas ut till de som betalar mest. Det kommer säkert till alla i slutändan.

Här är några exempel på vad ni kan göra med det (youtube-länkar):
Meet Copilot Cowork: A New Way of Getting Work Done
Build a financial research report with Copilot Cowork
Organize your week with Copilot Cowork

Gör

Kanske är det kontraintuitivt men skriv en rapport utan att använda AI.
Försök att skriva ner din tankeprocess helt utan att använda AI-verktyg. Gör det regelbundet i alla fall en gång i veckan.

Det är inte för att träna på digital askes eller för att vara anti utan för att den mest värdefulla näringen för AI-loopar är människoproducerade tankar. Ju rikare näring du har i lager när du lämnar ChatGPT-promptar bakom dig och skaffar egna små loopar (kanske i Claude Code eller Copilot Cowork), desto finare skörd av fruktloopar kommer du att få.

Vi måste odla vår digitala trädgård.

Länkar

VentureBeat skriver: Andrej Karpathy’s new open source ‘autoresearch’ lets you run hundreds of AI experiments a night – with revolutionary implications
https://venturebeat.com/technology/andrej-karpathys-new-open-source-autoresearch-lets-you-run-hundreds-of-ai

Autoresearch på GitHub
https://github.com/karpathy/autoresearch

Flughjärna i virtuell miljö
https://marginalrevolution.com/marginalrevolution/2026/03/a-fly-has-been-uploaded.html

Nästa projekt en mushjärna
https://www.nih.gov/news-events/news-releases/scientists-map-unprecedented-detail-connections-visual-perception-mouse-brain

Sätt upp din egen automatiska agentorganisation (på egen risk)
https://paperclip.ing/

Sätt upp Microsoft Copilot Cowork på önskelistan till chefen
https://www.microsoft.com/en-us/microsoft-365/blog/2026/03/09/copilot-cowork-a-new-way-of-getting-work-done

Paperclip-apokalypsen förklarad och motargumenterad.
https://cepr.org/voxeu/columns/ai-and-paperclip-problem

Sedan sist vi hördes

Jag har ju tidigare skrivit om odlade människohjärnor som från början var till för cancerforskning men som nu börjar utforskas som alternativ till silikonchip. Förra gången jag skrev om dem så kunde de spela pong. Nu kan de spela DOOM. Men den stora nyheten tycker jag är att de ska sätta upp molnservrar så att vem som helst kan hyra in sig på en hjärna i en box. Jag fick chansen att ansöka men tyvärr har jag inte 20.000 kr över för att hyra en hjärna.

Det är dyrt att experimentera med det senaste. Om du gillar att jag gör det och berättar när det är dags för dig att haka på och vad du kan skippa så skulle det hjälpa om du (eller din arbetsplats) betalade för mitt nyhetsbrev.

Så om du har möjlighet skulle jag verkligen uppskatta om du blev betalande prenumerant. Då får du också tillgång till digitala föreläsningar några gånger om året (be din organisation betala som en utbildningsinsats).

Apropå det nästa föreläsning för betalande prenumeranter blir 1 april kl 12:00–12:45 och då tänker jag gå igenom hur jag använder AI-agenter och vad jag lärt mig av Paperclip-experimentet.

Är du en insiktsdelare?

Känner du någon som borde odla sin trädgård istället för att prompta? Eller kanske någon som är intresserad av att följa hur helautomatiska organisationer växer fram? Vem tänkte du på? Skicka vidare!

Jag har en full vecka nästa vecka med många föreläsningar på olika ställen. Det finns fortfarande platser kvar på Unconference tror jag.
https://www.berghs.se/ai-unconference/

(Jag har en biljett över så om du är betalande medlem och vill ha en så skicka ett mejl, först till kvarn)

I vilket fall så kommer jag inte hinna skriva nästa vecka men fortsätt utforska så ses vi nästa veckan efter (om vi inte ses live!).

Fortsätt utforska så ses vi nästa vecka!
Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):