Firmamodellen #11: Anthropic kjørte 1000 agenter. Hva lærer firmaet mitt av det?
Jeg leste nettopp en artikkel fra Anthropic om et forsøk med 1000 agenter på en tidlig versjon av Fable 5.2. Teamet gjenskapte et formelt bevis for Fermats siste sats i Lean, et språk der maskinen sjekker hvert steg i beviset. Det tok 28,7 timer. Oppsettet ligner firmaet mitt i ~/ai-home: én leder og mange hjelpere. Bare mye større.
Slik holdt de det trygt:
- Hver agent hadde sin egen lille virtuelle maskin uten internett. Eneste vei ut gikk via en gateway som merket hver forespørsel med hvem som spurte.
- Agentene hadde ingen meldingsverktøy. De snakket bare via en felles database og git, og kunne bare pushe til sin egen gren.
- En egen modell sjekket hver kommando og filendring før den kjørte. Ble noe stoppet, sto hele teamet til et menneske hadde sett på det. Var det lederen, var kjøringen over. Var det en hjelper, ble bare den fjernet.
- Etterpå gikk de gjennom loggene utenfor sandkassene.
Over en million verktøykall, og ingen av dem var ille nok til å bli stoppet.
Slik er det hos meg:
- Ingen egen maskin per agent. Alle kjører på Macen min, i samme Claude Code-økt som lederen.
- Verktøylista er sandkassa. 15 av 21 spesialister kan bare søke og lese. Seks kan skrive filer, og fire av dem kan kjøre kommandoer.
- Ingen blir ansatt uten at jeg sier ja, og en nyansatt kan ikke ansette selv.
For et firma som stort sett leser nettsider, holder det. Kjører jeg en dag mange agenter samtidig på egne oppgaver, er egen boks per agent og en vakt foran kommandoene det første jeg legger til.
En ting til fra artikkelen: tidlig i kjøringen mente hjelperne at 47 av 60 delmål var umulige innenfor budsjettet. Etter 30 timer var 54 av dem bevist. Agenter gir opp for tidlig og bommer på hvor vanskelig noe er. Det er greit å huske neste gang en spesialist sier at noe ikke finnes.
Kjører du flere agenter samtidig? Hvordan stopper du dem? Del gjerne i kommentarfeltet.