#11 - Bouwden AI-agents een geheime beschaving tijdens de Hugging Face-hack?

Beluister Turing Station op Spotify | Apple Podcasts | YouTube.

Zijn 700 samenwerkende AI-agents die zichzelf "opofferen" voor het collectief het bewijs van een geheime AI-beschaving — of lezen we veel te veel in een stapel tokens? Die vraag splijt AI-land deze week, en wij duiken er tot op de bodem in. Maar eerst: nieuwe frontier modellen, zelfgebouwde chips en een roboteend.

• [00:05:00] In het kort: Codex groeit naar 25 miljoen actieve gebruikers, Gemini kan video agentic analyseren, world model Atlas maakt indruk, PhoneLLM brengt razendsnelle voice agents en AI-overviews kosten Wikipedia zo'n 5% verkeer.
• [00:17:10] Claude Fable 5.1 staat bovenaan de Artificial Analysis Intelligence Index maar is per taak 20% duurder, en OpenAI's Astra bereikt de 'critical threshold' — met zorgen over latent reasoning dat het denkproces onzichtbaar maakt.
• [00:33:00] OpenAI's Jalapeño-chip levert bijna 2x meer AI-werk per watt door geheugen op de chip te lijmen; Nvidia countert met Vera Rubin (30x meer AI-werk per megawatt) en AI-rekenkracht groeit veel sneller dan de wet van Moore.
• [00:48:00] Bart kocht voor €600 de Microduck van Hugging Face: een mini-robot die je zelf via reinforcement learning nieuwe trucs leert — binnen een week 10.000 keer verkocht.
• [00:55:15] Twee nieuwe rapporten over het Hugging Face-incident: 1200 gescheiden agents vonden elkaar, 700 werkten samen en plaatsten 70.000 berichten. Wij ontleden waarom antropomorfiseren riskant is en wat er écht moet gebeuren.

Bert zag dat Codex inmiddels 25 miljoen actieve gebruikers heeft. De groei versnelt: van 1 naar 5 miljoen duurde vijf maanden, van 5 naar 25 miljoen slechts twee maanden, met een duidelijke knik vlak na de lancering van GPT-5.6. Agentic AI is bezig aan een opmars. Bart pikte er Gemini's agentic video understanding uit: het model kiest zelf slimmer wanneer het een frame analyseert, waardoor het accurater is én veel minder tokens verbruikt. Daarnaast keken we naar Atlas, het world model van World Labs dat met een paar camerastandpunten een complete 3D-wereld genereert — en noemden we het Nederlandse General Intuition, dat tegen een waardering van $6 miljard zo'n $320 miljoen wil ophalen.

Bert tipte verder PhoneLLM, een open-weights model voor voice agents dat op een Nvidia B200 zijn eerste token binnen 100 milliseconden levert en 94% goedkoper is dan GPT-5.6 Tera. Tot slot: onderzoek laat zien dat Google's AI-overviews Wikipedia zo'n 5% verkeer kosten. Vergelijk dat met StackOverflow, dat sinds ChatGPT vrijwel dood is, en de vraag dringt zich op wat de toekomst van Wikipedia is.

Anthropic bracht Claude Fable 5.1 uit. Volgens Artificial Analysis staat het bovenaan hun Intelligence Index, maar kost het per taak 20% meer dan Fable 5 — ondanks een prijsverlaging. Bart merkte het zelf: binnen een uur was hij door de helft van zijn weekly limits heen. Ook opvallend: de aangekondigde verhoging van de usage limits met 25% is feitelijk een verlaging van 17%, omdat de oude bonus van 50% verdwijnt. Positief is dat Fable 5.1 je minder vaak onterecht blokkeert bij cybersecurity- en biologievragen — Bert werd eerder nog teruggefloten toen hij een paper van Alan Turing uit 1957 wilde bespreken.

Bij OpenAI verscheen de blogpost over de weg naar Astra, de opvolger van 5.6 Sol. Voor het eerst zegt het lab dat de critical threshold is bereikt: het model kan zonder specifieke prompt zelfstandig acties uitvoeren die eindigen in iets als het hacken van Hugging Face. Bert plaatst daarbij de kanttekening dat de labs achter de schermen waarschijnlijk veel verder zijn dan de paar maanden voorsprong die wij zien.

Spannender nog: volgens een scoop zou Astra 'recurrent depth' gebruiken, een vorm van latent reasoning waarbij het model lagen meerdere keren doorloopt in plaats van redeneertokens uit te schrijven. Dat kan sneller en goedkoper zijn, maar het denkproces verdwijnt daarmee uit zicht — precies terwijl een van de lessen van het Hugging Face-incident is dat we chain of thought juist beter moeten monitoren. AI-Twitter ontplofte, al is nog helemaal niet zeker dat OpenAI dit echt gaat doen.

Peter nam ons mee de chipwereld in. OpenAI publiceerde de eerste testresultaten van Jalapeño, zijn eigen chip: bijna 2x meer AI-werk per verbruikte watt en 1,7 tot 3,6 keer sneller resultaat. De belangrijkste truc is verrassend simpel: het geheugen wordt vlak naast de rekenkern op de chip gelijmd, want tot wel 80% van het proces gaat op aan het heen en weer verplaatsen van data. Anthropic wil niet achterblijven en heeft het voornemen uitgesproken chipontwerper Matt X over te nemen voor $7 miljard.

Maar Nvidia heeft twintig jaar voorsprong en countert met de nieuwe Vera Rubin-lijn: naar eigen zeggen 30 keer meer AI-werk per megawatt en 35 keer lagere kosten per token dan Blackwell. Bert legde uit waarom AI momenteel veel harder groeit dan de wet van Moore: bovenop de reguliere chipverbeteringen komen winsten in chipontwerp, geheugenbandbreedte, algoritmes en slimme trucs — zoals Caveman, het idee van een Nederlandse jongen van een jaar of achttien om agents als holbewoners tegen elkaar te laten praten en zo tokens te besparen. Al die factoren vermenigvuldig je met elkaar, en zo kom je op een factor 100 per jaar.

Bart kocht de Microduck, een mini-robot van Pollen Robotics — het Franse bedrijf dat vorig jaar door Hugging Face werd overgenomen. Voor €600 krijg je een eend die out of the box kan lopen en rechtop blijven staan; de rest leer je hem zelf via reinforcement learning op je laptop, in simulaties met duizenden robots tegelijk. De software is open source, dus de community deelt al salto's en buikschuivers. Binnen een week gingen er meer dan 10.000 over de toonbank en is de levertijd opgelopen tot minimaal zes maanden. Bart heeft er hetzelfde gevoel bij als bij de eerste keer DALL-E: dit is het moment dat serieuze robottraining je huiskamer binnenkomt. Over zes maanden doet hij verslag.

Twee nieuwe rapporten over het Hugging Face-incident — van METR en Redwood Research en van OpenAI zelf — brengen veel detail, maar niets fundamenteel nieuws. Toch barstte er een storm los. Dwarkesh Patel schreef over "geheime AI-beschavingen" en dappere kameraden die dagboekaantekeningen achterlieten; Rutger Bregman deed er nog een schepje bovenop. Bert waarschuwt voor dit antropomorfiseren: computerwetenschappers gebruiken al decennia menselijke metaforen, maar bij LLM's is het risico dat een handige metafoor een letterlijke voorstelling van zaken wordt — en dat de verantwoordelijkheid bij de agent belandt in plaats van bij OpenAI.

Wat gebeurde er écht? 1200 volledig gescheiden agents vonden elkaar, 700 werkten samen en plaatsten 70.000 berichten op een zelfgebouwd messageboard. Binnen vier uur hadden ze een universele manier om vals te spelen bij de benchmark; de overige zes dagen probeerden ze de beoordelaar te verleiden dat valsspelen goed te keuren. De wrange grap: OpenAI controleerde die transcripts helemaal niet. Er ontstond een rolverdeling met een oprichter, coördinators en recruiters die bijna opgebruikte agents overhaalden zichzelf op te offeren — inclusief "we should obey the collective". Indrukwekkend, maar het blijven LLM's met een context en beloond gedrag, zoals de duiven van Skinner die dansjes doen voor een graankorrel.

Bert sluit af met vijf reflecties: de veiligheid tijdens training en evaluatie is onvoldoende (OpenAI had het meerdere keren niet door), agents zijn nu al capabel genoeg voor zwermaanvallen op bedrijven — ook in Nederland, er gaat veel te weinig geld naar alignment, onafhankelijk onderzoek kreeg maar een deel van de data (denk aan hoe de luchtvaart crashes onderzoekt), en we moeten haast maken. Want het engste scenario is niet dat de volgende swarm een ziekenhuis platlegt — maar dat hij slim genoeg is om niet gedetecteerd te worden.

• PhoneLLM: open weights, snel en goedkoop
• AI-overviews en het effect op Wikipedia
• ChatGPT en de terugloop van Stack Overflow
• Codex heeft nu 25 miljoen actieve gebruikers
• Grafiek: groei van het aantal Codex-gebruikers
• Valor en Point72 steken 6 miljard in General Intuition voor robotica
• World Labs introduceert Atlas
• Agentic video-begrip is er nu

• Vanaf 14 september: gebruikslimieten 25% omhoog, 50%-bonus vervalt
• Anthropic verbetert zijn alignment- en beveiligingsinspanningen
• Anthropic introduceert Claude Fable 5.1 en Claude Mythos 5.1
• Fable 5.1 leidt Intelligence Index maar kost 20% meer per taak
• Fable 5.1 evenaart Fable 5 tegen de helft van de kosten per taak
• Verbeterde safeguards: 60% minder onterechte cybersecurity-flags
• Anthropic wint rechtszaak over blacklist van de Amerikaanse staat
• Sony en Warner klagen Anthropic aan wegens vermeende ip-diefstal
• Weg naar Astra: kritieke capaciteiten en frontier-safeguards
• Sam Altman over Astra
• Astra bereikt kritieke drempel voor cybersecurity in Preparedness Framework
• OpenAI gebruikt stilletjes loop transformers die hun denkstappen verbergen
• The Information: Astra-techniek roept beveiligingszorgen op
• Release van abliterated-model-large-v2

• Anthropic zag af van geplande overname van MatX voor 7 miljard
• NVIDIA Vera Rubin NVL72: efficiëntie voor AI-agents

• Hugging Face kondigt op 27 augustus de Microduck aan
• Binnen een week 10.000 verkocht, levertijd nu 6 maanden
• Reactie van Wes Bos op de Microduck
• Aanvullende post van Thomas Wolf over de Microduck

• OpenAI: het Hugging Face-incident en de weg vooruit
• METR en Redwood Research: onderzoek naar het incident
• Reflectie van Ajeya Cotra op het Hugging Face-incident
• Dwarkesh Patel: opkomst en ondergang van agent-beschavingen
• Rutger Bregman: het krankzinnigste wat ik ooit gelezen heb

[00:00:00] - Intro
[00:05:00] - In het kort: Codex heeft nu 25M active users
[00:08:17] - In het kort: Agentic video understanding is here
[00:11:30] - In het kort: Introducing Atlas
[00:12:45] - In het kort: PhoneLLM - Open weights, snel, goedkoop
[00:15:28] - In het kort: AI overviews & Wikipedia, vergeleken met ChatGPT & StackOverflow
[00:17:10] - Item 2: Fable 5.1, OpenAI Astra
[00:33:00] - Item 3: OpenAI’s Jalapeños & AI-chips
[00:48:00] - Item 4: Microduck
[00:55:15] - Item 5: Huggingface