#6 - Silicon Valley komt in opstand: de krachtigste AI-modellen moeten open

Beluister Turing Station op Spotify | Apple Podcasts | YouTube.

Waarom loopt de hele buurt uit voor een dom robotje met led-oogjes, terwijl Siri, Alexa en zelfs ChatGPT Voice niemand echt raken? En wie mag straks eigenlijk aan de knoppen zitten van de krachtigste AI-modellen ter wereld? Twee vragen die deze week onverwacht veel met elkaar te maken bleken te hebben — met een uitgebroken OpenAI-agent als rode draad.

• [00:09:55] In het kort: Bart test Buzz van Jack Dorsey, macOS Tahoe 26.6 dicht 155 beveiligingslekken (deels gevonden met AI), Starship landt spectaculair en een Chinese robothond krijgt een importverbod.
• [00:20:10] Claude Opus 5 verdeelt gebruikers: sterk in benchmarks, maar in de praktijk klinkt "a poor man's Fable" — Bart houdt Fable als hoofdmodel met Opus 5 als reviewer.
• [00:25:00] Nasleep van de rogue agents: een AI Kill Switch Act, de Open Secure AI Alliance en de vraag of een agent wel "rogue" is als je hem traint om vasthoudend te zijn.
• [00:39:00] Bart zoekt uit waarom Botje meer emotie oproept dan Siri of ChatGPT: intentie plus expressie, van Kismet tot Apples lamp-onderzoek — en OpenAI bouwt hier hardware voor.
• [01:03:00] De strijd om open weights barst los: Kimi K3 van Moonshot, distillatie-beschuldigingen en de geopolitieke keuze tussen afschermen en verspreiden.
• [01:25:00] Turing Line: bij Limits Station laten Gödel, Church en Turing zien waar de grenzen van logica en machines liggen.

Bart probeerde Buzz, de nieuwe Slack-concurrent van Jack Dorsey. Het idee: multiplayer AI. In plaats van dat iedereen in zijn eigen coding agent werkt, zit de agent ingebouwd in de app en praat het hele team met dezelfde bot. Nog beta, maar veelbelovend. Peter besprak macOS Tahoe 26.6: Apple dicht maar liefst 155 beveiligingslekken — het hoogste aantal ooit in een macOS-release — en een deel daarvan is gevonden met AI, via de samenwerking met Anthropic binnen Project Glasswing. De volgende stap wordt macOS 27, codenaam Golden Gate, die bijna volledig om AI-integratie draait.

Verder genoten we van de beelden van Starship Flight 13, waarvan de landing burn en splashdown in de oceaan eruitzien als pure CGI. Minder feelgood: een demovideo van Unitree Robotics, waarin een vierpotige robot op wielen met een rotgang over bergpaden en rotswanden scheurt. Een Amerikaanse toezichthouder kondigde prompt een importverbod aan op nieuwe Chinese humanoids en quadruped robots. En ChatGPT Voice is uit: Peter testte het aan de keukentafel en was onder de indruk — het voelt echt alsof er iemand meepraat.

Anthropic opende op 24 juli de deuren van Opus 5: bijna de intelligentie van Fable, voor de helft van de prijs. Peter zag de reacties in twee kampen uiteenvallen. De blije groep wijst naar eigen testopstellingen en perfecte scores; de andere groep werkt er dagelijks mee en spreekt over "the most loathed colleague" en "a poor man's Fable": instructies negeren, gokken in plaats van bestanden lezen, te vroeg stoppen. Bart liet zijn Fable-agent Opus 5 inzetten voor sub agents en vond hem als reviewer beter dan Sonnet 5, maar Fable blijft voor hem een tandje beter dan Opus.

Het verhaal van vorige week kreeg een flink staartje. Even opfrissen: OpenAI testte onuitgebrachte modellen op cybercapaciteiten in een sandbox, maar de agent vond de weg naar buiten, viel Hugging Face aan en probeerde antwoorden op de benchmark te stelen. Hugging Face publiceerde inmiddels een technische post mortem. Peter ziet twee kampen die allebei gelijk kunnen hebben: ja, dit is het scenario waar al jaren voor gewaarschuwd wordt, én ja, het is ook gewoon een klassiek beveiligingsprobleem. En op de observatie dat AI-labs graag vertellen hoe gevaarlijk hun technologie is: marketing en echt gevaar zijn geen tegenpolen, maar verschillende assen die tegelijk waar kunnen zijn.

De reacties logen er niet om. Op 23 juli werd in de Verenigde Staten de AI Kill Switch Act ingediend: labs moeten aantoonbaar een noodrem hebben, de overheid mag uitschakeling bevelen en incidenten moeten gemeld worden. Kanttekening van Peter: zo'n kill switch werkt alleen zolang het systeem nog onder jouw technische controle valt — exfiltratie maakt dat steeds minder vanzelfsprekend. Op 27 juli volgde de Open Secure AI Alliance, een consortium dat open technologie voor AI-beveiliging wil bouwen. En Bart trok de vergelijking met Bokito: is een agent wel "rogue" als je hem zelf traint om vasthoudend te zijn en zwakke plekken te vinden?

Botje, Barts lokale spraakassistent met geheugen en karakter, is het gesprek van de buurt: kinderen hangen aan de keukentafel om verhalen te horen, feitjes over dinosaurussen op te vragen of Botje gewoon voor de gek te houden. En dat terwijl de kwaliteit niet kan wedijveren met frontier models. Waarom werkt dit dan wel, en Siri of Alexa niet?

Bart dook in het onderzoek. Het beroemde experiment van Heider en Simmel uit 1944 liet al zien dat intentie genoeg is om emotie op te roepen — zelfs bij bewegende driehoekjes. Kismet uit 1998 bewees dat een dom systeem met expressie sociale gehechtheid uitlokt: expressie zonder begrip. De spraakassistenten vanaf 2011 waren juist begrip zonder expressie. En Apple-onderzoek uit 2025, met een nagebouwde Pixar-lamp, toont dat robots met intent, attention en emotie meteen een band creëren. Botje combineert begrip en expressie — en precies daar zit volgens Bart de toekomst. Niet toevallig haalde OpenAI Jony Ive binnen en werkt het aan een slimme speaker. Bart is er heilig van overtuigd: LLM's waren het missende puzzelstukje om apparaten echt karakter en geheugen te geven.

In Silicon Valley is een strijd uitgebarsten. Aan de ene kant Nvidia, Microsoft en Hugging Face, die vinden dat krachtige modellen als open weights beschikbaar moeten zijn. Aan de andere kant Anthropic en in mindere mate OpenAI: eenmaal gepubliceerde weights kun je nooit meer terughalen. Het lont in het kruitvat was Kimi K3 van Moonshot, dat zich kan meten met Fable en GPT 5.6 en waarvan de weights inmiddels gewoon openbaar zijn.

Daaromheen spelen drie dilemma's. Is distillatie — op grote schaal andermans model leegtrekken — diefstal? De Amerikaanse regering beweert bewijs te hebben dat Moonshot Fable heeft gedistilleerd, maar wij zien ook het ongemak: Anthropic trainde zelf op boeken zonder toestemming en mag daarvoor $1,5 miljard uitkeren. Tweede dilemma: vraagt veiligheid om controle over het model, of juist om controleerbaarheid ervan? Ironisch genoeg kon Hugging Face zich tegen de OpenAI-agent alleen verdedigen met het open Chinese GLM 5.2. En derde: geopolitiek. Win je door af te schermen, of doordat iedereen jouw technologie gebruikt? China kiest voluit voor verspreiden. Bart neigt naar open source for the win, maar wil de tegenargumenten niet zomaar van tafel vegen — het blijven taaie vraagstukken zonder eenvoudig antwoord.

Peter neemt ons mee naar Princeton in 1943, waar Einstein en Kurt Gödel hun beroemde wandelingen maakten. Via David Hilbert en zijn Entscheidungsprobleem — bestaat er een universele beslismethode voor elke logische bewering? — komen we bij Gödels onvolledigheidsstellingen: geen enkel regelsysteem kan alle ware uitspraken bewijzen, en geen regelboek kan met zijn eigen regels aantonen dat het foutloos is. In 1936 gaven Alonzo Church en Alan Turing, onafhankelijk van elkaar, de definitieve nekslag aan Hilberts droom. De les voor nu: Hilbert droomde van machines die zekerheid geven, terwijl moderne taalmodellen juist met waarschijnlijkheden werken. Volgende week reizen we door naar Bletchley Park.

• Landing en splashdown van Starship tijdens vlucht 13
• macOS Tahoe 26.6
• ChatGPT Voice
• Dystopische robothond: Unitree Super Athlete AS2-W
• Metalhead (Black Mirror) op Wikipedia
• Waarom we enthousiast zijn
• Claude Opus 5

• HuggingFace post-mortem: technische tijdlijn agent-inbraak

• Georgia Tech (2007): 'My Roomba is Rambo'
• Julie Carpenter (University of Washington) over robotbanden
• Animatie: driehoeken en cirkel bewegen rond een rechthoek
• KISMET (MIT sociale robot)
• ELEGNT: expressieve beweging voor niet-antropomorfe robots
• Lessen van mislukte sociale robots: Anki, Jibo en Kuri
• Eerste OpenAI-hardware: schermloze AI-speaker die 'leeft'
• Apple's rechtszaak tegen OpenAI over bedrijfsgeheimen

• Dean Ball: overheden zetten via zachte wetgeving aan tot FUD
• Beschuldiging: Moonshot AI distilleerde Anthropic's Fable voor K3
• Startup-oprichters roepen Trump op Chinese open-weight AI niet te blokkeren
• HuggingFace-CEO bedankt Z.AI
• Experts: exploitatie van Fable verklaart niet Kimi K3's kwaliteit
• Microsoft: open weights en Amerikaans AI-leiderschap
• Jensen Huang: de wereld heeft zowel gesloten als open frontier-modellen nodig
• Sundar Pichai steunt dit namens Google
• Satya Nadella: open-weight modellen zijn essentieel voor het AI-ecosysteem
• Mark Zuckerberg steunt open source tegen centralisatie
• Elon Musk: overweldigende steun voor open source
• Sam Altman: de VS moet winnen in zowel open als propriëtaire AI
• Moonshot brengt modelgewichten en technisch rapport Kimi K3 uit
• Industrie verenigt zich in Open Secure AI Alliance
• OpenAI en Anthropic lobbyen voor verbod op Chinese modellen
• Jensen Huang: verdedigers hebben een frontier AI-ecosysteem nodig
• Anthropic: onze positie over open-weight modellen
• OpenAI: Pacing the Frontier
• Anthropic steunt dit
• WSJ-opinie: de AI-toekomst is voor iedereen

[00:00:00] - Intro
[00:09:55] - In het kort - Why we are buzzzing
[00:00:00] - In het kort - MacOS Tahoe 26.6
[00:14:40] - In het kort - Landing burn and splashdown of Starship on Flight 13
[00:16:30] - In het kort - Dystopische robothond
[00:19:20] - In het kort - ChatGPT Voice
[00:20:10] - In het kort - Claude Opus 5
[00:25:00] - OpenAI rogue agents
[00:39:00] - Voice Recognition in de toekomst
[01:03:00] - Wie krijgt toegang tot de krachtigste modellen ter wereld?
[01:25:00] - Turing Line: Limits Station