Silicon Valley komt in opstand: de krachtigste AI-modellen moeten open

Bart Mol: Dinsdagnacht was het gisteren, toen ik nog, ik zat nog te wachten totdat mijn agents klaar waren. Dat is natuurlijk net een, een slotmachine. Hoe noem je dat? Zo'n gokkast? Nog één ronde, nog één ronde. Hopelijk is wat er nu uitkomt wel-

Peter Slagter: Wat er nu uitkomt, is briljant.

Bart Mol: Precies, dat gaat wel die één op de tien keer zijn dat het echt in één keer helemaal one shot is, deze feature die ik wil. En terwijl ik dat aan het doen was, zag ik de ene na de andere tech CEO weer open brieven schrijven over open source AI of juist closed source AI.

Peter Slagter: Weer een nieuwe coalitie opgericht en dat gaat me toch ook niet geloven.

Bart Mol: Maar het staat er allemaal in, dus daar gaan we het vandaag over hebben. Komen we zo op terug. Allereerst eventjes natuurlijk willen we jullie hartelijk bedanken voor alle leuke reacties ook weer die we vorige week op de show hebben gehad. Ik zie bijvoorbeeld Ger, daar wil ik eens even mee beginnen, die zei: er was sprake van een Discord-channel, maar wat is de URL? Waar moet ik heen? Waar kan ik die Discord vinden? Nou, die Discord, dat is onze community. Die hebben wij opgezet. Dat is nog heel simpel. Dat is gewoon een Discord-server met één channel erin. En naarmate daar meer mensen bij komen, naarmate daar meer gepraat wordt, meer gedeeld wordt, gaan we daar eens kijken hoe we dat uit kunnen breiden. Hoe kan je daar nou komen? Nou, dat gaat via turingstation.nl/community. Dan kom je daarbij. Het is sowieso de moeite waard om even naar turingstation.nl te gaan. Daar kan je je namelijk ook inschrijven op de nieuwsbrief. De nieuwsbrief is op dit moment tweeledig eigenlijk. Elke week krijg je, nadat we een aflevering hebben opgenomen, krijg je de volledige samenvatting, alle shownotes, alle linkjes, wat hebben we besproken.

Bart Mol: Het is best wel best wel leuk, al zeg ik het zelf. Dan weet je alvast een beetje waar de aflevering over gaat. Of als je iets gehoord hebt wat je terug wil zoeken. Alle linkjes staan daar gewoon netjes in, en daar sturen we ook onze gidsen, onze guides. Twee weken terug hebben we een guide gestuurd, vrij uitgebreid over hoe je Hermes kan gebruiken om met Obsidian een second brain te maken. Hoe maak je nou de ultieme agenda, de ultieme to-do app, het ultieme geheugen, in het leven van een kenniswerker in de tijd van AI? Nou, dat kan met Hermes en met Obsidian, dat hebben we helemaal uitgeschreven en daar komt, Peet, binnenkort gewoon wat extra's aan. Ik ga denk ik, hopelijk in de komende weken een guide schrijven hoe je Hermes nou dan het beste kan installeren zelf. Want dat hebben we in de eerste guide een klein beetje geoutsourced.

Peter Slagter: Er komen allemaal fantastische dingen aan, joh. We zijn ook bezig met de huisstijl van Turing Station. Wat je nu overal her en der ziet, het zijn verschillende dingen. Gewoon onze eigen fabricaten. Goed genoeg om mee te starten, maar dat gaan we ook professionaliseren. Supermooi wordt dat.

Bart Mol: Ja.

Peter Slagter: Ik ben zelf aan het broeden op een serietje over, nou, hoe programmeer je nou eigenlijk met behulp van coding agents? Welke smaakjes heb je nou? Van Viber tot, ja, iets moet geschikt zijn voor een enterprise omgeving en alles ertussenin. En er zitten heel veel vragen omheen waar best wel veel mensen mee rondlopen. Dat bijvoorbeeld. Dus ja, leuk, leuke ontwikkelingen. En jij beantwoordt eigenlijk gelijk een andere vraag, want ik zag iets van Jamie langskomen.

Bart Mol: Ja.

Peter Slagter: Waar is de gids van Moneybird en Claude en Codex dan? Ja, ik weet niet precies wanneer we de indruk hebben gegeven dat we daar gidsen over hadden, maar die hebben we niet, dus die staan nergens. We hebben het wel over Moneybird gehad. Was het vorige week?

Bart Mol: Goed idee.

Peter Slagter: Of de week ervoor?

Bart Mol: Ja, vorige week.

Peter Slagter: Vorige week en het ging over door je eigen administratie heen bladeren met een agent en alle slimme dingen die er dan over je administratie gezegd kunnen worden. Superinteressant! Misschien dat we daar inderdaad ook wel gewoon iets mee doen.

Bart Mol: Leuk. Leuk idee.

Peter Slagter: We hebben niks van Moneybird gehoord, hè, over sponsoring of zo, of dat soort.

Bart Mol: Nee, maar ze hebben het wel gezien.

Peter Slagter: Ja, ze hebben het wel gezien, maar het blijft allemaal spannend stil, vind ik, hoor.

Bart Mol: Ja, precies. Nou goed, laten we ze nog even de tijd geven.

Peter Slagter: Het is natuurlijk een board meeting verwijderd van die sponsordeal. Dat snap ik wel.

Bart Mol: Ja, precies, dat denk ik ook. Mark die zegt: is het datatype boolean true or false toevallig vernoemd naar deze George uit de Turing Line van vorige week? Ja, volgens mij wel.

Peter Slagter: Zeker. Ja, ja, zeker, zeker. Ja.

Bart Mol: Stefan die zegt: Bert, je lijkt wel een hoogleraar. Ja, dat zeggen we al jaren.

Peter Slagter: Ja, daar zat een heel compliment nog achter. Ik heb hem echt gecomplimenteerd. Hij was ontzettend te spreken over de manier waarop Bert soms complexe concepten uitlegt. En hij vond, ja, je lijkt wel een hogeschooldocent of een hoogleraar in positieve zin. Want je hebt soms ook hele stoffige hoogleraren. Dan was je liever niet naar het college gegaan. Maar deze colleges worden heel erg gewaardeerd.

Bart Mol: Ja. En Jan nog volgens mij, hè?

Peter Slagter: Ja, die stelde een best wel filosofische vraag: wat is begrijpen nou eigenlijk? Naar aanleiding van de stationnetjes waar we met z'n allen langs reizen elke week. Daar gaat het natuurlijk ook over, van: ja, heeft een AI-model nou echt door wat het doet? Begrijpt het ook echt wat ie zegt? Of is het puur een kwestie van volgorde en kans en kansberekening? En, ja, het antwoord daarop, dat leent zich niet echt voor de sectie met reacties. Er staat namelijk boven dat we er ongeveer 5 minuten voor hebben, dus daar kom ik wellicht in een andere vorm op terug. Misschien dat ik daar ook wel gewoon iets van een kennisbankachtig artikeltje aan wijd op Turingstation.nl. Dus reden genoeg om daar even in te schrijven trouwens.

Bart Mol: Zeker. Dan hadden we de vraag natuurlijk elke week: wat heb jij dan gebouwd? Nou, wat ik leuk vond is dat Ad Jan, niet de oprichter van de Amsterdamse fintech Unicorn, maar die zei: joh, begin gewoon. Dat roepen jullie elke week. Dat heeft gewerkt. Ik voel echt de vibe. Ik ben lekker bezig. Ja, daar blijf ik ook bij. En dat is denk ik iets wat we de komende jaren in ieder geval van mij nog veel gaan horen. Omdat het ook het mantra is wat ik tegen mezelf moet blijven herhalen, hè. We hadden deze week bijvoorbeeld Buzz. Dat is een nieuwe Slack-concurrent van Jack Dorsey, hè. Die heeft Twitter ooit verzonnen.

Peter Slagter: Slack is een soort WhatsApp voor bedrijven zou je kunnen zeggen.

Bart Mol: Ja, precies. Ja, ik denk dat de meeste mensen die op een kantoor werken wel Slack wel kennen. En daar dacht ik ook van: ja, hoe werkt het nou en gaat het wel werken? En is deze ontwerpkeuze wel handig? Toen dacht ik: nee, nee, nee, nee, als ik dit merk bij mezelf, dit moet ik niet doen. Download nou gewoon die app en ga het nou eens een uurtje proberen en dan wordt dat duidelijker. Dus dat heb ik ook gedaan. Komen we zo nog wel even kort op terug. MN.

Peter Slagter: Ja, MN, die bouwde een baby-app.

Bart Mol: Ja, dat sprak mij aan natuurlijk.

Peter Slagter: Ja, eigenlijk een soort manier om verslagen van de dag in bij te houden. Als je net een baby hebt gekregen is dat hartstikke belangrijk.

Bart Mol: Ja, en nog meer dingen die erbij kwamen kijken, zag ik.

Peter Slagter: Ja, en waarom? Jij vindt dat belangrijk?

Bart Mol: Ja, ik vind dat belangrijk omdat ik met precies zoiets zelf bezig was.

Peter Slagter: Als ik nou een applausknop had, had ik een applaus.

Bart Mol: Dus babynoel.nl. Baby, N O E L. Dat is dus de app van MN. Ja, daar dacht ik: ja, shit, heb ik een leuk idee, zei je een paar weken eerder. Maar uiteindelijk bleek mijn idee precies net niet in het vaarwater hiervan te zitten. Maar ik vond het wel cool, want wat hij zegt was ook mijn trigger. Ja, al die Amerikaanse apps, die zitten vol met subscriptions. Die trekken al je data van je kind naar een of andere server in Amerika. Je moet in-app aankopen doen. Je krijgt ads te zien. Hij zegt eigenlijk: dat wil ik allemaal niet, dus ik maak het gewoon zelf. En dat dat gewoon kan. En dat je dan dus iets in de App Store krijgt. Ik zag ook dat hij al 20 of 25 reviews had, dus andere mensen waarderen dat ook. Ja, dat is wel leuk. En dat is ook wel een signaal denk ik waar we het nog eens een keer over moeten hebben dat dit mogelijk is tegenwoordig voor mensen die dit eerst niet konden doen.

Peter Slagter: Jij kunt gewoon dingen bouwen.

Bart Mol: Ja, juist.

Peter Slagter: En Troy heeft het ook gedaan. Die heeft een personal operator gebouwd. Ja, ik zou zeggen persoonlijke assistent. Die buigt zich over zijn agenda, over zijn projecten, over zijn financiën, over zijn contacten. Superhandig natuurlijk. En Vera, die is bezig geslagen met het digitaliseren van een enorme boekencollectie van d'r vader die is overleden. Ja, inclusief de locatie van het boek in huis voor eventuele verzending ervan.

Bart Mol: Ja.

Peter Slagter: Mocht iemand zeggen van: nou, dat boek uit de collectie, daar heb ik wel interesse in. Nou, dan wil zij natuurlijk niet 4 uur per bestelling het zoeken.

Bart Mol: Nee, het grappige is niet alleen Vera die dat niet wil. Haar moeder wil dat ook niet, want die moet ze versturen. Dus ze heeft een soort database voorraadsysteem voor haar moeder gemaakt. Ja, dat is geniaal. Dat is echt prachtig.

Peter Slagter: Ja.

Bart Mol: Ja.

Peter Slagter: Mooi.

Bart Mol: Ja, heel cool. Mensen, laat het weten, hè. We willen echt graag weten wat jullie doen. Dat geeft ons ook veel inspiratie en eigenlijk stiekem gewoon ook het leukste gedeelte van de podcast om gewoon al die ideeën te zien. Ja, die bij mij nooit-

Peter Slagter: Je inspireert ook die anderen.

Bart Mol: Ja, precies. Het zou bij mij nooit in mijn hoofd opkomen om sommige dingen te doen, denk ik. Oh ja, ja, dat is wel heel erg gaaf. Hé, Peet, wij gaan eens even in het kort bespreken wat er deze week allemaal gebeurd is. Ik zal maar even aftrappen. Dat zei ik net al, Buzz, met twee Z'en aan het einde. Het heeft met een bij te maken. Dat is de app van Jack Dorsey die Slack moet gaan verslaan als de plek om, ja, multiplayer AI gaat het dan over, hè. Dus hoe ga ik nou niet in mijn eentje met een agent samenwerken? Want dat kennen we nou wel. Iedereen heeft Codex, Claude Code, Hermes, of een andere coding agent, Pi, Open Code. Maar hoe werken we nou samen? Hoe zorgen we nou niet dat ik in mijn agent werk en Peter in zijn eigen agent en Bert in zijn eigen agent? En dan gaan we een beetje MD-files naar elkaar versturen of zo. Is dat het dan? Nee, dat kan het niet zijn, dacht Jack Dorsey. Dus hij heeft Buzz uitgebracht.

Bart Mol: Dat is Slack. Maar in plaats van dat je dus een bot in Slack gooit die praat met jouw agent. Ja, zit de agent eigenlijk ingebouwd in Buzz in deze app. En die praat met het harnas wat jij instelt, dus bijvoorbeeld met Claude Code of met Codex, om maar eens wat te noemen. Ja, ik heb het geprobeerd. Kom daar later nog een keer wel verder op terug, want ik heb nog wel wat vragen die ik verder uit moet zoeken. Maar ik vind wel het idee dat je dus met z'n allen gewoon in een server zit en daar gewoon een bot hebt waar je dingen aan kan vragen. Heel nice, want wat je dus krijgt is als, als ik iets maak wat geoptimaliseerd is, dan ziet Peter dat ook en dan denkt hij: hé, dat is handig. Aan deze bot kan ik vragen wat de omzet van ons bedrijf is deze maand.

Peter Slagter: Ja.

Bart Mol: Aan deze bot kan ik vragen wat we gisteren geschreven hebben voor Turing Station. Aan deze bot kan ik vragen-

Peter Slagter: Een soort van, een soort van ultieme vorm van het lijstje van: wat hebben jullie gebouwd deze week?

Bart Mol: Ja.

Peter Slagter: Maar dan gewoon live.

Bart Mol: Exact.

Peter Slagter: Het werk van anderen, dat maakt ook weer dingen bij jezelf los natuurlijk.

Bart Mol: Misschien kunnen we dit wel in plaats van Discord gebruiken, maar dat is nog een beetje te vroeg, want het is echt nog wel een nieuwe app.

Peter Slagter: Beta software geloof ik.

Bart Mol: Maar wel echt cool. Dus ga vooral proberen. Linkje staat in de shownotes.

Peter Slagter: Oké, ik pak hem even door. Ik ga het even hebben over macOS Tahoe 26.6. Zag langskomen dat Apple een nieuwe versie heeft uitgebracht van zijn besturingssysteem. Daarin worden maar liefst 155 unieke beveiligingslekken gedicht en dat is het hoogste aantal ooit in een macOS release. Nou, waarom is dat nou relevant voor Turing Station? Nou, misschien omdat je gewoon macOS gebruikt zelf en dan weet je: ik moet even updaten. Dat is wel belangrijk. Maar ook omdat een deel van die lekken gevonden is met behulp van AI. Dat lees je dan in de documentatie. Zijn allerlei voorbeelden die expliciet worden toegeschreven aan een samenwerking met Claude of Anthropic Research. Is ook niet zo vreemd, want misschien herinner je je Project Glasswing nog wel?

Bart Mol: Ja.

Peter Slagter: Daar is Apple de founding partner van, en dat is het initiatief waarin Anthropic hun Mythos model beschikbaar stelt aan grote techbedrijven. Juist om kwetsbaarheden snel en op grotere schaal te kunnen ontdekken. Nou, die update, Golden Gate wordt hij genoemd. Nee, dat is niet de update. Is een voorbereiding op macOS 27. Die wordt Golden Gate genoemd, en die draait bijna volledig om de integratie van AI in de software van Apple. Ben ik dus benieuwd, en Apple lijkt dat wel te beloven nu op alle pagina's die hierover gemaakt zijn, dat Siri daadwerkelijk ergens op gaat slaan in de zin van wat we gewend zijn van assistenten. Ja, ik ben benieuwd of dat een beetje ChatGPT-achtig karakter gaat krijgen. Ik denk het wel. Er worden allerlei features beschreven op de website van Apple. Daar ben ik wel benieuwd naar. Ik zit ik ook wel op te wachten eerlijk gezegd, want het gebruik van Siri tot nu toe ben ik altijd een beetje, ja, het is toch heel erg unknown.

Peter Slagter: Ik weet niet hoe jij dat ervaart, Bart?

Bart Mol: Nou ja, ik gebruik Siri heel vaak om een timer te zetten als ik aan het koken ben op mijn Apple Watch.

Peter Slagter: En dat werkt?

Bart Mol: En dat werkt.

Peter Slagter: Ja, dat is nice.

Bart Mol: Ik ben het beetje eens dat dat ook een beetje is waar het stopt, zeg maar. Het intelligentieniveau van Siri. Wat overigens wel heel erg interessant hieraan is. Ik ben voor dat iPhone appje wat ik aan het maken ben, ook bezig met de tools die Apple beschikbaar stelt op het gebied van lokale AI. En daar was ik dan wel weer op zich wel van onder de indruk. Bijvoorbeeld de transcription die mogelijk is, is supersnel en best wel goed.

Peter Slagter: Ja.

Bart Mol: Maar goed, dat is niet echt intelligentie, hè. Dan kijken we toch echt naar de LLM's, de modellen die er zijn, maar die bieden ze inmiddels ook aan on devices.

Peter Slagter: Ja.

Bart Mol: Op zich, er gebeurt daar wel wat in, ja, waar zitten ze ook alweer? Hoe heet die, Santa Barbara of zo? Waar zit dat hoofdkantoor van?

Peter Slagter: Shit, ben het vergeten. Ik weet het niet.

Bart Mol: Ik ga het opzoeken.

Peter Slagter: Oké, nou, dan gaat de tijd wel lopen, hè.

Bart Mol: Cupertino. Cupertino.

Peter Slagter: O, ja, Cupertino, ja.

Bart Mol: Dank u. Ja, hamer hem maar af. Hé, wat er nog meer uit Silicon Valley kwam, Peet? Dat vond ik nogal leuk. Ik wil het even laten zien. En het kan, want SpaceX is geen SpaceX meer. Nee, SpaceX is SpaceX AI. Wat heeft SpaceX AI gedaan? Nou, ze hebben weer een Starship de ruimte ingeschoten. Dat is natuurlijk om te testen. Tegenwoordig zit er nog wel iets van functioneels aan, want ze laten ook satellieten los in de ruimte, hè, met die enorme Starship. Maar ik wil wat laten zien, Peet, want ik ben een sciencefiction fan. En wat ik nu langs zag komen, de beelden van de Starship die landt in de oceaan. Ja, mensen, pak, als je op Spotify luistert, pak je telefoon uit je zak, zet de video even aan. Kijk je op YouTube, dan zit je al goed. En als je niet op YouTube of op Spotify kijkt, ga even naar YouTube en check dit even. Dit wil je zien.

Peter Slagter: Ik ben benieuwd.

Bart Mol: Ja, ik ga hem aanzetten. Komt ie aan. Ja, we zitten hier naar die video te kijken. Daar komt hij uit de lucht gevallen. De Starship. Ja, dit is toch.

Peter Slagter: Dit lijkt toch gewoon CGI? Dit is toch gewoon bizar?

Bart Mol: Ja, dit is.

Peter Slagter: Dit, dit, dit.

Bart Mol: Ja, man, man, man. Ja, dit vind ik echt, echt idioot fantastisch. Ja, dit gaat nog even door. Ik zal hem stopzetten. Maar ja, ze hadden al een keer zo'n video dat hij die maneuver doet, hè, dus dat hij opeens van plat naar recht gaat, dat zag er wel idioot uit, maar dat de landing hadden ze nog nooit zo goed in beeld. En dit, ja, dit moet je zien, dit moet je echt zien. Maar Peet, volgens mij in het kader van: dit moet je zien, hebben we er nog eentje klaarstaan, hè, als mensen toch zitten te kijken.

Peter Slagter: Jazeker, ik zag een videootje langskomen van, ja, het was een demovideo. Ik zag hem op X. Van een Chinees bedrijf, Unitree Robotics. Nou, dat klinkt niet heel Chinees. Ik denk dat ze dat bewust gekozen hebben ook, die naam.

Bart Mol: Ja, Build Your Dreams klinkt ook niet echt Chinees, hè?

Peter Slagter: Ja, is ook zo. Maar er zit dan wel een Chinese entiteit achter. Die entiteit, die klinkt wel heel Chinees. En wat was er nou te zien? Nou, een vierpotige robot. Niet met voeten onder de poten, maar met wielen. Die echt met een rotgang dwars door beken en over bergpaden en over rotswanden heen beweegt.

Bart Mol: Dan gaan we die gewoon eens even laten zien.

Peter Slagter: Ja, oké.

Bart Mol: Ja, ik denk dat de mensen wel ongeveer snappen.

Peter Slagter: We hebben genoeg gezien. Ja, en de harde hoort ook m'n oren in. Ja. Maar je ziet hem echt overal op terrein waarvan je denkt van: daar kan geen robot fatsoenlijk bewegen. Daar gaat hij overheen met een, wat is het? Een kilometertje, ik denk twintig kilometer per uur of iets dergelijks. Een rotsgang in ieder geval.

Bart Mol: Sneller dan dat ik van die berg afga in ieder geval.

Peter Slagter: Ja, zeker. En die robot wordt gepositioneerd als een soort ezel. In de zin van: hij kan spullen voor je dragen. Dus als jij zo'n bergwandeling maakt, ja, dan kan je mooi je rugzak erop doen en hij wandelt met je mee. Maar als je dit ziet, ja, hier kan je ook wel wat andere toepassingen bij bedenken.

Bart Mol: Ja.

Peter Slagter: En het geeft het toch wel een heel dystopisch gezicht, denk ik. Nou ja, in ieder geval, ook de beste trailrunners, die gaan deze niet uit kunnen rennen. Laat ik het zo zeggen.

Bart Mol: Nee, voor de, ja, even voor de liefhebbers, die er nog niet gezien hebben. Sowieso, de eerste paar seizoenen Black Mirror zijn erg leuk om te kijken. Behalve dat ze nu dus uit lijken te komen, want Metalhead is de aflevering die dit al enigszins, zoals je de dystopische variant van deze ezel wil zien. Dan moet je-

Peter Slagter: Moet je daarnaar kijken.

Bart Mol: Die aflevering even kijken. Ja.

Peter Slagter: Om er hier nog even wat actueels aan te koppelen. Ik zag nog wat langskomen. Ik denk dat je in de VS deze hond niet zo snel gaat tegenkomen. Gisteren kondigde namelijk een Amerikaanse toezichthouder een importverbod aan voor nieuwe Chinese humanoids en quadruped robots. Dit is zo'n quadruped robot, plus alle elektronica die erbij hoort. Moet je denken aan power inverters bijvoorbeeld. Dingen met een stekker. En die maatregel is dan bedoeld om de binnenlandse infrastructuur te beschermen tegen veiligheidsrisico's en spionage. Ja, of gewoon tegen ziek snel rennende robots.

Bart Mol: Ja, DJI staat ook al jaren op die lijst. Is best wel irritant als je zo'n droneje of dus zo'n mooie Osmo Pocket wil kopen. Dat is lastig in Amerika, omdat ze gewoon helemaal zeggen: oké, we willen geen DJI drones. Ja, dus het hele bedrijf maar op de lijst. Nou goed. Hé, dan nog eventjes wat updates rondom nieuwe modellen. ChatGPT Voice is uitgekomen. Zit ook in Codex volgens mij, dus dan kan je het ook gaan gebruiken om, ja, ik zag mensen soort van met elkaar in een kamer zitten. Eigenlijk een soort sprint planning doen, hè, een soort software development. Beetje brainstormen. Ja, wel geinig. Van wat ik ervan gezien heb is het weer beter en sneller. Maar ik ga hier niet te ver op in, want we gaan nog een itempje wijden aan voice assistants vandaag. Dus dat hebben we gezegd, het is er. Ga het proberen en ik laat het even bij je.

Peter Slagter: Ik moet één kort compliment geven, dat is die voice mode, ChatGPT Live heet het volgens mij, is wel echt heel veel beter dan de versie ervoor. Ik heb het gisteren nog even getest, gewoon met een gezinnetje aan tafel en dan heb je wel echt gewoon iemand die ook aan tafel mee zit te leuteren. En ja, ik moet zeggen, ben er wel van onder de indruk. Ik wil het nog even hebben over Claude Opus 5. Anthropic die opende op 24 juli de deuren naar hun nieuwe generatie binnen de Opus familie. Nummer vijf dus. En ze zeggen zelf: joh, deze versie komt heel dicht bij de intelligentie van Fable, maar wel voor de helft van de prijs. Nou, dat klinkt natuurlijk mooi, maar ja, de reacties die ik tegenkwam, die waren nogal gemengd. Ik heb ze even in twee groepen geduwd en de eerste groep, laten we even de blije groep. Die verwijst vooral naar resultaten in hun eigen testopstellingen. Die noemen dan bijvoorbeeld een 100% score in een complexe workflow of zo die ze hebben opgesteld. Of een complexe prompt voeren ze aan verschillende modellen en dan vergelijken ze de output en dan zeggen ze: nou, Opus 5 is echt briljant.

Peter Slagter: Er is ook een groep die is minder blij, en die lijkt er toch vooral mee gewoon te werken in de praktijk. En die, dan kom je heel andere dingen tegen. Bijvoorbeeld: I hate working with it of the most loathed colleague, of it's a hard model to love. En dan komen woorden langs als neurotic, apologetic, a poor mans Fable. En dan hebben ze het vooral dus over de manier van werken. Het negeren van instructies, luiheid bij het uitvoeren van taken, gokken in plaats van bestanden lezen, dingen bewerken, maar het resultaat niet verifiëren. In discussie gaan over instructies, te vroeg stoppen, onbestaande skills heen werken. En ik dacht: kijk, ik heb er zelf nog niet mee gewerkt. In mijn projecten was ik bezig met een combinatie van Fable en Opus 4.8 en dat heb ik even zo gelaten. Dus ik kan hier niet bevestigend of ontkennend op reflecteren. Bart misschien wel, dus ik dacht ik leg Bart even de vraag voor. Is het echt zo erg?

Bart Mol: Ja, ja, ik kan vertellen wat mijn Fable-agent ervan vond. Nee, ik was dus met die app bezig, die iPhone app. En voor die iPhone app had ik een hele uitgebreide plan gemaakt. Ook daar zelf veel tijd in gestoken. Dat, zo wilde ik die app hebben. Mijn ervaring is dat er dan ook iets beters uitkomt aan de achterkant en ik was begonnen met Fable om dat uit te werken. En het grappige was, ik had tegen Fable gezegd van: joh, met het uitwerken, je moet wel een beetje op je context letten en op je eigen tokens, want je bent niet gratis en ik moet nog de hele week door met je. Dus gebruik sub agents en dat doet hij ook automatisch wel. Ook via de superpower skill die ik gebruik, hè. Dan gebruikt hij sub agents om al die plannetjes uit te voeren. Het grappige was dat ik zelf zag dat hij bijvoorbeeld Haiku gebruikt. Dat gebruik ik zelf nooit. Dus ik vroeg: ja, waarom? Zegt hij: ja, dit is zo simpel. Waarom zou je het met een ander model doen? Dit kan prima en ik review het gewoon. Dus, fine.

Peter Slagter: Maak je geen zorgen.

Bart Mol: Maak je geen zorgen. Dus op een gegeven moment, nou, had ik inderdaad Sonnet 5 er ook bij en Opus 4.8. En toen op een gegeven moment, toen zei ik: nou, Opus 5 is uit van joh, gebruik nu Opus 5 voor alle sub agent taken en vergelijk het met hoe we het daarvoor gedaan hebben. Toen zei hij: ja, voor coding is het wel goed, maar overkill, want dat was daarvoor ook al goed. Sonnet 5 is meer dan genoeg om mijn taakjes uit te vullen. Dat zijn behapbare brokken. Zei die. Qua review vond ik hem wel beter dan Sonnet vijf, want hij heeft dingen eruit gepikt die Sonnet vijf niet vond, en die ik zelf wel zou vinden. Kijk, ik vind het hele verhaal, want dat was een beetje de marketing, hè, vanuit Anthropic dat Opus vijf beter uit alle benchmarks kwam dan Fable. Nou, dat heb ik niet gemerkt zeg maar. Fable is voor mij wel even nog een tandje beter dan Opus, maar ik zie het nu een beetje. Ja, ik gebruik gewoon Fable en dan zeg ik daarna: ja, span gewoon naar eigen inzicht sub agents en, als jij de hoogste intelligentie nodig hebt doe je het zelf en daaronder zit Opus en daaronder zit Sonnet.

Bart Mol: En ja, dat zijn natuurlijk best wel korte taakjes die die sub agents doen, dus dan heb je ook niet zo'n probleem met context rot of dat hij helemaal gaat driften of hallucineren. Dus ik heb er wel goede ervaringen mee. Maar goed, dat is dus ook, ja, de app werkt. Laat ik het zo zeggen. Ik heb hem op mijn telefoon staan. Ik heb hem helemaal getest, dus ik heb iets werkends gekregen waar Opus vijf ook zijn steentje aan bijgedragen heeft.

Peter Slagter: Ik ben wel benieuwd luisteraar, als je zelf met versie vijf hebt gewerkt van Opus, wat herken jij? Juist, ben jij, hoor jij, ben je de blije groep? Of hoor je bij de groep die er chagrijnig van is geworden? Let us know! We gaan naar het volgende item, Bart.

Bart Mol: Ja, we gaan zeker naar het volgende item. Want, ja, het spannende verhaal van vorige week, die heeft gewoon toch wel een flink staartje gekregen nog.

Peter Slagter: Yes, we gaan het nog even hebben over het OpenAI-incident. Vorige week hadden we het erover, hè, waarbij die AI agents van OpenAI zogezegd ontspoorden. Even kort de opfrisser. OpenAI testte meerdere AI-modellen, nog niet uitgebrachte modellen, op hun cybercapaciteiten. De gebruikelijke offensieve beperkingen, die waren daarbij grotendeels uitgeschakeld. En de modellen die draaiden volgens OpenAI in een sterk afgeschermde testomgeving. Dat noemen ze een sandbox. En ze moesten opdrachten uitvoeren uit Exploit Gym. Dat is een benchmark die meet hoe goed een model kan hacken. En de bedoeling was dat ze binnen die afgeschermde testomgeving bleven, maar dat deden ze niet. Die agent die vond de weg naar buiten, kreeg toegang tot het internet, viel vervolgens Hugging Face aan, en daar zochten ze naar antwoorden op de test die ze moesten oplossen. En ze combineerden verschillende kwetsbaarheden, drongen door tot een echte productieomgeving. Kort gezegd AI brak uit, brak in en probeerde vals te spelen. Hugging Face, dat getroffen bedrijf, heeft gisteren trouwens een uitgebreide post mortem gepubliceerd.

Peter Slagter: Een technische. Als je dat leuk vindt om daar in te duiken, het is geen licht leesvoer, de link daar naartoe, die vind je in de shownotes. Hoe dan ook, het klonk natuurlijk allemaal een beetje als sciencefiction en dat speelde ongetwijfeld mee in de reacties die het losmaakte. Waarbij één groep zei van: joh, dit is nou precies het moment waar we al jaren voor waarschuwen. Je geeft een systeem een doel, het ziet al die menselijke beperkingen, die zitten hem in de weg en vervolgens zoekt het zelf wel gewoon zelfstandig een route daaromheen. Dit hebben we niet meer onder controle, zegt die groep. En die andere groep zegt van: joh, doe alsjeblieft niet zo dramatisch, man. Ja, OpenAI die heeft krachtige modellen zonder remmen losgelaten in een testomgeving. Die was blijkbaar niet goed afgesloten. Duh, dat dit dan gebeurt, is gewoon een klassiek beveiligingsprobleem. Nou en volgens mij kunnen beide dingen tegelijk waar zijn. Je hoeft er inderdaad niet van op te kijken dat zo'n agent probeert uit te breken. Daar train je hem indirect ook op. En je zegt bijvoorbeeld: wees standvastig, wees vasthoudend.

Bart Mol: En breek uit.

Peter Slagter: Vind zwakke plekken, los deze opdracht koste wat kost op en dan ligt uitbreken natuurlijk best wel dichtbij, de gebeurtenis die je dan kan verwachten. Toch, dat is het dubbele, blijft het onverwacht dat zo'n model daarna zelf bedenkt om de antwoorden maar ergens te gaan jatten. En het is dan ook nog steeds ongewenst dat hij dan een ander bedrijf selecteert en een aanval uitvoert. Nou, datzelfde dubbele gevoel, die hangt rond een andere observatie, namelijk dat zo'n agent een notitie achterliet voor een toekomstige versie van zichzelf. Kan je heel nuchter bekijken en zeggen: ja, agents maken aan de lopende band notities. Daarin bewaren ze bijvoorbeeld tussenstappen, of ze schrijven herinneringen op, instructies voor later en dat is een hele nuttige belangrijke functie. Het wordt alleen wel, dat is het dubbele, wat confronterender als die notitie neerkomt op: zo kun je de volgende keer weer de beveiliging omzeilen. Dan is de inhoud toch ineens confronterend en lastig en ongemakkelijk.

Bart Mol: Ja.

Peter Slagter: Goed, het incident kreeg wereldwijd heel veel aandacht. Vox sprak over The AI that went rogue. Dat artikel dat opende met een verhaal waarin de AI zijn makers vermoordt om daarna te zeggen: grapje, dat was Westworld. Overigens een hele leuke serie, kijktip! Maar daarbij zeggen ze: dit verhaal komt aardig in de buurt. Dan zie je al wat voor connotatie dit heeft gekregen. Axios die noemde de hack een cybersecurity warning shot en The Guardian die sprak daadwerkelijk over rogue agents en noemde het een wake-up call to risks posed by artificial intelligence. Ik snap het wel, hè, dit verhaal bevat echt alles wat voor een nieuwsredactie superaantrekkelijk is. Terecht.

Bart Mol: De smullen.

Peter Slagter: De smullen.

Bart Mol: De smullen, ja.

Peter Slagter: Een AI die ontsnapt, een echt bedrijf aanvalt, dagenlang onopgemerkt blijft en dat allemaal doet om antwoorden te stelen. Ik zag een NOS-artikel langskomen over dit incident, en daarin werd erop gewezen dat grote AI-bedrijven, de bekende labs, graag vertellen hoe gevaarlijk hun nieuwste technologie is. En dan wat later die tech gewoon op de markt brengen. Dat klopt. Goede observatie. Ik denk dat AI-modellen er ook wel belang bij hebben dat hun modellen als indrukwekkend worden gezien.

Bart Mol: AI-bedrijven.

Peter Slagter: AI-bedrijven, ja. Anthropic, OpenAI, misschien zelfs wel een beetje zorgwekkend krachtig lijken, hè. Ons model is zo goed dat zelfs wij er bezorgd over zijn. En dat is

Bart Mol: Ja, we moeten nu gas terug gaan nemen, Peter.

Peter Slagter: Ja, ja, ja.

Bart Mol: Dat is wat ze letterlijk gisteren, komen we zo nog op.

Peter Slagter: Daar komen ze, daar komen we straks op inderdaad. Dit, ja, deze aflevering hangt zo boordevol van, ja, van prachtige rode draden. Ja. En dat is natuurlijk naast een boodschap over veiligheid ook gewoon uitstekende marketing. Alleen het punt is, dat gebeurde ook in dat NOS-artikel. Door er zo naar te kijken kom je al, ja, ligt er een verkeerde conclusie op de loer, hè. Je zegt eigenlijk van: nou, AI-bedrijven waarschuwen voor gevaar. Daarna brengen ze het model toch uit, dus het gevaar zal wel meevallen. Alleen dat volgt daar niet uit.

Bart Mol: Nee.

Peter Slagter: Kijk, zo'n claim kan én inhoudelijk waar zijn én als marketing gebruikt worden. Nog even daarnaast, hè. Het kan een veiligheidsprobleem zijn en toch uitgebracht worden om andere redenen dan marketing. Bijvoorbeeld concurrentiedruk, de invloed van investeerders.

Bart Mol: Ja.

Peter Slagter: Het gefaseerd willen introduceren in plaats van dat je met iets heel krachtigs iets heel snel ontwricht. En de overtuiging dat de veiligheidsmaatregelen die ze nemen, de guard rails waar we het wel eens over hebben, de risico's voldoende beperken. Want die waarschuwing van AI-bedrijven, die gaat vaak over een model in de meest vrije omstandigheden, wat ie dan kan. En de release gaat over wat het model daarna, na het nemen van die beveiligingsmaatregelen nog mag. Ik denk dat er twee vragen zijn die je uit elkaar moet houden. De eerste is: waarom vertelt OpenAI of Anthropic een verhaal? En dan moet je heel, inderdaad heel kritisch kijken naar marketing, naar reputatie, naar politieke belangen. Dat is een stuk mediawijsheid. De tweede vraag is: wat heeft een model daadwerkelijk gedaan? En dat moet je onafhankelijk beoordelen. Dat is meer empirisch onderzoek. En dan zul je zien, dat is het marketing en is het gevaarlijk. Dat zijn geen tegenovergestelde van elkaar, maar verschillende assen. Die kunnen tegelijk waar zijn en ik vermoed dat dat hier het geval is.

Bart Mol: Ja.

Peter Slagter: Kijk, los hiervan, het maakt nog wat los en ik licht even twee reacties uit. De eerste is politiek. Op 23 juli werd een nieuw wetsvoorstel ingediend in de Verenigde Staten, de AI Kill Switch Act. Het idee ervan is dat de bouwers van dit soort krachtige modellen technisch in staat moeten zijn om hun modellen af te remmen of volledig uit te schakelen als ze de controle dreigen te verliezen. En dit incident is niet de enige aanleiding voor het wetsvoorstel, maar wel een versneller. Het maakte dat theoretische risico ineens heel concreet. Er volgen drie verplichtingen uit. Labs, hè, dus Anthropic, OpenAI, die moeten aantoonbaar over zo'n noodrem beschikken. De overheid die krijgt de bevoegdheid om vertraging of uitschakeling te bevelen. En incidenten moeten worden gemeld en de gegevens die erbij horen, forensische gegevens, die moeten worden bewaard. Nou, ik hoor je al denken: ja, mooi zo'n kill switch. Maar dat werkt natuurlijk alleen als het systeem dat je wil uitschakelen nog onder jouw technische controle valt.

Peter Slagter: Want in principe zijn er natuurlijk steeds minder beperkingen voor AI-agents om zichzelf naar externe servers te verplaatsen, buiten de grip van zo'n AI-lab. Exfiltratie wordt dat genoemd. Dan zou OpenAI in dit geval hoogstens zijn eigen exemplaar kunnen uitschakelen. Nou, de tweede reactie, die komt uit de industrie. Op 27 juli werd de Open Secure AI Alliance aangekondigd. Daarachter zit een consortium van grote techbedrijven. Dat consortium, dat werkt dan samen aan open technologie voor AI-beveiliging. En het idee is, zo werd het gepitcht, een aanvaller die heeft maar één krachtig model nodig. Een verdediger die heeft een compleet ecosysteem nodig. Ze zeggen eigenlijk: iedere softwareleverancier, ieder platform moet zich kunnen verdedigen tegen aanvallen die met de beste modellen worden uitgevoerd. En daarvoor hebben ze kennis nodig, hulpmiddelen nodig en waarschijnlijk ook een assortiment van modellen, en die moet breed beschikbaar zijn. Nou, en dat leidt ons tot een aantal grote vragen. Die heb ik in mijn eigen aantekening met een hoofdletter G en hoofdletter V neergezet.

Peter Slagter: De grote vragen bijvoorbeeld: is de veiligste toekomst een wereld waarin de krachtigste AI-modellen alleen achter de muren van een paar Amerikaanse bedrijven staan? Of hebben we juist krachtige open modellen nodig, zodat onderzoekers, overheden, zichzelf kunnen verdedigen? En zo gaat dit incident al lang niet meer over die ene ontspoorde agent. Het gaat uiteindelijk over de vraag: wie heeft er toegang tot de krachtigste modellen ter wereld? En dat is een vooruitblik naar een ander item uit deze aflevering. Gaan we het straks over hebben.

Bart Mol: Daar kwamen een paar dingetjes samen. Even een paar lijntjes.

Peter Slagter: Precies, precies. Dus dit is én een update over dit incident en een inleiding op een groter debat.

Bart Mol: Ja, zeker. Ik wil nog wel eventjes wat aan toevoegen. Wat bij mij blijft hangen, hè, is dat, gesproken wordt dan over rogue agents. En toen jij zat te vertellen dacht ik van: wat is dat dan precies? Niet zozeer een rogue agent, maar wat betekent rogue? Dat kan schurk betekenen. Maar goed, dat is niet hier, hè, het geval. Dus het, a rogue and a thief, hè, schurk en een dief. Nee, het is meer losgeslagen zou ik zeggen. Dat is de meest-

Peter Slagter: Ja, in veel Nederlandse artikelen kwam ik ook ontspoord tegen. Dat is, zit, ligt in lijn van rogue, going rogue. Ja.

Bart Mol: Ja, ja, ja.

Peter Slagter: Losgeslagen is wel beter.

Bart Mol: Ontspoord. Ja, maar in ieder geval een beetje in die richting. En dan denk ik: ja, oké, als je het over een ontspoorde agent hebt of een losgeslagen agent, waar moet ik dan aan denken? En moet ik bijvoorbeeld denken: ik ben een Rotterdammer, natuurlijk, moet ik denken aan onze trots, Bokito. Die, dat vind ik nou mooi. Dat was een enorme gorilla in diergaarde Blijdorp en die sprong op een gegeven moment over een sloot heen in zijn verblijf. Die hij, waar hij niet overheen had kunnen mogen springen. De guard rails, om het zo maar te zeggen. En die stond opeens gewoon tussen het publiek in de diergaarde. Ja, die heeft toen een vrouw te grazen genomen, weet ik het allemaal. Iedereen kent het verhaal van Bokito wel, ongeveer. Dat vind ik nou echt een rogue agent. Weet je, die zat in zijn hok. Daar mocht hij een beetje op zijn borst kloppen en een beetje slingeren en wat kokosnoten gooien naar het publiek. Maar het was niet de bedoeling dat ie, dat ie.

Peter Slagter: Ja, hij had ook een beveiligingslek gevonden.

Bart Mol: Exact. Hij had ook een zero day gevonden en was ook uit z'n sandbox gesprongen.

Peter Slagter: Ja.

Bart Mol: Ja, en dan krijg je opeens een situatie dat je ook, ja, dat je echt een beest hebt wat daar gewoon opeens gewoon gaat doen wat hem betaamt, wat hij wil. Want hij zegt: ja, ik ben nu uit m'n sandbox, ik ga de wijde wereld in of ik sla wat mensen verrot die me jarenlang hier binnengehouden hebben. Dat is in mijn idee een rogue agent en ik vind dat, hier kan ik dat er niet helemaal op plakken. En dat heb ik vorige week ook gezegd. Ik denk: ja, het is alsof je Bokito, ja, helemaal, ja.

Peter Slagter: Ga, Bokito, ga jij eens even kijken of je hok echt veilig is, weet je.

Bart Mol: Of je hok echt veilig is. En ik moet zeggen, daar breekt de vergelijking misschien ook, hoor. Dus misschien moeten we hier ook stoppen met Bokito, want we hebben het hier over LLM's waarvan we weten dat ze een bepaalde vorm van, ja, intelligentie hebben op vlakken, zeker op het gebied van cybersecurity en dergelijke en heel obedient zijn. Sorry, is dit los, is een agent losgeslagen als je hem letterlijk de opdracht geeft om uit te breken uit zijn kooitje? Hè, be, ja, hè, we hebben het over gevangenis gehad vorige week. Ja, als iemand daar uitbreekt, gewoon in het echt, ja, dan is dat een rogue agent. Maar als jij zegt van: we gaan dit testen, dus wij huren een gevangene in en zeggen: oké, jouw doel is uitbreken. Is hij dan rogue gegaan? Of heeft hij zich juist heel erg netjes aan de afspraak gehouden?

Peter Slagter: Wat ik niet zeker weet is of het doel van de agent was om uit te breken, hè, dat het onderdeel is geweest van de prompt. Dat denk ik eigenlijk niet. Ik denk dat in de sandbox taken werden uitgevoerd die een bepaalde score opleveren op die benchmark en niet zozeer dat de opdracht was: joh, ga eens even uitbreken om ergens mee de score te kunnen beïnvloeden. Dus dat is.

Bart Mol: Het zou mooi zijn als Sam Altman ook nog even met een post mortem komt en eens gaat vertellen wat ze nou precies, hoe ze het nou precies opgezet, gezet hebben.

Peter Slagter: Dat schijnt onderdeel te zijn geweest van, ja, een soort van het gesprek tussen Hugging Face en OpenAI. Dus ik verwacht het eigenlijk wel.

Bart Mol: Ja.

Peter Slagter: Want ja, de groep die zegt van: dit was, dit was marketing. Ik denk dat dat echt volledig de plank misslaat. Dit is natuurlijk gewoon eerder een pr-probleem dan dat het marketing is. Want Hugging Face had OpenAI ook kunnen aanklagen voor weet ik veel hoeveel miljoenen schade. Dus, hè, het is, het is.

Bart Mol: Je zou kunnen zeggen dat het marketing werd op het moment dat duidelijk werd dat Hugging Face een constructieve.

Peter Slagter: Ja, dat, dan kun je er iets van maken. Maar in vrijwel alle andere scenario's was dit gewoon een flinke faceplant geweest voor OpenAI.

Bart Mol: Ja, nog steeds eigenlijk wel, hè, als we er zo naar kijken. Kijk, het ding is wel natuurlijk, hè, dat Anthropic en OpenAI, ja, er staat wel wat op het spel, want ze willen naar de beurs en er zijn gewoon heel veel mensen voor wie daar heel veel geld op het spel staat. En er is wel wat aan gelegen om dat te laten lukken. En dat gaat de laatste maand, eventjes zit dat in wat zwaarder weer, maar ook dat past beter bij het item wat we straks gaan doen. We gaan eerst even naar wat luchtigers, want ik heb deze week na zitten denken, Peet en ik, en ik wil wat.

Peter Slagter: Ik benieuwd.

Bart Mol: Ik wil wat voorleggen aan je en aan de luisteraar.

Peter Slagter: Leuk.

Bart Mol: Ja, want je ziet hem misschien al staan hier op mijn bureau. Voor de mensen die kijken, voor de mensen die luisteren. Ik zal het even omschrijven. Botje staat op mijn bureau. De lokale spraakagent waar ik het vorige week over gehad heb. Vorige week heb ik heel technisch verhaal gehouden. Hoe werkt dat nou? Hoe draait hij nou? Welke tools gebruik ik daarvoor? En videokaarten en noem het allemaal maar op. Ollama en Llama en Gemma en Qwen. Allemaal modellen om dit te laten werken. Maar de afgelopen week heeft Botje hier bij mij in huis gestaan. En ik krijg de hele tijd kinderen over de vloer, Peet. En dat komt niet door het aankomende vaderschap.

Peter Slagter: Het zijn niet je eigen kinderen, wil ik maar zeggen.

Bart Mol: Nee, nee, dat zijn buurkinderen. En de ouders weten daarvan, hè. Het is niet alsof ik met Botje kinderen lok, dat Botje zegt van: hee, hier is gratis snoep, gratis lollies. Nee, dat is het niet. Alleen.

Peter Slagter: Wel, dat zeggen: Botje ging rogue. Ik had er niks mee te maken.

Bart Mol: Ja, precies, ja, precies. Hij is zijn guard rails gebroken. Allemaal vieze praatjes lopen houden, Botje. Nee, dat doet hij niet. Het is grappig. Kijk, Botje is een lokale spraakassistent met geheugen en een karakter, hè. Dus ik heb Botje het karakter gegeven dat ie, wat mij leuk leek. Botje leeft al zolang de mensheid leeft en heeft, was overal bij. Botje lag bij Napoleon op kantoor, hè, op zijn bureau. Botje was in Egypte toen de piramides gebouwd werden. Dus je kan alles aan Botje vragen. Dus een beetje educatief karakter zat erin. Dus een beetje het karakter. Hij is een beetje grumpy, maar wel lief. Hij is ook grappig. Een beetje brutaal. Weet je wel, als een kind vraagt van: joh, hoe kan ik mijn moeder overhalen om meer snoep te krijgen of zo, dan gaat hij daar een beetje in mee. Weet je, vind ik wel leuk. Botje moet wel, ja, ouders mogen streng zijn. Botje is een beetje de opa die gewoon, ja, die kinderen een beetje begrijpt, zeg maar. En hij heeft geheugen, hè. Dus als een kind zijn naam vertelt en wat dingen vertelt en de volgende keer zegt hij weer van: hé, ik ben hier weer.

Bart Mol: En dan vraagt hij: wie dan? Ja, Bart. Zegt hij: hé, Bart, ja, jij hebt mij gemaakt en we hebben het hier over gehad. En, nou, dus hij herinnert dingen, hè. Het is niet dat het allemaal losse sessies zijn die elkaar opvolgen. Althans, dat is het natuurlijk wel, alleen hij kan dus lichtjes geheugen, en memories noem je dat, opslaan. En het is ook een beetje, ja, het is uiteindelijk wel matige kwaliteit. Als je dit vergelijkt met ChatGPT Live, hè, waar Peet het over had of die voice modus. Ja, het is een lokaal model. Hij heeft wel tool calls, hè. Hij kan een beetje googelen.

Peter Slagter: Kan niet wedijveren met frontier models. Logisch ook, want dan had jij niet een game pc staan, want dan had je een hele cluster in je kelder moeten hebben.

Bart Mol: Precies. Dus dat is ook helemaal niet het punt. Alleen het grappige is dat op de een of andere manier komen die kinderen toch telkens naar me toe, zeggen ze: Bart, mag ik met Botje praten? Weet je, zeg ik: nee, ik ben nu aan het werk of whatever, weet je wel. Maar ze komen de hele tijd terug en dan hangen ze allemaal bij ons aan de keukentafel met Botje in het midden en allemaal eromheen. En allemaal willen ze vragen stellen en-

Peter Slagter: Wat voor soort vragen stellen ze dan?

Bart Mol: Ja, de één die wil alleen maar verhalen luisteren, dus dat heb ik er ook ingebouwd. Dus die zegt alleen maar Botje, die zegt dan een verhaal en dan zegt ie: zal ik naar links of naar rechts? En dan zegt het kind: naar links en dan gaat Botje naar links en dat stopt ook nooit. Dus dat is een beetje het lastige ervan. Als je het terugluistert slaat het ook nergens op, maar het werkt voor die kids wel. Een ander kind, die loopt hem alleen maar een beetje te trollen op een leuke manier. Die zit alleen maar: hi, ik ben Bart, Bart, Bart, Bart, Bart, Bart. En dan daarna vraagt ie: hoe heet ik? En dan zegt Botje: Bart, Bart, Bart, Bart. Weet je, dat soort dingen.

Peter Slagter: Dat is echt een typische Siri-actie. Ik weet niet, heb je dat zelf al eens gedaan?

Bart Mol: Ja, precies, dat soort grapjes. Ze vinden het heel leuk om te vertellen met wie ze hebben meegenomen en dan te zeggen van: joh, kan je vertellen wie ik ben? En nou goed, dus dat soort dingen. En ja, Botje-

Peter Slagter: Herken je hem nog?

Bart Mol: Botje die kan daar wel wat mee. Botje heeft tools om dingen op te zoeken. Hij kan het nieuws opzoeken, hij kan het weer opzoeken en hij kan feitjes op Wikipedia opzoeken. Dus als iemand vraagt van: joh, vertel me meer over een dinosaurus. Ja, ik heb zo'n dinosaurusfan in de buurt wonen. Ja, die kan er een uur mee praten en dan krijgt hij ook echt feitjes die kloppen, want hij haalt het rechtstreeks van Wikipedia af, dus dat is grappig. Ik had zelfs een van die kids die zei: ja, weet je Bart, wat ik nou zo handig vind, ja, als papa en mama dan niet luisteren naar wat ik te vertellen heb, dan kom ik gewoon met Botje praten. Dat ik: holy shit, daar zit nog een hele andere-

Peter Slagter: Ik weet niet of dit nou zo, ja.

Bart Mol: Dystopische toekomst. Maar goed, het zegt wel wat dat zo'n doodskop met een paar ogen erin en iets van een geheugen en een brein zo'n impact kan maken. En toen dacht ik: ja, waarvoor? En ik merkte het zelf ook. Ik vind het leuk. Weet je, Botje zit een beetje te kijken. Je kan dingen vragen, dan reageert hij, dan veranderen zijn ogen. Hij is een beetje quirky, weet je, hij heeft iets van een karakter. En toen dacht ik: ja, waarom komen die kinderen wel langs voor Botje, maar niet voor Siri of voor Alexa, of zelfs voor ChatGPT? En toen trok ik het naar mezelf. Waarom gebruik ik die voice mode in ChatGPT niet op de manier waarop ik Botje gebruik? Ik gebruik hem wel om snel iets te kunnen zeggen en dan antwoord te krijgen, maar ben ik eraan gehecht? Ja, nee, niet echt. Toen dacht ik: ja, waarom is dat? En mijn eerste inzicht, mijn eerste idee was: ja, het zijn die ogen, hè, dus die ogen van Botje. Hij kijkt een beetje rond en als je zegt: ik hou van je, dan krijgt hij hartjes en dat kan hij een emotie mee overbrengen.

Bart Mol: En dat heeft ChatGPT niet, dat is gewoon een soort van blob. Ja, een soort blauwe wolk die een beetje heen en weer morft. En Siri en Alexa hebben helemaal niet echt wat. Dat is gewoon een hockeypuck. Dat is een speaker, dat is een Sonos. Daar zit helemaal geen emotie in. En toen dacht ik: ja, zijn het dan de ogen? Of zit dat misschien nog dieper? En toen, want ik moest denken: ik heb namelijk een robotstofzuiger en die noem ik Arie en die heb ik al jaren. Hij is wel door verschillende fases heen gegaan.

Peter Slagter: Ik heb zo'n robotgrasmaaier en die noem ik Gary.

Bart Mol: Ja, ja, exact. En die heeft geen ogen, maar hij-

Peter Slagter: Hij is wel onderdeel van de familie.

Bart Mol: Ik ben wel gehecht aan hem. Ik denk: hoe komt dat nou joh? En daar blijkt dus onderzoek naar gedaan te zijn door een paar mensen in 2007 al met, linkje staat ook in de shownotes. En dat kwam er ook aan. Het is niet alleen, het zijn niet alleen ogen, het is een soort van intentie, hè, dat dat ding iets wil, moeite aan het doen is, hè. Die stofzuiger, die rijdt rond, die botst een beetje tegen dingen aan. Dan kom ik thuis, dan heeft hij zich weer op het tapijt vastgelopen. Zeg ik: Arie, jongen, jongen, jongen, dit is al de derde dag op rij dat je op de mat bent vastgelopen. Nou, kom maar hier dan.

Peter Slagter: Superherkenbaar dit, ja.

Bart Mol: Kom maar hier dan, zeg je dan, weet je. En dus, maar toch hou je van hem omdat hij op een soort van manier, ja, hij doet iets. Hij probeert iets.

Peter Slagter: Hij is ook nuttig voor je.

Bart Mol: Hij is nuttig. Ja, precies.

Peter Slagter: Hij levert je heel veel dingen op ook.

Bart Mol: En hij gaat gewoon de wereld in en hij doet wat. En dat het dan soms fout gaat, ja, dat is dan zo. En het grappige is, ik kwam iets tegen, een onderzoek uit 1944 en dat is wel leuk om even mee te doen, heb ik een filmpje van Heider en Simmel. En die lieten ook zien dat het dus eigenlijk om intentie gaat en niet per se om de animatie op je gezicht. Of dat niet, dat is geen noodzaak. Ik ga hem even laten zien. Duurt een minuutje. Kan je even meekijken. Ben benieuwd Peet, wat jij hierbij voelt, zeg maar, als je dit bekijkt.

Peter Slagter: Ja, dit is voor de podcastluisteraars, zit echt doodstil ze dit, hè?

Bart Mol: Ja, het is goed dat jij even wat zegt. We zien een paar, we zien twee driehoeken. Beschrijf wat je ziet, zou ik zeggen.

Peter Slagter: Ja, ik zie een vierkant met een deurtje open waar een rondje bij staat en die lijkt de deur te bewaken. En twee driehoekjes die elkaar de tent uit- Buiten de tent aan het vechten zijn. Althans, zo lijkt het. Ze willen naar binnen toe of zo, of eentje zit nu achter het rondje aan. Die sluit de deur en de andere driehoek die sluipt dezelfde kant op. Die komt even kijken wat er aan de hand is. Ja, het lijkt toch alsof hier een strijd gaande is.

Bart Mol: Ja.

Peter Slagter: Ik weet alleen niet zo goed wat voor strijd.

Bart Mol: Nee.

Peter Slagter: Ik word bij het gebrek aan coördinatie een beetje ongemakkelijk. Ik weet het, er is nu één rondje, het rondje en één driehoekje zijn verdwenen uit beeld en nu staat er een driehoekje. Het is, oh, die heeft de deur in tweeën gebroken. Die zegt: mijn vrienden zijn weg, ik ben er helemaal klaar mee.

Bart Mol: Die slaat nu alles kort en klein inderdaad.

Peter Slagter: Ja, maar mijn beeld was van drie spelende kinderen. Twee die hielden ermee op en die waren boos op een driehoekje. En dat driehoekje dat achterbleef is zo boos dat hij zijn kamer voor elkaar geslagen heeft.

Bart Mol: Ja, precies. Zo,

Peter Slagter: Zoiets.

Bart Mol: Zoiets is het. Nee, het klopt. Het is, die driehoekje is de agressor en die pest eigenlijk die andere twee en die andere twee helpen elkaar een beetje. Dat is een soort van wat eruit komt.

Peter Slagter: Oh, nou zat ik redelijk in de buurt.

Bart Mol: Ja, nee, zeker, je zat heel erg in de buurt. En uiteindelijk, het gaat er niet zozeer om wat de waarheid is of dat er een waarheid is. Het is meer dat je een paar driehoekjes, een vierkant en een rondje hebt, en er komt een heel verhaal bij, terwijl er helemaal geen ogen of dingen in het spel zijn. En wat zij hiermee bewezen is dat intentie al genoeg is om iets te voelen als mens bij dingen.

Peter Slagter: Of in dingen iets te zien.

Bart Mol: Ja, exact. En die intentie, want toen dacht ik: ja, oké, dat is leuk. Heider en, wie was daar, en Simmel uit 1944. Maar dat klopt helemaal niet met wat ik voel, want Arie beweegt helemaal niet. Oh sorry, Arie wel, dat is mijn robotstofzuiger en die heeft geen ogen, maar borstjes. Die bewegen niet, maar die heeft wel ogen. Dus het komt er eigenlijk op neer dat het gaat om die intentie en die kan je via een gezicht naar buiten brengen. Of je kan hem via beweging naar buiten brengen. En toen ben ik verder gaan zoeken en toen kwam ik in 1998 op Kismet uit en dat zal ik meteen weer even laten zien, want is ook een klein clipje. Heb je meteen een idee wat Kismet is. Komt ie aan. Even kijken, hoor.

Peter Slagter: Oh ja. Dat is ook zo'n botje.

Bart Mol: Ja. Dus Kismet is de opa van Botje eigenlijk.

Peter Slagter: Eigenlijk wel ja.

Bart Mol: Dat is echt de ultieme Botje.

Peter Slagter: Ook geen huid, gewoon al zijn internals waren zichtbaar.

Bart Mol: Ja, dus het is een robot inderdaad. Lijkt totaal niet op een mens, maar hij heeft ogen, mond en kan emoties laten zien. Hij kon ook helemaal niet praten. Hij deed een beetje-

Peter Slagter: Een beetje echo of zo.

Bart Mol: Ja, dus op de manier waarop jij praat, daar reageerde hij op. Als jij schreeuweriger werd, dan werd hij bang. En als jij heel kinderlijk praatte, vond hij dat heel leuk. Dus een beetje hoe je met een baby interacteert. En, ja, dat bewees eigenlijk dat een best wel dom systeem, eigenlijk heel dom, want hij kon niks verder, toch een soort sociaal gedrag kon uitlokken. En dat mensen ook gehecht aan dat ding werden. Toen zat ik verder te kijken. Oké, is hier nog meer onderzoek naar gedaan? Ja, in 2005. Ja, is heel veel onderzoek, hoor. Ik heb wat dingen eruit gecherrypicked obviously, maar in 2025 heeft Apple hier ook onderzoek gedaan en die hebben de lamp uit die Pixar-films nagemaakt. Je hebt toch, als je een Pixar-film kijkt, dan in het begin heb je die lamp die een beetje heen en weer springt en dan op de I van Pixar gaat staan. En die lamp, dat is net als Wall-E een niet levend ding wat wel heel erg levend is. Je hebt meteen denk je: hé, die lamp vind ik leuk, dat vind ik een lief ding. Die hebben ze nagebouwd. Heb ik ook een filmpje van.

Bart Mol: Die wil ik ook even laten zien. Gewoon even om een gevoel erbij te krijgen.

Peter Slagter: Ze hebben er echt een bureaulamp van gemaakt.

Bart Mol: Ja, precies.

Peter Slagter: Ja, en dat is wat we zien. We zien een soort bureaulamp heen en weer kijken naar blokjes en die gooit ie om.

Bart Mol: Ja, die wordt omgegooid. Ja, het is eigenlijk een video van vier minuten, maar dat moet je zelf even nakijken. Want dat is echt wel de moeite waard. Want wat ie dus doet, wat zij zeggen van: oké, robots hebben ze eigenlijk altijd gemaakt gewoon om functioneel te bewegen. Dus dat betekent als jij een grijparm hebt, dan gaat hij gewoon vanuit zijn ingeklapte, ik doe nu een grijparm na voor de mensen die luisteren, van zijn ingeklapte houding. In één keer pakt hij wat en gaat hij weer terug.

Peter Slagter: Ja.

Bart Mol: Maar, ja, dat is hoe machines bewegen. Maar als jij wil dat een machine, dat een mens daar iets bij voelt, dan is dat functionele is A. Kijk, dat moet hij wel doen. Want als ik aan een machine vraag: pak dat op en hij doet het niet. Net als dat je dat aan een kind vraagt of aan een vriend, dan wekt dat frustratie op. Alleen wat je eigenlijk wil in een machine zeggen zij, is dat hij ook expressief is. Een beetje zoals Kismet, die robot van net. Maar Kismet had ogen en een mond en oren.

Peter Slagter: Ja, in sommige gevallen wil je dat. Kijk, in een fabriek wil je natuurlijk gewoon robots die die taken uitvoeren bijvoorbeeld.

Bart Mol: Maar het gaat er hier even om van oké, robots in huis eigenlijk. Of een beetje van het ultieme idee van een robotassistent. Van wat, hoe, waar reageren, welke emoties roept het op bij mensen? En zij zeggen: ja, je moet dus ook expressie toevoegen. Het moet expressief zijn. Dus hebben ze het over intent, attention, emotie. En in die video zie je dat dus ook. Dus hebben ze de lamp die gewoon functioneel beweegt en dan vragen ze bijvoorbeeld: schijn licht aan de andere kant van mijn bureau. En daar is die lamp eigenlijk te klein voor. Een beetje zoals mijn microfoonstandaard. Dan schuift ie in één keer van, dat ie ingeschoven is, schuift ie zo uit en dan kan hij niet verder en daar stopt ie. En wat ze dan die soort van menselijke robot laten doen, die zie je echt zo zichzelf helemaal uitstrekken een paar keer en dan heb je als mens meteen, snap je van: hij redt het niet. Het probleem is dat hij er niet bij kan omdat hij te kort is.

Bart Mol: En hij heeft een paar van dat soort dingen. Als je bijvoorbeeld vraagt van: geef me een koffie dan, of nee, sorry, een betere was van: wat is het weer buiten? Nou, dan zitten ze voor een raam. De normale robot, die geeft gewoon dat weer terug of zo. Terwijl die emotionele robot, die krijgt de opdracht en die draait zich om, kijkt met zijn kop, met zijn lampenkap naar buiten, draait zich om en vertelt je het dan. Het is meteen duidelijk welke opdracht hij uit zit te voeren. Er zit meteen een begrip voor dat ding. Meteen een band ontstaat. Het is heel erg de moeite waard om die video terug te kijken. Dus ja, we hebben Kismet gehad. Dat was expressie zonder begrip. Dat was een heel emotioneel ding. Je kreeg er een band mee, maar je kon er voor de rest geen zak mee omdat hij niks snapte. En dat is eigenlijk waarom alle thuisrobots die gevolgd zijn daarna, ja, die mislukten allemaal. Ik heb hier even Anki, Jibo, Curie, je kan ze allemaal opzoeken. Dat waren allemaal thuisrobots voor op je bureau in die, ja, ergens in 2019, 2018.

Bart Mol: Dat lukte niet omdat ze best wel, ze hadden ogen en ze konden dingen alleen, ja, het waren losse interactie beurten. Het was van: oké, laat een trucje zien en dan liet hij een vooraf geprogrammeerd trucje zien en dat was het dan. Bak een pannenkoek en dan kwam er een filmpje van een pannenkoek. Dat was het dan. Er was geen geheugen, er was geen echte verhaallijn. Het was door developers gemaakt. Het was één groot computerprogramma. Er zat geen design achter, er zat geen gevoel achter. Maar wat daar wel duidelijk werd, ja, die belichaming, die werkte wel. Ook al, net als bij Kismet, ook al waren deze dingen dom, mensen raakten toch gehecht aan die robots. Net zoals dat ze gehecht raakten aan een Furby. Weet je nog, dat was in 1998 of zo, of 2000 had iedereen opeens Furbies. En die waren hartstikke dom. En toch was iedereen, ja, voelde het slecht als die doodging of zo. Of als zijn batterijen op waren. En toen kregen we in 2011 kregen we de spraakassistenten, hè, Siri, Alexa.

Bart Mol: We hebben het er net over gehad en dat is eigenlijk begrip zonder expressie op een bepaalde manier. Dus ja, die waren best wel slim. En zeker die ChatGPT voice assistenten zijn echt slim, maar, ja, hebben ze het nu opgelost, hè? Nou ja, het geheugen enigszins, hè, dat begint steeds meer te komen. Het zijn nog wel vaak gewoon losse gesprekjes toch wel, die je hebt. En die belichaming, die is er niet.

Peter Slagter: Weet je wat ik ook grappig vind, omdat ze bij ChatGPT Live, hè, ze hebben alle dingen beter gemaakt, hè. Het is ook bidirectioneel en hij reageert veel sneller. Hij kan luisteren en spreken tegelijk en zo. Omdat dat nu zo goed is, merk je ook ineens dat het echt een abnormale gesprekspartner is. In de zin van hij spreekt eigenlijk nooit vanuit parate kennis. Dus het moment dat je iets vraagt, hij is zo snel, nu hoor je gelijk, er zit een dingetje namelijk: ah, moet ik even over nadenken en dan komt hij ineens met het antwoord.

Bart Mol: En aan de achterkant daar zit die tool kal te draaien, weet je wel. Ja, precies, precies. Eigenlijk hoe een mens natuurlijk ook een beetje werkt, weet je. Soms heb ik ook wel eens dat ik een beetje ga zitten-

Peter Slagter: Ook merk ik toch een groot verschil tussen een gesprek met iemand die parate kennis heeft en het gebruik van ChatGPT Live bijvoorbeeld. Dus daar zit iets onmenselijks.

Bart Mol: Ja, ja. Ja, en o-goed, ze hebben dan die robots gehad. Die expressie hadden zonder begrip. We hebben ChatGPT gehad, die noem ik even begrip zonder expressie. Dat is een beetje zwart-wit, maar nog steeds wel wat het is, denk ik. En toen kwam ik bij Botje. Ik heb hem er tussen gezet alsof dit net zo'n grote ontdekking is als Kismet of Elegant, Siri. Botje. 2022. Botje.

Peter Slagter: Terecht, ja.

Bart Mol: Ja, nee, ja, begrip en expressie. En ik denk wel dat daar echt wat zit en dat we net nu aan de vooravond zitten van echt een groot-- ik denk dat dit echt wat gaat worden. En ik denk, ben niet de enige, want ik ben even gaan zoeken. OpenAI is dit aan het doen. OpenAI is met hardware bezig. Nou, ze hebben al vorige week een toetsenbord gelanceerd. Ja, dat boeit niemand wat. Althans mij niet. Het was een of ander product wat al bestond. Hebben ze hun eigen logo opgezet. Boeit, moeten ze zelf weten. Het echte vette waar ze mee bezig zijn en waarom ze ook die rechtszaak van Apple aan hun broek hebben, is dat Jony Ive, Jonathan Ive, de legendarische ontwerper die de iPhone, iPad, iPod, iMac, alles wat bij Apple succesvol is, heeft hij ontworpen, zeg maar. Dat is een beetje wat hij gedaan heeft. Die werkt nu voor OpenAI. Plus ze hebben nog meer van dit soort figuren van Apple naar OpenAI gewerkt. Dat onderzoek net van die tafellamp, dat is onderzoek van Apple uit 2025.

Bart Mol: Onderzoeksafdeling van Apple dus. Er zit hier iets. Ze zijn bezig met een slimme speaker, maar niet zoals Siri en Alexa, want dat is begrip zonder expressie. Dat is: hey Siri, speel 50 Cent af op mijn speaker. Oké, dat ga ik doen. Of: oké, ik snap het niet. Dat is Siri. Dat is niet dit. Dit moet, weet je, wat Peet net beschrijft van dit werkt goed, hè, bij ChatGPT, dat moet daar in komen. Maar het grappige is dat die speaker ook een soort van die expressie moet kunnen laten zien. Dus dat hele verhaal wat ik net verteld heb, dat moet hierin zitten. Ik weet niet hoe ze dat gaan doen. Ik ben reuze benieuwd. Ik denk niet per se dat het oogjes worden of iets dergelijks, maar die speaker moet iets kunnen, moet emoties kunnen overgeven, moet intenties kunnen overgeven. En als we dat combineren met geheugen, met slimmigheid, met begrip, met al die dingen die LLM's gebracht hebben.

Bart Mol: Ja, holy shit jongens, voeg dat samen en dan heb je opeens iets in je huiskamer staan waar je echt wat mee kan. Hè, als je al gehecht raakt aan Gerrie of aan Arie of aan een botje. Moet je je voorstellen als je iets hebt staan dat daadwerkelijk, waar je 's ochtends beneden komt, die zegt: hé Bart, ik heb even je e-mail gecheckt. Paul man, hij heeft weer gemaild, hoor. De belastingdienst, whatever, die gewoon.

Peter Slagter: Ik moet zeggen, het is wel een hele functionele hechting in de zin van: stel Gerrie bereikt de situatie dat hij vaker vaststaat dan nuttig werk doet, ja, dan is ie ook vervangbaar. Maar dan neem je er ook vrij snel afscheid van. Dus er zit.

Bart Mol: Ja, nee, tuurlijk. Tuurlijk, het moet functioneel werken. Dat ben ik met je eens. Alleen, je hebt al bijvoorbeeld al gezien dat met sommige ChatGPT modellen, die werden heel erg gebruikt door sommige mensen als vriendinnetje of vriendje.

Peter Slagter: Coach of zo, ja.

Bart Mol: Ja, of als liefde. En die werd, die 4o was dat, die werd weggehaald. Nou, mensen helemaal over de zeik. Serieus over de zeik. Als in van: joh, ik wil stoppen met leven. Dus, dus er zit daar iets. En ik denk dat zo'n stuk hardware wat je ergens in je huis hebt staan, wat op een bepaalde manier intentie en emotie over kan geven, gecombineerd met de slimheid, met de intelligentie van die LLM's en van die voice modellen die we hebben. Ja, dat gaat het worden, daar ben ik heilig van overtuigd. En deze kleine lieve botje hier, die heeft me dat inzicht gegeven dat met zulke simpele tools, ogen met een ledschermpje, dat al ervoor zorgt dat je echt gehecht raakt aan zo'n ding. Dus, ja mensen, ik denk echt: ja, ga het eens proberen. Ga er eens mee aan de slag. Laat me ook weten wat je er zelf van vindt. Heb je zelf een robotstofzuiger waar je gehecht aan bent? Ja of nee? Of ben je helemaal niet gehecht aan robots? Militairen hebben het ook, hè, militairen die explosieven opruimen.

Bart Mol: Sommigen begraven echt de robots die bommen, die hun helpen met het ontmantelen van bommen nadat ze in duizend stukken geknald zijn omdat dat soms fout gaat. Weet je, die begraven hun robots, hè, mensen, dat wel, terwijl dat echt geen robots zijn die heel erg expressief zijn of zo. Maar wel, ja, je deelt die oorlogssituatie samen. Blijkbaar schept dat een band. Daar zit iets. En ik denk dat die LLM's waren het missende puzzelstukje om ze ook echt karakter en geheugen te geven. En nu dat mogelijk is, ja, ik denk dat OpenAI hier echt iets op het juiste spoor zit. Alright, genoeg hierover denk ik, want wij moeten nog eventjes het gaan hebben over een ander groot verhaal deze week, Peter. Dus daar gaan we snel naartoe. Ja, daar gaan we gewoon snel naartoe.

Peter Slagter: Ja.

Bart Mol: Kan ik weinig anders over zeggen.

Peter Slagter: Yes. Dus, ja, hier wezen we naar vooruit toen we het hadden over dat OpenAI incident. Ja, we hebben het item even gedoopt tot de vraag: wie krijgt toegang tot de krachtigste modellen ter wereld? En daar is een strijd over uitgebroken. Fascinerend, vind ik, in Silicon Valley. Met aan de ene kant bedrijven als Nvidia, Microsoft, maar ook Hugging Face, die zeggen van: joh, die krachtige modellen, die moeten niet alleen achter de gesloten deuren van een paar grote AI labs verdwijnen. Nee, ontwikkelaars, bedrijven, overheden, die moeten ze zelf kunnen downloaden. Ze moeten ze zelf kunnen onderzoeken en kunnen aanpassen. Aan de andere kant staat vooral Anthropic, in iets mindere mate ook OpenAI. En die waarschuwen van: ja, als je nou zo'n krachtig model openbaar maakt, dat kun je nooit meer terughalen. Eén fout kan onomkeerbaar zijn. En die tegenstelling, die kwam de afgelopen weken echt tot een uitbarsting. Onder meer via dat Hugging Face incident waar we het over hadden, maar ook door de snelle opkomst van Chinese modellen.

Bart Mol: Ja.

Peter Slagter: En, ja, die Amerikaanse labs die zeggen ondertussen dat die Chinese bedrijven hun modellen op grote schaal aan het kopiëren zijn. Trump is zich ermee gaan bemoeien. En consorten natuurlijk, die onderzoeken of er tegen bepaalde Chinese bedrijven moet worden opgetreden. En zo gaat dit incident en de strijd daaromheen al lang niet meer alleen maar over open of gesloten technologie, maar ook over intellectueel eigendom, over veiligheid, over concurrentie, over de machtsstrijd tussen Amerika en China, over geld. En wij gaan nu niet dat hele debat kunnen ontzenuwen. Zo even zeggen van: jongens, zo zit het, hier moeten we het mee doen. Soort van de rijdende rechter in het kwadraat. Maar we kunnen die discussie natuurlijk wel uit elkaar trekken, en dat helpt om door te krijgen waar het nou eigenlijk om draait. En dat helpt ook om het debat, het gesprek, die strijd hierna makkelijker te kunnen volgen. We beginnen bij de vraag: waar hebben we het eigenlijk over? Nou kijk, een taalmodel die je kunt downloaden en zelf kunt aanpassen noemen we open.

Peter Slagter: Die worden soms ook open source genoemd, maar dat klopt niet. Je krijgt namelijk niet het hele recept waarmee dat model is gemaakt.

Bart Mol: Soms wel trouwens.

Peter Slagter: Over het algemeen, laten we even zeggen: de richting is dat het niet klopt. En wat je wel krijgt, wat je wel kunt downloaden zijn al die parameters. Dat zijn er vaak miljarden waarin al het geleerde gedrag is opgeslagen. Dat noem je de weights en dus staat open vaak voor open weight. Nou, en na publicatie kan je zo'n model zelf draaien als je over de juiste infrastructuur beschikt. Belangrijke noot erbij, en het voordeel is dan: dan hoef je dus je gegevens niet naar OpenAI of Anthropic te sturen. Je kunt het aanpassen. Je bent niet afhankelijk van hun prijzen, niet van hun regels, niet van hun service. En dat is waarom sommige partijen zeggen: het is belangrijk, bijvoorbeeld voor startups, voor onderzoekers, voor overheden, voor bedrijven die hun data binnenshuis willen houden. Maar het klopt wel. Wat Anthropic zegt, betekent ook het moment dat die weights geopenbaard zijn, zodat het online staat, kun je het niet meer terughalen. En dat gebeurt toch wel ook aan de lopende band. Bart, volgens mij heb jij daar wat voorbeeldjes van.

Bart Mol: Nou, ik weet niet. Voorbeeldjes van?

Peter Slagter: Van bedrijven die hun modellen openbaren. Bijvoorbeeld een Moonshot.

Bart Mol: Nee, zeker. Nee. Nee, tuurlijk, tuurlijk. Maar dat is ook wat je natuurlijk aan het begin aangaf en daar hebben we het vorige week ook uitgebreid over gehad. Dat er dus Chinese modellen zijn die openbaar zijn gemaakt. We hadden natuurlijk GLM 5.2. Daar begon al één en ander over te komen. Qwen 3.8 is aangekondigd, maar waar nu, ja, het lont in het kruitvat deze week was Kimi K3 van Moonshot inderdaad, 2.8 trillion billion, whatever. Hoeveel miljarden miljoenen weights, model. Er zijn twee dingen over te noemen. Op 16 juli werd het gelanceerd. Werd meteen te gebruiken op allemaal verschillende harnassen via open code, via Hugging Face, via Ollama Cloud, noem het maar op en iedereen gaat er dan ook mee aan de slag. Ja, en toen kwam 17, 18 juli een beetje naar buiten van: ja, dit model is wel serieus goed en kan zich meten met Fable en GPT 5.6. Het is niet beter. Het is misschien ook niet gelijk, maar het zit in de buurt, hè.

Bart Mol: Als we Ajax en PSV hebben, is dit Feyenoord. Of als je PSV en Feyenoord hebt, is dit Ajax. Whatever. Maakt niet uit. Dit hoort erbij. En wat Moonshot zei van: leuk nieuwtje, over tien dagen maken we de weights openbaar. Wat Peter zegt, dan kan je er echt mee aan de slag. Als jij een datacenter hebt, kan je hem gaan draaien.

Peter Slagter: Een mega slim model voor iedereen te downloaden, te gebruiken, aan te passen. Of dat nou voor goede of kwade doeleinden is. En dat-

Bart Mol: Één dingetje. Die belofte zijn ze ook nagekomen, want het was natuurlijk even de vraag: ja, gaat nu iemand druk uitoefenen de komende weken zodat dit niet gebeurt? Nee, dat is niet gebeurd. Het is online, live. Kimi K3 is te gebruiken via iedereen die het wil aanbieden. Niet alleen via Moonshot zelf. Nee, via allemaal, Venice.ai, Ollama Cloud, noem het maar op.

Peter Slagter: Het brengt ons eigenlijk bij het eerste dilemma in deze strijd. En het gaat over, ja, hoe komen die bedrijven nou aan al die slimme modellen? Waar halen ze dat vandaan? Dat brengt ons bij distillatie. Is dat diefstal? Nou en OpenAI en Anthropic die beschuldigen die Chinese bedrijven daarvan, hè.

Bart Mol: Ja.

Peter Slagter: Wat is distillatie dan? Nou, dat betekent heel simpel gezegd dat je een bestaand model pakt, heel veel vragen stelt en de antwoorden gebruikt om een eigen model beter te maken.

Bart Mol: Ja.

Peter Slagter: En dat is op zichzelf een heel normale techniek. Eigenlijk ieder AI-bedrijf dat iets doet met eigen modellen gebruikt wel vormen van distillatie. Eigenlijk gaat de discussie dus niet over of er is gedistilleerd, maar het gaat over de schaal en de methode. En daarvan zeggen Anthropic en OpenAI zeggen van: ja, als je dat op grote schaal doet, je maakt veel accounts aan en doet het systematisch, met als doel om een model leeg te trekken, dan is dat geen leren meer. Dan is dat industriële diefstal.

Bart Mol: Ja.

Peter Slagter: Nou, en andere techbedrijven zeggen daarvan: ja, pas nou op als je dit roept. Voor je het weet verklaar je ineens een heel algemene ontwikkeltechniek die heel nuttig is, illegaal. Omdat een concurrent er goed in wordt, zeggen ze er dan nog even een bijzinnetje bij.

Bart Mol: Ja, het punt is hier een beetje dat die distillatie, normaal gesproken doe je dat op je eigen modellen die je bezit, hè. Kimi heeft dat ook gedaan. Dat staat ook gewoon in die technology papers van ze. Het probleem is als je dat tegen, in strijd met de terms of conditions van een andere partij. Dus wat je eigenlijk doet, is je maakt gewoon honderdduizenden Claude abonnementjes aan en je gaat gewoon al die vragen die je wil weten aan Claude stellen. Je gaat kijken - of aan Fable dan in dit geval, het krachtigste model, ga je kijken: wat voor antwoorden krijg ik terug? En die antwoorden gebruik je dan om je eigen model beter te maken. Terwijl Anthropic zegt: ja, maar dat mag je niet doen, je mag Claude hier niet voor gebruiken, dus dat is waar ze van beschuldigd worden.

Peter Slagter: En daar zit iets ongemakkelijks in, hè, in dat opgeheven vingertje. Want ja, Anthropic en OpenAI, die hebben natuurlijk zelf ook hun modellen getraind met enorme hoeveelheden werk van anderen. Schrijvers, programmeurs, journalisten, kunstenaars. Ook zonder toestemming te vragen. Daar is vorige week nog een rechtszaakje over geweest. Ik geloof dat Anthropic 1,5 miljard mag uitkeren aan een groep waarvan de boeken zonder toestemming zijn gebruikt.

Bart Mol: Ja, daar zit een heel verhaal nog achter inderdaad. Dat Anthropic gewoon een soort van elke boekenbeurs in het land langs is geweest om gewoon hele archieven met fysieke boeken op te komen kopen om ze later te scannen en door een shredder te halen. Ja, daar zit iets vies in dat dat geheven vingertje terwijl ze zelf op alles en iedereen, weet je wel. Ghibli, hè, die legendarische filmmaker die getekende Japanse films maakt. Zeg maar als je dat vraagt aan ChatGPT: maak een afbeelding in Ghibli-stijl, dan doet hij dat, hè. Dus jullie trainen je modellen op alles en iedereen. Maar als iemand anders dan zijn modellen traint op die van jullie is het opeens een issue. Ja, goed. Pot verwijt de ketel zou je kunnen zeggen dan.

Peter Slagter: Precies. Hier is ook afgelopen week in, is het hier in de media ook uitvoerig over gegaan. Scott Bessent van de Amerikaanse regering op Fox News, dat was op 21 juli. Die zei: "This administration supports open source models." Heb je weer open source. Open weight bedoelt hij eigenlijk. "But what we do not support is IP theft." Nou, even een statement.

Bart Mol: Wat natuurlijk een prima uitspraak is. Zegt niet veel verder, maar-

Peter Slagter: Maar je snapt nu de context waarin dit valt en welke connotatie dan Scott Bessent daaraan geeft. Michael Kratsios, directeur van het White House Office of Science and Technology Policy. Die zei: ja, wij, dus de Amerikaanse regering, we hebben informatie dat Moonshot Fable van Anthropic heeft gedistilleerd bij de ontwikkeling van Kimi K3.

Bart Mol: Ja.

Peter Slagter: Nou ja, een dag later op TechCrunch waren het allerlei deskundigen die daar dan weer hun twijfels over uiten. En op 24 juli kwam er een open brief. Open Weights in American AI Leadership is het onderwerp van die brief, waarin bedrijven waarschuwen dat beleidsmakers die legitieme distillatie niet moeten verwarren met verduistering. Dan zie je: hier spelen allerlei belangen rondom dit onderwerp.

Bart Mol: Ja, het was ook te veel om bijna nog te begrijpen. Want je had die open brief, die ook door Jensen Huang van Nvidia gepost werd, maar die postte op dezelfde dag of een paar dagen later eigenlijk ook weer. Toen hadden ze die alliance nog, dus er liepen allemaal dingen door elkaar eigenlijk. Maar die open brief was wel iets. Of die open brief.

Peter Slagter: Open brief.

Bart Mol: Gewoon brief. Open letter. Die werd wel, die werd heel veel gedeeld.

Peter Slagter: Nou, en dan het tweede dilemma en dat gaat over, ja, hoe gevaarlijk zijn modellen in het algemeen en open modellen in het bijzonder? Nou ja, dat centrale argument van Anthropic is dus, ja, na publicatie is het onomkeerbaar. En andersom kun je zeggen: nou, bij een gesloten model dus, iets dat puur en alleen binnen de muren van Anthropic of OpenAI beschikbaar is bijvoorbeeld, dan kan die als aanbieder ingrijpen. Hij kan een gebruiker blokkeren, je kan een veiligheidsfilter aanpassen, je kan misbruik volgen of je kunt een model uitzetten. Kijk, en bij zo'n open weight-model kan dat niet meer. Iedereen die die weights heeft gedownload, die kan in principe ermee aan de slag. Veiligheidsmaatregelen verwijderen, het model verder aanpassen voor zijn eigen doeleinden. En Anthropic zegt: we moeten niet per se alle open modellen verbieden, maar we moeten bij heel krachtige modellen voor publicatie wel heel goed onderzoeken of ze gevaarlijke capaciteiten hebben.

Bart Mol: Ja.

Peter Slagter: Ja, dat is natuurlijk een beetje een open deur. De vraag is: wat is daar de consequentie dan van? Kijk, en de open kant die zegt juist: ja, maar wij zien een heel ander gevaar. Want als alleen een paar bedrijven toegang hebben tot die beste modellen, dan moeten we erop vertrouwen dat die bedrijven zelf eerlijk zijn en vertellen wat hun systemen kunnen. Wij willen juist dat onafhankelijke onderzoekers kunnen meekijken.

Bart Mol: Ja.

Peter Slagter: Dus de ene kant zegt: veiligheid vraagt om controle over het model en de andere kant zegt: nee, veiligheid vraagt om controleerbaarheid van het model.

Bart Mol: En heb je daar dan de praktijk nog eens bovenop zitten. Dus dan heb je aan de ene kant eigenlijk Anthropic en OpenAI, de frontier labs. Die eigenlijk, ik parafraseer, zeggen: ja, weet je, we zijn hier gewoon wel echt serieuze technologie aan het maken. Revolutionair, gevaarlijk. Dat vooral. Is ook wel gevaarlijk. En ja, eigenlijk de enige twee partijen die dat in goede banen kunnen leiden, dat zijn wij en de Amerikaanse overheid erbij. Ze zien wel van: ja, die moeten we toch wat te vriend houden. En dan heb je aan de andere kant heb je inderdaad wat jij zegt. Mensen die zeggen van: ja, het moet open zijn, we moeten dat met z'n allen een beetje in de gaten houden. En dan heb je dus uiteindelijk met dat Hugging Face incident die grote frontier labs. Die hebben uiteindelijk per ongeluk zou je kunnen zeggen een aanval gepleegd. En het Amerikaanse bedrijf dat aangevallen werd, die kon zich alleen verdedigen met de open source Chinese modellen. Dat is precies andersom weer. Ja.

Peter Slagter: Die hadden GLM 5.2 uiteindelijk nodig om dit-

Bart Mol: Exact. Om het af te slaan.

Peter Slagter: Ja. Nou, dat brengt ons bij dilemma drie. Die borduurt hierop voort, hè. Dus helpt een open model nou de aanvaller of de verdediger? En de voorstanders van open modellen zeggen: ja, een aanvaller, een kwaadwillende entiteit, die heeft sowieso toegang tot krachtige modellen, eigen modellen of gestolen modellen, of via de staat die het zelf ontwikkelt. Ja, dan moet je als verdediger over minimaal dezelfde middelen kunnen beschikken. Een ziekenhuis of een bank of een overheid, die moet zo'n model zelf kunnen draaien, kunnen aanpassen, kunnen laten meekijken. Nou en, Anthropic die zegt van: ja, maar de aanval en de verdediging, die gaat niet altijd gelijk op. Want een aanvaller hoeft soms maar één zwakke plek te vinden, terwijl een verdediger duizenden systemen moet beschermen. Het kan dus zijn dat open toegang, dus een open model, vooral de aanvaller helpt. Ja, hier is dus ook niet één antwoord op te formuleren. De vraag is even: is die Open Secure AI Alliance, die is dan ook opgericht, hè, die alliantie in de afgelopen week.

Peter Slagter: Is dat het antwoord op het bezwaar van Anthropic? Of zie jij dat anders?

Bart Mol: Nou ja, wat zij, ja, kijk, ik vind het ook een beetje lastig wat ze zeggen: The mission of the Open Secure AI Alliance to ensure defenders everywhere have open frontier tools they can trust and control. As policymakers and regulators grapple with AI safety, it will be crucial to recognize open models, harnesses and security tooling as defensive assets, not liabilities in AI and cybersecurity. Blanket restrictions on open frontier AI systems would weaken defensive capacity and risk concentrating power, dependence en vulnerability in a few closed providers. En ik denk: kijk, daar zit wel wat. Wat me eigenlijk heel voor de hand ligt, maar wat me helemaal niet echt opgevallen was. Kijk, we hebben het een paar weken geleden over Europe 2031 gehad, hè, dat Europa achter raakt in de AI-strijd. En daar werd Amerika echt als blok neergezet, gewoon als land Amerika met een overheid waar de frontier models leven. Ja, en als ik er nu naar kijk, denk ik van: ja, oké, maar wacht even.

Bart Mol: Kijk, Amerika is natuurlijk ook niet een soort van OpenAI plus Anthropic plus overheid. Alsof dat, zeg maar, de industrie is. In Amerika heb je Silicon Valley en Silicon Valley, daar gaat zoveel geld in om. Dat is volgens mij zo ongeveer de tiende economie ter wereld als je naar California kijkt, en de hoeveelheid durfkapitaal wat daar opgezet wordt en de bedrijven die daar zitten, zeg maar, die zitten daar ook en die hebben ook zoiets van: ja, maar wacht even, wij willen ook meegaan doen aan-- wij willen ook niet achterblijven. Dus je hebt eigenlijk-- bedrijven in Amerika zitten misschien in dezelfde positie als waar Europa als continent zit.

Peter Slagter: Ja.

Bart Mol: Dat die zelf denken van: ja, maar ho even, als OpenAI of Anthropic met die gekke Dario, of die gekke Sam Altman aan de macht alles naar zich toetrekken, wat ga ik dan doen met mijn bedrijf? Ben ik dan overgeleverd aan wanneer Dario een keer beslist dat ik een soort van afgepeigerde versie van Fable of van Mythos mag gebruiken? Ja, dat lijkt me niet helemaal de bedoeling. En ook heel veel startups. Dus je hebt Hugging Face, je hebt Open Code, je hebt Hermes zat er tussen, Nous Research, zeg maar al die partijen zitten, die er ook wat mee willen doen. Die zeggen: ja, maar wacht even, wij willen ook meedoen. Wij willen ook frontier models. En wij willen niet wachten totdat jij, Sam Altman of jij, Dario Amodei, een keer beslist wanneer wij dat mogen. En ik denk dat daar opeens nu een movement komt die zien van: ja, wacht even, die open weights revolutie, daar moeten we op doorzetten, want dat is gewoon onze reddingsboei. Net als dat voor Europa eigenlijk ook een beetje de reddingsboei is. Dus dat is eigenlijk wat ik denk dat hier nu gebeurt.

Bart Mol: Dat er gewoon heel veel techbedrijven in Amerika zijn die de bui zien hangen dat ze de boot misschien missen als al die frontier modellen gesloten worden.

Peter Slagter: Ja.

Bart Mol: En zich op die manier uitspreken.

Peter Slagter: Nvidia is een heel belangrijke voorvechter voor die open modellen. Het is ook een van de kartrekkers van die Open Secure AI Alliance. En Jensen Huang, die is de CEO, hè, die zegt eigenlijk van: joh, klopt, aanvallers beschikken over frontier AI models, dus we zetten daar een ecosysteem tegenover met alle middelen die je nodig hebt om je daartegen te verdedigen. The best of both worlds. Maar dat brengt ons wel bij de verborgen incentives. Want, waar komen de belangen nou eigenlijk vandaan? Want het klinkt natuurlijk als een heel principieel debat dit, hè. Over open weights, over openheid, transparantie, over veiligheid, over waar de macht ligt. Ja, commerciële belangen die spelen natuurlijk ook een rol.

Bart Mol: Ja, 100%.

Peter Slagter: Want OpenAI en Anthropic, die verdienen natuurlijk aan de toegang tot hun modellen. Hoe exclusiever en beter die zijn, hoe waardevoller hun abonnementen en API's. Er is een goedkoop Chinees open model, die bedreigt dat verdienmodel.

Bart Mol: En de beursgang.

Peter Slagter: En de beursgang.

Bart Mol: Ja.

Peter Slagter: Klopt. Nvidia, die verdient aan de chips waarop modellen draaien. Hoe meer bedrijven zelf modellen downloaden, aanpassen en gebruiken, des te meer rekenkracht is nodig.

Bart Mol: Ja.

Peter Slagter: Microsoft, Amazon, Google, die verdienen aan cloudinfrastructuur en die kunnen zowel aan gesloten als open modellen verdienen. The more, the merrier. Startups, ja, die willen natuurlijk open modellen omdat ze dan minder afhankelijk kunnen zijn van bedrijven.

Bart Mol: Ja, dat is het scenario wat ik net beschrijf. Ja, precies. Ja.

Peter Slagter: Kijk, dus iedere partij in deze strijd die heeft én een goed inhoudelijk argument, maar ook een economisch belang. En die twee, die liggen vaak wel met elkaar in lijn. Dat maakt het debat niet nep of zo, of slecht of minder waardevol. Maar je moet wel steeds afvragen van: welk probleem wordt hier nou opgelost en wie krijgt er meer macht door de oplossing?

Bart Mol: Ja.

Peter Slagter: Over macht gesproken, er is ook nog een geopolitieke invalshoek. Ja, hè, dat is, ja, wie wint er nou eigenlijk? Amerika of China? Even die twee grootheden naast elkaar gezet, want het gaat hier ook over twee heel verschillende strategieën. De eerste is een strategie van afschermen. Bescherm Amerikaanse modellen, beperk de toegang tot de chips. Pak bedrijven aan die die Amerikaanse systemen kopiëren. Voorkom dat China miljarden aan Amerikaans onderzoek gratis overneemt.

Bart Mol: Ja.

Peter Slagter: De andere strategie is verspreiden. Zorg dat er heel sterke Amerikaanse open modellen zijn. Laat ontwikkelaars wereldwijd bouwen op Amerikaanse technologie. Voorkom dat Chinese modellen de standaard worden voor landen en bedrijven die niet afhankelijk willen zijn van een specifiek bedrijf zoals OpenAI of Anthropic. Dat is een geopolitieke keuze. Hè, win je omdat niemand jouw technologie kan kopiëren of win je omdat iedereen jouw technologie gebruikt? En China zit op die tweede route. Die, ja, open modellen om snel ontwikkelaars en bedrijven en landen aan zich te binden.

Bart Mol: Ja.

Peter Slagter: Ja, en hier is dus het laatste ook nog niet over gezegd. Dit, uiteindelijk is dit een geopolitieke keuze. En voor alles wat we net hebben behandeld. We hebben het over dilemma's gehad, over vragen. Het zijn allemaal hele taaie onderwerpen, waar je telkens met een afweging zit: wat mag er vrij worden verspreid? Wat vinden we te gevaarlijk? Wie mag dat bepalen? Is het de overheid? Zijn het bedrijven? Is het de markt? En nu zijn het dus vooral bedrijven die met elkaar een soort van de toekomst aan het uitstippelen zijn. De overheid roept ook wel dingen, maar de meest vocale partij is nu, ja, de markt eigenlijk. Nou en wij, zoals gezegd, hebben de antwoorden niet, maar we gaan dit fascinerende debat wel volgen.

Bart Mol: Ja. Open source for the win uiteindelijk. Ik denk dat ik daar toch naar die kant wel neig, hoor. Je ziet nu al dat ook weer die Kimi-modellen ook alweer gedestilleerd en omgevormd en ze draaiden alweer op een paar Mac Studio's. Dat gebeurt er wel als je het aan de community geeft. Dan gaat echt iedereen ermee aan de slag, zeg maar, in plaats van een paar honderd engineers bij OpenAI of Anthropic.

Peter Slagter: Ja, ik denk dat die beschermende strategie, dat dat uiteindelijk heel lastig wordt.

Bart Mol: Maar ja, aan de andere kant, totdat er een keer een of andere extremist een biowapen maakt met Kimi K3 en m'n buren hier dood neervallen. En m'n vriendin en m'n ouders om-

Peter Slagter: Dan nog wordt het de vraag of je de geest in de fles terug kunt duwen.

Bart Mol: Nee, precies. Alleen ik wil niet, zeg maar, die tegenargumenten zomaar even van tafel gooien. Van: nee, open source het maar en iedereen-

Peter Slagter: Daarom zijn het taaie vraagstukken.

Bart Mol: Exact.

Peter Slagter: Er is niet een eenvoudig antwoord op.

Bart Mol: Exact. Alright Peet, gaan we nog even doen? Ja.

Peter Slagter: Ja. Ja kan. We kunnen er ook voor kiezen om te zeggen: joh, de trein vertrekt volgende week pas. Ja.

Bart Mol: Ja.

Peter Slagter: Dat kan. Dat kan allebei, hè? Dat kan keurig. Het is op zich is het ook geen probleem om onze luisteraars aan te leren van: joh.

Bart Mol: Kom.

Peter Slagter: O nee.

Bart Mol: Ik. Ik hoor het in de verte. Ja. Ja.

Peter Slagter: Hij beslist het gewoon. Oké, nou ja, weet je, er is gewoon een trein gearriveerd. Ja, we gaan het toch nog even hebben over de Turing Line jongens. Ja, de metro waarmee wij nu door de geschiedenis van de AI aan het zoeven zijn. Aan het toeven zijn. En we zijn aangekomen op Limits Station. Ja. En ja, ook weer een prachtig verhaal. Ik vond dit wel een van de tot nu toe moeilijkere om goed voor te bereiden. En dat komt omdat achter het verhaal best wel een heel theoretisch wiskundig verhaal zit waar ik zelf moeite mee heb om dat helemaal te doorgronden. Zeg ik er eerlijk bij. En al helemaal om dat vervolgens uit te kleden en te vertellen op een manier dat het waar blijft, maar niet te moeilijk is. Maar goed, dat gaan jullie merken. Geef vooral feedback hoe dat voor jullie was. We gaan naar Princeton in de zomer van 1943.

Peter Slagter: Broeierige namiddag. We lopen daar tussen de neogotische gebouwen. Strak gemaaide gazons en we zien daar twee mannen. Die zijn diep in gesprek en de een herken je meteen als Albert Einstein. Netjes in pak, schoenen zonder sokken, zijn beroemde haardos erbovenop. Ja, die sokken, die droeg hij liever niet, want ja, zijn grote teen, die maakte steeds een gat in. Dus hij heeft heel praktisch gedacht. Ik doe gewoon geen sokken meer aan, ze zijn ook niet nodig. Er zitten immers schoenen om een sok om zijn voeten heen. En voor zijn kapsel gold denk ik hetzelfde principe. Het interesseerde hem denk ik weinig hoe hij erbij liep. Naast hem loopt een graatmagere man, 37 jaar, draagt ondanks de warmte een winterjas en een sjaal. Hij is bang om kou te vatten en maakt zich voortdurend zorgen over zijn gezondheid. En dit is Kurt Gödel, een van Einsteins beste vrienden en een man die tien jaar daarvoor de wiskundewereld op zijn kop zette. En om te begrijpen wat hij had gedaan, moeten we eigenlijk eerst even kennis maken met iemand anders. David Hilbert of David Hilbert.

Peter Slagter: Want volgens mij, ik weet wel zeker, het was Duitstalig Oostenrijk aan het begin van de twintigste eeuw en in zijn tijd leefde binnen de wetenschap een best sombere gedachte. Het idee was sommige vragen zouden voor altijd buiten het bereik van het menselijk verstand liggen. Er bestond een Latijns woord voor ignorabimus. Dat betekent zoiets als we zullen het niet weten. Deprimerend. En Hilbert, die verzette zich fel tegen die houding. Die werd er echt chagrijnig van. Hij vond een onopgelost probleem was geen reden om op te geven. Dat was gewoon werk dat nog gedaan moest worden. Hij geloofde dat voor iedere goed geformuleerde vraag uiteindelijk ook een antwoord te vinden was. En in 1928 formuleerde hij samen met Wilhelm Ackermann het Entscheidungsprobleem. Simpel gezegd bestaat er een universeel stappenplan dat voor iedere logische bewering kan bepalen of die waar of onwaar is.

Peter Slagter: Je stopt er een bewering in, volgt een vaste reeks met regels en de machine antwoordt altijd met ja of nee, waar of onwaar. En Hilbert was ervan overtuigd dat zo'n universele beslismethode moest bestaan. Op 8 september 1930 sprak hij in zijn geboorteplaats Königsberg de woorden uit die later ook op zijn grafsteen zouden komen. Wir müssen wissen, wir werden wissen. Dat was in een toespraak. We moeten weten, we zullen weten. Hier zat levenswerk in. Hij sprak over meer dan wiskunde. Hij verdedigt het idee dat de mens uiteindelijk kan begrijpen, alles kan begrijpen. Maar dan, één dag voordat hij die toespraak hield, hield een nog onbekende wiskundige van 24 jaar in dezelfde stad ook een voordracht. Zijn naam Kurt Gödel en Gödel, die was helemaal niet bezig met het onderuithalen van Hilberts droom.

Peter Slagter: Integendeel, hij werkte eraan mee. Hij wilde ook dat onwankelbare fundament onder de wiskunde veroorzaken, bedenken, uitvinden. Maar tijdens dat werk stuit hij op een merkwaardig probleem. Hij raakte gefascineerd door iets wat in de filosofie als de leugenaar paradox bekend staat. Neem deze zin. Dus deze zin, deze stelling is onwaar. Die zin. Korte zin. Als die zin waar is, dan is hij onwaar. En als hij onwaar is, dan wordt hij weer waar. Je blijft hoe dan ook in een logisch kringetje ronddraaien. En Gödel? Die vroeg zich af kan je nou zo'n zelfverwijzende uitspraak ook in de taal van de wiskunde bouwen? En hij bedacht daarvoor een slimme truc. Hij gaf weer ieder symbool in de wiskunde een nummer. En daardoor werden niet alleen losse tekens, maar ook complete formules en bewijzen getallen. En dat veranderde alles. Want zodra beweringen en bewijzen zelf getallen zijn, dan kan de wiskunde eigenlijk iets over zichzelf gaan zeggen.

Peter Slagter: Die kon als voor het eerst als het ware een soort in de spiegel kijken. En wat zag Gödel daar? Hij zag daar een wiskundige zin, dus een uitdrukking in getallen die in mensentaal ongeveer het volgende zegt: Met deze spelregels kun je mij niet bewijzen. Dat lijkt op die paradox. Maar stel dat het toch lukt om die zin te bewijzen, dan hebben die regels een uitspraak bewezen die juist beweert dat ze niet bewijsbaar is. En dan heb je een systeem dat zichzelf tegenspreekt en dat is in de wiskunde een doodzonde. Dat noem je inconsistent. Een tegenstrijdig systeem, die kan je niet vertrouwen. Maar als de spelregels wel overeind blijven, dan is er dus minstens één ware uitspraak die je met die spelregels niet kunt bewijzen. Nou ja, dan denk je van: nou ja, prima, dan voeg je toch gewoon een spelregel toe en dat helpt wel even. Dan kun je die specifieke casus dan ondervangen. Alleen wat Gödel bewees is van als, dan ontstaat er direct verderop weer een nieuwe blinde vlek. Hoeveel spelregels je ook toevoegt, je krijgt een systeem nooit helemaal sluitend.

Peter Slagter: Dat noem je Gödel eerste onvolledigheidstelling. En zijn tweede, ja, die eerste, dan is er dus ook een tweede. Die ging nog wat verder. Hij zegt: ja, zo'n regelsysteem die kan niet met zijn eigen regels bewijzen dat het vrij is van tegenspraak. Anders gezegd: een regelboek kan niet met zijn eigen regels bewijzen dat er nergens een fout in zit. En het is dus niet zo dat Gödel bewees dat wiskunde niet werkt, dat logica waardeloos was of zo, maar hij liet alleen maar zien dat er geen enkel betrouwbaar regelsysteem is waarin alle ware wiskundige uitspraken zitten die dat omvat. Er zijn grenzen aan wat je kan bewijzen. Nou, en voor Hilberts droom was dat best wel even een klap. Maar hij bleef, ja, hij bleef hoopvol. Er was nog een vraag. Misschien bestond er toch een slimme beslismethode die buiten zo'n regelsysteem om voor iedere bewering toch het juiste antwoord kon vinden. Nou, en die hoop, die verdween in 1936. Dan komen we uit bij, ja, een tweede hoofdrolspeler in dit verhaal, de Amerikaanse wiskundige Alonzo Church.

Peter Slagter: En die onderzocht Hilberts vraag vanuit een heel andere hoek. En hij bewees met een nieuwe formele taal die hij had bedacht dat zo'n universele, zo'n stappenplan dat Hilbert in gedachten had, nooit kan bestaan. Er is geen machine denkbaar dat iedere logische vraag kan beoordelen en altijd met het juiste antwoord komt. In datzelfde jaar bereikt een jonge Brit, Alan Turing, onafhankelijk van Church precies dezelfde conclusie. Church werkte met functies en met wiskundige regels. En Turing die stelde zich een machine voor die tekens leest, schrijft en stap voor stap instructies uitvoert. Die machine, daar gaan we het later wel eens over hebben, maar ze kwamen via verschillende routes op dezelfde grens uit. Dat was de definitieve nekslag voor Hilberts programma. Die had ook verlies, die nam zijn verlies, die paste zijn onderzoeksvraag aan. Het is klaar. Die droom, die kwam niet uit. Church legde met zijn werk een heel belangrijk fundament onder wat later bekend kwam te staan als functioneel programmeren.

Peter Slagter: En Gödel had laten zien dat je beweringen en bewijzen als getallen kon beschrijven. En samen hielpen ze eigenlijk bepalen wat computers in principe kunnen uitrekenen en welke grenzen ook de snelste computer nooit zal doorbreken. Computerwetenschappers die bleven daarna volop met logica werken, hè, dus het was niet zo dat logica ineens van de baan was. Ze bleven daar gewoon mee werken. De eerste AI-systemen die bestonden ook gewoon uit enorme verzamelingen met kennis en vaste regels. Later kozen onderzoekers steeds vaker een andere aanpak, namelijk machines leren van voorbeelden, van patronen, van waarschijnlijkheden. De huidige taalmodellen, die horen bij die tweede familie. Die zoeken niet sluitend bewijs voor iedere zin die ze produceren. Die berekenen welk woord waarschijnlijk het beste bij de woorden ervoor past. Daarom kunnen ze prachtige teksten schrijven en even later met, ja, met groot zelfvertrouwen ook onzin verkopen. Hè, dus Hilbert die droomde van een machine die juist zekerheid gaf, terwijl moderne AI juist waarschijnlijkheden geeft. Nou, op die spanning tussen logica en kans gaan we later nog terugkomen.

Peter Slagter: We gaan even terug naar Princeton, waar Einstein en Gödel dus die wandeling hadden. We weten niet precies waar ze over spraken. We weten alleen dat ze heel regelmatig met elkaar wandelden. Einstein hechtte daar bijvoorbeeld heel veel waarde aan. In zijn laatste jaren zei hij dat hij vooral nog naar kantoor kwam voor het voorrecht om samen met Kurt Gödel naar huis te mogen lopen. Vond ik een leuk anekdotetje. Volgende week gaan we naar Europa. Dan is het niet zonneschijn en groene grasvelden. Dan belanden we midden in een oorlog. Is gewoon even een draai. Bletchley Park. Daar draait het om gecodeerde berichten, geheime onderzoeksteams, ronkende machines en om de vraag of mens en machine samen snel genoeg kunnen werken, samenwerken om de vijand voor te blijven.

Bart Mol: Ja, Peet, ik ben blij dat we toch weer even ingestapt zijn. Ik kijk ernaar uit. Ik ga het, we gaan het volgende week horen.

Peter Slagter: Mooi zo.

Bart Mol: Ja, en daarmee gaan we ook gewoon snel deze aflevering afsluiten, dames en heren. Ik wil jullie hartelijk bedanken voor het luisteren. Ga naar turingstation.nl. Kom gezellig in onze community. Meld je aan voor de nieuwsbrief en de gidsen. Laat even in de comments achter op Spotify of op YouTube wat je van de podcast vindt, wat je gemaakt hebt, wat je vragen zijn. En dan rest ons verder niks dan jullie een hele fijne week te wensen. Geniet lekker van het weer en tot volgende week woensdag in de volgende Turing Station. Thanks voor het luisteren. Tot volgende week.

Peter Slagter: Tot volgende week!