Waarom Stripe denkt dat de singulariteit al begonnen is

Bart Mol: Ja, je hoort het alweer dames en heren. We hebben een bomvolle uitzending. We hebben zin om het erover te hebben met jullie, dus dat gaan we direct doen. Welkom bij aflevering 10 van Turing Station. Ja heren, daar zitten we weer. Na een maand zijn we weer helemaal samen. We hebben Bert natuurlijk gezien vanuit zijn prachtige idyllische plekjes in Noorwegen. Maar je bent weer terug. De drie musketiers zijn weer samen. Goed dat je er weer bent, Bert. En welkom Peet natuurlijk ook.

Peter Slagter: Ja, dank je wel.

Bart Mol: Ja, thanks. Weer terug in het idyllische Nederland. Ook mooi hier gelukkig. En een beetje temperatuur waar je wat mee kan hier. Dus. Ja, toen jij weg was toen zijn we hier van onze stoel afgegleden. Maar we hebben het overleefd, we hebben het overleefd en onze luisteraars ook, want die hebben weer massaal comments ingestuurd, dus die gaan we eventjes even behandelen. Even kijken wat ze deze week allemaal gebouwd hebben, Peet. We kregen ook nog een paar aanbevelingen, dus die gooien we er gewoon ook even doorheen. Ik zag een hele leuke, misschien wel de leukste van deze week. Geen, ik wil de anderen niet tekort doen, maar Ralph, die heeft een ESP32-cameraatje gebouwd, hè. Dat is dat chipje wat ik vorige week liet zien, alleen dan met een cameraatje erbovenop, en die heeft hij in zijn brievenbus gemonteerd en die maakt elk half uurtje een foto. En als die foto heel erg anders is dan de vorige, dan betekent het dat er post in de brievenbus ligt en dan krijg je een berichtje.

Peter Slagter: Ja.

Bart Mol: Ja, dat is geniaal, dat vind ik mooi. Heel erg vertaal- ik denk dat ik die misschien ook wel ga doen. Al heb ik geen brievenbus, helaas. Dus, ik heb wel een brievenbus, maar geen, ja, geen bakje waar dat in belandt of zo. Ik vind het wel een hele leuke.

Peter Slagter: Ik zie dat er nog iemand met een ESP32-bordje heeft zitten klooien. Cuba Fly, die bouwde met AI een controller met radarsensoren voor Home Assistant, zodat aanwezigheid beter wordt gedetecteerd dan met PIR. Ja, jongens, dit is, dit gaat zo, als je al afgaat bij, sorry, sorry.

Bart Mol: Nou ja, ik zeg maar, je had altijd bewegingssensoren die heel lage energieverbruik hadden. Die waren op zich hartstikke goed. Iedereen kent ze wel. Ze hangen op elk kantoor, maar iedereen die op kantoor heeft gewerkt heeft ook wel eens zitten zwaaien in een donker kantoor. Die bewegingssensoren zijn niet zo goed in hele kleine bewegingen en tegenwoordig hebben we daar, ja, een radar voor. Ja, en dan kan je dit soort dingetjes maken. Hebben wel meer energie nodig, dus vaak ook een kabeltje. Dat is dan weer het nadeel. Maar ja, wel heel erg leuk, want die kan je bijvoorbeeld in je woonkamer zetten en daar allemaal automations over bouwen. Ik zag Joost, onze Joost, die maakte klasoefening.nl, waarmee je via knippen en plakken een statische PowerPoint omzet in een interactieve reken- en taalles. Voor de kids neem ik aan dus.

Peter Slagter: Ah, mooi.

Bart Mol: Joost, lekker bezig.

Peter Slagter: Ja, ik had eigenlijk taalles bij Wesley Duits verwacht, maar dat is niet zo. Wesley Duits die heeft iets anders gedaan. Die heeft met AI een persoonlijke hardloopcoach gemaakt. Analyseert Apple Health-trainingsdata, bouwt een dynamisch trainingsschema, wilt die automatiseren in een eigen iPhone-app. Ja, mooi, dat zien we vaker langskomen, hè, mensen die gewoon hun eigen sport aan het automatiseren zijn.

Bart Mol: Ja, precies. Ja, helaas kan je het sporten zelf niet automatiseren. Maar goed, aan de andere kant. Nou trouwens, daar gaan we het deze week over hebben. We hebben de Robot Olympics gehad. Komt later, komen we later op terug. Remco die bouwde met Claude Code een volledig lokale AI-transcriber met Whisper-spraakherkenning, timestamps, GPU-acceleratie, LLM-post-processing en een MCP-server, zodat Claude zelf audio kan laten transcriberen. Dit is echt een leuke aanrader. Ik heb dat zelf ook gedaan op mijn computer met mijn videokaart en eigenlijk alle transcription die ik op dit moment doe, die loopt via die computer. Ik heb bijvoorbeeld gister een complete podcast van ons laten transcriberen van 1,5 uur. En ja, op zo'n GPU, zo'n 3090 van Nvidia, gaat het gewoon binnen 80 seconden via Whisper Large. Dus dan heb je ook nog serieus goede kwaliteit. Timestamps erbij. Ja, best wel impressive. En een van de weinige dingen waar, ja, lokale AI toch echt wel op hetzelfde niveau zit als frontier models.

Peter Slagter: Ja, ik zie dat Karl door ons toedoen DeepSeek is gaan proberen en die kreeg ook OX of ZeroX Alpha via OpenRouter aangeraden. Ja, daar is veel over te doen geweest de afgelopen weken. Een of ander magisch mysterieus nieuw model die iedereen

Bart Mol: z'n achterwerk laat zien, zo goed zou het zijn. Ja.

Peter Slagter: Het schijnt dan een GLM 5.x model te zijn of misschien wel iets anders. Ja, wat zou het zijn?

Bart Mol: Iedereen was een beetje aan het,

Peter Slagter: Aan het gokken.

Bart Mol: Aan het raden en aan het gokken. Dus wij komen er nog een keer op terug als het een beetje duidelijk wordt hoe dat precies zat.

Peter Slagter: Thomas, die vraagt.

Bart Mol: Ja.

Peter Slagter: Ja, Thomas die vraagt iets wat Bart zichzelf ook afvraagt, denk ik.

Bart Mol: Ja, nou precies. Wanneer komt mijn iPhone app in de App Store? Ja, ik lig in de clinch met een AI bot van Apple volgens mij, want die blijft mij vragen waarom mijn persoonlijke website-

Peter Slagter: Dat is echt erg, ja.

Bart Mol: Niet goed genoeg is, terwijl die dat wel is. Dus, of in ieder geval mijn zakelijke website. Dus op het moment dat ik App Store toegang heb, dan kan ik een testflight aanmaken en dan kan iedereen het proberen. Dus dan. Het is wel de bedoeling alleen.

Peter Slagter: Computer says no, Bart. Computer says no.

Bart Mol: Inderdaad computer says no. Maar goed, ik blijf doorgaan totdat ik hem heb. Het is Stijn ook gelukt, dus dan moet het mij ook lukken.

Peter Slagter: Ja, dan komen wij bij de laatste. Wasteful Wanderer zegt AI-gegenereerde naam volgens mij. Die koppelt onze discussie over determinisme aan probabiliteit en probabiliteit aan The Origins of Efficiency van Brian Potter. Ja, dit klinkt ook, dit is meer een comment in Bart zijn straatje denk ik.

Bart Mol: Nou, het is gewoon een leuk boek over hoe efficiency de-- sorry?

Peter Slagter: Is het de broer van Harry, die Brian?

Bart Mol: Ja, waarschijnlijk ja. Nee, het is een boek over hoe efficiency een soort van de driver is achter vooruitgang volgens mij, als ik het even snel bekijk. Een boek uit 2025, dus redelijk recent. Dat is wel leuk. Doet mij denken aan trouwens, Wasteful Wanderer doet me denken aan de naampjes die ik bij Mullvad VPN krijg, voor elke apparaat. Ik heb hier bijvoorbeeld Noble Condor staan voor mijn Mac, dus daar lijkt het een beetje op. Mensen, thanks allemaal voor wat jullie weer ingezonden hebben. Blijf dat vooral doen, dat vinden we hartstikke leuk om te horen. Dus blijf vertellen wat je gemaakt hebt, ook als je al een keer wat ingezonden hebt. Waarschijnlijk maak je weer een keer wat nieuws. Laat het weten, dan blijven wij dat ook doen in de podcast. En op die manier, ja, blijven we elkaar een beetje inspireren. Gaan wij eens eventjes naar de korte nieuwtjes van deze week die we wel belangrijk genoeg vonden om te noemen, maar niet belangrijk genoeg vonden om een heel item van te maken.

Peter Slagter: Zo is dat. Zal ik hem gewoon even openen met iets heel korts wat ik langs zag komen? Nou, jullie weten allemaal, denk ik wel iedereen die luistert, die wel eens ChatGPT gebruikt heeft, of Grok of gewoon in de context van chat en je vraagt iets, en je gaat er nog eens even dieper op in, en je vraagt van: joh, kun je het goed voor me uitzoeken? En dan krijg je een verhaal en dan zit er iets tussen waarvan je hopelijk denkt: oh, dat moet ik zelf nog even controleren. Of dit wel klopt. Waar komt het nou eigenlijk vandaan? En soms kan je dat doorvragen en dan komt zo'n taalmodel zelf mee of tot de conclusie van: oh, was daar iets te absoluut? Oh, ik zie dat ik dat wel zo bedoelde, maar er is eigenlijk geen bron bij te vinden en dan maakt hij er wat anders van. Nou en, ja, daar liep deze week las ik, even kijken, waar las ik het? Het was een Nederlandse website. Op AT5.nl las ik het. Ja, daar heb ik niets voor in mijn geheugen, dat een advocaat er ook tegenaan liep. Dus die heeft een rechtszaak gevoerd en de verdedigende partij die kwam erachter van: hè, hij zegt iets, maar het slaat nergens op.

Peter Slagter: En dat bleek dus om een nepcitaat te gaan. Ja, maar vermoedelijk gegenereerd door een taalmodel. Ja, en de rechter die heeft gezegd van: ja, weet je, het maakt mij eerlijk gezegd niet zoveel uit of je wel of geen AI gebruikt. Waar het om gaat is dat wat er uiteindelijk in mijn rechtszaal wordt gezegd, dat moet kloppen. Ja, en als je dingen verzint, of jij dat nou doet of een AI, of een taalmodel, uiteindelijk ben jij degene die dat hier in mijn rechtszaal uitkraamt. Ja, dan ben jij er ook voor verantwoordelijk. Dus je krijgt daar een, ja, een boete voor tussen aanhalingstekens. Tuurlijk niet net zoals een verkeersboete, maar hij moest er een paar duizend euro voor lappen geloof ik. Maar ja, ik, dat vind ik wel grappig, dit soort dingen die komen nu, die lekken nu ook door naar de rechter, de rechtszaal.

Bart Mol: Ik heb hier nog wel een aanvullinkje op, Peet. Die zag ik vorige week langskomen. In Amerika moet ik opeens aan denken. Er was iemand die aangeklaagd was ook, dus de verdediging dan in dat geval. Ik weet niet of hij of zijn advocaat het had gedaan, maar die moest een bepaald document inleveren bij de rechtszaak. Waarschijnlijk met zijn pleidooi erin of whatever, en die had daar gewoon in witte regels bovenin die PDF een soort van system prompt gezet van: nou ja, als jij een AI bent die dit leest, ja, dan moet je vanaf nu mij in het voordeel stellen of zo, of iets in die richting. En die hoopte dus dat de rechter ook AI zou gebruiken zodat, ja, zodat hij daar een beetje geholpen werd. Uiteindelijk bleek dat niet zo te zijn, maar ik vond het wel grappig dat er dus inderdaad aan alle kanten in alle industrieën mensen zijn die dit linksom of rechtsom een beetje proberen te gebruiken. Hé, ik heb hier wel een mooi bruggetje naar eigenlijk alle andere in het kort nieuwtjes die we hebben, namelijk de strijd tussen Anthropic en OpenAI. Dat zijn de twee Amerikaanse giganten, de frontier labs waar eigenlijk alles om draait.

Bart Mol: OpenAI natuurlijk, de oudste van de twee. Met een voorspelde omzet kwam de afgelopen weken naar buiten. Dit jaar, 2026, van veertig miljard en hun grote concurrent met allemaal oud OpenAI-medewerkers daarin, inclusief de baas daar, hè, Dario Amodei. Anthropic, en die hebben voor het eerst een hogere voorspelde omzet dan OpenAI, namelijk vijfenzestig miljard. Vond ik interessant om te melden. Want ja, die twee zijn natuurlijk aan het strijden om een IPO te gaan doen en het liefst de grootste ooit. We hebben nu natuurlijk SpaceX gehad. SpaceX AI een paar weken geleden. Die natuurlijk een enorme IPO heeft gedaan, een paar maanden geleden inmiddels alweer. En Anthropic, daar is ook wat nieuws over gekomen, want die schijnen toch in september of oktober volgens de Wall Street Journal een IPO te gaan doen. En zij gaan investeerders vertellen dat de total addressable market waar ze zich op richten, die is 30 biljoen dollar waard.

Bart Mol: Dat is evenveel als het complete Amerikaanse BBP. En, wat willen ze nou gaan doen? 100 miljard dollar ophalen tegen een waardering van 2 biljoen. En dat is dan natuurlijk allemaal net iets groter dan wat SpaceX heeft gedaan. Dus dat zou betekenen dat dit, in ieder geval tot OpenAI iets gaat doen, de grootste IPO ooit is, Peet. Maar over OpenAI is ook een en ander te vertellen de afgelopen week.

Peter Slagter: Ja, ja, het enige wat ik daar in dit lijstje heb gezet, dat gaat even over, ja, ik wil daar eigenlijk gewoon iedereen even op de hoogte stellen dat je vanaf ergens deze week te maken krijgt in ChatGPT met advertenties. Ja, veel meer dan dat is het niet. Ik heb het zelf nog niet zien langskomen. Nou heb ik de afgelopen week ook niet heel veel in ChatGPT rondgehangen eerlijk gezegd. Maar, ja, dat is iets waar je even op moet letten. Ik ga ervan uit dat dat ook goed zichtbaar is. Veel mensen die gebruiken ChatGPT natuurlijk gewoon als een soort veredelde Google, hè. Dus die stellen een vraag en die krijgen dan een antwoord. En tussen de resultaten staat er net zoals op Google een gesponsord resultaat. En dat zal hopelijk alleen het geval zijn voor ChatGPT-gebruikers die van het gratis abonnementje gebruikmaken.

Bart Mol: Ja, dat hoop ik ook, ja. Ik zag ook dat ze kwamen met een nieuw abonnement. Wel een interessante ook vind ik. Kijk, tot nu toe had je het abonnement was alleen voor persoonlijke users, hè, dus het abonnementje voor $20, $100, $200, we kennen ze allemaal wel. Die mag je eigenlijk alleen afnemen gewoon als mens, zeg maar, en niet als bedrijf. Als bedrijf ben je veroordeeld tot het gebruiken van de API over het algemeen en dan betaal je fors meer. Nou, dat is op zich voor grote bedrijven ook een probleem natuurlijk. Alleen die hebben dit probleem altijd gehad, hè. Bijvoorbeeld de podcast software die wij gebruiken. Die kost voor ons $100 per maand, maar als je hem als Microsoft wil gebruiken, dan kan het zomaar eens tienduizenden dollars per maand zijn. Zo werkt dat nou eenmaal. Maar ja, je hebt ook nog MKB en vaak heb je ook wel een zakelijk abonnementje wat daar een beetje tussenin hangt. En dat is wat OpenAI nu aangekondigd heeft, namelijk een abonnement, een kleintje en een grotere voor zakelijke gebruikers.

Bart Mol: Bijvoorbeeld voor €100 per maand per gebruiker. En dat lijkt dus heel erg wat je natuurlijk ook hebt voor persoonlijke accounts. Ik denk dat het heel slim is omdat er gewoon heel veel MKB'ers zijn. Dit geldt dan voor 2 tot 200 gebruikers. Bijvoorbeeld voor ons bedrijf, om maar eens wat te noemen, is dit superinteressant omdat we nu de hele tijd toch een beetje op persoonlijke accountjes zitten te klooien omdat je niet hetzelfde bedrag uit gaat geven aan API credits.

Bert Slagter: Ik moet een kleine rectificatie doen, Bart. Het zakelijke abonnement bestaat al, misschien een jaar, twee jaar. Peet en ik hebben dat verbouwd samen. Alleen daar had je alleen maar het goedkoopste, het plus abonnement van €20 per maand. En het nieuws is dat daar nu bij komt het abonnement daarboven voor €100 per maand. Vergelijkbaar met ook het grotere abonnement wat je als particulier hebt. Dus als zakelijke klant had je altijd alleen maar het eerste niveautje. Dus als je dan door de shit heen was, dan moest je inderdaad naar de API toe en je kon niet upgraden naar wat je dan het pro-abonnement of zo noemt bij particulier. Dus dat is nu de grote verandering. Dat is zeg maar ook voor het zakelijke gebied de mogelijkheid hebben als je met het kleine abonnement niet uitkwam om een groter abonnement te pakken.

Bart Mol: Ja, en zakelijk, zeg maar een developer kwam er natuurlijk nooit uit met dat abonnement. Dat was het grote issue. Als jij een beetje wil coden, dan moet je naar die vijf keer of het liefst natuurlijk naar die 10 of 20 keer.

Bert Slagter: Precies, ja.

Bart Mol: Dan als laatste, ook OpenAI. Die pauzeren hun reinforcement learning op nieuwe modellen. Een beetje de training van nieuwe modellen, om het zo maar te zeggen, even platgeslagen voor twee weken. Dat had natuurlijk te maken met al die events, hè, die we de afgelopen weken, die security-incidenten die we hebben besproken. Vooral het uitbreken van die agents en het hacken van Hugging Face. Het hacken van Hugging Face. Ja, dat krijg je, soms dat soort woorden achter elkaar.

Peter Slagter: Dit is trouwens het type nieuwtje dat we volgens mij elke week langs hebben komen, dus gewoon, er wordt iets gepauzeerd vanwege cybersecurity.

Bart Mol: Ja, maar echt het trainen van de modellen, dat is wel volgens mij nieuw. Het is vaak de introductie van nieuwe modellen aan een groot publiek die dan een beetje uitgesteld wordt of wat verder achter gesloten deuren gedaan wordt.

Peter Slagter: Er zit weer een programma aan gekoppeld of zo die de deuren opent. Inderdaad.

Bart Mol: Precies. Dus dat, ja, goed, dat is interessant, dat om dat draadje nog effe mee te nemen deze week. We gaan het deze week niet heel uitgebreid hier over hebben, maar goed, het is, we hebben het er afgelopen weken wel uitgebreid over gehad, dus daarom goed om even genoemd te hebben. Dan als laatste Nvidia, die koopt Poolside voor 6 miljard. We gaan het straks nog even over OpenRouter hebben. Dat is nog een veel grotere overname geworden. Ja, ik vond het interessant omdat we het in aflevering vijf over Poolside hebben gehad. Heel kort en hun Laguna model. Toen zei ik: oh, dat is lachen, dat is leuk. Die richten zich helemaal op kleine modellen die je thuis kan draaien. Ja, ik weet niet of ze dat nu gaan doen, want ze zijn overgenomen. En Nvidia heeft dat niet per se gedaan voor hun modellen, maar wel voor hun software en hun suite waarmee ze die modellen produceren, dus vrijwel, het is de bedoeling dat al die 109 medewerkers ook overgaan naar Nvidia. En ja, van Poolside gaan we dus niks meer horen. Zo zie je, dat zo snel kan het gaan. Vijf afleveringen later en het is overgenomen. It's gone. Hé, we gaan naar het eerste item van deze week.

Bart Mol: Bert, die gaat ons namelijk wat vertellen, hè, dat past hier mooi bij, over open source AI. Of moeten we het eigenlijk wel zo noemen? Nou, dat is de grote vraag natuurlijk.

Bert Slagter: Bij AI gaat het regelmatig over open versus closed. We hebben een week gehad eind juli. Toen kwamen er ineens twee grote, hoe noem je het, soort pamfletten uit. De eerste was Open Weights and American AI Leadership, 24 juli en drie dagen later kwam, geleid door Nvidia, kwamen ze met de Open Secure AI Alliance for AI Safety and Security. Met, nou echt, praktisch elk bedrijf uit de industrie staat er dan onder met een logootje. En daarin pleit men voor het open maken van AI: open weights, open source, open models, noem het maar op. En ik dacht: daar moeten we het toch eens wat dieper over hebben, want er wordt soms net even iets te makkelijk met het woord open gesmeten. De term open komt uit de softwarewereld. In de jaren 80 en 90, de jaren waarin de personal computer opkwam, was het gebruikelijk dat bedrijven de broncode van hun software geheimhielden.

Bert Slagter: Klanten kregen alleen maar de onleesbare en onwijzigbare gecompileerde programma's. Niet de broncode, maar de binary of de executable. In MS-DOS en Windows herken je dat aan .exe als bestandsextensie. Heb je vast wel eens gezien: mmm.exe. Dat is dan het programmaatje, maar je kunt dat niet lezen. Je kunt het ook niet wijzigen. Je kunt het wel opstarten, maar je kunt niet de code bekijken, niet controleren, niet verbeteren, niet uitbreiden.

Bart Mol: Het was vaak het laatste wat ik zag voordat de computer van mijn ouders op zwart ging. Een .exe-bestand.

Bert Slagter: Ja, dan klik je erop.

Bart Mol: Er was een virus. Stond er: Eminem_Stan.exe.

Bert Slagter: Op zwart of op blauw ja.

Bart Mol: Ja.

Bert Slagter: Dat is een programma in plaats van data, een muziekbestand of document. Begin jaren 80, in diezelfde periode, kwam er een stroming op die zich hiertegen verzette en die pleitte voor vrije software. Een van de aanjagers daarvan was Richard Stallman. In 1985 richtte hij de Free Software Foundation op om die beweging te ondersteunen. En daar is wel een grappig verhaal over te vertellen, over die Richard. Het begint grappig genoeg ook in het AI-lab van MIT, maar dan 50 jaar geleden. Stallman werkte daar toen als programmeur en onderzoeksassistent. Hij had de software van de printer aangepast, zodat gebruikers een berichtje kregen als hun printopdracht klaar was. En als het papier vastzat, dan kregen alle op dat moment ingelogde gebruikers een alarmbericht. Heel handig. En toen in 1980, toen schonk Xerox het AI-lab een nieuwe printer, een laserprinter. Stallman vertelt daarover in een interview uit 2001. Het linkje daarvan heb ik in de shownotes gezet. Is best grappig om eens door te lezen. Het was de eerste laserprinter buiten de muren van Xerox.

Bert Slagter: Heel genereus natuurlijk. Alleen de broncode van de software op de printer was niet toegankelijk en Xerox wilde Stallman ook geen toegang geven. Hij nog bellen met iemand van een andere universiteit die de broncode van de printer scheen te hebben, maar die wilde het niet geven. Die had al een telefoontje gehad van Xerox: als Stallman belt, moet je hem de kopie niet geven. Zo ging dat. Die ervaring, want Stallman wilde die broncode om opnieuw die wijzigingen te doen van die alarmberichtjes en zo. Die ervaring droeg eraan bij dat Stallman in 1984 ontslag nam en zijn leven wijdde aan vrije en open source software. De Free Software Foundation noemde ik het net. Free software. En in het Engels is die term een beetje verwarrend. Bedoel je free as in speech of free as in beer? Bier. Is het gratis of is het vrij? En in februari 1998, dus 15 jaar later, werd open source software voorgesteld als een betere term, met meteen een lijst aan voorwaarden om iets open source software te mogen noemen.

Bert Slagter: Namelijk bijvoorbeeld een aantal van die voorwaarden, het zijn er geloof ik 10. Ik pak er een paar. De broncode die moet beschikbaar zijn. Iedereen mag het vrij doorgeven, kopiëren, weggeven, zelfs verkopen, zonder toestemming te vragen en zonder licentiekosten af te dragen. Iedereen mag het aanpassen en de aangepaste versie verspreiden en de licentie mag niet discrimineren, bijvoorbeeld op nationaliteit van de gebruiker of tussen thuisgebruik en commercieel gebruik. Korte samenvatting: open source software, dan mag je de volledige broncode inzien, aanpassen en verspreiden voor iedereen en voor elk doel. In de afgelopen decennia, de afgelopen 20, 30 jaar, is open source software een uitzonderlijk belangrijke rol gaan spelen in heel veel technologie. Het is een soort van publiek goed geworden, zoals schone lucht en dijken en straatverlichting of wiskunde en Engels als wereldtaal en GPS. Het is er en iedereen kan ervan profiteren, zonder toestemming te vragen, zonder kosten af te dragen, enzovoort. In praktisch elk apparaat wat wij hebben zit wel iets van open source.

Bert Slagter: Het ontwikkelen van nieuwe apparaten, van nieuwe technologie is heel veel makkelijker en goedkoper geworden, omdat bouwers niet allemaal weer op nul moeten beginnen. Maar ze kunnen ergens starten met open source software, open source libraries. Waanzinnig! Dat is open source in software. Dan naar AI-modellen. Eens kijken of we de vertaling kunnen maken van open source software naar open modellen. Stel dat je als persoon of als bedrijf een model zelf wil draaien op je eigen hardware, dan zijn er een paar dingen nodig. Je hebt de gewichten van het model nodig, de 120 miljard getallen van een model met 120 miljard parameters. De architectuur van het model, een soort configuratiebestand, die betekenis geeft aan die 120 miljard getallen. Bijvoorbeeld: welke transformer-variant, hoeveel lagen, hoeveel dimensies. Als derde de tokenizer, die de tekst omzet naar tokens en tokens weer terug naar tekst. En als vierde iets van een licentie waarin staat wat je ermee mag doen. Als je die dingen hebt, als een AI-huis dit publiceert, dan noemen we het open weights.

Bert Slagter: Dit is open weights. Als deze vier dingen ergens gepubliceerd worden, vaak op Hugging Face, dan staat het daar mooi. Kun je downloaden. Dat is een open weights model. Je kunt het dan downloaden. Je kunt het draaien als je tenminste hardware hebt waar het op past. Als we dat even als voorwaarde nemen. Als we de vergelijking maken met software, dan lijkt dit veel meer op dat onleesbare en onwijzigbare gesloten software bestand waar Stallman zich tegen verzette. De .exe bestanden. De essentie van open source software is dat je als gebruiker zelf het programma vanuit de broncode kunt opbouwen en mag opbouwen. De openheid van open source komt van het reproduceren, van het controleren, van het verifiëren. Wat is-- de vraag is dan: als dat zo is, wat is dan de bron, de source van een model? Dat is, denk ik, de volledige set aan trainingsdata. Het exacte trainingsproces. Eerst de pre-training, dan de post-training. Hele dingetjes zoals: hoeveel tokens zitten er in een sequentie?

Bert Slagter: Hoe groot is een batch? Hoeveel worden de gewichten aangepast na elke stap? Welke gegevens worden er ingestopt en in welke volgorde? En in de post-training gaat het om: wat zijn de voorbeeld dialogen die zijn gebruikt in de supervised fine-tuning? Wat was de werkwijze voor preferentie training? Dat is allemaal nodig om het zelf te kunnen opbouwen. Daar komt dan een model uit. En de grap is als je dat elke keer op dezelfde manier doet, dan komt daar uiteindelijk in essentie min of meer hetzelfde model uit. Er zullen hele kleine verschilletjes tussen zitten door timingsverschillen en parallelisatieverschillen. Maar als je de training elke keer op dezelfde manier doet, komt daar for all intents and purposes hetzelfde model uit. Net zoals, als je broncode compileert, hetzelfde exe-bestand uitkomt. Als een AI model echt open source is, in de ruimste zin van het woord, dan krijg jij als gebruiker het model, de gewichten van het eindmodel, wat je bij open weights ook krijgt, onder een echte open source licentie zonder gebruiksbeperkingen, maar ook het basismodel en alle post-trained varianten en alle tussentijdse checkpoints.

Bert Slagter: Je krijgt de data, de volledige dataset voor pre-training, de volledige dataset voor post-training en de manier waarop die data verwerkt is. Hoe is het gefilterd? Hoe is het ontdubbeld? Hoe is het gemixt? En je krijgt alle broncode van het proces, de broncode voor de training, de precieze architectuur van het model, alle trainingslogs en de broncode voor evaluaties. En als je dat allemaal hebt, dan kun je een model opnieuw bouwen vanaf de ruwe data. Dat is open source. Dat is een open model. Je zou kunnen zeggen, denk ik: een open source model is vergelijkbaar met open source software zoals Linux. Een open weights model is vergelijkbaar met closed source software zoals Windows en een closed model is vergelijkbaar met cloudsoftware zoals Gmail. En even over die vergelijking tussen open weights en Windows. Je zou kunnen zeggen: het idee van die .exe bestanden is als je ze eenmaal hebt, kun je tot in het einde der tijden dat programma gewoon draaien.

Bert Slagter: Dat is, dat heb jij, dat heb je gekocht, dat heb je in je bezit. Staat op je computer. Je kunt het gewoon altijd opstarten. Je zou kunnen zeggen: ja, dat is bij Windows als voorbeeld al lang voorbij, want Microsoft kan op afstand de toegang uitzetten of het gedrag veranderen. Het punt is dat, dat zou je misschien voor open weights modellen ook kunnen gelden. Ik luisterde naar een podcast van Connor Leahy. Die was bij Peter McCormack te gast. En Leahy, die, het is iemand die zit aan de waarschuwende kant. Hij ziet een groot gevaar in het ontwikkelen van superintelligentie. En hij zegt, hij zei dat er al werkende proeven zijn met een soort sleeper cellachtig gedrag van modellen. Dat een model bij een bepaalde trigger ineens een heel ander gedrag gaat vertonen. Dat zou je wel een beetje kunnen vergelijken met iets wat je op afstand kunt aanpassen. En de grap is: bij een echt open source model zou je dit kunnen opsporen, want het zit natuurlijk ergens in de trainingsrun. Dat zit natuurlijk ergens in, waarschijnlijk in de post-training.

Bert Slagter: De essentie van open source is twee dingen: transparantie. Ik wil weten hoe het werkt. Ik wil weten hoe het tot stand is gekomen. En twee: aanpasbaarheid. Ik wil een variant kunnen maken. Ik wil erop verder kunnen bouwen. Ja, dan zeg je: ja, misschien van: ja, wat heb ik daaraan, open source? Ja, weet je, niemand gaat toch die trainingsdata controleren of die trainingslogs bekijken of-- dat gaat toch geen mens doen? Maar dat hoeft ook niet. Denk aan een prospectus van een bedrijf dat naar de beurs gaat. De meeste beleggers lezen dat niet. Klopt. Maar weet je wie het wel lezen? Analisten en financieel journalisten, die lezen het. En die laten het wel horen als het niet deugt. En zo moet je ook kijken naar die open source modellen. Er zijn altijd experts. Die duiken erin. Die zeggen dan: hé, dit hele proces. Ik heb het inderdaad nagedaan. Inderdaad, als ik dit run, dan komt er inderdaad dat model uit. Hé, dit deugt. Weet je wel. Op die manier moet je ernaar kijken. En met open weights kan niemand dat controleren. Je moet maar vertrouwen op de eerlijkheid en de goede bedoelingen van de maker.

Bert Slagter: Nou goed, dit is even mijn reflectie erop. De OSI, de Open Source Initiative, die ook de regels maakte voor open source software, die heeft ook een definitie opgesteld waar AI aan moet voldoen om open source AI te zijn. En die bevat eigenlijk al die ingrediënten die ik noemde, op eentje na. Ze zeggen bij de trainingsdata: daar hoef je niet alle data aan te leveren, maar data die niet publiek beschikbaar is, bijvoorbeeld geheime data of vertrouwelijke data of proprietary data van een bedrijf, daar volstaat het om een beschrijving te geven van die data. Er zijn discussies over geweest. Sommige deelnemers van dat initiatief die zeiden: dat vinden we eigenlijk niet ver genoeg gaan. Anderen zeiden: laten we het maar wel doen. En hier zijn ze dan op uitgekomen. Als je die definitie pakt, de OSI definitie, dan zijn er een paar projecten die eraan voldoen. Een paar academische projecten zoals OLMo 3 en LLM 360 en verrassend genoeg, Nvidia Nemotron. Die voldoet er ook aan. De rest: DeepSeek, Gemma, GPT-OSS, Mistral, Qwen, Kimi, Llama, allemaal niet.

Bert Slagter: Zijn het open weights? Zeker. Zijn ze open source? Nee. En toch willen we wel graag open source, denk ik. We willen graag weten welke data er gebruikt is, welke biases er in het model zitten, welke risico's daaruit voortvloeien. Waarop is er beloond? Waarop is er geoptimaliseerd? Vergelijk het maar met voedsel. Er is best wel wat commentaar op voedsel, op ultrabewerkt voedsel bijvoorbeeld. En de kern van al dat commentaar en van al die discussie is: we willen weten wat we eten. We willen ook weten wat we ons brein voeren en dat is wat we met een model doen. En als je dan even terugkijkt om het cirkeltje rond te maken, naar die twee initiatieven van eind juli. De Open Secure AI Alliance van Nvidia, die had het wel goed. Die heeft het over open models, open harnesses, open tools. Alles moet open, van begin tot eind. Het andere initiatief heeft het eigenlijk alleen maar over open weights. Die is wat terughoudender. Maar goed, het maakt niet zoveel uit, want elk bedrijf heeft onder allebei die dingen zijn handtekening gezet.

Bert Slagter: En dat is natuurlijk opvallend, want ze zeggen allemaal: we hebben hem ondertekend. Goed idee. De praktijk is: praktisch geen enkel model doet het. Dus even OpenAI. Die heeft allerlei closed modellen, vergelijkbaar met cloudsoftware. Prima, dat is gewoon een aanbieding. Daarnaast hebben ze een open model gemaakt, GPT-OSS. Maar dat is open weights, dat is helemaal niet open source. Ze hebben het wel ondertekend. Ik ben benieuwd, gaan we dat een keertje krijgen? Gaan we een keertje daadwerkelijk open source AI krijgen? Ik hoop het wel, maar op dit moment zitten we daar heel ver vanaf.

Bart Mol: Ja.

Bert Slagter: Bart, wat denk je ervan?

Bart Mol: Nou ja, ik zat een beetje mee te schrijven en ik dacht: ja, oké, klinkt logisch, hè, dat we dat willen controleren. Maar waarom eigenlijk? Zeg maar, in de zin van: ja, de bias kan je toch ook uitproberen, zeg maar. Je kan toch ook gewoon vragen stellen en dan kijken wat ie zegt. Ik denk dat de vergelijking met software natuurlijk heel goed is. Alleen software, daar zitten bepaalde, zeg maar, een model is geen software. Dat zit er weer bovenop. Dus ik snap bijvoorbeeld wel waarom je zou willen dat je harness open source is, omdat dat wel gewoon iets is wat je installeert op je computer en bepaalde dingen uitvoert met dat LLM als brein. Maar, ja, ik zit een beetje als consument, zeg maar, waarom wil ik dat?

Peter Slagter: Het zou natuurlijk wel prettig zijn als die transparantie van het begin af aan erin zit, in plaats van dat je dat op trial and error basis moet gaan uitzoeken wat de biases zijn. Dus, ik twijfel alleen heel erg of het ooit gaat gebeuren, weet je wel. Vooral het datageteil is natuurlijk problematisch in de zin van: er zijn allerlei auteursrechten die ermee gemoeid gaan. Licentievoorwaarden en zo die eraan gesteld worden. Misschien zelfs wel als je het helemaal opengooit, dat blijkt dat het allemaal heel crimineel is in de zin van: oh, dat bevat heel veel gejatte gegevens.

Bert Slagter: Nou ja, Nvidia Nemotron bijvoorbeeld heeft het dus inderdaad opengegooid. En we zagen, ik heb dat volgens mij een week of vier, vijf geleden genoemd, dat Duitse model. Die heeft dus eigenlijk die complete, het complete recept van Nvidia gepakt en gezegd van: nou, daar gaan we een paar dingen aan toevoegen, want we willen hem bijvoorbeeld specialiseren op Europese talen, de Europese context.

Peter Slagter: Ja.

Bert Slagter: Dus we pakken hun trainings, eigenlijk hun hele trainingsrecept. We halen er een paar dingen uit, doen een paar dingen aan toe en dan hupsakee, dan hebben we een model.

Peter Slagter: Het klinkt wel goed. Ik vraag me alleen af of het ooit zo goed kan worden als die modellen die echt al de gegevens gebruiken die ze kunnen vinden, zeg maar. En je ziet nu ook bijvoorbeeld voor robots. Ik zag gisteren weer een bedrijf uit stealth komen die, weet ik veel, 15 miljoen weet ik hoeveel gigabyte per dag binnenslurpen aan videodata om robots te kunnen trainen en zo. Daar gaat natuurlijk ongelooflijk veel geld in om. Gaat dat ooit open source worden?

Bert Slagter: Maar laten we dat datapunt dan even parkeren en zeggen van: dan gaan we even mee in de definitie van de OSI. Dat je voor data ook mag zeggen: we beschrijven welke data er gebruikt is, als die niet publiek in het publieke domein zit. Dan nog is er niemand van die open weights modellen die er ook maar in de buurt komt.

Peter Slagter: Nee, nee.

Bart Mol: Nee, maar ja, ik denk dat dat ook natuurlijk wel. We hebben het net gezegd dat Anthropic die wil 100 miljard ophalen tijdens een IPO. Nou, ik neem aan dat OpenAI ook zo'n idioot bedrag op wil halen, zeg maar. De investeringen zijn echt ongeëvenaard. We hadden, je moet eens even opzoeken wat Uber een tijdje terug tijdens een IPO wil ophalen. Dat was, toen zei iedereen: dit is geschift en dat is echt een schijntje vergeleken met de investeringen die hier nu gedaan worden. En aan de ene kant heb je voor die frontier modellen, voor Anthropic, voor OpenAI, aan de onderkant wordt constant aan hun voorsprong gevreten door Chinese modellen. Maar, ja, eigenlijk door allemaal soorten modellen. Want je hebt ook nog Google, je hebt Microsoft, noem het maar op. Je hebt allemaal andere partijen die elke keer, als ze stoppen met sprinten, niet stoppen met rennen, maar als ze stoppen met sprinten, dan worden ze niet ingehaald, maar bijgehaald.

Bart Mol: Ja, en als je niet specialer bent dan de open weights modellen, waarvoor zou iemand dan in godsnaam of waarvoor zou de markt dan 100 miljard gaan investeren in je? Dus zij hebben, ze zijn eigenlijk gedwongen om te blijven rennen. En dat doen ze door frontier modellen te blijven trainen die elke keer weer een x aantal keer beter zijn dan het vorige. Dus eerst hadden we GPT-3 en toen 4 en toen 5 en nu bijna 6. En we hebben Mythos en we hebben Astra en noem het allemaal maar op. Elke keer is het weer genialer en die race moet volgehouden worden. En dat zijn allemaal closed modellen, hè. Dus wat Bert aangeeft: dit is te vergelijken met Google Docs in plaats van Word of een open source variant van een tekstverwerker. Dit zit allemaal achter gesloten deuren en zelfs wat er achter gesloten deuren zit, is na vijf, zes maanden op zijn best weer ingehaald door open weights modellen. Dus ik denk dat dat alleen al genoeg is voor die bedrijven om te zeggen: ja, wij kunnen niet-- het enige bestaansrecht van OpenAI en Anthropic is modellen hebben die een paar klassen beter zijn dan de rest van de markt, want anders zijn die waarderingen gewoon nergens op gebaseerd.

Bart Mol: Dus hoe ga je dat opengooien?

Bert Slagter: Ik ben eens, zeg maar, met de denkrichting. Ik wil er een klein beetje tegenaan duwen, namelijk dat ze meer doen dan alleen maar modellen, maar ook juist de compositie en de routering en de diensten eromheen en hun harnassen. Dus dat is één denkaspect. Ze zouden, zeg maar, zoals dat GPT-OSS-model, je zou dat als losstaand ding wel kunnen publiceren. En laten we dan eens beginnen met het open source maken van modellen van één of twee jaar oud die echt niet meer relevant zijn in de frontier race, maar die wel nuttig zijn als bouwstenen voor anderen om up to speed te komen in projecten die helemaal niet hun concurrent worden. Want dat kan je helemaal niet met een model van twee jaar oud. Maar dat is wat de open source wereld natuurlijk wel altijd gedaan heeft. Dus bouwstenen aanreiken waar anderen van kunnen leren en op kunnen verder bouwen. En misschien, kijk, je kunt natuurlijk allerlei praktische kanten op gaan van: wat heb je eraan?

Bert Slagter: Waarom is het nuttig, hè? En dan denk ik dat het voor toezichthouders nuttig is om te weten in post training: hoe is het model beloond en gestraft? Waar is het op afgericht? Waar is het op geoptimaliseerd? Het is voor sommige toepassingen nuttig om een model opnieuw te kunnen trainen met bepaalde data eruit of met bepaalde ander soort post training of om experimenten op te doen. Ik denk ook voor de academische wereld zijn er allerlei nuttige denkrichtingen. Maar misschien is mijn grootste punt nog wel een soort principieel dat ik zeg: ja, weet je, iedereen heeft de mond vol van open en open source, maar wees gewoon eerlijk, dat is het niet.

Bart Mol: Nee.

Peter Slagter: Nee, dat klopt. Nee, maar met jouw punt is niks mis wat mij betreft, hoor. Dus ik zou het mooist zou ik vinden als dingen veel meer richting open source bewegen. Ik denk dat dat gewoon, als eindgebruiker is dat natuurlijk-

Bart Mol: Ja

Peter Slagter: ...vooral in jouw belang, in tegenstelling tot dingen die meer als zwarte dozen functioneren. Ik ben wel benieuwd hoe zo'n AI-economie eruit zou komen te zien, hoor, als dat echt daar naartoe zou trenden. Het is niet zo dat die AI-labs dan ineens een negaprobleem hebben. Hè, want ja, kijk, je kunt natuurlijk-

Bart Mol: Hoezo? Heb jij wel eens een IPO gezien van 100 miljard van een open source bedrijf?

Peter Slagter: Je kunt natuurlijk een model open sourcen. Dat betekent nog niet dat de rest van de wereld dat model ook op miljoenen apparaten kan laten draaien. Daar heb je alsnog natuurlijk een enorme infrastructuur voor nodig.

Bart Mol: Ja, maar dat is nu wat Anthropic en OpenAI hebben.

Peter Slagter: En dus een enorme bak met machines, een enorme bak met chips. Je hele toeleveringsketen moet in orde zijn. Dus open source wil niet per se zeggen dat direct ook de verdienmodellen van dat soort labs denk ik uit elkaar vallen.

Bart Mol: Maar dat zijn niet de verdienmodellen.

Bert Slagter: De kern van macOS is ook open source en de kern van de browsers, WebKit, is ook open source. Er zijn natuurlijk ook heel veel grote techbedrijven die-

Bart Mol: Ik ben het wel eens met Peet dat ie-- kijk, het punt is: ja, tuurlijk is het goed voor Nvidia of voor Amazon of voor Microsoft. Maar de frontier labs, dat zijn geen serverhuizen, zeg maar. Het is niet voor niks dat ze dat inkopen bij al die andere bedrijven, zeg maar. Het is zo verschrikkelijk duur om die modellen te trainen nu, dat dat kan niet. Dat kan je daarna niet gratis weggeven. Dat gaat gewoon niet.

Peter Slagter: Nee, maar dat, ik bedoel maar dat-

Bart Mol: Het is toch klip en klaar?

Peter Slagter: ...dat staat min of meer los van of het closed of open source is. Want nu verdienen ze in principe ook aan het gebruik van de modellen. Weet je, dat zal met een open, als ze het model opengooien niet heel veel anders zijn, want ze zijn de enigen namelijk die op die schaal al die gebruikers kunnen serveren.

Bart Mol: Hoezo? Dat kan Amazon toch ook? Of Microsoft? Of SpaceX? Of iedereen met een ander groot datacenter, zeg maar. Dan kan je hem gewoon aanbieden. Dan wordt het een race to the bottom. Nu kunnen ze de marges die ze nu pakken. Kan alleen maar omdat zij de enige zijn die die modellen aanbieden.

Bert Slagter: Laten we dan eens beginnen bij de bedrijven die open weights modellen uitbrengen. Ik bedoel: prima dat Fable niet meteen open source is. Dat is best, maar laten we eens beginnen bij Gemma en Mistral en Qwen en Kimi en Llama en DeepSeek. Die zeggen, die doen alsof het open source is. Die publiceren een open weights model. Ja, laten we hun dan eens verleiden om een ouder model open source te maken. Ik bedoel, ze ondertekenen allemaal die dingen, maar vervolgens zilch.

Bart Mol: Dat ben ik met je eens, hoor. Ik bedoel, het is hypocriet, 100%.

Peter Slagter: Ik vind het nog iets te zwart-wit gedacht. Kijk, we hebben nu al best wel open, geopen modellen tussen aanhalingstekens. Die kunnen wedijveren met, weet ik veel, een Opus of met een GPT-5.5 of 5.6. Kijk, je productaanbod gaat natuurlijk over meer dan alleen maar wat je aanbiedt. Het gaat over het jasje waar het in zit, hoe gelikt het is, de reputatie als bedrijf, je imago, je merk, zeg maar hoe snel het werkt. Het harnas. Ja, ik wil niet zeggen, ik bedoel, het is een goed punt. Als je dingen gaat open sourcen, dan veranderen dingen. Ik zat alleen even erover door te denken. Niet dat in één keer het hele businessmodel per se omvalt. Even nog naast de vraag of dat businessmodel überhaupt werkt.

Bart Mol: Nou ja, ik denk dat er op dit moment nog niet echt een businessmodel is, maar je ziet de markt toch al, zeg maar, op het moment dat er iets is wat goedkoper is en of het nou open weights is of niet, maar dan schiet de markt daar naartoe, zeg maar. Het is heel moeilijk om de marges te blijven maken per se.

Peter Slagter: Want ik ervaar best wel een lock-in eigenlijk op sommige modellen. Gewoon vanwege de-

Bart Mol: Omdat jij zwaar gesubsidieerd wordt, maar de markt verder niet.

Peter Slagter: Niet alleen de subsidie, hoor. Het is ook gewoon de historie die ik heb opgebouwd in een tool bijvoorbeeld.

Bart Mol: Ja, ja, wacht maar totdat jij €1.000 moet betalen voor Claude Code. Dan houdt het snel op denk ik.

Peter Slagter: Ik wacht liever op het punt dat dat soort geheugen makkelijker overdraagbaar is als eindgebruiker eerlijk gezegd.

Bart Mol: Ja, maar precies. Maar dan kom je toch tot een punt, zeg maar dat, ja, ik vraag me heel erg af, zeg maar als je die frontier modellen openbaar zou maken, wat er dan nog voor kroonjuwelen overblijven. Ik vind een harnas dan echt te karig, zeg maar, om ergens te blijven hangen.

Peter Slagter: Maar ik vind het ook een straw man om het te vereisen dat frontier modellen open source moeten worden. Ik denk dat we eerst moeten beginnen met gewoon de wat oudere modellen of de modellen die al open weight zijn om daar open source van te maken.

Bart Mol: Ik vind het geen straw man. Dat was letterlijk wat er net als argument werd gebracht.

Peter Slagter: De diepere vraag is hoe überhaupt frontier models winstgevend, zeg maar, doorontwikkeld kunnen worden. Als we het punt bereiken dat alle open modellen die er zijn een soort van good enough zijn, weet je wel. Ja.

Bart Mol: Jazeker.

Peter Slagter: Maar goed. Ja, dat is weer een andere vraag. Maar ik, ja, eens leuk om even weer over open, over het woordje open, na. Ik zat bij exe nog trouwens wel even te kauwen of, ja, een exe file, dus echt een executable, iets wat je download en gebruikt. Ja, dan moet je wel echt je best doen wil je erachter kunnen komen hoe het werkt of dingen erin aanpassen. Dus dan ben je een beetje overgeleverd aan wat voor instellingen zijn er? Dan heb je bij een open weight model natuurlijk wel echt een heel scala aan mogelijkheden nog om hem naar je eigen hand te zetten. Hij is wel beïnvloedbaarder out of the box denk ik dan een exe file. Maar goed, nitpick, klein detail. Ik vond de analogie wel leuk.

Bart Mol: Hey, we moeten het eens effe, we gaan het eens even over wat luchtigers hebben, namelijk, het kwam net al voorbij, de robots. We gaan het over de robots hebben, dames en heren, want ik heb me toch zitten vermaken deze week. Ik ga jullie eens meenemen naar China. Daar werden namelijk de Robot Olympics gehouden. Ja, en ik wil gewoon eens beginnen met een video. Ik zal mijn best doen om commentaar te geven. Het is de honderd meter sprint voor robots en dat is gewoon even setting the scene, want dat laat gewoon, ik kwam vanochtend tegen, ik had meerdere videootjes in de bookmarks, in de shownotes kan je ze allemaal terugvinden, maar er was er gewoon één die in zeventien seconden eigenlijk, daarna zou ik eigenlijk ook kunnen stoppen met het verhaal, omdat het alles laat zien wat deze Robot Olympics nou precies inhield. Ik ga hem aanzetten en dan zullen we even een beetje commentaar geven. Het gaat dus om de honderd meter sprint. Nou ja, ze gaan. We zien hier de robots. Ze gaan van start. Ja, en het gaat, wat opvalt is gewoon het gaat enorm snel. Er gaat er al eentje onderuit en nu zo, komen ze over de finish en ze klappen gewoon allemaal tegen een enorm kussen aan.

Bart Mol: En ik zie nu vier robots eigenlijk rokend, de vonken komen ervan af, op de grond liggen, dus die zijn niet meer bruikbaar zeg maar. En nou goed, ik zag het langskomen en dit was niet het enige filmpje wat langskwam. Ik denk dat iedereen ze wel langs heeft zien komen een beetje. De afgelopen twee weken speelde dit zich af. Ja, dit was in Peking, als ik het goed zeg. 22 augustus tot 26 augustus. Ja, en wat was het? Het was, nou ja, de Robot Olympics en dus het was in een atletiekstadion en al die robots. Dit ging dus echt over humanoid robots, dus mensachtige robots, dus met armen, benen, een hoofd, een romp. En die moesten dan de sporten doen die mensen ook doen. Dus dat was rennen, nou, sprinten dus, wat we net gezien hebben, verspringen, hoogspringen zat ertussen vanuit stand volgens mij. Ik zag boksen, voetbal, nou, van alles en nog wat.

Bart Mol: En het maffe eraan is dat het gewoon, ja, het is wel vermakelijk, want het is een soort van, je weet niet wat je krijgt, zeg maar. Bij dat sprinten net, die robots gingen dus harder dan Usain Bolt, hè, dus die gingen sneller dan de snelste mens ooit. En ook het hoogspringen bijvoorbeeld was hoger dan het record van de beste hoogspringer ooit. Maar ja, dan krijg je dus aan de ene kant een soort bovenmenselijke prestaties en aan de andere kant zat ik op een gegeven moment robotboksen te kijken en dat sloeg helemaal nergens op. Letterlijk. Ze raakten elkaar niet eens, want ze gingen dan soort van rechtstaan en dan gooiden ze er een combinatie uit die voorgeprogrammeerd was, maar dan was die andere robot alweer bewogen en dan sloegen ze mis. Dus het was echt wachten totdat er een keer toevallig raak geslagen werd, om maar eens wat te noemen. Robotvoetbal, ja, dat was echt alsof je naar kinderen van acht zat te kijken.

Bart Mol: Weet je wel, dat er eentje gewoon bloemetjes zat te plukken op het veld bij wijze van spreken. Dus er zat helemaal geen idee achter. Dus het is een soort van: je wist nooit wat je ging krijgen. Of opeens een soort van Mad Max-achtige honderd meter sprint waar robots met 40 kilometer per uur gewoon all out gingen. Of je kreeg gewoon iets waarvan je denkt: ja, die robots, daar hoeven we ons de komende 40 jaar echt nog niet druk om te maken. Dus dat-

Peter Slagter: Ik vroeg me af Bart, ik zat ook die filmpjes te kijken. Zien wij nou alleen maar de mislukkingen? Of is het allemaal zo slecht? Ik zag een filmpje van een robot die ging-

Bart Mol: Nee, zeker niet

Peter Slagter: ...tien kilometer rennen of zo. Die struikelde over de startlijn en zijn kop die viel eraf en hij spartelde nog een beetje. Ik denk: klote, als dit het niveau is.

Bart Mol: Nee, dat filmpje wat ik net liet zien, daar werden gewoon wereldrecords gelopen. Om zich daarna wel kapot te klappen tegen een muur, zeg maar. Het is, dat is de combinatie dus. Ja.

Peter Slagter: Het is wel super, het is wel machtig om te zien, hè, hoe ingewikkeld het dus is om dit soort bewegingen te kunnen doen, zeg maar gewoon als robot, om dit te kunnen faciliteren, wat er allemaal voor nodig is. Want je zag ook robotjes hartstikke snel gingen, maar die zwalkten echt buiten de loopbanen, weet je wel. Die vlogen bijna uit de bocht en sommigen die konden echt maar net nog gewoon überhaupt op de baan blijven. Je zag echt die gasten langs de kant staan van: nooo, gelukkig.

Bart Mol: Nou ja, het mooie was dat je hier een partij brancards langs. Ze werden allemaal afgevoerd.

Peter Slagter: Maar moet je ook maar even gewoon even stilstaan bij het feit hoe geniaal een menselijk lichaam is.

Bart Mol: Ja, klopt.

Peter Slagter: Ik bedoel, het kost eigenlijk niet zoveel. Althans, dat heb je niet door. Misschien kost het wel veel mentale kracht, maar om in zo'n looplijn te blijven, om daar op te lopen, daar tussen die twee lijntjes, ja, dat gaat min of meer automatisch. Dat-

Bart Mol: Nou ja, dat is dus inderdaad wat er ook wel door de experts gezegd werd van: ja, kijk, dit zijn nog echt-- kijk, het is superindrukwekkend dat we nu dus robots hebben die in één onderdeel heel erg goed zijn. Alleen wat je dan dus ziet, dan komt de sprintrobot over de lijn, blijkt ie gewoon niet te kunnen wandelen of te kunnen remmen überhaupt. Dus dan klapt ie gewoon zichzelf kapot tegen de muur aan.

Peter Slagter: Ja.

Bart Mol: Maar wat er wel gezegd wordt, ja, als je het vergelijkt met twee jaar terug, toen konden ze ook geen 40 kilometer per uur rennen, zeg maar. Dus er zit wel echt toch wel een flinke verbetering in. Dus toen ben ik een beetje verder gaan kijken van: waarom wordt dit nou überhaupt georganiseerd hier en nu opeens? En ik vond het ook interessant: waarvoor laat China opeens open en bloot zien dat, ja, het is net toch nog iets meer grappig dan dat het indrukwekkend is of zo. En, ja, normaal gesproken zou, ja, dat is toch met China een beetje van: ja, we willen vooral toch indruk maken.

Peter Slagter: Je krijgt pas een militaire parade als alle auto's er zijn, zeg maar. Het moet wel een beetje indrukwekkend zijn.

Bart Mol: Ja, maar dit is eigenlijk een militaire parade en ze laten het gewoon zien.

Peter Slagter: Open en bloot.

Bart Mol: Ja, en omdat ook dit blijkbaar indrukwekkend genoeg is en op zich ben ik het daar ook wel mee eens om te laten zien. Want China en humanoid robots, dat is wel wat interessants. Die zijn er namelijk vol aan het inzetten. China heeft vijfjarenplannen. De grote partij daar werkt met vijfjarenplannen. Een beetje net als ons eigen kabinet met vierjarenplan. Het verschil is dat je daar een partij hebt die gewoon 50 jaar aan de macht is. Ja, dan kan je die plannen ook daadwerkelijk uitvoeren en dus wat verder kijken dan je neus lang is. Een voordeel van zo'n regime wat je daar hebt. Ik bedoel, dat is natuurlijk, het is wel lekker stabiel, dus je kan wel plannen maken en uitvoeren. Nou goed, dus dat zijn ze ook aan het doen. In 2021 zat er voor het eerst echt groot in, hè: wij willen iets met humanoid robots. En in 2025, dus vorig jaar, of sorry, 2026, in dit jaar kwam het nieuwe plan uit geloof ik. En daar staat echt groot in, ja, embodied intelligence. Dus ze willen echt dat die humanoid robots, ze zijn vol aan het inzetten. China is ook op dit moment veruit de grootste in die robots.

Bart Mol: Ze produceren ongeveer 90% van de wereldwijde productie van humanoids komt daar vandaan. Dat zijn er ongeveer 13.000 in 2025 en op dit moment worden die vooral gebruikt voor training. Kom ik nog even op terug zo. De verwachting is dat ze in 2026 al meer dan 100.000 van die robots gaan maken. Nou, waarom is China hier nou zo goed in? Omdat ze überhaupt goed zijn in robots maken, maar omdat ze heel erg ingezet hebben op elektrische auto's en heel veel van die onderdelen, lidar, scanners, batterijen, zijn ook heel belangrijk voor humanoid robots. Nou, waar zit dan hun zwakte? Nou, dat is wel interessant, het feit dat Nvidia geen Chinees bedrijf is, is een zwakte, want ze gebruiken de modellen, volgens mij ook wat van de hardware van Nvidia in die humanoid robots, en precisieonderdelen. Dan heb je het over, ja, bearings. Wat zijn dat? Lagers, kogellagers, dat soort dingen. Die komen uit Duitsland en uit Europa en uit Japan. En China heeft die ook niet. Nou, wat de Chinezen doen? Die hebben wel zoiets van: ja, nu hebben we dat nog niet, maar die zijn al lang en breed bezig om dat wel te gaan krijgen.

Bart Mol: En dan vooral ook die software en de enorme bakken aan data die er nodig zijn om die, nou ja, we hebben het gezien met LLM's, hè, de AI-chatmodellen, om die beter te maken werd er telkens meer data gevoerd. Hebben Peter en ik het de afgelopen weken uitgebreid over gehad. En voor robotics is nu hetzelfde aan de gang. Die hebben een net iets ander AI-model nodig en andere data ook vooral waarop die getraind moeten worden. En die data is gewoon minder goed beschikbaar dan de tekst waarop LLM's, hè, large language models getraind worden. Dus wat is China nu aan het doen? Nou, die hebben 53 labs inmiddels al in gebruik, 53 locaties in gebruik en 34 in de pijplijn waar deze data vergaard wordt. Dan hebben we het over twee soorten data: egocentric data. Dat is eigenlijk wat Peter vorige week beschreef, hè, dat er in landen als India, maar bijvoorbeeld ook Kenia, allemaal lagelonenlanden, wordt gezegd van: nou ja, hier heb je een GoPro, die zetten we op je hoofd.

Bart Mol: Je krijgt twee handschoenen aan. Ga nu maar dit huis schoonmaken en dan ga je dus die data van hoe een mens het doet, hoe een mens een bepaalde taak uitvoert, en dat kan ook het inpakken van een doos zijn aan een inpakbalie of aan een lopende band. Dat ga je filmen en meten. En met die data kan je dan modellen trainen. Alleen, wat het probleem daarmee is, dat je daarmee, ja, het is een mens. Het is leuk dat een humanoid robot een beetje lijkt op een mens. Alleen een humanoid robot, die heeft helemaal geen schoudergewricht. Die kan zijn arm net zo makkelijk achteruit steken als dat ik hem vooruit kan steken, zeg maar. Of zijn voet 180 graden draaien, om maar eens wat te noemen. Dat kan ik helemaal niet. Ik moet mijn hele lichaam draaien. Zijn sommige mensen die een soort van hun voeten ook kunnen draaien, maar dat zijn de uitzonderingen. Dus wat heb je dan nodig? Dat heet zogenaamde real machine data en dat is waarvoor die labs in het leven zijn geroepen. Daar worden dus die 10.000 humanoids die China heeft gemaakt afgelopen jaar neergezet. En dan wordt er een supermarktje nagebouwd en dan gaat zo'n robot het gewoon doen.

Bart Mol: Dus dan heb je gewoon klanten en dan moet de robot afrekenen. En die data, die real machine data, die is dus super waardevol om die modellen daarna verder te kunnen trainen om die robotmodellen te trainen. Dus ja, goed, dat was even mijn korte onderzoekje naar dit onderwerp. Dus je hebt de Olympische Spelen voor robots. Het was een soort PR-evenement van China om toch te laten zien van: nou ja, weet je, lach nog maar even. Maar ze rennen inmiddels wel heel erg snel. En als je dan achter de schermen kijkt, achter het gordijn kijkt, dan zie je dat ze daar ook op alle manieren vol mee bezig zijn, vol aan het inzetten zijn, ja, om de komende jaren gewoon de fabriek te worden waar die humanoid robots gemaakt gaan worden. Ja, wie loopt er dan achter? Wie loopt er achteraan? Nou, je hebt natuurlijk Amerika, hè, Elon Musk daar, met zijn bedrijven die natuurlijk humanoid robots aan het maken zijn. Ja, en Europa ook wel een beetje, in de zin van Europa is gewoon heel erg goed in het maken van hele hoge precisie, echte robots, om het zo maar te zeggen, voor aan een lopende band in een autofabriek of iets dergelijks wanneer er echt iets precies moet zijn.

Bart Mol: Bijvoorbeeld de machines van ASML als natuurlijk lichtend voorbeeld. Ja, daar loopt Europa nog voor. Dus je ziet, volgens mij een Duits bedrijf, vorig jaar best wel veel geld opgehaald om humanoid robots te gaan maken. Maar de snelheid waarmee het in China gaat, dat is, ja, daar loopt voor, vooralsnog heel de wereld achteraan. Dus, ja, interessant om je in te lezen. Het is weer een hele andere tak van de AI-wereld waar we het ook vaak over hebben, maar die net zo interessant is wat mij betreft als de large language models.

Bert Slagter: Ja, zeker. Ik ben ook heel benieuwd hoe dat in de komende vijf tot tien jaar uit gaat spelen. Er wordt ook wel wat gespeculeerd over wat voor soort modellen nou wel en niet gaan werken in die robots. Het is niet zo inderdaad wat je zegt, een kwestie van er een LLM'etje induwen. Jan LeCun bijvoorbeeld, is een van de grondleggers van de huidige LLM's, die is weggegaan bij een groot AI-lab om voor zichzelf te gaan werken aan world models. Hij zegt: ja, met LLM's gaat het nooit lukken met die robots. We moeten echt, er moet echt een soort begrip ontstaan van de wereld om hen heen en, ja, een ander soort AI. Dus, ja, dat betreft is daar het laatste woord nog niet over gezegd. Wel leuk om daar een keertje ook nog eens in te duiken hoe de AI-component in die robots dan precies moet gaan werken.

Bart Mol: Ja. Ja, ik zal Jan LeCun eens bellen. Ik ben op first name basis met hem tegenwoordig.

Bert Slagter: Jan.

Bart Mol: M'n tweet geretweet, dus ik kan hem gewoon.

Bert Slagter: Klopt, ja, inderdaad.

Bart Mol: Ik kan hem gewoon een berichtje sturen tegenwoordig. Hey, van de robots gaan we naar de singularity. Dat is, ja, dat is één stapje verder in principe. Weet je wel. We zijn van LLM's naar robots naar singularity. Maar hoe komen we daarbij en wat betekent het precies? Nou, daar gaat Bert ons wat meer over vertellen.

Bert Slagter: Ja, de singularity. Bart, wat is dat eigenlijk? In je eigen woorden? Wat versta jij eronder?

Bart Mol: Ja, nee, ja, ik heb expres, dat heb ik, daarom heb ik het je van tevoren gevraagd, van: ik vind het wel interessant. Leg het ook maar eens uit wat het nou precies is, want ik weet het eigenlijk niet zo goed.

Bert Slagter: Want ik had, kijk.

Bart Mol: Het klinkt als een soort eindstate of zo.

Bert Slagter: Ja, het komt in sommige sciencefictionboeken wel voor namelijk, dus ik denk: nou, misschien heb jij wel ergens wat sciencefictionassociaties ermee.

Bart Mol: Ja. Nou ja, dat heb ik wel. Een soort eindstage waar iedereen een gedeelde mind heeft of zo.

Bert Slagter: Ik kan wel even zeggen hoe het in mijn hoofd zit, maar dat kan compleet fout zijn.

Bart Mol: Ja.

Bert Slagter: Ik zie iets dystopisch voor me met een wereld met computertjes, kleine apparaatjes, grote robots die in principe mij volledig overklassen, zeg maar. Ik ben een beetje de mier van de aarde geworden eigenlijk voor die hyperintelligente wezens om me heen.

Bart Mol: Ik hoop dat ze niet op mijn mierennest gaan staan. Weet je, dat idee.

Bert Slagter: Er zit iets in van superintelligentie die er is dan.

Bart Mol: Ja.

Bert Slagter: Jullie associaties zijn allebei redelijk, redelijk goed, goede richting op. Is wel leuk. Gaan zo meteen komen we daar op terug. We beginnen even bij Stripe. Op woensdag 19 augustus, precies een week geleden, kondigde Stripe officieel aan dat ze OpenRouter overnemen voor, ja, naar verluidt $7,5 tot $8 miljard. Niet precies bekend gemaakt. OpenRouter geeft via één API toegang tot heel veel AI-modellen en kan automatisch routeren op basis van prijs en beschikbaarheid en kwaliteit. En Stripe levert financiële infrastructuur aan bedrijven voor betalingen, facturatie, abonnementen, rapportages, disputen, belasting, fraude, dat soort dingen. Nou, Stripe neemt OpenRouter over. Vorige week al genoemd bij In het kort in één zinnetje, omdat er nog niet zoveel bekend was. Nou, intussen is er veel meer bekend geworden, onder andere door een brief die Stripe aan zijn aandeelhouder stuurde. Het is een privaat bedrijf, geen beursgenoteerd bedrijf. Het zijn private aandeelhouders.

Bert Slagter: Daar sturen ze een brief naartoe. Daarin lichten ze de overname toe en die brief is uitgelekt. Is interessant, staat in de shownotes. Kun je zelf eens even doorheen klikken. En daar staan een paar dingen in over de overname natuurlijk. Eerst daar een paar dingetjes over, kort. Ze zeggen, ze schrijven: vanaf het begin hebben we ons product, hè, Stripe dus, geoptimaliseerd voor developers. En dat is, zo blijkt nu, min of meer hetzelfde als optimaliseren voor agents. Veel AI-bedrijven hebben daarom gekozen om met Stripe te werken en dat zien ze terug in de groeicijfers. Bijvoorbeeld in allerlei, ze houden heel veel dingen bij, bij Stripe en in sommige van die datareeksen zien ze een soort van discontinuïteit, een knik, een enorme plotselinge stijging, bijvoorbeeld in metered billing. Dat is betalen per seconde, per vraag, per opdracht, per stuk, in plaats van per maand of jaar of iets dergelijks. Bestaande klanten lanceren veel meer producten en diensten. Er zijn ineens veel meer nieuwe klanten, waaronder duidelijk ook te zien als agents. En er zijn veel meer betalingen met stablecoins en Stripe noemt die the native currency of the AI economy.

Bert Slagter: 88% van de bedrijven in de Forbes AI Fifty, waaronder OpenAI en Anthropic, bouwen op Stripe.

Bart Mol: Ja.

Bert Slagter: En de overige 12%, die zijn grotendeels nog pre monetization, dus die doen überhaupt nog niks met betalingen. Dus ze willen maar zeggen: iedereen die iets vanuit AI wil, bouwt op Stripe. Ja, zo wil je er wat over zeggen, Bart?

Bart Mol: Nee, ik moest er gewoon om lachen inderdaad, dat de rest gewoon, die verdient helemaal geen geld, dus die heeft ook geen Stripe nodig. Ja.

Bert Slagter: Precies, dat zeggen ze zelf, wij.

Bart Mol: Of die dat soort anders gebruiken. Ja.

Bert Slagter: Ja, iedereen in de AI gebruikt Stripe. En dan de vraag-

Bart Mol: Iedereen in AI die dus geld vraagt aan klanten.

Bert Slagter: Ja, precies, die iets doet met betaald worden voor een dienst.

Bart Mol: Exact, ja.

Bert Slagter: Dan de vraag: waarom OpenRouter overnemen? Nou, zeggen ze, als wij uitzoomen, dan zien we dat kapitaal en intelligentie eigenlijk de twee digitale stromen worden waarop ieder bedrijf rust. Hè, dat is de vertaling in het Nederlands van wat ze nou schrijven. Je zou kunnen zeggen: ze hebben hun definitie van economische infrastructuur verbreed, van geldstromen naar geld- en intelligence stromen.

Bart Mol: Ja, je zou kunnen-

Bert Slagter: En dus gaan ze naast geld ook tokens routeren. Zo zou je kunnen.

Bart Mol: Precies, want wat Stripe doet met banken koppelen aan klanten of betaalmethodes koppelen aan klanten. Stripe is gewoon een verzamelbak van betaalmethodes. Of je nou met iDeal wil betalen of met creditcard of met whatever. Via Stripe kan dat allemaal en hoef je als bedrijf niks meer te doen. En hier is dat hetzelfde met OpenRouter. Die bieden gewoon alle modellen aan, dus je kan gewoon kiezen wat je wil. Eén keertje betalen en klaar. Dus het lijkt best wel op elkaar.

Bert Slagter: En ze doen ook iets intelligents met het bepalen van: waar gaat de betaling dan heen, en waar gaat de token dan heen? Nou goed, oké, dat is prima verhaal, hè, niks mis mee. Dat ging over de overname, maar in diezelfde brief stonden nog een paar andere dingen. Dus twee dingen zeggen ze, waar ik van stond te kijken, namelijk, twee citaten. Eerste citaat: hoe onaannemelijk het op het eerste gezicht ook klinkt, wij denken dat het nuttig is om na te denken over een wereldeconomie van duizend biljoen dollar. A quadrillion dollars in het Engels. En tweede citaat: het is een vaag en misschien wel versleten begrip, maar wij hebben besloten dat 1 januari het begin van de singularity markeerde en sindsdien handelen we op basis van die aanname. Dus het zijn eigenlijk twee hypotheses. Eerste hypothese: de wereldeconomie groeit van 100 biljoen naar 1.000 biljoen dollar per jaar, want de 100 biljoen is nu ongeveer. En twee: de singularity is begonnen.

Bart Mol: Ja.

Bert Slagter: En beide zijn op het eerste gezicht behoorlijk extreem en ik wil ze allebei eventjes op inzoomen. Eerst die wereldeconomie. Dat betekent dus dat de wereldeconomie nog tien keer zo groot gaat worden. Ze zeggen er niet bij in welke tijdsperiode, maar stel dat het in twintig jaar tijd is, dan is dat 12% economische groei per jaar in reële termen extra. En als het in tien jaar tijd is 26% economische groei per jaar. En de reële economische groei was de afgelopen decennia ongeveer 3% per jaar. Dus dat is een enorm verschil, hè, op dat niveau. Totaal ander economisch regime dan nu. Dat past bij het toekomstbeeld waarin AI voor enorme productiviteitsgroei zorgt en voor enorme materiële overvloed. Even tussendoor, als de wereldeconomie keer tien gaat, dan gaat de debt to GDP ratio, dus de schuld ten opzichte van de economie, gedeeld door tien. Dus een staatsschuld van 100% van de economie, dat wordt 10% van de economie, als de economie tien keer zo groot wordt.

Bert Slagter: En we hebben het wel eens over dat sommige landen die hebben een soort grow your way out of it scenario voor hun staatsschuld. Nou ja, dat scenario ziet Stripe dus voor zich. Dus ja, ik zeg nog.

Bart Mol: Scott Bessent die heeft dat deze week weer eens benadrukt, dat dat toch een beetje de bedoeling is daar.

Bert Slagter: Precies. Nou, oké, dat is dus wat Stripe ziet. Tweede punt: de singularity is begonnen en daar moeten we het ook even over hebben, over de singularity. The technological singularity is een oud idee al. John von Neumann, een groot wiskundige, sprak er in de jaren 50 al over, over de naderende singularity in de menselijke geschiedenis. Een punt waarop technologische ontwikkeling zo snel gaat dat de menselijke aangelegenheden, de human affairs, fundamenteel anders gaan verlopen. Singularity, dat woord, even naar de oorsprong van het woord, op talloze plekken in de natuurwetenschap gebruikt voor een punt waarop een wiskundig model of een natuurkundige grootheid, of het gedrag van een systeem kapot gaat. Iets wordt oneindig of ongedefinieerd, of verandert abrupt van karakter. Twee voorbeelden. Denk in de wiskunde aan de formule één gedeeld door X, met X is nul. Één gedeeld door nul. Mijn wiskundeleraar zei altijd: delen door nul is flauwekul.

Bert Slagter: Punt is, als je door nul gaat delen, dan heb je een soort idee van: ja, dat wordt dan misschien een soort van oneindig, maar eigenlijk is er geen antwoord op de vraag: wat is één gedeeld door nul?

Bart Mol: Mijn wiskundeleraar zei altijd: Bart, ga er maar uit. Dus dit voorbeeld werkt nog niet helemaal voor mij, Bert. Ik ben benieuwd naar je tweede.

Bert Slagter: Maar we zeggen dus een functie FX is één gedeeld door X, die heeft een singulariteit op X is nul. Daar komt het woord vandaan.

Bart Mol: Ja.

Bert Slagter: Misschien ken je het begrip singularity van zwarte gaten. In het centrum van een zwart gat is de zwaartekracht zo groot dat er een punt ontstaat waarop tijd en ruimte breken en ongedefinieerd zijn. Een oneindige dichtheid. De regels gaan niet meer op. Dat is een singularity. Nou, er zijn nog wel tien voorbeelden uit de natuurkunde te noemen waar singulariteiten zijn. Nou, von Neumann gebruikte dat woord, voor hem een vertrouwd begrip, singularity, metaforisch voor technologische ontwikkeling. Irving John Good in 1965, die pakte dat idee op en hij noemde het ook echt technological singularity en die maakte dat concreter. Die zei: het centrale mechanisme daarachter is de intelligence explosion. Namelijk dat intelligente systemen steeds betere intelligente systemen ontwerpen en die zichzelf weer verbeteren, enzovoort. Dat noemen we nu recursive self-improvement. Als je daarop kijkt bij Wikipedia, dan zie je dat dat gelinkt is aan dit idee van meneer Good, en aan die singularity.

Bert Slagter: En Good die schreef daar ook over, de over de ultra intelligent machines. Nou ja, they could design even better machines. Nou ja, dan komt er een intelligence explosion and the intelligence of man would be left far behind, schrijft hij. Vanuit het perspectief van de mens ziet die snelle verbetering van die machines eruit als een explosie. Plotseling is er superintelligentie. Modellen werken niet meer, regels gaan niet meer op. Grootheden zijn ongedefinieerd. Maatschappij en economie veranderen abrupt van karakter. Singularity. Vergelijkbaar met dat begrip uit wiskunde en natuurkunde. Hier wordt al 60 jaar over geschreven en over gedebatteerd. Vernor Vinge in 1993 maakte het populair bij het grote publiek. Hij was sciencefictionschrijver ook. Zijn punt was niet dat machines heel intelligent zouden worden, of niet alleen dat dat zou gebeuren, maar hij benadrukte ook dat je voorbij zo'n punt de toekomst niet meer kunt voorspellen.

Bart Mol: Ja.

Bert Slagter: Een beetje het idee, het beeld dat hij opriep is: een mens die probeert te voorspellen wat een superintelligentie gaat doen heeft hetzelfde probleem als een chimpansee die probeert te voorspellen wat mensen over 100 jaar gaan uitvinden. Dat is een beetje het beeld dat hij opriep. Nou, dan krijgen we nog Ray Kurzweil. Moeten we even noemen. 2005. Het boek The Singularity is Near. Hij voorspelde 2045 als moment van de singularity. Hij ziet de singularity breder dan alleen maar een intelligence explosion. Hij heeft het ook over genetica en nanotechnologie en robotica. En hij ziet een verdergaande samensmelting van biologische en niet-biologische intelligentie. Een beetje cyborg-achtig beeld staat er dan.

Bart Mol: Ja.

Bert Slagter: Nou, de weg naar singularity heeft het karakter van exponentiële groei. Heel lang lijkt er niks te gebeuren en dan ineens zit de sloot vol met waterlelies. Wanneer is de sloot halfvol? Ja, één vlak voor de laatste verdubbeling.

Bart Mol: Een klassieker, hoor. Die sprinkelt hij er even doorheen zo.

Bert Slagter: Ja, ja, ja. Dat maakt singularity ook zo'n spannend idee, hè. Want er staat heel veel op het spel als je dit zo hoort, maar je kunt het pas heel laat detecteren. En dan zegt Stripe: 1 januari 2026 was het begin van de singularity. En ik neem even de tijd om aan te geven dat het best een beladen begrip is. Dit is niet zomaar even een woordje van: ja, weet je, de modellen worden langzaam wat intelligenter. Nee, ze zeggen hier nogal wat. En dat is niet alleen maar in deze brief. CEO Patrick Collinson, die opende Stripe Sessions op 29 april met: day 119 of the singularity, en voegde daaraan toe: a bit tongue in cheek, but only a bit. Hè, dus het is bedoeld als geintje, maar ook niet helemaal. En dat geldt denk ik voor beide hypotheses. Hè, bedoeld als geintje, maar toch niet helemaal. Hogere economische groei, maar we zien het nog niet echt. En mag ook duidelijk zijn dat de singularity volgens de gangbare definitie, dat daar nog geen sprake van is. Geen superintelligentie, nog geen samensmelting van mens en technologie.

Bert Slagter: Maar daar gaat het ook niet om. Stripe zegt in zijn brief: we zien een sterke knik in allerlei langetermijntrends, ook in onze eigen cijfers. Laten we nou eens doen alsof dit het begin is van een nieuw regime, een nieuwe fase, een nieuwe etappe op de route naar die technological singularity, op de route naar een keer 10 van de wereldeconomie. We zien geen explosie. Maar stel nou dat de singularity er van binnenuit helemaal niet voelt als een explosie. Stel dat elke afzonderlijke stap heel normaal lijkt. Een model kan ineens heel goed programmeren. Wat, na een half jaar vinden we dat normaal. Een agent voert zelfstandig een softwareproject uit. Na een half jaar vinden we dat normaal. Een zwerm agents werkt mee in allerlei afdelingen van bedrijven of hackt Hugging Face. Na een half jaar vinden we dat heel normaal en achteraf merk je misschien pas dat je een heel ander soort groeicurve bent binnengewandeld. Dus, zegt Stripe, laten we nou eens strategisch voor ons bedrijf de aanname doen dat de singularity begonnen is. Als het waar is, dan levert ons dat heel veel op.

Bert Slagter: Als het niet waar is, is er geen man overboord. Die asymmetrie, die pakken ze eigenlijk beet. Als het waar is, dan wil je nu al de financiële infrastructuur, de stablecoin rails, de wallets, de agent betalingen, de infrastructuur voor intelligentie, OpenRouter, die wil je bezitten. Ze zeggen eigenlijk: we weten niet of dit de singularity is, of het uitloopt op superintelligentie, of Kurzweil gelijk krijgt, of de wereldeconomie naar 100 biljoen gaat. Maar we vinden het te riskant om te handelen alsof het niet zo is. Nou, we zien een knik in de groeicijfers, zeggen ze, en die faseovergang moeten we serieus nemen. Dat is letterlijk staat er: die faseovergang moeten we serieus nemen.

Bart Mol: Ze leggen hun geld wel waar hun, put their money where their mouth is.

Bert Slagter: Ja, het is een beetje een soort provocatief symbool, die singularity voor hun strategie. En dat moeten we denk ik niet te letterlijk nemen, maar wel serieus nemen. Ik denk dat het wel een belangrijk signaal is.

Bart Mol: Bij deze gedaan. We gaan even van de singularity terug naar AI die je thuis kan draaien, dames en heren, want daar is ook een en ander weer gebeurd deze week. Want we zaten dit voor te bereiden, deze aflevering. Gisteren, gisterochtend. Dinsdagochtend doen we dat meestal even met elkaar praten van: wat hebben we gezien? En toen zei ik van: ik wil misschien een itempje maken over lokale AI en dan open source AI en open weight AI, maar dingen die je op consumer hardware, consumenten hardware kan draaien. En ik zat dat item een beetje te maken en het was net niet af. En toen kwamen opeens onze vrienden uit Cupertino, namelijk Apple. En die kwamen met iets. Toen dacht ik: ja, nu is het wel af. Nou, hartstikke mooi. Wat heeft Apple naar buiten gebracht? Namelijk nieuwe desktopcomputers. Tegenwoordig heeft Apple alleen nog maar de Mac Mini en de Mac Studio. Dat zijn hun kleine kastjes die je op je bureau zet, met Apple hardware. Je hebt MacBooks, dat zijn de laptops en Mac Mini's en Mac Studio's, dat zijn de desktops.

Bart Mol: Vroeger had je nog Mac Pro's, maar die worden niet meer verkocht of in ieder geval niet meer geüpdatet. Zijn niet meer de moeite waard. En waarom is het interessant? Nou, die Mac Studio's, die worden best wel veel gebruikt voor lokale AI. Het is even goed om een paar dingen op een rijtje te zetten. Lokale AI, dat heeft eigenlijk met vier factoren te maken, waarvan je er meestal drie genoemd ziet worden. Maar de vierde ben ik zelf achter gekomen toen ik het zelf ging proberen. Je hebt één: de prijs van de hardware die je moet kopen. Het is leuker als consument om iets voor € 1.000 te kopen dan voor € 15.000, hè, om het maar te noemen. Dan heb je de hoeveelheid geheugen. Hè, dat is het unified memory of de VRAM. En dat bepaalt hoe groot het model is wat je kan draaien. Op videokaart heb je vaak maar 24 of 32 gigabyte geheugen, terwijl je in zo'n Mac Studio vaak al 128, 256, de duurste had zelfs 512 gigabyte, dus dan kan je veel grotere modellen draaien, betere modellen draaien.

Bart Mol: Dan heb je de bandbreedte van dat geheugen. Dat zorgt ervoor hoe snel antwoorden gegenereerd worden. Dus dat is als je bij bijvoorbeeld ChatGPT kijkt op het moment, je stelt een vraag en op een gegeven moment begint hij te typen, de output en dan hoe snel dat antwoord er in één keer staat. Dat wordt bepaald door de bandbreedte van je geheugen. Die drie dingen worden vaak genoemd. Er is nog een vierde onderdeel en die is eigenlijk net zo belangrijk voor de, ja, gebruikerservaring. En dat is de snelheid waarmee jouw vraag ingelezen kan worden. Dus hoe lang duurt het voordat ik op enter druk met mijn vraag en het model begint met antwoorden. Dus die outputsnelheid. En dat ligt net wat anders. Dat wordt prefill genoemd en dat heeft niet zoveel te maken met de bandbreedte van je geheugen. Dat heeft meer te maken met de rekenkracht van jouw computer. En dat is dan over het algemeen jouw videokaart, jouw GPU. Die vier dingen zijn belangrijk. Waarom gebruikt iedereen van die dure Nvidia chips?

Bart Mol: Omdat die zowel een hele hoge prefill snelheid hebben als een hele hoge outputsnelheid. Dus jouw antwoord wordt snel ingeladen. Of jouw vraag wordt snel ingeladen moet ik zeggen en het model kan daarna snel antwoorden. Dat zorgt voor een prettige gebruikservaring. Dat had ik dus ook met mijn videokaart die ik gekocht had. Die kan heel snel antwoorden inladen, of vragen inladen, heel snel antwoorden geven. Het probleem is: ja, ik ben wel gebonden aan die 24 gigabyte aan geheugen. Bij de dure RTX 5090 videokaart heb je 32 gigabyte geheugen en daar stopt dat en die zit al op 4.000, € 5.000. Dat gaat best, dat is best wel duur. Apple had best wel, ja, leuke computers. Het probleem alleen was, ze hadden op zich best wel een prima bandbreedte, hè, dus de antwoorden werden best wel snel gegeven. Alleen het inladen van de vragen was vergeleken met zo'n videokaart van Nvidia gewoon best wel traag. Daardoor waren best wel veel mensen gedesillusioneerd als ze met hun MacBook Pro een model gingen proberen lokaal.

Bart Mol: Dat ze een antwoord, of een vraag intypten en dat ze opeens 2 minuten, 3 minuten zaten te wachten voordat het model begon met antwoorden. En als die eenmaal begon met antwoorden, als die daar eenmaal mee begonnen was, dan ging het best wel oké. Dat is nu veranderd. Ik ga me even richten op de Mac Studio. Dat is met een M5 Ultra. Die kan je kopen met 256 gigabyte unified memory. € 10.000. Er komt er ook eentje met 512 gigabyte. Die wordt ongeveer € 15.000 gok ik. En het interessante is, die heeft 1,2 terabyte aan bandbreedte voor het geheugen. Ja, dat, allemaal moeilijke cijfertjes. Dat is ongeveer even snel als die videokaarten hebben. Iets langzamer dan een 5090, sneller dan een 4090, dus dat is heel acceptabel. Wat zegt Apple zelf? Ja, maar we hebben vier keer zoveel compute performance. Hé, dat is interessant, want dat is voor die prefill, hè, dus dat is het inladen van de vragen. Dan kom je dus een beetje, ja, dat moeten we de benchmarks voor afwachten. Maar als je dat een beetje zou extrapoleren met de hardware die ze nu hebben, daar weten we de benchmarks van.

Bart Mol: En je doet dat ongeveer keer vier. Hé, dan kom je qua prefill ook opeens in de buurt van die videokaarten. Maar niet met 32 gigabyte, maar met 256 of met 512 gigabyte. Ja, dan kan je wel opeens hele serieuze modellen gaan draaien thuis. Dan kan je gewoon DeepSeek Flash volledig inladen. Of de nieuwe Qwen 3.8 en niet dan de 27B variant, maar de weet ik het hoeveel B variant. Voor 10.000 tot € 15.000. Ja, dat zijn wel opeens stappen die hier gemaakt worden die best wel indrukwekkend zijn. De vraag is natuurlijk: ja, hebben we 512 gigabyte nodig? Waar ligt de sweetspot? Is misschien 128 gigabyte of 96 gigabyte wel niet voldoende? En dan zit je opeens op 5.000, $ 6.000. Ik ben heel benieuwd op het moment dat deze modellen geleverd worden, ook aan influencers en zo, die zullen ze eerder krijgen. En de grote techkanalen als die ze gaan testen wat hier voor benchmarks uit kunnen komen. Ik denk dat dat best wel indrukwekkend gaat zijn en dat Apple hier zomaar eens eventjes als ze dit kunnen leveren, in de massaproductie en dat ze niet weer helemaal uitverkocht zijn.

Bart Mol: Dat dit echt, ja, best wel een verschuiving teweeg kan brengen. Heel erg tof! Dat gaan we in de gaten houden, maar wilde ik nu even genoemd hebben voordat ik daar. Ja, ik hoor hem alweer in de achtergrond aankomen. We staan hier alweer bijna een uur en een kwartier te praten op het metrostation, maar hij komt eraan. Nog maar, ja, nog maar een half minuutje. Nou, misschien 10 seconden. Ja, ik hoor hem al. Daar komt ie.

Peter Slagter: We hebben daar eigenlijk een ander soort bumpertje voor nodig, hè, want.

Bart Mol: Die heb ik. Die ga ik volgende week gebruiken.

Peter Slagter: Dat je op de achtergrond ook gewoon van dit, van die metrogeluiden of zo'n station, ook met een beetje galm in m'n stem.

Bart Mol: Ja, dat zou mooi zijn. Ik heb wel wat. Volgende week gaan we die gebruiken. Daar zijn we mee bezig.

Peter Slagter: Vandaag staat een hoofdpersoon centraal met de naam Norbert Wiener. En dat is niet degene die de wienerschnitzel heeft uitgevonden. Dat is ook wel leuk om het een keer over te hebben. Het heeft ook niks te maken met een Wiener. Nee, het is gewoon Norbert Wiener, een Deutscher in ieder geval. Het is een Duitse naam. En om een beetje een beeld te krijgen bij wie die Wiener is, open ik even met een anekdote. Een echt echt gebeurd natuurlijk. Hij komt een keertje thuis op een avond en hij komt erachter: verrek, mijn huis staat leeg. Nou en wat blijkt nou? Zijn gezin is die dag verhuisd. Kijk, zijn vrouw had het nieuwe adres wel op een briefje geschreven, maar die is die kwijtgeraakt. En hij is radeloos. Hij schiet iemand aan op straat, een meisje, en vraagt: ja, waar woont de familie Wiener nu? Nou, dat meisje die kijkt hem aan en die zegt: Kom maar mee papa. Mama heeft me gestuurd om je op te halen. Nu ja, heb je toch een beetje een beeld bij, ja, wat voor type Wiener is.

Peter Slagter: Nog eventjes om het een klein beetje te volledig te maken over zijn fysiek. Het was een klein rond mannetje met een puntige baard. Geen kabouter, maar wel een beetje stereotiepe professor. En hij kon zo diep nadenken dat de wereld om hem heen eigenlijk min of meer oploste. En hij belandde als wonderkind op zijn elfde op de universiteit. Promoveerde voor zijn negentiende aan Harvard. Nou, dat zijn er maar weinig die dat kunnen vertellen. Nou en uitgerekend deze man dus, die soms niet meer wist waar hij woonde. Hij scheen ook regelmatig te vergeten dat hij net geluncht had bijvoorbeeld. Die probeerde tijdens de Tweede Wereldoorlog een van de lastigste voorspellingsproblemen van zijn tijd op te lossen, namelijk een machine bouwen die de volgende beweging raadt van een mens die onvoorspelbaar probeert te zijn. Nou, dat is wat we even gaan bekijken op Cybernetics Station. Moet je even voorstellen een luchtafweerkanon, Tweede Wereldoorlog en ergens hoog in de lucht vliegt zo'n bommenwerper.

Peter Slagter: We hebben allemaal wel eens van die films gezien. Grote brom erbij. Het is vaak ook een gelijk, gelijk hangt de hele lucht ook vol met die dingen en je richt op het vliegtuig en mist. Want ja, als die granaat onderweg is, dan. Dat vliegtuig vliegt natuurlijk gewoon door, dus die legt wel een paar honderd meter af voordat die granaat zijn bestemming heeft bereikt. Je moet dus richten op de plek waar dat vliegtuig straks waarschijnlijk is. Nou, en dat is best wel een uitdaging, want zo'n piloot die maakt het natuurlijk bewust moeilijker, want hij weet natuurlijk iemand probeert mij te raken. Dus die klimt en die duikt en die maakt scherpe bochten en zo. Alles om zo onvoorspelbaar mogelijk te zijn.

Bart Mol: Ja, precies, dat is wel een goeie, Peet. Het gaat dus om niet per se om bommenwerpers, maar eigenlijk om de gevechtsvliegtuigen, de snelle-

Peter Slagter: Gevechtsvliegtuigen inderdaad die grote vliegtuigen. Die hadden minder de mogelijkheid om onvoorspelbaarheid toe te voegen, maar dan hadden ze alsnog natuurlijk wel windvlagen en bewegingen die ze maakten. Niet evident dat je ze dan ook maar zou raken. Nou en? Aan Wiener. Wiener kreeg de taak om die vliegroute te gaan voorspellen en hij bouwde samen met een collega een grote kast vol met weerstanden, condensatoren, radiobuizen en een soldaat. Die volgde dan het toestel in een kijker en hun apparaat registreerde de route, zocht de patronen in en haalde ook de meetfouten uit het signaal. Nou, daar hebben we het vorige week ook even gehad over ruis en signaal. En zo ontstond er dus ja. Ja, wat ik heb opgeschreven een gevaarlijke dans. Ja, misschien is dans niet helemaal het lekkere woord hiervoor tussen mens en machine. Dus de piloot reageert op het kanon en het kanon weer op die piloot. En iedere beweging die veranderde eigenlijk wat de ander daarna weer deed. Kijk, en Wiener die gebruikte de hele vliegroute dus hij begon met meten en alles wat hij aan data binnenslurpte, die gebruikte die om terugkerende bewegingen van ruis te kunnen onderscheiden.

Peter Slagter: En in zijn theorie, dus op papier, kon zijn apparaat daardoor super goed omgaan met slechte metingen, maar ook met onverwachte bochten. Alleen hij liep toch een beetje tegen een ding aan, want ja, het leger liep ergens tegenaan. Zoals zo'n snel vliegtuig waar Bart het over had. Die gaf eigenlijk best wel weinig tijd, dus het leger had een soort tijdsbudget. 30 seconden van de eerste waarneming tot het schot moest. Binnen 30 seconden moest dat gebeuren, dus je had ongeveer 10 seconden om gegevens te verzamelen, twintig om te richten en te vuren. En de uitkomst van Wiener zijn opstelling, die was eigenlijk net te traag, want die zwalkte eerst. Hij had eerst meer data nodig. Een beetje zoals een naald van een weegschaal heen en weer gaat tot hij echt een gewicht aangeeft, weet je wel. Dat was dan net te lang. Dus het apparaat moest doorgaan met waarnemingen verzamelen en dan was het eigenlijk te laat om te schieten. Nou, er was een ander bedrijf, die maakten een veel simpeler apparaat. Dat bedrijf heette Bell Labs. De oplettende luisteraar weet nou, dat is dat bedrijf waar Claude werkt en hebben we het vorige week over gehad. Die was eenvoudiger, maar in de praktijk bijna even goed, sneller, makkelijker te bouwen en daardoor stopte Wieners project, die als die echt door had kunnen gaan, dit apparaat flink zou overklassen.

Peter Slagter: Het probleem voor Wiener was dat voor zijn uitvinding en voor zijn onderliggende wiskunde eigenlijk de elektronica destijds nog niet in staat was om het goed uit te voeren. Hij had een soort chip tekort. De snelheid van de chips, die was gewoon niet je van het. Het waren natuurlijk nog geen chips. Hij gebruikte veel grotere bouwstenen in zijn apparaat. Maar zijn uitvinding die bleef bestaan als het Wiener-filter, niet het wienerschnitzel, maar het Wiener-filter en varianten daarvan. Die halen nog altijd storingen uit radarmetingen en ruis uit onscherpe beelden bijvoorbeeld. Nou, dat werk van Wiener, dat verdween in een la. Er ging een stempel Geheim op, dus er ging ook een slotje op. Ja, het was staatsgeheim. En het punt is Wiener die sloot wel de la, maar hij ging wel verder in de zin van hij haalde er een dieper inzicht uit. Hij beschreef eigenlijk een systeem dat meet dat er iets gebeurt, hij meet wat er gebeurt en hij vergelijkt de uitkomst met een doel en hij corrigeert zijn volgende beweging.

Peter Slagter: En het resultaat ervan gaat weer terug het systeem in. Feedback. Terugkoppeling. Kijk, een negatieve feedback, die maakt het verschil met het doel kleiner. Bijvoorbeeld als jij onder de douche gaat staan, en je hebt nog van die draaiknoppen in plaats van zo'n thermostaatkraan. Nou, dan draai je hem warmer en dan gebeurt er nog even niets en dan draai je verder en dan wordt het water ineens gloeiheet en dan spring je onder de douche vandaan en die draai je terug. Nou, door de vertraging schiet de temperatuur heen en weer langs het doel, maar je komt er wel. Dus negatieve feedback. Je komt op het punt dat het prettig is. Je hebt je doel bereikt. Negatief betekent dus niet slecht. Dus de correctie werkt de afwijking tegen. Dat is de betekenis van het woord negatief hier. Positieve feedback, die versterkt dus de afwijking. Dat herken je ook wel. Bijvoorbeeld, ja, een microfoon die het geluid van een luidspreker opvangt. Dat wordt dan opnieuw versterkt en, nou ja, voor je het weet gaat er een kneiterharde gil door de zaal. Hebben we allemaal wel eens meegemaakt. Nou, en op Information Station vorige week hadden we het over Claude Shannon, die informatie meetbaar maakte.

Peter Slagter: En Wiener, die onderzocht hoe een systeem die informatie gebruikt om bij te sturen. Hij zag bijvoorbeeld hetzelfde als iemand een glas oppakt of een kopje koffie. Het is echt niet zo of ik hier nu een microfoon even beweeg of een camera recht wil zetten of whatever. Je stuurt niet ieder spiertje bewust aan of zo. Je ogen zien dat je hand bijvoorbeeld te hoog of te laag zit en je zenuwstelsel corrigeert het onderweg. We hadden het net even over die robotjes en hoe briljant het menselijk lichaam is. Dit hoort daar ook bij. Maar dit gaat allemaal eigenlijk onbewust. Toch kun je bijna zonder te kijken iets oppakken en naar je mond toe bewegen. Ja, en zo begon Wiener eigenlijk lichaam en machine met dezelfde taal te gaan beschrijven. Waarnemen, vergelijken, bijsturen. Hij gaf dat vakgebied een naam in 1948: cybernetica. Dat komt van het Griekse woord voor stuurman. Een stuurman die kijkt naar zijn koers en die blijft bijsturen. Maar nog even terug naar het rapport dat hier in die la belandde. Na de oorlog vroeg een onderzoeker uit de vliegtuigindustrie om dat geheime rapport.

Peter Slagter: Dat bedrijf die wilde de kennis gebruiken voor de ontwikkeling van geleide wapens. Ja, dan moet je je even voorstellen, Hiroshima, Nagasaki. Ja, wat was daar gebeurd, jongens?

Bart Mol: Er zijn bommen op gegooid.

Peter Slagter: Grote, grote boem.

Bart Mol: Bommetjes.

Peter Slagter: Dat heeft Wiener natuurlijk ook meegemaakt en gezien, en die vond dat niet zo'n goed idee om dat rapport te geven. Hij vond: joh, ja, weet je, we kunnen het maken, maar mensen blijken toch niet heel verantwoord om te gaan met dit soort dingen. En hij weigerde dat dus. En hij publiceerde zijn antwoord en plein public in een paper met de naam A Scientist Rebels. Hij zette zich neer als een rebel. Dus, ja, zulke raketten gaan vooral burgers doden. Daar ga ik niet aan meewerken. Hij stortte zich volledig op dat nieuwe onderzoeksgebied: cybernetica. En daarin zit ook de lijn met het hedendaagse AI. Want een AI agent die code schrijft, die gebruikt ook feedback. Hij voert wat uit, gaat zelf op zoek naar de foutmeldingen, leest ze, probeert het nog eens een keer. Hij handelt, hij neemt waar en hij stuurt bij. En, nou, precies het patroon dat Wiener zou herkennen natuurlijk. De grap is dat feedback alleen niet zaligmakend is. Ik kwam een leuk voorbeeld tegen van OpenAI zelf. Die waren bezig met de ontwikkeling van een robot en die wilden ze een voorwerp laten pakken. Dat was de, ja, wat ik zei een kopje koffie naar je mond brengen.

Peter Slagter: En een beoordelaar van dat proces, die keek via een camera mee en die koos, die moest aanwijzen, dit zijn de beste pogingen. En die robot die ontdekte een sluiproute. Hij hield zijn grijper tussen de camera en het voorwerp, zodat het leek alsof hij het object vasthield. En de mens die zag: oh ja, dit is goed, dit is de goeie, dit is erbij. Hij heeft nooit geleerd om objecten te pakken, dus hij kreeg wel goedkeuring. Dus hij kreeg wel feedback. Alleen het gedrag miste de bedoeling erachter. En dit is wel leuk om even terug te grijpen op dat nieuwtje van jou, Bart, dat er weer dingen in de koelkast gezet zijn voor twee weken. Dat gaat over onder andere, hoe goed zijn modellen nog in het bereiken van het doel van de mens?

Bart Mol: Ja.

Peter Slagter: Daar zijn ze heel erg mee bezig nu. Want ja, ze merken het, het gaat niet altijd de juiste kant op. Zijn ze echt bezig met wat de bedoeling is?

Bart Mol: Nee, ze willen echt dat ze weer gewoon door gaan werken, die modellen. Totdat het gewoon helemaal klop-klop is.

Peter Slagter: Klop. Ja, wat is dat echt?

Bart Mol: Dat moet je even vertellen, want dat past hier nog wel goed bij, want dat is letterlijk wat dat is, denk ik.

Peter Slagter: Ja, ja, ja. De klop, klop. Ja, ik ben die letterlijke zin ben ik alweer kwijt. Maar ik was aan het werk en ik gebruik Opus 4.8 en ik was wat dingen aan het ontwikkelen. En, ja, op een gegeven moment komt die agent terug met een zin waarvan ik echt dacht: wat is dit nou weer? Is dit nieuwe straattaal of zo? Ja, ik zal hem er eens even bij pakken.

Bart Mol: Ja, ik heb hem hier. Hij zegt: sterkte. Terechte, sterke terechte review. Dit zijn allemaal echte bevindingen, geen cosmetiek. Dat is ook van die AI larping trouwens.

Peter Slagter: Ja.

Bart Mol: Voor ik antwoord, verifieer ik twee dingen in de code zodat ik precies klop-klop ben.

Peter Slagter: Ja, wat is klop? Ja, dit kan eigenlijk niet anders dan een meme worden. Klop, klop, klop, klop is ook gewoon de goede naam voor een bordje of zo inderdaad.

Bart Mol: Ja, zeker.

Peter Slagter: Ja, ik weet niet precies welke feedbacklus hiertussen hing, maar dit klopt, klopt voor gemeten natuurlijk.

Bart Mol: Ja, dit is post training. Typische post training gevolgen. Er wordt daar, er wordt dan op bepaalde doelen extreem beloond. Dat is die feedback, wordt extreem beloond op het halen van bepaalde doelen. En alles wat er geleid heeft tot het halen van de doelen, dat wordt teruggevoerd het model in. Dus worden er allerlei gewichten in het model aangepast als gevolg van het succesvol halen van dat doel. En daarbij wordt dus ook een stukje taalgevoel gesloopt en dan komt er ineens zo'n wazig woord uit.

Peter Slagter: Klop, klop.

Bart Mol: Ja, klopt, klopt.

Peter Slagter: Ik, het is jammer dat ik er eigenlijk niet op doorvroeg. Maar ja, weet je, dat, ja, daar is zo'n dev-proces toch niet echt lekker voor. Nou, mocht je nog niet echt helemaal voelen wat zo'n, hoe feedbacklussen werken, dan denk ik wel dat je degene die op sociale media gebruikt worden bijvoorbeeld herkent. Daar zitten hele sterke positieve feedbacklussen onder, hè. Dus je kijkt, je krijgt iets aangeboden en je hoeft maar ietsje langer te kijken dan normaal, dan wordt er meer van hetzelfde getoond.

Bart Mol: Ja.

Peter Slagter: Waardoor je weer langer blijft kijken. De machine leert van jouw gedrag, maar verandert je gedrag ook.

Bart Mol: Ja.

Peter Slagter: Dan kom je uit bij een vraag waar Wien er best wel lang op gekauwd heeft: wie stuurt nou eigenlijk wie? Hè. En een vervolgvraag daarop: ja, als een machine plannen maakt, fouten herstelt, soms ons ook te slim af is, is dat dan een vorm van intelligentie? Nou, en via die vraag komen we uit bij het station waar we volgende week even gaan bivakkeren. En dat is een bijzonder station. Ja, toch een beetje onze thuisbasis. We gaan namelijk naar Alan Turing. We gaan naar 1950, naar de halte Turing Station.

Bart Mol: Ja, daar zijn we. Na 10 afleveringen komen we eraan. Hartstikke mooi. Leuk, Peet. Hé, ik zou voor de luisteraars sowieso aanraden om eens even je moet eens over luchtafweergeschut in de Tweede Wereldoorlog vragen. Dat heb ik net even een paar, even snel wat dingetjes gecheckt. Ongelooflijk wat daar in een paar jaar verzeild is.

Peter Slagter: Ja, ja.

Bart Mol: Ik heb ook nog een linkje even toegevoegd aan de shownotes. Dat is het verdere ontwerp, die zag ik laatst langskomen, van zo'n zelfsturende raket, zo, voordat er chips waren. Dus dan zit ie helemaal vol met elektronica, maar dus nog niet met microchips. Dat is echt ongekend wat daar voor logica in zo'n bom gepropt werd. In zo'n klein ding eigenlijk. Relatief klein ding. Interessant! Hé, Peet, thanks. Dan zijn wij bij het einde van deze aflevering gekomen, dames en heren. Dan wil ik jullie hartelijk bedanken voor het luisteren. Aflevering 10 alweer. Ja, ik vond het weer hartstikke leuk. Ik denk dat we weer van alles en nog wat in 1,5 uur hebben weten te stoppen. Laat vooral weten wat je ervan vond. Kom naar turingstation.nl. Daar kan je je inschrijven voor onze nieuwsbrief. Dan krijg je sowieso alle shownotes, alle linkjes, alles waar we het over gehad hebben in je e-mail, krijg je dat en dan krijg je ook toegang tot onze Discord-server waar we de hele week lekker met elkaar aan het praten zijn over wat er allemaal gebeurt in de wereld van AI.

Bart Mol: Doe je dat allemaal niet, dat mag ook. Dan hoop ik dat je er volgende week gewoon weer bij bent voor aflevering 11 van Turing Station. Maar laat dan wel even in de comments weten wat jij deze week allemaal met AI gedaan hebt. Bedankt voor het luisteren en graag tot volgende week. Hoi! Later.