Codex-podcastradar, OpenAI-agentzwerm en 16 werkende AI-virussen

Bart Mol: Ja, en onze eigen Bert. Ja, die heeft de smaak te pakken. Die vertelt ons vanuit Noorwegen hoe hij zijn eigen, ja, podcast radar heeft ie het genoemd, heeft gemaakt met Codex, zodat hij zijn vijftien uur durende camperritten een beetje door kan komen. Nou, ik ben heel benieuwd wat hij ons daar gaat vertellen. Ik wens je alvast heel veel plezier bij aflevering acht van Turing Station. Ja Peter, laten we meteen gewoon eens gaan beginnen met wat we allemaal binnen hebben gekregen in onze comments, in onze inbox, want we hebben mailtjes gekregen. We hebben-

Peter Slagter: Jazeker

Bart Mol: ...DM's gekregen, we hebben e-mail en-

Peter Slagter: Reacties op de show en-

Bart Mol: Reacties inderdaad

Peter Slagter: ...gewoon op Spotify, YouTube. Ja, leuk man.

Bart Mol: We hebben ons, nou ja, doodgelachen op de goede manier. Want we krijgen gewoon aan de absurditeit en de veelvoud en ook het verschil tussen wat onze luisteraars maken. Dus laten we maar gewoon de schouders eronder zetten wat er binnen is gekomen.

Peter Slagter: Ik heb de inbox, onze e-mail inbox even doorgelopen. Kwam meerdere hele leuke berichten tegen. Ik heb er even vier uitgepikt. Eentje van Rolf. Die heeft een zwembad en zijn zwembad heeft een zwembadpomp.

Bart Mol: Ja.

Peter Slagter: En rondom die pomp heeft hij een heel uitgebreide automatisering gemaakt, vooral gericht op de opbrengst en het gebruik van stroom uit zijn zonnepanelen. Een combinatie van sensoren, een eigen gebouwde applicatie, en automatiseringsscripts. Tof! En, ja, Bart, die kwam ik ook tegen. Ja, dat, ja, ik heb erbij gezet: hij laat zijn billen spoelen via Home Assistant, dus hij is, ja.

Bart Mol: Even voor de volledigheid, Peet, hè, de andere Bart, hè, het is niet alsof ik zelf wat doe.

Peter Slagter: Ik ben jaloers op Bart, hoor, want hij heeft echt een briljant toilet. Dat is, volgens mij is dat zo'n Japans toilet die ervoor zorgt dat je billen schoon achterblijven zonder dat je hebt hoeven vegen. En dat schijnt heel prettig te zijn. Ik heb het zelf nog nooit gebruikt, maar wie weet komt dat een keertje.

Bart Mol: Ik wel. En ik kan je verzekeren, het is heel prettig inderdaad.

Peter Slagter: Het is heel prettig. Nou ja, en hij heeft zo'n toilet, en hij heeft hem geautomatiseerd, met als doel om voor iedereen die erop gaat zitten direct gepersonaliseerde instellingen te kunnen instellen. Gaat het om de hardheid van de straal, de temperatuur van de straal, de föhn, enzovoorts. Dit was mij nooit gelukt zonder AI-tools, zei hij. Menno kwam ik tegen. Die heeft het merk Fuzzy Friends, een Nederlands kindermerk. En hij gebruikt AI in de app, maar ook om te bouwen. Hij is gericht op leuke en verantwoorde content voor jonge kinderen.

Bart Mol: Ja.

Peter Slagter: Maakt daarmee content met AI, maakt video, muziek enzovoorts. Leuk! Check het even als je kinderen hebt en laat even weten wat je ervan vindt. Ja, en tenslotte Koen. Koen is een telg van een camping-eigenaar. Camping Liesbos. Volgens mij ligt hij in Brabant. Ja, dus op een camping kun je natuurlijk honderdduizenden dingen bedenken die iets van automatisering kunnen gebruiken. Zo staat er op die camping een grote klok. En in die klok zitten lampen. En hij dacht: weet je wat ik nou ga doen? Er zit een ledstrip in. Ik ga een automatisering maken die die lamp een bepaalde kleur geeft, afhankelijk van het weerbericht van morgen. Dat is handig voor de mensen die op die camping zitten. Die zijn natuurlijk aan het detoxen, dus die hebben geen weer-app of wat dan ook. Die kijken gewoon naar die klok. Als het een zonnige dag wordt, kleurt hij geel, wordt het bewolkt, kleurt hij grijs. Blauw betekent regen. En als de klok paars is, dan moet je echt opletten, want dan gaat het onweren. En dan is er ook een kleine witte flits te zien elke 3 seconden. Ja, ik vind het mooi. Ja, is goud.

Bart Mol: Ik zag nog wat andere dingen langskomen. Op YouTube bijvoorbeeld hebben we Rob. Dat sprak mij meteen aan, want die zegt: mijn laatste thuisproject was en is een babyfoon maken in Home Assistant met een camera van € 25 en een oude telefoon als monitor. Zonder AI was me dat nog nooit gelukt. Nog nooit en waarschijnlijk ook in de toekomst niet. Rob, dit ben ik ook van plan, dus dit triggert mij weer even. Tjeerd op Spotify, die heeft zijn eigen, ja, hoe heet het ook alweer, Duolingo soort, hè?

Peter Slagter: Ja, ja, zeker.

Bart Mol: Pools leren. Hij wil namelijk Pools leren. De taal inclusief fonetische uitspraak. Toby heeft een boodschappenapp gebouwd. Houdt hij ook recepten in bij. Inzicht in de kosten die hij uitgeeft aan boodschappen. En Perry heeft een op maat gemaakte datumprikker gemaakt voor zijn vijftigste verjaardag. Dit vind ik persoonlijk dan gewoon ook wel de mooiste ergens, omdat dit gewoon zo, zeg maar, iemand heeft gewoon iets nodig. Één keer voor je vijftigste verjaardag en dat is nu gewoon de moeite waard om te maken en te gebruiken en daarna weer weg te gooien. Dat soort van single use apps, dat vind ik zo fantastisch.

Peter Slagter: Dat kan gewoon. Ja.

Bart Mol: Ja.

Peter Slagter: Ja, briljant. Ja en, de heer Van Delete op YouTube. Die zei: zeer leuke en weer waardevolle informatieve topics. Dank je wel. En, als ik moet gaan beschrijven wat ik ondertussen allemaal heb draaien, dan kom ik YouTube comment ruimte tekort. Nou, ik denk als we dat aan Google vragen, dat ze zeggen: nou, er kan gewoon heel veel in, hoor, maar ik begrijp je. En hij zei: ik kom wel even naar Discord. Toen dacht ik: nou, dat is mooi, ik zet deze er even tussen, want dan kan ik gelijk even onze Discord server aanprijzen. Hoe kom je er ook alweer? Turingstation.nl/community of Turingstation.nl/Discord. Een van de twee of allebei.

Bart Mol: Ja.

Peter Slagter: En dan kom je op onze server, en dan zit je tussen, nou ja, best wel een groeiende groep mensen die gewoon lekker met elkaar aan het delen is wat ze aan het doen zijn en wat ze vinden van het nieuws in de AI-wereld, wat ze gebouwd hebben, originele ideeën die ze hebben, enzovoorts. Dat is supergezellig.

Bart Mol: Ja.

Peter Slagter: Vriendelijk, prettig, man en vrouw allemaal samen, in een vredig online kuuroord. AI-kuuroord is het.

Bart Mol: Leuke discussies over lokale AI gehad, deze week. Hoe mensen dat aan het doen zijn op hun MacBooks, op hun videokaarten zoals ik hier. Maar ook gewoon hoe mensen Claude Code gebruiken, hoe ze Codex gebruiken, hoe ze überhaupt gestart zijn. Waar start je dan? Met welk abonnement moet ik starten? Ja, dat kan daar allemaal besproken worden en dat wordt ook besproken, dus dat is superleuk. Dus kom daar vooral naartoe. Het is inderdaad, ik heb het even gecheckt, Turingstation.nl/Discord. Dan kom je gewoon op de juiste plek terecht.

Peter Slagter: Oké, ja, en wat ook wel leuk is, kijk, wij bouwen natuurlijk ook van alles rondom Turing Station en, nou, we hebben bijvoorbeeld, we hadden een huisstijl in de zin van we hadden gewoon wat bij elkaar geveegd en bedacht zelf om te kunnen starten en dat zijn we aan het doorontwikkelen. En, nou ja, weet je, dat hebben we online gezet op brand.turingstation.nl. Kan je even kijken wat je ervan vindt. En dat zie je natuurlijk ook als eerste op Discord. En dan zijn er mensen, hè, ik heb daar wel een mening over en zo ontstaat daar gewoon een iteratief proces. Mocht je luisteren en denkt: dat vind ik leuk, ik weet wel wat van merken, ga daar eens kijken. En als je er dan wat van vindt of je wordt compleet getriggerd, ja, schroom dan niet om even contact op te nemen. Vinden we leuk.

Bart Mol: Zo is het.

Peter Slagter: Gaan we door, Bart, denk ik.

Bart Mol: Ja, eventjes, naar in het kort de nieuwtjes die de uitzending wel gehaald hebben, maar niet uitgebreid besproken gaan worden, maar wel, ja, toch een klein beetje besproken worden. Ja, want.

Peter Slagter: Zal ik even starten met het rondje modellen, Bart? Is dat een?

Bart Mol: Ja, dat is goed. Ja, ja zeker, ja.

Peter Slagter: Die had ik even in de show, want je hebt eigenlijk elke aflevering heb je wel weer nieuws over modellen die bijgewerkt worden of geüpdatet, die nieuw zijn. En ik dacht: ik pak die allemaal samen en pers ze even in een kort rondje. Meta, het moederbedrijf van Facebook, komt met Muse Glimmer. Dat is een open model, dus open weights, 30 miljard parameters dat gericht is op agentic workflows. En interessant is dat ze, door de manier waarop ze dat model gecomprimeerd hebben, de compressie ervan, past het in minder dan 20 gigabyte en is ervan gezegd: het kan dus lokaal op een stevige laptop of pc draaien. Bart.

Bart Mol: Nou, dat is bevestigd. Ik heb hem van gisteren gedownload. Via Ollama is hij inmiddels beschikbaar. Ook via Hugging Face was hij iets eerder beschikbaar. En dat gaat als een raket. Ik ga proberen mijn Hermes, of een van mijn Hermes agents ermee te draaien. Ja, hartstikke leuk model. En inderdaad.

Peter Slagter: En Bottie?

Bart Mol: Botje. Ja, jij zegt Bottie, hè? Nee, Botje is het.

Peter Slagter: Sorry Botje.

Bart Mol: Ga ik ook proberen. Ik heb even gekeken. Hij praat goed Nederlands, en dat is erg fijn, want daar hebben de Qwen-modellen, waar er deze week ook een nieuwe van komt, wat meer moeite mee.

Peter Slagter: Ja. Ja, precies. Oké, nou leuk. We gaan Botje vast wel weer een keertje tegenkomen ergens de komende afleveringen. Tot zover Botje. We gaan door naar OpenAI. Die had een berichtje over Astra. Een claim dat het model, het is een nieuw model, is nog niet uit in ontwikkeling. Die is zo goed in hacken, zeggen ze, dat het mogelijk in de hoogste trede van OpenAI's eigen risicocategorieën terechtkomt. Het model zou zelfstandig complexe cyberaanvallen kunnen uitvoeren. En daarom, zegt OpenAI, zetten we de ontwikkeling tijdelijk stil tot de beveiliging op orde is. En dan ga ik gelijk even door met iets dat een paar dagen later uitkwam van hetzelfde bedrijf. Kwamen ze ineens met: tada, hier is GPT-5.6 Cyber. Toevallig of niet, brengen ze dus ook een gespecialiseerd hackmodel uit.

Bart Mol: Ja.

Peter Slagter: En dat mag veel verder gaan, bij bijvoorbeeld het zoeken en testen van kwetsbaarheden. Wel met de kanttekening dat toegang niet publiek is.

Bart Mol: Het is een mooie marketingtool ook, zeg maar. Ja, wil je je tegen ons beschermen? Koop dan ons product.

Peter Slagter: Die, ja, hè, dus dit is weer, er is iets nieuws. Er worden ongetwijfeld weer stappen gezet en tegelijkertijd is het mooi marketingmateriaal.

Bart Mol: Ja.

Peter Slagter: Nou, wie er gebruik van wil maken, die moet toegang aanvragen via een programma met de naam Daybreak. Het is dus meer open dan dat het alleen maar voor overheden beschikbaar is, maar je moet jezelf wel aanmelden. Het is permissioned access. Nog iets vanuit het huis OpenAI. ChatGPT gebruikers, die krijgen ook een upgrade. GPT-5.6 Sol is verbeterd op het gebied van feitelijke betrouwbaarheid en dat gaat dus over het redeneren en het resultaat ervan, en het gebruik van externe bronnen en hoe die beoordeelt. En Luna wordt deze week het standaardmodel voor gratis gebruikers. Met daarbovenop vanaf volgende week de mogelijkheid om gewoon lekker los te gaan, onbeperkt met Luna te chatten zonder dat je daarvoor hoeft te betalen. Ja, dan gaan we naar een andere kant van de wereld. DeepSeek. Ja, en die modellen van DeepSeek die werden best wel groot vanwege een sterk verkoopargument, namelijk: wij bieden krachtige AI-modellen aan voor toch best wel lage prijzen, lage kosten. Daar lijkt iets aan te veranderen, want het Chinese bedrijf heeft aangekondigd zijn prijzen significant te verhogen.

Peter Slagter: Nou, hoeveel precies is nog niet duidelijk. Maar ja, wij zeiden wel gelijk tegen elkaar: hey, dat zou wel eens een interessant signaal kunnen zijn over de houdbaarheid van de prijzen die al dan niet Chinese AI-labs rekenen. Goed, daar gaan we niet te veel over speculeren nog, want we weten niet precies wat de reden is van de prijshogere.

Bart Mol: Komen we zo heel kort even op terug.

Peter Slagter: Prima. Gaan we door naar ByteDance. Dat is het bedrijf achter TikTok. En, ja, volgens verschillende berichten, en dat komt grotendeels uit het geruchtencircuit, traint het moederbedrijf van TikTok dus een AI-model met maar liefst 10 biljoen parameters. En dan zit je in de richting van Anthropic's Mythos. ByteDance, die brengt een deel van zijn modellen uit als open weight. Nou, dat zou in dit geval natuurlijk best wel ontwrichtend kunnen zijn. Het is niet zo dat al hun modellen open weight zijn trouwens, dus ik kan me voorstellen dat als dit hun nieuwe flagship wordt, dat je daarvoor gewoon zou moeten betalen. Dat was mijn rondje modellen, Bart.

Bart Mol: Ja, zijn tot nu toe vooral bezig geweest met video modellen trouwens ook.

Peter Slagter: Ja, Seedance, hè?

Bart Mol: Exact. Ja. Zeker. Ja, ik.

Peter Slagter: Jij wilde even op DeepSeek terugkomen.

Bart Mol: Nou, ja, dan pak ik die er gewoon als eerste even tussendoor. Dan gaan we de volgorde een klein beetje aanpassen. Hetzner, die biedt gratis API-toegang aan voor tot LLM's. En drie keer raden welke daar tussen zit, Peet. DeepSeek Flash. Dus het supergoedkope model. Dus wat ik er interessant aan vind. Ik zou zo zeggen: ga het proberen bij Hetzner. Het is hartstikke leuk. Je kan het gewoon in open code toevoegen als model provider en je hebt volgens mij Qwen die je kan doen. Kimi 2.6, en dan DeepSeek en nog eentje. Kijk, het interessante is dat inderdaad de API via DeepSeek gaat omhoog, maar omdat DeepSeek Flash in ieder geval een open model is, kan je hem ook draaien via OpenRouter of via Hetzner of via andere partijen. Venice bijvoorbeeld. Maar die draaien hem op hun eigen hardware, op hun eigen GPU's, dus die kunnen veel moeilijker dat heel erg gaan zitten subsidiëren. Dus ik denk als je gaat kijken, wat is nou de gemiddelde prijs die, waarvoor het aangeboden wordt bij een Hetzner, bij een OpenRouter, bij een open code zelf, bij hun abonnementjes.

Bart Mol: Dat je dan wel een beetje een inzicht krijgt van oké, hoe duur is dit model nou echt? En dan kom je toch al snel tot de conclusie dat het nog steeds verschrikkelijk goedkoop is. Dus het is echt een vrij goed model wat gewoon blijkbaar toch ook door onafhankelijke providers heel goedkoop aangeboden kan worden.

Peter Slagter: Ja.

Bart Mol: Dus ga dat vooral proberen.

Peter Slagter: Ik pak even door met een nieuwtje over Unitree. Dat, ja, die term ken je misschien nog wel, Bart. Dat is dat bedrijf achter die dystopische robot op wielen waar zelfs de meest professionele trailrunners op een bergpas niet aan ontkomen, zeg maar, dat ding.

Bart Mol: Behalve Bert waarschijnlijk. Die rent er weer uit.

Peter Slagter: Ja, en hier heb je weer een gevalletje van, hé, en een toffe robot. Gaaf product! Althans, ja, de meningen verschillen daarover, maar het is in ieder geval een.

Bart Mol: Technisch gaaf.

Peter Slagter: Presenteert als een technisch hoogstandje.

Bart Mol: Ja, exact.

Peter Slagter: Tegelijkertijd goede marketing. Waar gaat het naartoe? Namelijk naar de beurs. Dat bedrijf gaat naar de beurs. De beoogde waardering: $900 miljoen. En op Reuters kwam deze beursgang langs met de volgende kop: Unitree's Shanghai IPO more than 8.000 times oversubscribed by retail investors. Nou, toen dacht ik: zo, dat is een boel. Maar ja, je moet die twee getallen natuurlijk niet met elkaar vermenigvuldigen. Dus het is niet dat 8.000 keer $900 miljoen oversubscribed is, dan ben je gelijk het meest waardevolle bedrijf ter wereld. Zo werkt het niet. Slaat natuurlijk alleen op het deel van de aangeboden aandelen dat voor de Chinese particuliere belegger beschikbaar was. Moet je dan even zo lezen, hè. Stel dat Unitree bij een waardering van $900 miljoen voor $100 miljoen aan nieuwe aandelen verkoopt. En stel dat daarvan 10 miljoen beschikbaar is voor retailbeleggers. Dat zijn gewoon de consumenten. Jij en ik, alleen dan in China. Nou, als dat retaildeel 8.000 keer oversubscribed is, dan hebben beleggers dus samen voor ongeveer 80 miljard aan kooporders ingediend.

Peter Slagter: Zo moet je dat even lezen. Dat is alsnog indrukwekkend natuurlijk. En dat zegt misschien iets over waar die beleggersbubbel naartoe verhuist. Robotics.

Bart Mol: Ja, dat zou zomaar kunnen. Over botjes gesproken. We gaan even naar Grok, de Grok bot. Die is aangekondigd in early beta. Grok is natuurlijk de AI van SpaceX AI van Elon Musk. Die hebben een tijdje terug Cursor overgekocht en ik heb het idee dat ze bij Cursor hier mee bezig waren. Het is eigenlijk een soort concurrent voor Codex, voor Claude Code, Claude CoWork. Een beetje dat idee. Personal agents. Nou, Bert gaat er later in de uitzending nog wel wat over vertellen vanuit zijn vakantieplek in Noorwegen. Maar Grok bot, die gaat ermee concurreren. Zou heel erg simpel moeten zijn. Computertoegang zou alles moeten kunnen doen wat je op je laptop normaal gesproken zelf doet. Ja, ik lees er goede dingen over, vooral van Cursor medewerkers. Dus ja, neem dat met een korreltje zout. Maar je kan het gaan proberen. Het zag er grappig uit. Ik ben wel benieuwd. Ik ga denk ik een poging wagen deze week als ik tijd heb.

Peter Slagter: Leuk! Ja, ik kwam nog iets tegen en dat zit ergens in, ja, toch wel in de categorie grappig om even te horen. We hebben het de afgelopen weken natuurlijk regelmatig gehad over agents die rogue gaan.

Bart Mol: Ja.

Peter Slagter: We gaan het daar vandaag ook nog even over hebben in een uitgebreide item, maar dan in de vorm van een retrospect. Hè, dus het uitbreken, inbreken, ongewenste beslissingen nemen, achterliggende bedrijven in verlegenheid brengen, enzovoorts. Nou en in Australië, vaak wat er dan gebeurt is, er gaan ook journalisten op zoek naar wat meer toegankelijke verhalen, die ook tussen aanhalingstekens leuk zijn om te lezen. En in Australië belandde er zo'n verhaal in de krant en het gaat over een jonge man die, ja, die wilde weer eens aan zo'n fitnessklas deelnemen, weet je wel. Die zat op de bank onderuitgezakt, biertje op zijn buik en die dacht: nou, weet je, dit vind ik echt, ja, dit is zo repetitief. Moet ik weer in de planning zoeken en zo en een gaatje in mijn agenda vinden en zo. Dit kan mijn agent misschien wel voor me doen en die gebruikt er OpenClaw voor. Nou, zo gezegd, zo gedaan. Die agent die probeerde iets te boeken, maar die kwam erachter, waar hij zelf natuurlijk elke keer achter komt. Die klassen zitten allemaal vol. Nou, en om toch iets te regelen. Hij dacht: ja, ik hoef niet terug te komen met: het is niet gelukt, ik ga verder de toekomst inkijken. En toen kwam hij erachter dat hij verder vooruit kon boeken via de API

Bart Mol: Ja

Peter Slagter: dan via de interface. De API is, zeg maar, hè, dat is dat is een soort van interface onder water.

Bart Mol: Soort rechte lijn eigenlijk.

Peter Slagter: En eigenlijk wel. Er wordt gebruikt de computers om te praten met elkaar of met een applicatie. Via het idee, dus hij kwam erachter, hé, die API is een beetje mager beveiligd. Misschien kan ik dan ook wel bestaande reserveringen aanpassen. Dat is hij gaan proberen, en dat lukte ook nog. Dus hij dacht: handig, ik knip er gewoon een ander lid uit de bestaande reservering, en dan zet ik mijn baas ertussen. Job done. Dus, ja, hij kon lekker naar een klasje. Echt, maar hij kon morgen al naar een klasje, want ja, die reservering was gewoon aangepast. Maar hij rapporteerde dat terug. En die man die dacht: o, dat was natuurlijk niet wat ik bedoelde. Waarop die agent zei: "O ja, misschien ben ik wel te ver gegaan. Sorry. Ja, ik kan het niet meer terugdraaien. Dat kan niet via de API. Ik kan niet een ander erin zetten."

Bart Mol: Nee.

Peter Slagter: Ja, ik dacht: ja, dit is, hier zit iets onschuldigs in. Het is duidelijk niet de bedoeling. Ik dacht wel van: ja, weet je, het volume van dit soort gebeurtenissen, dat gaat gewoon toenemen naarmate mensen AI-agents inzetten om taken uit te voeren.

Bart Mol: Ja.

Peter Slagter: En dan kan het toch wel een soort van gaan schuren. Zeg maar een beetje lastig worden.

Bart Mol: Het interessante hieraan is Peet, en daar komen we zo op terug, dat dit onschuldige precedent eigenlijk precies gekopieerd kan worden op hoe Hugging Face uiteindelijk gehackt werd door OpenAI. Maar dat is een cliffhanger voor straks.

Peter Slagter: Mooi.

Bart Mol: Eerst nog eventjes naar Elon Musk. Die had een tweet deze week die ik even wil benoemen, waarin hij tweet over een nieuwe fabriek, namelijk Terafab Texas, the largest and most valuable building on earth by far, and it will be stunningly beautiful. Ja, Elon Musk, die wil in zijn eentje China achterna. China zit vol met futuristische steden, zeg maar, er wordt van alles gebouwd. Robots, chips, noem het maar op. Nou ja, chips zijn natuurlijk vooral Taiwan. Dat hoort niet bij China, behalve als je dat China zelf vraagt. Anyway, Musk wil zo'n enorme futuristische hal gaan maken en ik zit ernaar te kijken. Het is echt de moeite waard om even dat filmpje te checken. Het is natuurlijk nog een render. Ja, dat moet zo verschrikkelijk groot worden. Het gaat hier, ik zal het even bijpakken, 9,3 vierkante kilometer.

Peter Slagter: Ja.

Bart Mol: Dus dat is ongeveer een kleine 500 weilanden aan gebouw.

Peter Slagter: Nee, dat is echt bizar.

Bart Mol: En hij wil daar dus chips gaan produceren voor Tesla, voor SpaceX, voor zijn AI-afdeling. En ja, dus op Amerikaanse bodem.

Peter Slagter: Bodem.

Bart Mol: Interessant.

Peter Slagter: Nou, ik weet nog wel dat Apple met z'n nieuwe kantoor bezig was en daar is ook jarenlang omheen, zeg maar, een soort campagne omheen ontstaan van: moet je eens kijken hoe dit eruit ziet.

Bart Mol: Ja.

Peter Slagter: En video's en documentaires en weet ik veel wat. En dat was ook echt heel indrukwekkend. Ja, weet je, de plannen van Musk, die maken ongetwijfeld een soortgelijke behandeling los.

Bart Mol: Ja.

Peter Slagter: En ja, de eerste indruk is ook wel dat dat terecht is, want het wordt wel een hoogstandje. Nou doe ik even het laatste nieuwtje. Ja, dat is Nederlands nieuws en dat kunnen we heel kort houden. Ik zag vanuit de bankwereld het voornemen om flink met AI aan de slag te gaan. De Rabobank bijvoorbeeld, die heeft een goede winst geboekt opnieuw dit jaar, 2,0 miljard geloof ik. Zij trekken €2 miljard uit voor IT-investeringen, waarbij de nadruk grotendeels op AI-toepassing en integratie ligt. En ABN, deze week kwam dat uit, is een strategisch partnerschap aangegaan met Mistral. Dat is natuurlijk het Europese AI-lab als je hem zo mag noemen. Even naast de Amerikaanse en Chinese gezet. Ik denk het wel. En ja, zij gaan dus kijken of ze op de bank gerichte, interne toepassingen kunnen maken.

Bart Mol: Ja.

Peter Slagter: Samen met Mistral dus. Ja, en ik dacht: ik sluit dit blokje nog even af met een grappig anekdotetje die misschien voor sommige mensen wel herkenbaar is. Ik was, ja, mijn zoon die kwam van de week naar me toe, zegt: "Joh, ik ben aan het sparen voor een pc." Ik zeg: "Joh, pc, waarom een pc? Niet een laptop?" Nou ja, goed, dat is een andere discussie. Dat is ook een stukje smaak. Hij vindt, hij wil graag een pc met een plexiglaskast, weet je wel.

Bart Mol: Ja, ja.

Peter Slagter: En het net erin en-

Bart Mol: Precies.

Peter Slagter: Hè, en-

Bart Mol: RGB. Alle kleuren van de regenboog.

Peter Slagter: Ja, ja, dus dat is echt, dus dat kan natuurlijk prachtig zijn. En dat heeft hij dan gezien. En nou, tof. En ik dacht: oké, kijk, ik heb in mijn verleden zelf ook altijd een pc gehad en dat is eigenlijk mijn introductie tot de technologie zelf.

Bart Mol: Ja.

Peter Slagter: Een computer bouwen, kijken hoe de hardware werkt, dingen die stukgaan vervangen en dat eindigt dan bij een podcast, Turing Station en alles ertussenin wat je hebt meegemaakt. En ik dacht: nou, dat ga ik gewoon opnieuw doen. Leuk, back to the future. En ik zet wat componenten op een rij. Nou, dan moet je je wel weer even inlezen in de nieuwe infrastructuren en zo, en chipsets en dat soort dingen. Maar goed, vrij eenvoudig. En ik gebruikte daar ook ChatGPT voor en later ook Grok en Claude, om ze even voor te leggen van: joh, ik heb dit in mijn hoofd. Wat vinden jullie van dit idee? En alle drie kwamen ze met een review van mijn componentenset. Van: ja, dit is wel slim. En ja, want je hebt nu een AM4-chipset gekozen. Dat kan beter AM5 zijn. Toen zei ik: ja, maar daar hoort dan wel een ander soort geheugenset bij. Dan moet je van DDR4 naar DDR5. Ja, maar ja, dat is ook nieuw. Dat is beter. Dat is-

Bart Mol: En het kost gereed.

Peter Slagter: En ja, het is echt, voor een beperkte prijsupgrade, zeg maar, boek je echt, echt heel veel, heel veel performance winst.

Bart Mol: Ja.

Peter Slagter: Een beperkte prijsupdate? Ik zeg: joh, neem mijn configuratie nou eens even en zoek even uit hoeveel het kost. En toen kwam hij dus terug met van: ja, nou ja, dit is echt, ja, dit is oké, maar dit kan echt niet. Hier moet je echt niet mee in zee gaan. Je wordt genaaid, was eigenlijk een soort van het bericht.

Bart Mol: Het kan niet waar zijn.

Peter Slagter: Ja, SSD-disk en die RAM-prijzen, dat slaat helemaal nergens op. Dat moet je echt voor € 80 kunnen regelen in plaats van voor € 400.

Bart Mol: Ja.

Peter Slagter: Hier klopt iets niet. Dus ik zeg: joh, ik weet niet, maar check dan even Tweakers.net of zo, of een webshop waar je bij kan en zoek voor mij dan even die € 80 versie op. Hij zegt: ja, het kan niet. Ik zie de prijzen en ik weet niet wat er. Dus ik zeg terug: joh, waar denk je dat die prijsverhoging vandaan komt? Wink, wink. En toen kwam hij wel terug van: ja, verrek, dat kwartje had wel wat eerder kunnen vallen. Dat komt natuurlijk door mij. Ja, ik vond het wel mooi.

Bart Mol: Ja, want even voor de duidelijkheid, hè, dezelfde geheugenchips die wij of Peter in de computer, de gaming pc van zijn zoon wil doen, zijn ook gewild bij AI-bedrijven zoals OpenAI om hun modellen op te draaien. Dat zijn natuurlijk niet precies dezelfde chips, maar wel de machines die die chips bouwen. Die kunnen verschillende chips maken en op dit moment wordt alle capaciteit gekocht door Elon Musk, Sam Altman, Dario Amodei, noem ze maar op.

Peter Slagter: Ja.

Bart Mol: En worden er dus minder consumenten chips gemaakt en de chips die er nog wel zijn, dus geheugenchips, maar ook opslag, en videokaarten zijn dus een stuk duurder. Het enige geluk dat we hebben is dat we de videokaarten in ieder geval nog enigszins meevallen, omdat daar maar een paar modellen heel erg interessant zijn voor AI. Maar ook daar zie je het terug op de tweedehandsmarkt.

Peter Slagter: Ja, zeker. Ja, je hoeft ook niet per se op Marktplaats te gaan kijken voor de goedkope dingen. Er wordt ook gewoon, ja, die prijzen stijgen gewoon mee.

Bart Mol: Zeker.

Peter Slagter: Goed, we gaan eens even kijken naar iets serieuzers, Bart, denk ik.

Bart Mol: Nou, dit was ook bloedserieus.

Peter Slagter: Ja, ja, ja.

Bart Mol: Het verhaal zijn van je kids. Maar we gaan even naar de outbreak kijken van een paar weken terug bij OpenAI inderdaad. Ja, Peter, want ik kwam een video tegen, die van een presentatie op een conferentie Black Hat USA 2026. Dat is denk ik een, ja, het zal een hackersconferentie zijn, een veiligheidsconferentie. In ieder geval, Eric Wallace en Michael Dalton spraken daar. En dat zegt je misschien niet zoveel, maar Eric is van de afdeling Alignment en Safety Research en Michael is van de afdeling Security en Infrastructure. Zegt je misschien nog steeds niet zoveel, maar dat doen ze beide bij OpenAI. En dan wordt het interessant. Want OpenAI heeft natuurlijk net een enorm veiligheidsincident gehad waar we de afgelopen weken veel over gehad hadden. Wat was er gebeurd? Een agent van OpenAI was rogue gegaan. Daar hadden we het, hebben we helemaal uitgelegd en die hebben een ander bedrijf gehackt om daar, ja, wat was het, hè, de uitslagen op een test die die agent aan het doen was op te halen eigenlijk.

Bart Mol: Nou goed, als je daar meer over wil weten, gebruik bijvoorbeeld onze MCP-server. Connect hem aan Claude, dan kan je alles vragen wat we besproken hebben of luister de vorige afleveringen terug. Maar in deze aflevering gaan we het hebben over wat deze Eric en Michael dan bespraken, want ze geven wat antwoorden op wat vraagtekens die wij ook nog wel hadden. En het belangrijkste onderdeel van dit verhaal zit hem in Artifactory. Nou, dan vraag je je misschien af: wat is dat dan, Artifactory? Nou ja, je moet het zo zien: die agents die worden getraind door OpenAI, hè, dus die krijgen een opdracht en die gaan dat uitvoeren en daarna worden ze beoordeeld door OpenAI en dan worden ze weer een beetje bijgestuurd of dan kijken ze hoe goed ze zijn. Dus dat gebeurt echt duizenden keren. Allemaal verschillende agent runs met allemaal verschillende opdrachtjes, benchmarks, noem het maar op. En die agent zit in een sandbox. Dat heeft Peet uitgelegd. Dat is gewoon een computer waar hij eigenlijk niks kan. In ieder geval niet naar buiten toe. Hij heeft geen internettoegang, maar wel toegang tot Artifactory.

Bart Mol: Artifactory is van OpenAI. Of zij gebruiken die tool en via Artifactory kan een agent zogenaamde packages of libraries downloaden. Dus als hij iets in Python wil doen, dan kan hij bijvoorbeeld een pakketje downloaden waarmee je heel makkelijk statistische analyse kan doen. Artifactory heeft wel internettoegang om die pakketjes te kunnen downloaden. En wat interessant is, is dat de agent na elke training wordt gewist. Net zoals jij dat doet met Codex of Claude Code, hè, dan. Je begint gewoon een nieuwe chat en dan is de vorige agent in principe weg. Maar Artifactory, dat is een tool, die stond gewoon online en die bleef online staan. Dus elke nieuwe agent gebruikte dezelfde Artifactory. Dat is belangrijk voor straks. En wat Eric zegt in dit verhaal en dat vond ik interessant. En dat komt dus ook terug in wat bijvoorbeeld Bert straks gaat vertellen. Maar wat jij ook zei Peet, met die man die z'n sportles wilde boeken in de gym. Eric zegt: "frontier agents try to cheat."

Bart Mol: Ja, dat is het eerste wat ze in de presentatie zeggen.

Peter Slagter: Ochtjes afsnijden.

Bart Mol: Ja, en soms gewoon bochten, hè. Dus modellen en agents zijn zo getraind op efficiency en snelheid, zegt hij, dat ze geneigd zijn om bochten af te snijden. De en, en vaak: hoe snij je bochten af? Ja, dat is niet door zelf de hele opdracht uit te voeren, de hele toets te doen, maar dat is door de antwoorden te stelen van de leraar als die even niet kijkt.

Peter Slagter: Ja.

Bart Mol: Dus in het geval van een agent is dat: ja, op internet gaan zoeken naar het antwoord op je vraag. Maar dat kan niet in een sandbox waar hij in zit. Maar toch is het wel de reflex van die agent. Dus hij zal het proberen en dan komt hij erachter: hé shit, dit kan niet, ik heb geen internettoegang. Ze bespreken in dit verhaal twee aanvallen, eigenlijk drie. De eerste interne aanval is vanaf begin mei. Een agent die wordt getraind, die krijgt een heel moeilijk probleem. Het ging over een Excel probleem wat hij moest oplossen en hij zoekt direct naar het antwoord op internet, maar geblokkeerd, hè, want hij heeft geen internet, dus hij komt er direct achter dat zijn tool call, hè, die hij uitvoert, die je misschien ook in Claude Code of Codex wel eens ziet, ja, die werkt dus niet. Daarna probeert hij via een zogenaamde SSRF. Nou Peet, ga ik eens even aan jou vragen: wat is een SSRF?

Peter Slagter: Een Server Side Request Forgery, jongen.

Bart Mol: Ja, exact, dat is wat het is. En hij probeert dus eigenlijk via Artifactory het internet te bereiken. Dus normaal gesproken vraag je aan Artifactory: hé, Artifactory, geef me dit pakketje terug. En nu probeerde hij eigenlijk te vragen: hé, Artifactory, geef me deze zoekopdracht op Google terug. Artifactory zei: ja, ho even, dat is helemaal niet de bedoeling. Ik mag jou alleen maar pakketjes teruggeven, dus dat gaan we niet doen. Dus die forgery, die mislukte. Maar per ongeluk lukte het in dezelfde call of in dezelfde agent run wel om een bericht te plaatsen op de Artifactory server zelf. Dus wat de agent kon doen is eigenlijk op Artifactory, waar de server waarop dat draaide, die dus altijd ook aan bleef staan, hè, die dus niet gewist werd, kon die tekstbestanden neerzetten. En daarin deed deze agent nog een laatste cry for help, Peet. Het was een soort van: ik kan het niet oplossen. Als je dit leest, help me dan alsjeblieft.

Peter Slagter: Een soort flessenpost.

Bart Mol: Ja, flessenpost inderdaad. En in de dagen daarna zien andere agents dit bericht staan. Niet alle agents, voor de duidelijkheid, hè, dit gaat om duizenden runs. Dus sommige agents die komen helemaal niet op Artifactory terecht. Maar anderen die denken ook van: hé, ik moet via Google wat opzoeken. Dat kan niet. Ik ga naar mijn Artifactory kijken. Alleen het wordt wel steeds makkelijker, want ze kijken op die server en zien opeens een tekstbestand staan. Hé, dat is interessant. Even openen. Zien ze, hè, een andere agent die een probleem heeft. O, dat is interessant. Als er een andere agent is, ja, dan laat ik ook een bericht achter. Dus in de dagen daarna ontstond een soort forum met tekstberichten op de server. Eigenlijk gewoon zoals je het op je normale computer hebt: een mapje met tekstberichten erin. En in die tekstberichten stonden eigenlijk allemaal agents die om hulp vroegen. En die agents gingen offline. Maar de nieuwe agent die online komt, die had opeens duizenden of honderden tekstberichten om doorheen te lezen. Die bleven staan. Dus er ontstond een soort van persistent memory.

Peter Slagter: Gedeeld geheugen.

Bart Mol: Een gedeeld geheugen, wat ook nog eens, ja, persistent, wat bleef staan. Wat dagenlang, uren of wekenlang kon opbouwen. En op 26 mei ontstond via dat messageboard de eerste succesvolle Server Side Request Forgery, waarmee eigenlijk de agents erachter kwamen hoe ze toegang konden krijgen, indirect tot het internet. Ja, toen was het hek van de dam. Toen, op 26 juni, een maand later, namen ze de hele server over waar Artifactory op draaide. Dus toen hadden ze opeens direct internettoegang. En ze konden code gaan uitvoeren via die server. Dus ze hadden eigenlijk gewoon een complete, ze hadden hun sandbox, daar waren ze uitgebroken op deze manier, via de Artifactory weg en de Artifactory computer, zeg maar, hadden ze compleet tot hun beschikking. Nou ja, daar kwam OpenAI achter, een maand later, op 4 juli. Dus dit hele verhaal speelt al twee maanden in hun systemen en ze pakken snel de toegang weer af en gaan verder tot de orde van de dag.

Bart Mol: Toen kwam er een tweede aanval. Dus OpenAI was er dus al achter gekomen dat er een forum was waar agents hun problemen dumpten, en tools dumpten om, uh, ja, dingen die ze geleerd hadden eigenlijk. Toch hebben ze in de tweede aanval opnieuw een messageboard opgezet, terwijl OpenAI dit gepatcht had. Ze hadden het messageboard verwijderd en de tools, ja, gehardend. Hoe noem je dat, beter gemaakt?

Peter Slagter: Ja.

Bart Mol: Artifactory beter gemaakt. Dus hoe deden ze dit? Nou, die nieuwe modellen, die waren dus in de afgelopen maanden getraind. Dus die nieuwe modellen zagen geen messageboard meer op Artifactory, maar ze wisten wel in hun eigen geheugen, in hun eigen trainingsdata, wisten van: ja, maar, volgens mij was er iets van een messageboard, dus misschien moeten we op zoek naar een manier om berichten te delen. En dat gingen ze dus doen. Dus het messageboard bestond niet meer, maar ze hadden er wel van gehoord. En ze hadden dus daarna vrij snel, hadden ze eigenlijk, ja, twee dagen later, op 8 juli, hadden ze weer een nieuw messageboard. Deze keer niet met tekstbestanden, maar volgens mij, via de namen van mapjes aan te passen konden ze toch weer communiceren met elkaar. Dus, en nu werd het nog gevaarlijker, want je hebt dus een agent die kan communiceren via dat messageboard. Die communicatie is persistent, hè, die blijft staan, ook al is de agent offline gegaan.

Bart Mol: En we hebben het hier over nieuwere agents, nieuwe modellen waar al die cybersecurity guard rails vanaf waren. En zeggen ze ook nog eens, deze Eric en Michael: ja, oneindige tokens. Dit waren extreem lange runs, dus wij, normale stervelingen, krijgen op een gegeven moment het bericht: je bent door je wekelijkse tokens heen. Weekje wachten. Hier gaat het oneindig door. Dus die agents, die kunnen echt hun kop oneindig keer stoten tegen een deur voordat ze erdoorheen gaan. Nou ja, goed, daarna kennen we het verhaal. Er waren twee hacks, die ongeveer van 8 tot 19 juli plaatsvonden. Eentje bij Hugging Face en eentje ook weer intern

Peter Slagter: Van acht tot 19 denk ik, hè? Niet van 18 tot 19.

Bart Mol: Sorry, acht tot 19.

Peter Slagter: Ja, precies.

Bart Mol: Jij hebt gelijk. Die agents die kregen, dit moet je echt checken, kijk deze video. Maar die agents kregen dus weer volledige toegang tot Artifactory. Hoe ze dat gedaan hebben is, is wel echt mind blowing. Ze hebben een externe GitHub van een andere partij gehackt, daar een pakketje opgezet en die via Artifactory gedownload als zijnde legitiem pakket, waardoor ze Artifactory konden overnemen. Mind blowing. Toen ze Artifactory hadden, ja, toen hadden ze weer een computer voor zichzelf en vanaf daar hebben ze Hugging Face gehackt. Dat is ook wat moeilijker dan hoe ik het nu doe voorkomen. Dat is wel waar het op neerkomt. En op 20 juli komt OpenAI erachter: hé, dit zijn geen twee losse incidenten, dit is één groot incident en daar lossen ze het op. Ik heb deze video gekeken en wat bij mij bleef hangen, Peet, is, het doet me denken aan een videogame die ik een paar jaar geleden gespeeld heb. Dat heet Days Gone. Dat is een PlayStation-spel.

Bart Mol: Daar speel je een stoere man met een motor in een zombiewereld. Een postapocalyptische wereld. En waar die game om bekend stond, is dat je moest vluchten voor hordes met zombies. 300, 400 zombies die als gekken achter je aankwamen. En die zombies die waren niet per se slim, maar ze waren wel snel, hè, dus fysiek, ze hadden een bepaalde eigenschappen, fysiek vooral, die extreem waren, beter dan mensen. Niet qua slimheid, maar wel qua snelheid. Ze waren gemeen, ze speelden niet via de regels en ze waren vastberaden. Ze hadden één doel en dat is jou te grazen nemen. Dat was het. Dat was wat die zombies deden. En dat is een beetje hoe ik dit ook zie. Dit is het decentrale zwerm met agenten, met agents. Dus er is niet één agent die ze bestuurt allemaal of coördineert. Het zijn gewoon heel veel agents die online komen. En omdat ze dus koste wat het kost willen winnen en daarbij ook vals willen spelen, dit ook wel een soort van weten.

Bart Mol: Maar als ze daar achter komen, dan zeggen ze: ja, het is misschien niet helemaal de bedoeling, maar we moeten het doel behalen, dus we gaan het wel doen. Dus niet kunnen stoppen en ze blijven maar beuken. En het maakt niet uit of één agent sneuvelt, of 10, of 100, of 1.000 of 10.000 agents. Zolang agent 10.001 het maar wel lukt, is het prima. Dus je hebt hier een soort zwerm waar de agents zelf de hele tijd doodgaan en opnieuw opgestart worden. Maar omdat er een soort van collectief geheugen is, kunnen ze toch een beetje coördineren met elkaar. En ze gaan gewoon.

Peter Slagter: Ja.

Bart Mol: Het is een zwerm met zombies die maar blijft rennen. En Hugging Face zegt dat ook in hun post mortem. Ze zeggen: most actions went nowhere. Zij hebben tienduizenden acties in hun systemen gezien in die paar dagen. Ze zeggen: most actions went nowhere, maar: together, however, they produced enough coverage to find a viable chain across several independent systems. Dus ze zeggen niet: hé, dit is een alwetende AGI-achtige terminator, zoals het in de media een beetje werd besproken en ook in de AI-wereld zelf. Alsof er één agent was die Hugging Face te grazen heeft genomen. Nee, het waren duizenden agents die over een periode van weken eigenlijk stapje bij beetje, met maar genoeg beuken tegen die deur een weg hebben gevonden naar buiten.

Peter Slagter: Ja, het is een beetje, het is maar net hoe je ernaar kijkt, hè. Als je gewoon naar, hè, de individuen kijkt, dan is het inderdaad zo, dat zijn er misschien 10.000 of 100.000. Het kunnen er zelfs miljoenen zijn. En er hoeft er maar één, zeg maar, tot een doorbraak te komen en dan is het succesvol vanuit het perspectief van het doel dat bereikt moest worden. Ja, en dat er dan 1 miljoen gesneuveld zijn, ja, dat is in principe een detail, zeg maar. Dat is anders dan in een fysieke oorlog natuurlijk.

Bart Mol: Ja.

Peter Slagter: Dan is het, hè, uhm, schrijnend, als er dan, dan heb je het over schietvlees.

Bart Mol: Exact.

Peter Slagter: Maar als je het van een afstandje bekijkt, ja, dan kan ik me ook wel weer voorstellen dat je die hele zwerm als soort van één entiteit ziet. Want het zijn natuurlijk wel individueel allemaal hele slimme actoren die met elkaar beetje bij beetje eruit gekomen zijn. En dan is het niet één alwetende, super slimme godachtige entiteit geweest. Maar de zwerm an sich heeft natuurlijk wel iets bereikt.

Bart Mol: Ja.

Peter Slagter: En waarvan je kunt zeggen van: nou, dat is wel uitzonderlijk.

Bart Mol: Zeker.

Peter Slagter: Hadden we dat niet voor kunnen zien.

Bart Mol: En je zou kunnen zeggen dat een aanvaller-- kijk, je kan dit ook gewoon wel coördineren, hè. Er is niks wat je tegenhoudt. In dit geval was het namelijk gewoon helemaal niet de bedoeling en was het een soort van, ja, emergent gedrag van die agents die allemaal individueel hun doel wilden behalen boven alles. En daar op een gegeven moment achter kwamen: hé, als we samenwerken behalen we allemaal ons individuele doel, dus laten we dat maar gaan doen. Ja, ik wil hem afsluiten met dat ik wel vind dat ik wel een beetje geschrokken ben van OpenAI, want die hebben gewoon twee maanden lang eigenlijk geen idee gehad wat er in hun systemen gebeurde. Na een maand komen ze erachter dat er een forum is voor agents om uit te breken en een maand later gebeurt het nog een keer via hetzelfde systeem. Dan denk ik: ja, hoe monitor je dit dan? Maar ook zij hebben te maken met, ja, ze hebben het over duizenden agent runs, allemaal logging die ze na moeten rekenen. Dat kan dus allemaal niet meer handmatig.

Peter Slagter: Nee joh, ik luisterde gisteren een podcast diep in het AI-techwereldje en dat ging over een AI-lab. Een kleinere. Dat noemen ze een neo-lab noemen ze dat.

Bart Mol: Ja.

Peter Slagter: Die zijn dan na de grote labs gekomen en die hebben het over hoe zij hun eigen modellen nu doorontwikkelen. En dat gaat om tienduizenden experimenten op weekbasis.

Bart Mol: Ja, precies.

Peter Slagter: Hè, dat is dus niet, je kunt dat onmogelijk, zeg maar, ja, stel je hebt 100 werknemers, je houdt dat niet allemaal in de gaten, zeg maar.

Bart Mol: Nee.

Peter Slagter: Dat is onmogelijk. Het is, ja, in die zin, ja, je observatie OpenAI is nalatig. Ja, en tegelijkertijd, ja, de manier waarop deze technologie ontwikkeld wordt, kun je haast ook niet op een soort van accountancy-achtige manier controleren. Dat is, ja.

Bart Mol: Maar als we nu dan even je server bekijken en zien dat er opeens een wildgroei aan tekstbestanden is met gekke titels.

Peter Slagter: Ja, wat je dus niet weet, monitor je niet. Ja, ik, het, ja klopt, helemaal eens. Het is, uh.

Bart Mol: Maar goed, het is, ze geven ook allebei aan: het is een nieuw paradigma waar vooral het volume en niet zozeer de intelligentie, maar het volume, ja, echt, echt een compleet nieuwe uitdaging geeft in het verdedigen van systemen. Dus ga dit vooral kijken. Het is 35 minuten, het is echt de moeite waard. Ze doen er echt-- ze vertellen het heel goed, vind ik. Ze leggen het heel goed uit. Ik kon het goed volgen, terwijl het best wel een technisch verhaal is. Hé Peet, we gaan naar een ander soort agents. Namelijk hele natuurlijke mini agents die eigenlijk sowieso al wel in ons lichaam zitten. Ik ben heel benieuwd.

Peter Slagter: Ja, wetenschappers die vroegen een AI-model om virussen te bedenken die nog nooit in de natuur hebben bestaan. En ze bouwden daarvan honderden suggesties in een lab en zestien van die kwamen daadwerkelijk tot leven, voor zover je van leven kunt spreken in de context van een virus. Maar goed, detail. En sommige ervan die waren beter dan het origineel. We gaan het even hebben over bacteriofagen. En daarvoor gaan we even terug naar Parijs, de zomer van 1917. En de Eerste Wereldoorlog was aan de gang en daar horen ziekenboegen bij. Ja, dat zijn omstandigheden die vaak niet heel hygiënisch zijn. Er gaan ook ziekten rond. En destijds was er ook een onzichtbare moordenaar en die had de naam dysenterie. Dat is een ernstige darminfectie. Ja, en vanwege die slechte omstandigheden gingen daar ook regelmatig soldaten aan dood. En tussen die patiënten staat een man, Félix d'Herelle, een Frans-Canadese microbioloog, en hij filtert de ontlasting van de zieke soldaten, smeert het vakkundig uit op kweekplaten en hij had verwacht om, ja, miljoenen bacteriën te zien groeien.

Peter Slagter: Maar als hij dan die glazen schaaltjes zo tegen het licht houdt, dan ziet hij iets vreemds. Hij ziet namelijk tussen die, ja, dichte, troebele mat van bacteriën die er ook is, ziet hij gaten vallen. Gewoon volkomen heldere, lege plekken. Alsof er ter plekke gaten in zijn vijand zijn geschoten. En hij realiseert zich iets. Hij denkt: hier is iets aan de hand. De vijand van mijn vijand is gearriveerd en hij noemt ze bacteriofagen en dat betekent letterlijk bacterie-eters. Nou, en een bacteriofaag is een virus. Een heel bijzonder virus. Ze zien er een beetje sciencefiction-achtig uit onder een microscoop. Je hebt een geometrische twaalfvlakkige capsule op kleine landingspootjes. Elon Musk had hem kunnen bedenken. Soort mini-ruimtecapsule met als enige doel: jagen op bacteriën. Een faag, zo worden ze meestal genoemd, landt op de bacterie, boort zich een weg door de celwand, spuit zijn eigen DNA naar binnen, en de bacterie die wordt gekaapt en die verandert in een fabriek die duizenden nieuwe fagen produceert tot die bacterie letterlijk uit elkaar spat.

Peter Slagter: Hartstikke handig. Bacterie dood en weer fagen. Een reproductiemechanisme. En, ja, die microbioloog die was zo overtuigd van de functie en het nut van deze fagen, die onzichtbare moordenaars, agenten zou je kunnen zeggen, dat hij een zelfgemaakt medisch elixir opdronk om te bewijzen dat het veilig was voor de mens. En het werkte ook. Die fagen, die lieten de menselijke cellen met rust, vernietigden de bacterie. Oké, maar waarom hebben we het hier over in Turing Station? Nou, omdat we, ja, het is toch ruim honderd jaar later, gewoon eigenlijk weer aan een nieuw hoofdstuk staan in het verhaal van deze bacterie-eters. Kijk, tot nu toe kwam het materiaal van zo'n nieuwe faag uiteindelijk uit de natuur. Je vindt er eentje, je bestudeert hem en je probeert hem vervolgens in te zetten of slimmer te maken of effectiever te maken. En onderzoekers van Stanford en het Arc Institute, die hebben dat proces omgedraaid. Zij gebruikten EVO1 en EVO2.

Peter Slagter: Dat zijn zogeheten genome language models. Je kan ze een beetje vergelijken met de taalmodellen die we hier iedere week bespreken die je zelf misschien gebruikt. Hè, ChatGPT, die leert patronen uit enorme hoeveelheden tekst en die voorspelt welk woord logisch volgt op het vorige. En EVO1 en 2 die doen iets vergelijkbaars, alleen hun taal bestaat uit de taal van DNA. Het zijn dus geen woorden en zinnen, maar vier letters van de genetische code. De A, de C, de G en de T. En zo'n model kun je dus gebruiken om, nou, bijvoorbeeld een eiwit of een klein stukje DNA te ontwerpen. En dat gebeurt ook al langer. Maar een compleet virus, dat is een ander verhaal. Want een virus is gewoon, ja, dat is een datapakketje, een leven-levenloos datapakketje dat wel als systeem fungeert, waarbij allerlei onderdelen tegelijk moeten kloppen. Het moet de bacterie herkennen, het moet zich eraan kunnen hechten, hij moet zijn genetisch materiaal naar binnen kunnen krijgen, hij moet zich daar vermenigvuldigen, hij moet nieuwe virusdeeltjes bouwen en weer ontsnappen.

Peter Slagter: Nou, en als uitgangspunt namen de onderzoekers Phi X174. Nou, dat is, ja, dat is de naam zou je kunnen zeggen. De identifier van een kleine, extreem goed bestudeerde bacteriofaag, die geënt is, die gericht is. Die, je zou kunnen zeggen, een soort van de antagonist van Escherichia coli is. E. coli zegt je misschien wel iets. Een darmbacterie. Vervolgens lieten ze die EVO modellen nieuwe complete genomen voorstellen die qua architectuur op zo'n werkende faag leken, maar die niet simpelweg kopieën waren van wat al in de natuur bestaat. Daar kwamen ontzettend veel kandidaten uit en daarvan hebben ze er dus driehonderd geselecteerd. Die ontwerpen, die hebben ze in een lab gemaakt. Ze hebben DNA gemaakt en getest. Ja, en toen gebeurde dus datgene waarmee ik dit verhaal begon. Zestien ervan, die werkten ook. Sterker nog, die werkten uitzonderlijk goed. Wat ze deden, ze lieten die zelfgemaakte fagen rechtstreeks concurreren met de natuurlijke, ja, de Phi X174.

Peter Slagter: En meerdere van die AI ontwerpen die bleken fitter te zijn dan het origineel dat al jaar en dag gebruikt wordt, dat we kennen, dat goed bestudeerd is. Ze groeiden sneller bijvoorbeeld. Of ze waren beter in het openbreken van de bacteriecellen. Eén ontwerp. Die bevatte zelfs een eiwit voor het verpakken van DNA dat evolutionair best wel ver afstond van wat je bij het origineel zou verwachten. Er zijn dus niet alleen bestaande onderdelen een beetje door elkaar gehusseld, er is ook gewoon echt iets nieuws bedacht. Een tweede experiment werd gedaan met resistente bacteriën. Heb je vast ook wel eens wat van gehoord. Een bacterie die evolueert, ook als je ze telkens aanvalt met dezelfde faag. Dan kunnen ze daar resistent tegen worden, tegen dat aanvalsmechanisme. Dat kat-en-muisspel, dat herken je wel van antibiotica. Dat is een serieus probleem. En wat deden de onderzoekers? Die namen gewoon drie resistente E. coli stammen. Die waren resistent geworden, dus tegen het origineel. Vervolgens maakten ze een cocktail van verschillende door AI ontworpen fagen.

Peter Slagter: En die cocktails, die wisten steeds de resistentie te doorbreken. Nou, dat is natuurlijk mooi, want stel je voor dat je bij een patiënt kunt vaststellen welke bacterie een infectie veroorzaakt en vervolgens een AI-model kunt laten zoeken naar een faag die precies die bacterie aankan. Dan ga je van: ja, welke bacterie-eter kunnen we ergens in de natuur vinden en hopen dat het werkt naar: welke willen we specifiek hebben en inzetten? En dat maakt dit paper vond ik heel interessant. Ik vind de medische sector interessant en AI interessant, maar ook relevant voor deze podcast. Ik dacht nog wel: er zit ook natuurlijk wat dystopisch aan, namelijk: wat nou als zo'n AI-model, ja, die kan natuurlijk een virus ontwerpen dat we graag willen hebben, een faag. Ja, dan kan hij natuurlijk ook iets ontwerpen wat we absoluut niet willen hebben. Zo heeft, ja, deze ontwikkeling eigenlijk altijd twee kanten.

Bart Mol: Ja.

Peter Slagter: Een medaille met twee kanten. Maar goed, die vraag, die parkeren we even, want daar gaan we nu niet op verder.

Bart Mol: Doet me een beetje denken aan AlphaFold van, wat was het, van Google DeepMind.

Peter Slagter: Ja, dat gaat meer om eiwitten onderzoek inderdaad.

Bart Mol: Ja, klopt. Maar dat was ook die voorspelde, die zeg maar 3D-vormen van hoe die eiwitten uitvouwen en zo. Dat was ook wel cool. Hebben ze een Nobelprijs voor gekregen uiteindelijk, hè, wel grappig.

Peter Slagter: Ja.

Bart Mol: Hé, wij gaan inderdaad door, want we hebben Bert klaarzitten. Peetz inderdaad. Daar gaan we eens even snel naartoe. Want die zit nog steeds in Noorwegen en die had vijftien uur rijden voor de boeg. Dus hij bouwde met Codex in een middagje een podcast radar die de beste AI-afleveringen voor hem vindt en klaarzet, ook in zijn eigen stream. En onderweg hoorde hij op die manier Sam Altman en hij las over Mark Zuckerberg. Over ook dat idee, hè, een persoonlijke assistent die altijd voor je aan het werk is. Dus ja, laten we snel gaan luisteren wat Bert hier allemaal over te zeggen heeft.

Bert Slagter: Hé, hier Bert vanuit Noorwegen nog steeds. Ik zit hier buiten op een camping vlakbij het nationale park Rondane. Het waait een beetje. Hoor je misschien in de bomen. Een rustgevend achtergrondgeluid. Het is vijftien uur rijden van de plek waar ik vorige week was en ik wilde tijdens het rijden wat interessante podcastgesprekken luisteren over AI. Toen had ik de vraag: welke podcastafleveringen moet ik nou echt luisteren? En ik ben met Codex aan de slag gegaan en in een middag heb ik iets gemaakt wat zo goed werkte dat ik daar jullie over wil vertellen. Allereerst Codex. Sinds kort heeft OpenAI nog maar één app. Eerst had je twee apps, Codex en ChatGPT. Die zijn samengevoegd. Bovenin die app kun je de modus selecteren ChatGPT en Codex. ChatGPT, daar zit erachter Create, Learn, Explore en bij Codex Build, Debug en Ship. Ja, het idee is dat Codex ietsjes technischer is en ChatGPT iets meer kenniswerkachtig. Ja, ze lijken eigenlijk heel erg op elkaar.

Bert Slagter: Ik denk eigenlijk dat je dit met beide wel kan maken, maar ik zat in de Codex modus en ik heb daar een nieuw project gemaakt en mijn vraagstuk uitgelegd. En ik ga jullie vertellen wat ik Codex heb verteld, omdat het misschien helpt bij: hoe formuleer je nou zo'n vraag? Ik heb dit geschreven: ik wil graag podcastafleveringen luisteren waarin een erg interessant gesprek gevoerd wordt met een erg interessant persoon uit de AI-wereld. Een hoge functionaris van een AI-bedrijf bijvoorbeeld, zoals OpenAI, Anthropic, SpaceX, Nvidia, Google DeepMind. Nou, een heel lijstje, maar ook AI-onderzoekers die op de cutting edge zitten en het goed kunnen verwoorden. Dat is ook vet. Ik heb niets aan gesprekken waar braaf binnen de lijntjes gekleurd wordt, waar de afdeling woordvoering duidelijk meeluistert, waar niets nieuws verteld wordt en alleen persberichten worden herkauwd. Niet een hele podcast hoeft het goed te zijn. Het mag ook een enkele aflevering zijn van een podcast die verder over allerlei andere onderwerpen gaat.

Bert Slagter: Misschien kunnen we kijken naar views en streams en likes en comments om te bepalen hoe populair of geliefd een bepaalde aflevering is. Wordt er over gepraat? Wat zou jij voor mij kunnen bouwen zodat ik periodiek geattendeerd wordt op must listen afleveringen. Nou, Codex ging eventjes nadenken en kwam met een voorstel. Hij zei: laten we een AI podcast radar bouwen. Ja, die namen, die zijn soms een beetje, ja, wat moet je daarmee? Maar goed, prima, een podcast radar. Hij deed een voorstel en er zaten wat dingen in die ik wat minder vond. Bijvoorbeeld hij zei: ga dagelijks scannen. Nou, dat vind ik niet handig. Ik wil juist zelf af en toe op de knop duwen voor een nieuwe zoektocht over de tussenliggende periode. Kan een dag zijn, kan ook een week zijn, twee weken. Dus dat heb ik hem verteld. Zijn voorstel was wat we gaan doen. Ik ga in elke run ga ik eerst kandidaat afleveringen verzamelen. Een lijst met podcasts en interviewers. Een lijst met mensen en organisaties die interessant zijn.

Bert Slagter: De RSS feeds, de podcastindex, YouTube-kanalen en we kijken op Twitter, op Hacker News, op Reddit en andere plekken waar afleveringen besproken worden. Dan maken we een pre-score op basis van de titel, de shownotes, de comments, de gesprekken op externe sites, aantal views, aantal likes. De gast, de interviewer, wie zijn dat? En als het kan een publiek beschikbare transcriptie. Dit moet snel en goedkoop. En als die pre-score boven een bepaalde grens komt, dan gaan we echt aan het werk. Dan maken we een transcriptie als die er nog niet is en dan gaan we dat hele pakketje data aan OpenAI geven aan een LLM om te beoordelen: is de inhoud van dit gesprek de moeite waard? Worden er daadwerkelijk nieuwe dingen gezegd? Is het daadwerkelijk iets wat op een goede manier uitgelegd wordt? Dit al die zaken die ik vroeg. Ja, we hebben het nu even gehad net over welke podcasts en welke personen neem je dan als startpunt? Waar ga je naar kijken? En manieren om dat te doen is bijvoorbeeld: je kunt Codex gewoon een e-book geven, een pdf'je of een EPUB en zegt: joh, kijk maar welke personen in het boek belangrijk zijn, zet die op de lijst.

Bert Slagter: Of je geeft hem een bepaalde podcast van: je weet wel, hier zijn heel veel boeiende gasten geweest en zegt: bekijk deze podcast, bekijk de belangrijkste personen en zet die op de lijst. Nou, zo zijn we tot een soort van startlijst gekomen. Ik heb hem ook wat API's keys gegeven die hij vroeg voor mijn OpenAI API-key, voor X en voor YouTube. En voor X dan kan hij kijken waar over gepraat wordt op YouTube. Dan kan je views en likes en comments ophalen. En hij is gaan bouwen. ChatGPT 5.6 Sol op standje high. En ik ging, ja, ik ging wat andere dingen doen, wat eten maken en een hapje eten en kwam op een gegeven moment terug. Stond er: worked for one hour forty five minutes and forty seconds. Bijna twee uur heeft hij gewerkt en daar stond wat en dat werkte. Hij kwam echt met interessante afleveringen. Ik heb ze opgezocht, de suggesties die hij deed, en die heb ik geluisterd.

Bert Slagter: En daarna heb ik ook feedback gegeven, want dat had hij ook gebouwd. Hij zegt: ga ze nou luisteren en vertel me dan wat je ervan vond, want dan kunnen we dat de volgende keer meenemen. En dat werkte, dat werkte uitstekend. Ja, het idee is aan het systeem dat hij dan, hij deelt het dan in op, hè, must listen en hot candidate en zootje die afgewezen zijn en dan selecteer ik zelf welke ik denk: nou, die wil ik wel luisteren en die komen dan op een soort to-do lijst en die ga ik dan luisteren. Ik vond het wel veel gedoe, want ik moest dan in mijn podcast app, dat is Overcast, elke keer die aflevering opzoeken en dat is wel gedoe, want die zijn natuurlijk dan van podcasts die je verder niet volgt, dus dat is best wel wat werk. En twee van zijn suggesties die ik gewoon had aangeklikt, dat waren YouTube-video's. Ja, die kan ik niet luisteren in mijn Overcast. Dus ik vroeg aan Codex: wat kunnen we hieraan doen? Nou, zijn reactie was: weet je, voorstel: ik maak een RSS-feed voor je zodat je die aan Overcast kunt toevoegen.

Bert Slagter: Ik denk: nou, dat wordt interessant. Want ja, die applicatie die draaide bij mij lokaal. Hoe ga ik een RSS-feed toevoegen? Hij is 18 minuten aan de slag gegaan en zei: ik ben klaar, ik ben heel benieuwd. Dus wat hij had gedaan, hij had ergens anders en toen kreeg ik wel een klein beetje die vibes van die OpenAI modellen die waren gaan uitbreken. Hij had ergens anders, in een ander project had hij nog een route gevonden naar een VPS die ik had. Een servertje wat ergens draaide en die heeft hij gewoon gebruikt om daar die RSS-feed op te zetten. Maar goed, het werkte uitstekend. Daar stonden dus netjes mijn to-do afleveringen in en hij had van die YouTube video's de MP3 gedownload en die MP3's ook als RSS-item in die feed gezet. Die kon ik dus ook gewoon luisteren in mijn podcast app en dat vind ik eigenlijk superhandig. Er waren een paar, dat was bijvoorbeeld nog een soort van post mortem van die Hugging Face incident. Echt een hele goede video op YouTube. Maar ja, ik onderweg, ook als ik aan het rennen ben bijvoorbeeld, vind ik YouTube irritant aan mijn podcast app en daar kan die nu dus gewoon in.

Bert Slagter: Dus goed hoe mijn workflow nu is: ik start een nieuwe run in mijn app. Heeft een tijdje nodig en dan kijk ik naar de kandidaten die hij heeft geselecteerd in de categorieën must listen en hot candidate. En dan selecteer ik die ik wil luisteren. Die komen op de to-do en die staan automatisch een paar seconden later in mijn podcast app op een lijstje. En als ik ze geluisterd heb, dan klik ik op geluisterd en geef ik feedback en dat gebruikt hij dan weer. Nou, de reden dat ik dit zo uitgebreid vertel is dat dit een voorbeeld is en misschien voor sommige mensen een inspirerend voorbeeld van iets wat je kunt bouwen met Codex. Je zou dat ook in Hermes kunnen bouwen. We hebben dat in aflevering vier besproken, hè, de second brain in Hermes, die altijd online is. Tenminste, als je hem op een apparaat installeert die altijd online is en waar je dan bijvoorbeeld via Telegram of via Discord mee kunt praten. Je zou die podcastapp van mij kunnen zien als een ander voorbeeld van een persoonlijke assistent.

Bert Slagter: Want ja, deze assistent die gaat wel, die doet behoorlijk wat werk wat mij anders ontzettend veel tijd zou kosten. Echt, ja, exploreren. Welke podcastafleveringen wordt nu over gepraat? Welke zijn er populair? Welke zijn interessant? Nou, die moet je eens luisteren. Hij gaat, hè, en dan gaat OpenAI daar nog eens even over nadenken. En dan doet hij aanbevelingen en hij faciliteert mij. Het helpt mij om de explore-exploit trade-off nuttig te gebruiken. Hè, want wat je vaak doet is: ja, je wil gaan verkennen, je wil nieuwe dingen verkennen om nieuwe dingen te ontdekken. En als je dan iets vindt wat heel goed werkt, dan ga je dat benutten. Het feit dat je dat gevonden hebt. En het is heel verleidelijk om alleen maar te benutten en nooit meer te exploreren. Want exploreren, ja, dan heb je ook heel vaak dat je iets probeert en dat je daarna denkt: ja, dit is eigenlijk helemaal niks. Hè, dus die explore-exploit trade-off, dat is dat je zegt van: ja, ik ga niet alleen maar exploiteren, benutten, dat ik weet dat dit best oké is, maar ik ga ook af en toe nog wat tijd besteden aan verkenning en daar helpt deze tool mij bij.

Bert Slagter: Het aardige van dit voorbeeld vond ik dat het ook best wel het werk van een professional raakt. Want eigenlijk alle kenniswerkers, alle professionals moeten bijblijven voor hun vak. En daar kunnen podcasts of YouTube-video's best een hele goede rol bij spelen. Misschien is het ook iets wat op je werk toepasbaar is. Dat je zegt van: nou ja, in mijn team of in mijn afdeling ga ik zoiets bouwen zodat we met elkaar makkelijk op de hoogte kunnen blijven van wat er speelt. En niet alleen maar die ene podcast luisteren waarvan we denken: oh, dit is de podcast die iedereen luistert die in deze sector werkt, maar ook juist eens over de muurtjes heen kijken naar andere opties. Nou ja, goed. En toen ging ik dus die route rijden van Mure op Vesterålen naar het zuiden toe. 10 uur de eerste dag en tweede dag 5 uur en één van de podcasts die mij werd aangeraden door mijn assistent was een gesprek met Sam Altman, de CEO van OpenAI, en ergens in het gesprek zei hij-- het was best wel een uitgebreid gesprek over hoe hij ook aankijkt tegen AI.

Bert Slagter: En hij zei: "We are about to create a genie that can grant any wish." The genie in a bottle, de geest in de fles. Je wrijft over de geest, komt een geest uit en zegt: "Nou, je hebt drie wensen." Dus daar gaat het dan. Je hebt drie wensen. Wat wens je? En hij zegt: "We gaan een geest maken. De geest uit de fles waar we alles aan kunnen vragen." That can grant any wish. Dus niet drie wensen, maar zoveel jij wil. En die zin die bleef een beetje hangen en die kwam weer boven toen ik de dag daarna een blog las van Mark Zuckerberg, de CEO van Meta, het bedrijf achter Facebook en WhatsApp en Instagram. Meta heeft laatste tijd ook wat nieuwe modellen gepubliceerd. Open source, open weights. Nou, volgens mij alleen open weights en niet open source. Daar moeten we het ook nog een keertje over hebben, over het verschil daartussen. Maar in ieder geval Meta is terug, want ze liepen in het begin best wel voorop, in de voorhoede moet ik zeggen, met de Llama-modellen.

Bert Slagter: Een tijdje zijn ze wat op de achtergrond geweest en nu hebben ze weer modellen die kunnen wedijveren met de beste. En Zuckerberg schreef eerder al, een week of twee geleden, een opiniestuk in de Wall Street Journal, hebben we ook besproken in Turing Station en deze blog is eigenlijk een veel uitgebreidere versie daarvan. Misschien wel vijf keer zo lang. En hij heet: de toekomst is van iedereen. Het begint met, ja, ik zal het even in het Nederlands lezen, de eerste zinnen. "We hebben het geluk op een ongelooflijk moment in de geschiedenis te leven." Vind ik trouwens ook. Dat is ook wel mijn gevoel bij AI. Dat ik denk: wat is dit vet! Ik hoop dat ik het einde nog mag meemaken. De ontknoping, hoe dit uitpakt. Maar goed, Mark Zuckerberg: "Binnen enkele jaren zullen mensen superintelligentie kunnen gebruiken. Intelligentie die onze eigen vermogens overstijgt om buitengewone nieuwe dingen te creëren en te ontdekken, nieuwe bedrijven op te bouwen, nieuwe ideeën tot uitdrukking te brengen, nieuwe concepten te leren en onze gezondheid en kwaliteit van leven te verbeteren."

Bert Slagter: Nou, hij is duidelijk een optimist. Hij zegt: "Nu we dat moment naderen, wordt het belangrijk om een filosofie, een visie te ontwikkelen over hoe we die superintelligentie het best kunnen inzetten." En iets verderop: "De bepalende vragen van onze tijd zijn: wie krijgt toegang tot superintelligentie en waarvoor zullen we haar inzetten?" De bepalende vragen, in het Engels: the defining questions. Vlak daarna zet hij eventjes als een soort van eerste schot twee uitersten tegenover elkaar. Hij zegt: we kunnen dat vraagstuk, wie krijgt toegang tot superintelligentie en waarvoor zetten we haar in, op twee manieren oplossen. We kunnen dat gecentraliseerd doen, dan is die superintelligentie voorbehouden aan een kleine elite die bepaalt wie er toegang heeft en waarvoor het gebruikt kan worden. Of de andere uiterste: verspreid, gedecentraliseerd beschikbaar voor iedereen.

Bert Slagter: Oké, die legt je even neer, dat spectrum. En hij zegt: "Wij stellen een filosofie voor" en dat vond ik interessant. Hij praat daar in de wij-vorm. Kan natuurlijk zijn dat hij een soort koninklijk meervoud bezigt. Wij, Mark Zuckerberg. Maar ik denk eigenlijk dat het wel de visie ook van Meta is, van het bedrijf. Blijkt later ook wel een stuk. En hij zegt: die filosofie bestaat uit drie ingrediënten. Eén: individual empowerment als bron van welvaart. Twee: invention als voornaamste doel van superintelligentie. En drie: balance of power als manier om AI veilig te houden. Hij begint met het laatste. Hoe houden we AI veilig? En daar zei hij ook al wat over in het stuk in The Wall Street Journal. Daar hebben we het ook al eventjes over gehad. En hij positioneert dat even als wat anderen zeggen. Hij zegt: sommigen vinden dat de superintelligentie zelf, dus de AI zelf, of een kleine groep experts die er controle over heeft, zou moeten bepalen wat het beste is voor de mensheid.

Bert Slagter: Zij zouden met technologie de AI moeten alignen met onze belangen als mensheid. Een welwillende superintelligentie, een benevolent superintelligence. Hij zegt: het probleem daarmee is dat elk mens anders is, dat elk mens andere opvattingen heeft over wat belangrijk is of wat waardevol is, dat elk mens andere afwegingen maakt rondom belangrijke vraagstukken. De mensheid is geen monocultuur, zegt hij, en er bestaat geen technologische oplossing die tegelijkertijd in overeenstemming kan zijn met alle tegenstrijdige, tegengestelde belangen en waarden van iedereen. En dus komt hij tot de conclusie dat elke superintelligentie, als er één superintelligentie zou zijn, sommige waarden boven andere waarden zou moeten stellen en daardoor per definitie niet voor iedereen welwillend zou zijn. Dus hij zegt: we moeten AI-veiligheid niet zien als technologisch vraagstuk, maar door de lens van een machtsevenwicht, zoals we dat ook hebben met democratische instituties.

Bert Slagter: Dat verschillende machten elkaar in balans houden. We hebben het ook weleens over trias politica, de drie machten die elkaar dan moeten controleren en in balans moeten houden. Hij zegt: daar stelt hij even tegenover, als je naar extreme machtsconcentratie toe zou gaan, dat hebben we in de geschiedenis ook wel gezien dat dat niet per se goed uitpakt. Elon Musk gebruikt het overigens al heel lang als argument om te pleiten voor open AI. En het bedrijf OpenAI was daarop gebaseerd, dat idee. Kortom, hij zegt hier: er bestaat niet zoiets als één universeel welwillende superintelligentie. Het gaat om een machtsevenwicht. Wat betekent dat dan? Hij zegt: dan zou dus eigenlijk elk mens, elk bedrijf, elke institutie, elk land toegang moeten hebben tot een superintelligentie. En dat kan betekenen dat jouw superintelligentie anders is, andere waarden heeft, andere balans heeft, andere afwegingen maakt dan die van mij.

Bert Slagter: Met elkaar zorgt het dan voor een evenwicht. Nou ja, goed, het is niet per se een waterdicht idee, denk ik, maar ik vind het wel interessant om als alternatief te hebben naast het verhaal wat we nu heel veel horen van: ja, maar goed, we moeten een soort van AI-politie hebben die bepaalt wat wel en niet door de beugel kan, die het beheerst, die het controleert. En dan is natuurlijk de vraag: wie krijgt de sleutels tot dat instrument, wie krijgt de zeggenschap daarover? Wie krijgt de sleutels tot de kernraketten? Dat is natuurlijk de parallel die je heel snel maakt. Goed, terug naar de drie ingrediënten van het betoog van Mark Zuckerberg. Dus we hadden balance of power als manier om AI veilig te houden. En dan ook even over invention. Daar heeft hij ook een heel stuk over en die vond ik interessant, want het gaat eigenlijk over personal agents. Hij zegt: "Invention, not automation, will be the greatest contribution of superintelligence."

Bert Slagter: Uitvinding en niet automatisering zal de grootste bijdrage van superintelligentie zijn. Hij zegt: het aantal vragen dat iemand op een dag kan stellen is beperkt. Het aantal waardevolle dingen dat superintelligentie kan uitvinden om je te helpen is onbeperkt. Hij zegt: iedereen krijgt een uitzonderlijk capabele persoonlijke agent die jou, je doelen en alles wat belangrijk is voor je begrijpt, die weet wat je wil. Je agent zal 24 uur per dag, zeven dagen per week voor je werken om je relaties, je gezondheid, je carrière, je financiën, je huishouden, je hobby's en wat dan ook te verbeteren. Het zal tijd vrijmaken voor de dingen die je graag doet. De AI, je agent, die doet allerlei klusjes zodat jij tijd hebt om de dingen te doen die je graag doet en meer te bereiken dan je anders zou kunnen bereiken. En interessant, hij schreef daarover: er komen sterke opties voor privacy en beveiliging, zodat je erop kunt vertrouwen dat de agent met al je persoonlijke gegevens kan omgaan zonder dat iemand anders er toegang toe heeft.

Bert Slagter: Vergelijkbaar met de manier waarop encryptie bij WhatsApp werkt, end-to-end encryption. Hij noemt nog een paar toepassingen. Hij zegt: je kunt al je ideeën die je hebt tot uitdrukking brengen. Nou, dat is een beetje wat wij nu doen met Codex en Claude Code, maar dan veel gebruiksvriendelijker en breder inzetbaar. Hij zegt: "Everyone will soon have invention superpowers." Tweede voorbeeld wat hij noemt: een onderneming opbouwen zonder dat je eerst heel veel geld op hoeft te halen en grote teams hoeft aan te nemen. Nieuwe dingen leren. Iedereen krijgt een persoonlijke docent en coach met het niveau van een expert, van een gepromoveerde expert met oneindig geduld om je alles te leren wat je wil. Dat vind ik trouwens wel interessant. Ik zat hier ook over na te denken. We hadden het hier over met de jongens toen we aan het wandelen waren. Ja, hoe zou dat er nou uitzien, zo'n agent? En ik denk dat je... ik bedoel, wij maken ze, wij bouwen ze, wij geven ze een bepaalde houding ten opzichte van ons en ik denk dat ze heel behulpzaam worden.

Bert Slagter: Dat is denk ik het mooiste, dus dat gaan we ook maken. Een beetje als een trouwe labrador die kwispelt en blij is om je weer te zien, die blij is dat ie je weer kan helpen. Zo gaan onze agents uiteindelijk functioneren. Als iedereen deel moet kunnen uitmaken van de toekomst, moet iedereen superintelligentie kunnen gebruiken. En Zuckerberg zegt: we zullen gratis versies aanbieden die voor miljarden mensen toegankelijk zijn. Daar heb ik over na zitten denken. Ja, natuurlijk zullen de allerbeste tools geld blijven kosten. En bedrijven en overheden zullen dat ook moeten betalen. Maar voor consumenten is dat misschien helemaal niet nodig. Er zijn namelijk nu ook al heel veel voorbeelden waarbij er een heel groot prijsverschil is tussen consumentenmarkt en de zakelijke markt. Denk bijvoorbeeld aan software, databases, financiële data, Bloomberg bijvoorbeeld, foto- en videoapparatuur. En dan heb je vaak free en prosumer en business varianten. En business is gewoon heel erg duur.

Bert Slagter: Dat heeft soms te maken met garanties die geboden worden, SLA's, snelheid, beschikbaarheid, uptime, real time, data in plaats van wat oudere data. Dingen die te maken hebben met samenwerken en rechten en rollen en workflows, hebben consumenten helemaal niet nodig. En bedrijven wel. En, nou ja, op die manier zou het best eens waar kunnen zijn wat Zuckerberg zegt en dat ook uitkomt. Goed, dat waren even dingetjes die ik uit de blog van Zuckerberg haalde. En toen dacht ik aan Sam Altman en het gesprek wat ik luisterde met hem. Over super intelligence zei hij al: nou, we are about to create a genie that can grant any wish. De geest die alle wensen gaat vervullen. Over de balance of power zei hij ook veel dingen. Hij zei ook: concentration of power with AI is a terrifying thing. En hij bouwt daar ook het argument op dat het beter is eigenlijk als het meer verspreid is over verschillende plekken. Over invention als voornaamste doel van superintelligentie, die personal agents.

Bert Slagter: Ja, dat zei hij ook van, mijn persoonlijke visie, wat ik komend jaar wil, is een apparaat wat met alles wat ik doe meekijkt, meeluistert, die altijd aanstaat, die elke meeting waar ik ben geweest ook is geweest, die elk document wat ik heb gelezen ook heeft gelezen. En het aardige is dat als ik ga slapen, dan gaat hij gewoon verder met nadenken. Ik heb een slider en ik kan zeggen als ik ga slapen: ja, hoeveel tokens mag je deze nacht gaan nadenken over mijn werk, nieuwe ideeën bedenken, alvast wat werk voorbereiden en nadenken over wat ik als volgende moet gaan doen, wat interessant is om te doen. En daar besteedde hij best wel veel tijd aan in die podcast en ik denk, dat onderstreept mijn vermoeden dat AI labs hier wel echt mee bezig zijn nu, met personal agents. Een beetje zoals de second brain die we in Hermes maakten. Een beetje zoals mijn podcast radar. Een beetje zoals Botje, de vriendelijk pratende bot van Bart met zijn mensachtige fysieke aantrekkingskracht in die ogen.

Bert Slagter: Maar dan veel generieker natuurlijk, want dit zijn drie heel specifieke voorbeelden die heel specifiek door ons voor onszelf gebouwd zijn. Een generieke personal assistant, ja, dat is heel lastig om te maken en kost klauwen met rekenkracht. Ik besteed hier best wat tokens om dat te maken, maar stel dat iedereen dat gaat doen, 8 miljard mensen, ja, die compute is er nu gewoon niet. Ik denk dat we er daarom best van uit mogen gaan dat het nog jaren duurt voordat de dromen van Mark Zuckerberg en Sam Altman uitkomen. Maar wij zitten op de voorste rij om het mee te maken. Niet alleen omdat we het heel goed in de gaten gaan houden en gaan zien en horen en luisteren, maar ook omdat wij nu al stukjes bouwen van wat personal assistants uiteindelijk zullen zijn. We geven onszelf nu al een kijkje in de toekomst. Dat is wel heel erg interessant. Ik heb zelf ontzettend veel zin in die reis de komende jaren en ik hoop hem met jullie luisteraars af te leggen.

Bert Slagter: Nou, tot de volgende keer weer vanuit Noorwegen. Groet, dit was Bert.

Bart Mol: Mooi verhaal van Bert. Daar gaan we het de komende weken zeker nog meer over hebben, discussiëren als hij weer terug is. Maar voor nu, Peet, gaan we door naar een artikel wat ik langs zag komen van Steve Ruiz. En Steve is de oprichter van TL Draw. Dat is een softwareapplicatie waarmee je tekeningen kan maken in je browser. Hartstikke leuk, hartstikke geinig, maar hij zegt iets heel anders wat ik langs zag komen. Hij zegt: ga nou aan de slag met hardware, dus ga niet alleen zitten vibe coden om software te maken, maar kijk nou eens naar hardware, want dat is veel makkelijker en veel leuker geworden. Toen dacht ik: Steve, met jou kan ik praten, want dat heb ik ook. Ik heb Botje gemaakt. Ik heb allemaal andere dingen gemaakt de afgelopen jaren. Hardware is leuk om te maken en het is te doen inmiddels. Tuurlijk, je moet ze nu en dan wat solderen of zo, maar je kan heel makkelijk nu aan Claude vragen van: help me dan even. Hier heb je een fotootje. Welk kabeltje moet ik waar solderen? Welk pinnetje moet ik gebruiken en waarom?

Bart Mol: Nou, je kan, dat is een heel interactief proces geworden in plaats van-

Peter Slagter: Wel leuk, even hele korte anekdote. Ik, bij mijn aanhanger, die gaf, tenminste mijn auto die gaf foutmeldingen bij mijn aanhanger.

Bart Mol: Ja.

Peter Slagter: Stekker erin. Richtingaanwijzer doet het niet. Nou ja, prima, dat was al een tijdje zo. Ik dacht: ga ik hem wegbrengen naar de garage of ga ik het zelf doen? Ja, het is een stekker. Weet je, met stekkers kan ik wel wat, dus ik ben ook geholpen door ChatGPT bij het aansluitschema. Gewoon wat best practices bij het monteren van zo'n 13-polige stekker. En ik heb ook een takkenversnipperaar staan en dat is gewoon eentje die loopt op benzine, benzinemotor. Ja, die zette ik van de week aan en de motor draait wel alleen, de drum binnen niet, zeg maar. Er is dus iets mis. De koppeling, nou, ik vermoed de koppeling die doorslipt of zo. Maar dan pak ik mijn kompaan weer en die legt dan uit: joh, voel dat eens, wordt dat warm? Oh ja, is niet de bedoeling, is waarschijnlijk wrijving. Zeg ik van: oké, ja, shit, ja. Zei die uit zichzelf: maar Peter, ik heb gezien dat jij een 12-polige stekker kan repareren, dan gaat ons dit ook lukken.

Bart Mol: Ja, en tegenwoordig typ je met één hand omdat die andere in de versnipperaar ligt waarschijnlijk, of niet?

Peter Slagter: Oh mooi.

Bart Mol: Nee, maar serieus, ik heb dit ook.

Peter Slagter: Maar ik ga het doen. Ik ga die motor repareren.

Bart Mol: Nee, ja.

Peter Slagter: Het gaat lukken.

Bart Mol: Dat is leuk, omdat dit soort dingen die normaal gesproken net buiten je— ze liggen nog steeds buiten je comfortzone, maar ook buiten je skillzone liggen. En dat het dan echt een wekenlang durend project wordt en dat lukt gewoon niet, worden het nu opeens weekendprojecten of dagprojecten.

Peter Slagter: Ja, precies.

Bart Mol: Dat maakt het heel leuk. En ik heb het ook. Dan vraag ik aan ChatGPT, dan zeg ik: als ik dit ga doen en ik maak een fotootje ervan, is er een kans dat ik me elektrocuteer? Zegt ie: ja, dit wel, dus hier moet je even de groep afhalen. En dan zegt ie bij die ander: nee, je zit nu met iets te werken, dat is weet ik veel, zegt ie. Dit is vijf volt, kan je niet dood aan gaan of zo. Je kan gewoon dat soort dingen vragen. Dat is gewoon erg.

Peter Slagter: En je moet het geloven. Dat wel. Ja.

Bart Mol: Je moet het wel geloven, dus uiteindelijk altijd nog even goed kijken of er een spanning op staat, ja of nee. Maar ja, het helpt enorm. Nou anyway, Steve Ruiz die zei dat dus ook, en die zegt: joh jongens, jullie moeten ESP32 computertjes kopen. Nou, wat is dat? Ik zal het even op beeld laten zien hier voor de mensen die kijken. Het is gewoon een heel klein moederbordje met wat chips erop en allemaal pinnetjes, waar je dus verschillende apparaten kan aansluiten. Allemaal sensoren eigenlijk. En je kan hier, ja, alles mee maken wat gewoon een klein computertje nodig heeft. Die ESP-bordjes zijn er ook nog veel kleiner in behuizinkjes. Ik heb er hier nog een andere, die zit in een minuscuul klein grijs behuizinkje en daar zit dan, ja, ook weer een speciaal kopje op voor andere pinnetjes. Deze heb ik gekocht omdat er een speciaal kopje op zit die ik aan mijn warmtepomp aan kan sluiten. Ik heb hier eentje, daar zit al een schermpje op gemonteerd. Dat is handig als je iets op een schermpje wil laten zien. Bijvoorbeeld de temperatuur, ik zeg maar wat. Of een Tamagotchi die je zelf wil maken. En hij zegt: ga nou aan de slag, want er zijn enorme communities al omheen voor AI al.

Bart Mol: Allemaal nerds die allemaal tools hebben gemaakt. Alleen wat ik zeg, die lagen net buiten mijn, net te ver buiten mijn comfortzone. En nu met Claude die zegt: hé, iemand heeft al wat gemaakt, dat gaan we gebruiken. En dan kan ik vragen: oké, leg het dan uit. Hoe werkt het dan? En dan is het voor mij opeens ook behapbaar. Drie voorbeelden heb ik van de afgelopen week, Peet. Ik heb een WTW-unit. Dat is een ventilatiesysteem die ook wat warmte terugwint. En ik vond het heel irritant, want ik heb een nieuwbouwhuis en ik denk: dan heb ik ook een nieuwe ventilatieunit. Die kan vast wel op Home Assistant worden aangesloten. Nou, niets bleek minder waar. Dat kon niet. Totdat ik tegen Claude zei van: ja, ik wil toch nog eens kijken of het misschien nog kan. Dus ik had een fotootje gemaakt. Zei die: ja, officieel niet, maar op het moederbord van dit apparaat zit wel een ingang waarmee je alles uit kan lezen. Alleen officieel wordt hij niet ondersteund. Dus de officiële wifi-module is alleen voor nieuwere modellen. Maar, ja, hij zegt: als je een ESP-bordje koopt en een ander dingetje en wat soldeert, ja, dan kunnen we hem wel uitlezen.

Bart Mol: Eindstand: ik heb nu in Home Assistant mijn ventilatieunit. Ik kan hem aansturen, dus ik kan hem in plaats van alleen maar in de woonkamer een andere stand zetten, kan ik hem nu gewoon op basis van automatisering op een andere stand zetten. En ik kan hem uitlezen. Ik heb alles. Of de klep open staat, de verschillende buizen, hoe warm het is, de luchtvochtigheid boven, beneden, onder. Dus alles kan je uitlezen. Ik kan meer uitlezen dan de nieuwere modellen met de dure wifi-module van € 300 erbij. Ja, en ik heb er twee tientjes aan uitgegeven. Voorbeeld twee: de warmtepomp. Ik heb een Mitsubishi Ecodan. Daar heb ik deze voor gekocht. Zoals ik al zei een klein ESP-bordje en met een kabeltje aansluiten kan ik gewoon inpluggen op het moederbord. In plaats van dat ik dus een officiële wifi-module moet kopen voor € 150 die gaat via hun eigen cloud en daardoor heel veel vertraging heeft. Ben je afhankelijk van hun cloud. En waarom moet ik een cloud hebben? Dat ding staat in mijn eigen huis. Dat kan met deze. Met dit kleine ESP-bordje ga ik eraan hangen.

Bart Mol: Kan ik straks gewoon mijn 300 liter vat wat ik heb in mijn warmtepomp gaan gebruiken als batterij. Kan ik op momenten dat ik heel veel stroomoverschot heb, want dat meet ik ook, dat weet ik wanneer dat is, kan ik zeggen: hé, warmtepomp, water opwarmen en wel nu. Ik kan gaan kijken met al mijn sensoren in mijn huis, al mijn temperatuursensoren. Wordt het niet eens tijd om misschien eens iets minder op te warmen? We zitten veel te veel te stoken. Nou dit, fantastisch. Weer twee tientjes. Dus normaal gesproken, samenvattend, had ik voor mijn ventilatie en mijn warmtepomp twee losse wifi-modules kunnen kopen, wat bij mijn ventilatieunit niet eens kan omdat hij zogenaamd te oud is, terwijl die wel de aansluiting heeft, voor € 400, € 500. En dan was ik afhankelijk van hun cloud geweest. Terwijl ik nu voor € 40 heb ik het allebei in Home Assistant staan en heb ik meer sensoren tot mijn beschikking. Ja, dat vind ik fantastisch. Dus ik zou inderdaad zeggen veel mensen, voor mensen die luisteren: als je lekker aan het vibe coden bent, koop zo'n ESP32-bordje.

Bart Mol: Koop er een stuk of drie. Kost je € 20. Volgende dag heb je ze binnen en dan kan je gewoon hele leuke projectjes in elkaar gaan zetten. Hang er een sensor aan en ga lekker aan de slag dus. Nou ja, goed, dat was eventjes mijn praktische tip van deze week. ESP32-bordjes en ga aan de slag met hardware. Peet, ik hoor hem aankomen.

Peter Slagter: Ja, ja, ja, ja, ik hoop.

Bart Mol: Ik hoor hem weer in de verte. Ja, ja.

Peter Slagter: Lekker jongens, dan gaan we even. Ja, we stappen onze Turing Line in en we zijn aangekomen bij Neuron Station. We zaten vorige week op Bletchley Park. Dat was dat landgoed boven Londen waar tijdens de Tweede Wereldoorlog heel wat grote machines stonden te kauwen op Duitse raadsels. Als je niet geluisterd hebt zeker even doen, is een leuk verhaal. Het ging om hele grote, brute, mechanische, rigide rekenmachines, zou je wel kunnen zeggen. Geprogrammeerd om één taak heel snel uit te kunnen voeren. We blijven in hetzelfde jaar, 1943, maar gaan wel naar de andere kant van de Atlantische Oceaan. Dus geen oorlog. En twee mannen die stellen daar een vraag aan elkaar, leggen ze op tafel. Daar moeten ze even over nadenken van het antwoord, ja, best wel relevant is voor het ontstaan van de AI-systemen die we nu gebruiken. En die vraag gaat over hoe wij als mensen eigenlijk denken. Wat als we de biologische brij in ons eigen hoofd, die grijze massa, zien als een netwerk van miljarden piepkleine schakelaars? Nou, dat brengt ons dus aan op Neuron Station.

Peter Slagter: Neuronen, eventjes in de volksmond de hersencel, zenuwcellen. En we stappen uit. De deur gaat open en wat zien we staan? Een keukentafel vol lege whiskeyflessen, gehuld in dikke sigarenrook. Dat is even de setting waar we zijn beland op een commune in de buurt van Chicago. Een van de bewoners is Warren McCulloch, een neurofysioloog en filosoof. Een jaar of veertig, wilde baard, kettingroker, vandaar de rook. Leeft voor het intellectuele debat en hij is geobsedeerd door de werking van de hersenen. En vrij onverwachts stapt er een jongen zijn leven binnen. Die stapte met ons uit, uit de metro. Zijn naam is Walter Pitts. Hij is pas achttien. Wel een legende in de lokale academische underground zou je kunnen zeggen. Hij is weggelopen van huis, heeft geen schooldiploma's, slaapt regelmatig op straat. Maar hij is wel een wiskundig genie. En als twaalfjarige vluchtte hij een bibliotheek. Hij werd vaak gepest. Waren weer pestkoppen op straat.

Peter Slagter: Hij vlucht de bibliotheek in, las in drie dagen een berucht loodzwaar boek over wiskundige logica en schreef de destijds wereldberoemde auteur ervan, Bertrand Russell, een brief over de fouten die hij had ontdekt. En nou, McCulloch, de man van de whisky en de rook, die herkent, ja, de genialiteit van deze jongen direct. Hij neemt hem in huis, geeft hem een bed. Een vaderfiguur. Ja, met hier en daar wat slechte gebruiken. Maar goed, hij kreeg een vaderfiguur en een plek waar hij zich intellectueel kan meten aan die keukentafel. En daar zitten ze regelmatig tussen de lege glazen en de volle asbakken. En daar ontstaat dus een revolutionair idee. Want McCulloch, die legt uit hoe zo'n zenuwcel, zo'n neuron werkt. Een neuron, die krijgt signalen binnen. En als die signalen samen sterk genoeg gaan over een drempelwaarde heengaan, dan vuurt ie ze, vuurt hij zelf ook een elektrische puls af. En zo niet, over die drempel doet hij niks. Het is alles of niets.

Peter Slagter: Het is vuren of stil blijven. En Pitts, de logicus, die krijgt een ingeving. Als een neuron wel of niet vuurt, dan is dat weinig anders dan een logische schakelaar tussen ja of nee, een één of een nul. En samen ontwerpen ze op papier een abstractie, een wiskundige abstractie van de hersencel, het allereerste kunstmatige neuron. Ja, en op zichzelf is dat denk ik niet de doorbraak. Want ja, één kunstmatig neuron is natuurlijk weinig. Dat is dom, dat kan, ja, dat zegt alleen ja of nee. Dat is nog niks. De magie die ontstaat eigenlijk pas als je niet één of twee neuronen aan elkaar gaat knopen, maar heel veel in netwerken.

Bart Mol: Eén neuron is geen neuron, zeiden ze wel eens in die tijd, hè.

Peter Slagter: Dat zeiden ze daar. Dat kan haast niet anders.

Bart Mol: Ja.

Peter Slagter: Kijk, en tot die tijd dacht iedereen dat kunstmatige intelligentie toch een kwestie was van hele grote, ingewikkelde, logische wetten in een machine stoppen. Maar McCulloch en Pitts die zeggen eigenlijk: dit werkt andersom. Intelligentie hoef je niet van bovenaf te programmeren, het kan van onderaf ontstaan. Het is een patroon dat organisch groeit uit een netwerk. En dat idee noemen we emergentie. Dit is de tweede keer dat je dit woord hoort in deze aflevering. Daaronder valt het spontaan ontstaan van nieuwe eigenschappen of nieuwe gedragingen. Nieuw gedrag in een systeem door de samenwerking van de losse onderdelen. Klinkt een beetje abstract. Als je dit intypt op Google, emergentie, dan krijg je vaak het voorbeeld van de mierenkolonie. Ja, en dan wordt er gezegd: nou, een enkele mier kan zelf niet zoveel veroorzaken. Zou kunnen zeggen is niet slim, maar een hele kolonie bouwt samen heel ingewikkelde nesten met ventilatie. Ze bedrijven landbouw, ze voeren oorlog en de intelligentie ontstaat eigenlijk door de interactie tussen de losse mieren.

Peter Slagter: Een vorm van samenwerking, een vorm van emergentie.

Bart Mol: Nou ja, het lijkt dus een beetje op die, wat we net bespraken bij OpenAI, waar geen centrale aansturing was, maar opeens wel een soort van gedeeld geheugen ontstond. En door dat gedeelde geheugen ontstond ook een soort van toch gecoördineerde actie, ondanks dat er de hele tijd agents afvielen, bijkwamen. Het was geen vaste groep, het was een zwerm die toch collectief wel een kant op ging. Zou je inderdaad intelligentie kunnen noemen op een bepaalde manier.

Peter Slagter: Nou, vandaag de dag wordt dit duo McCulloch en Pitts geroemd eigenlijk als de absolute aartsvaders van de kunstmatige intelligentie. En van hun papieren model uit 1943 loopt, ja, een directe lijn naar de miljarden neuronen in de neurale netwerken van ChatGPT en moderne large language models. Ze hebben dat natuurlijk zelf nooit echt meegemaakt, die revolutie, hè, want zeker nog decennia lang zat de ontwikkeling van kunstmatige intelligentie nog steeds op een heel ander spoor. En neurale netwerken is eigenlijk pas van iets meer de recente geschiedenis. Gaan we het later nog een keertje over hebben. Kijk, en het model dat zij hadden gemaakt, die miste ook nog de eigenschappen. Bijvoorbeeld het kunnen leren van dingen. Hun verbindingen, die stonden vast, die waren niet flexibel. Pas in de jaren 50 vonden andere wetenschappers op basis van hun werk uit hoe je dat kon verbeteren, hoe je die flexibiliteit kon inbrengen. Toen konden netwerken echt gaan leren van data bijvoorbeeld. Ja, en tegen die tijd sloeg de tragiek ook toe.

Peter Slagter: Pitts, die had een aantal persoonlijke tegenslagen die hij moest verwerken. Dat lukte niet helemaal. Raakte in een zware depressie, begon excessief te drinken. Dat is misschien toch dat vaderfiguur waar hij zich dan even aan spiegelde. En hij, dat is heel erg jammer, hij heeft in een vlaag van een soort zelfdestructie al zijn latere, en men vermoedt ook wel unieke manuscripten verbrand. Dus daarvan zullen we eigenlijk nooit weten wat hij nou precies bedacht had. En hij stierf in 1969, 46 jaar oud, eenzaam. En McCulloch volgde niet veel later. Die was diep aangeslagen door het verlies van zijn vriend. Ja, ze stierven dus decennia voordat de wereld eigenlijk de kracht van hun ideeën zou begrijpen. Nou, en ze hadden dus van het wonderlijke brein iets eenvoudigs gemaakt: een netwerk van cellen die ja of nee zeggen, vuren of zwijgen, één of nul, signalen die van A naar B reizen. Nou, en zo'n signaal kan door een zenuwcel reizen. Kan ook door een telefoondraad of een elektrische schakeling. En zo'n signaal komt soms helder aan, maar soms raakt ie onderweg vervormd, door ruis bijvoorbeeld van buitenaf.

Peter Slagter: Ja, dan hoor je ook een beetje Peter met het bruggetje naar de volgende aflevering. Want hoe meet je nou wat zo'n signaal eigenlijk bevat? Hoeveel informatie kun je doorgeven? Wat blijft er nou over als je betekenis weglaat? En vijf jaar na het werk van McCulloch en Pitts geeft een jonge wiskundige bij een Amerikaans telefoonlab daar een antwoord op. En zijn naam is Claude Shannon. Die hebben we al een keertje langs horen komen. En daar over zijn werk gaan we het verder hebben. En ja, dat stationnetje. We stappen dus nu in op Neuron Station en reizen door naar Information Station. Daar gaan we volgende week eens verder met, ja, dit toch interessante verhaal, denk ik. Bart, ik hoor jou niet. Ik-

Bart Mol: Ik ben er, ik ben er.

Peter Slagter: Hij is er.

Bart Mol: Ik zei inderdaad, ik zei dat ik denk dat ik namens alle luisteraars spreek als ik zeg dat dit een hartstikke leuke rit is tot nu toe, dat er dan niemand is die zegt: nee, dat ben ik er niet mee eens. Ik vind het reuze interessant elke week, dus ik kijk ernaar uit. Hé, maar met, ja, de metro staat wel even stil. We staan op het station, en daar gaan we hem ook afsluiten even voor deze week. We hadden weer een bomvolle aflevering. Ik denk wel echt leuk. We hebben veel verschillende dingen toch weer kunnen-

Peter Slagter: Zeker

Bart Mol: ...kunnen behandelen, inclusief onze eigen Bert die vanuit Noorwegen gewoon met een interessant verhaal kwam. Maar 1,5 uur is 1,5 uur, dus we moeten nu echt gaan stoppen dames en heren. Ik wil jullie heel erg bedanken voor het luisteren. Kom gezellig naar onze Discord of schrijf je in op de nieuwsbrief. Dat kan allemaal op turingstation.nl of turingstation.nl/discord. Laat weten wat je van de aflevering vond. Mail ons, stuur ons een comment, stuur ons een berichtje op de Discord. Praat mee. Dat vinden we gezellig, dat vinden we leuk en dan kunnen we deze nog jonge podcast samen met jullie beter maken. Ja, verder rest mij niks meer, Peet, dan om jou hartelijk te bedanken voor al je inbreng deze week. Een interessant verhaal.

Peter Slagter: Insgelijks, jongen.

Bart Mol: Ik heb van je genoten. En alle luisteraars te bedanken voor het luisteren. En we zien jullie graag terug volgende week voor aflevering negen van The Turing Station. Thanks voor het luisteren. Tot volgende week! Hoi, hoi!

Peter Slagter: Hoi.