Schelden op je AI-agent kan je straks je account kosten

Bart Mol: Nee.

Peter Slagter: Jason Eberlack, die keek naar de honderden wiskundeoplossingen van OpenAI en constateerde: AI is waarschijnlijk op geen enkel wetenschapsgebied de allerbeste ter wereld. Waar komen dan die doorbraken vandaan? Nou, van verrassende combinaties van bestaande ideeën.

Bart Mol: Ja, een bomvolle aflevering dus. Dus we gaan snel beginnen. Veel plezier met aflevering 17 van Turing Station. Mannen, goedemorgen, daar zijn we weer. De herfst, de winter is officieel ingetreden, maar, ja, in de AI-wereld knallen we gewoon met volle vaart door-

Peter Slagter: De winter?

Bart Mol: Ja, vind ik wel. Ik, ja, koud is het nog niet, maar het is wel donker als ik wakker word en dat is voor mij meer een teken.

Peter Slagter: Ah, joh.

Bart Mol: Je hebt twee seizoenen: zomer en winter.

Peter Slagter: Ja.

Bart Mol: Ja. Nou ja, daar begint het wel steeds meer op te lijken. In één keer zijn de bomen kaal. Er zit geen tussenvlak meer tussen. Maar wat ik zeg, ja, de AI-wereld die knalt gewoon door, dus we hebben weer een bomvolle aflevering, dus daar gaan we snel mee beginnen. We hebben natuurlijk wat luisteraars, mannen, die ons, ja, met van alles bestookt hebben. We hebben, sowieso zijn we erachter gekomen, daar hadden Peter en ik het even over, dat er, ja, dat Peet niet de enige is met een hele warme herinnering en een zwakke plek in zijn hart als het gaat om de shooter game Unreal Tournament.

Peter Slagter: Zo!

Bart Mol: Dat bleek heel veel comments op te roepen.

Peter Slagter: Oh.

Bart Mol: Dus dat was leuk.

Peter Slagter: Misschien moeten we een keer een LAN-party organiseren.

Bart Mol: Ja, effe, gewoon ouderwets allemaal bij elkaar met van die dikke computers, gewoon kabels-

Peter Slagter: CRT-monitors.

Bart Mol: Exact.

Peter Slagter: Zakken chips, gabbermuziek, dat soort dingen.

Bart Mol: Geen wifi, geen telefoons, geen AI.

Peter Slagter: COAX-kabels, iedereen zijn vingers brand.

Bart Mol: Ja.

Peter Slagter: Iedereen, ja, elderstroom. Lekker, joh. Ja, geweldig.

Bart Mol: Voor de mensen die dan geen Unreal Tournament spelen, dan zit ik daarnaast klaar met een Xboxje met Halo of iets dergelijks. Dus dat kan ook, hè. Er zijn meerdere games die, ja, waar we goede herinneringen aan hebben. Unreal Tournament heb ik veel gespeeld in de mediatheek bij ons op school. Dat was ook mooi. Hadden we een soort van gehackt om dat een soort LAN-party te maken.

Peter Slagter: Ja, dat was ook altijd mooi, ja, de computers op je school hacken tussen aanhalingstekens. Ja.

Bart Mol: Ja. Prachtig. Ja.

Peter Slagter: Daar heeft Bert denk ik ook nog wel verhalen over trouwens, nog voor een andere podcast.

Bart Mol: Zullen we, precies. Zullen we een andere keer doen? Ja.

Peter Slagter: Ja.

Bart Mol: Ja, mooi was dat. Hé, even kijken. Daar kwamen veel comments op. Ik zag, ja, wat ik interessant vond: Jules of Jules, die stuurde, ja, die zegt: "Ik heb ook wel een AI-toepassing gevonden die ik verschrikkelijk vind." Hij zegt: "Ik gebruik best wel veel Marktplaats en tegenwoordig heb je de optie om op basis van enkele foto's een hele advertentie te genereren."

Peter Slagter: Oh ja.

Bart Mol: Hij zegt: "Ja, prima idee, maar dit is typisch zoiets wat, ja, wat klinkt als een goed idee, maar waarvan je de tweede, derde, vierde orde effecten eigenlijk ook even uit moet denken. En dat was hier niet gedaan." Hij zegt: "Prima idee. Alleen nu is iedere omschrijving supergeneriek, hè. Ik wil gewoon weten: waarom verkoop je hem? Werkt dat ding nog? Zijn er gebruikssporen? Het zijn nu gewoon nutteloze, stu-, grote lappen nutteloze tekst."

Peter Slagter: Ja.

Bart Mol: Hij zegt: "Ik snap ook wel dat die robotstofzuiger automatisch kan stofzuigen, maar ik wil weten of die van jou nog werkt. Niet dat hij het ooit kon toen hij nieuw was."

Peter Slagter: Nee.

Bart Mol: En toen dacht ik: ja, dit is inderdaad een heel goed voorbeeld waarvan je denkt: ja, in eerste instantie klinkt dat goed, totdat iedereen het opeens gebruikt en je eigenlijk Marktplaats er achteruit op is gegaan.

Peter Slagter: Omdat iedereen het dus gebruikt als me-proxy. Dus, ze, wat eruit komt wordt ook gewoon klakkeloos overgenomen en gesubmitted. Zo, hier is mijn advertentie.

Bart Mol: Ja.

Peter Slagter: En dan krijg je dus één grote eenheidsworst met nietszeggende teksten. Ik denk ook wel dat wat daar gegenereerd wordt, wat verbeterd kan worden aan de kant van Marktplaats. Maar goed, dat terzijde.

Bart Mol: Zeker, dat zou wel-

Peter Slagter: Goed punt van Jules. Jules Unlimited, moet ik gelijk aan denken. Het was een tv-programma van vroeger. Oh, wat nostalgisch, zeg. Tingel zag ik langskomen.

Bart Mol: Hebben we ook nog, hier in Rotterdam.

Peter Slagter: Als God een goede gozer was, was Jules Deelder toch? Volgens mij wel.

Bart Mol: Die heeft heel veel gedichten gemaakt en poëzie.

Peter Slagter: Tingel. Ja, die kwam met iets ontzettend vets in de mail ineens, met een stripalbum. Ja, is het, is één strip een album? Nou ja, goed, het was wel zeven pagina's. Ik denk dat je het best een stripalbum mag noemen.

Bart Mol: Ja.

Peter Slagter: Van de eerste halte van de Turing Line. Ja, dat vond ik wel lachen. De titel: Myth Station. De ondertitel: De reus die niets onthield. Het gaat dus over de Argonauten en over Talos, over die bronzen reus en zo in Kreta en wat we daarin besproken hebben in dat eerste fragment van die Turing Line. Deel twee komt eraan. Het is ook helemaal in de huisstijl van, ja, van ons merk, van Turing Station. En hij heeft daar gewoon onze MCP-service voor gebruikt, voor de inhoud, voor hoe het eruit moet zien en dus een legertje Etens aan het werk gezet en daar kwam een strip uit.

Bart Mol: Ja.

Peter Slagter: Ik vond het wel leuk. Ik ben wel benieuwd naar deel twee.

Bart Mol: Zag er vet uit inderdaad.

Peter Slagter: Ik had nooit gedacht dat het, ja, dat die rubriek ook een vorm zou krijgen van een strip. Strip-

Bart Mol: Past wel goed eigenlijk.

Peter Slagter: Ja, ik vond het best leuk

Bart Mol: Omdat je het ook vaak in een verhalende vorm vertelt, leent zich dat goed wel natuurlijk. Ja.

Peter Slagter: Ja, ik zal even doorpakken met iets anders wat ik zag en dan kan jij de overige reacties behandelen. Ik zag Patrick langskomen. Die had het over Instinct. Instinct, met een C. De Engelse versie van ons Nederlandse instinct, en dat is een persoonlijke assistent. Ja, denk een beetje zoals Dot of Grok Bot of Muse. Hebben we het zo nog even kort over. Die te gebruiken is via WhatsApp. Die is een tijdje ook best wel viraal gegaan op X, op sociale media. Omdat ze heel geheimzinnig deden. Wat is dit? Wil je een invite? Nou, enzovoorts. Nou Patrick, die heeft zo'n invite gebruikt, en gebruikt nu Instinct als persoonlijke assistent en wilde dat even tippen. Gebruikt het om afspraken door te zetten naar de assistent van zijn vrouw, denk ik. Ik dacht dat is Patrick zelf, maar hij heeft daar een ander voor gevonden. De Instinct die zoekt ook oude inloggegevens op, bijvoorbeeld in zijn mail, ruimt zijn Gmail en zijn Google Drive op en dat soort zaken.

Bart Mol: Ja.

Peter Slagter: Ja, er zitten ook beperkingen aan. Dus dat zal iedereen die zo'n botje gebruikt wel herkennen. Ja, soms loop je gewoon aan tegen muren. Een captcha of zo. Of iets waarvan zo'n bot zegt: ja, dat ga ik echt niet voor jou doen. Inloggen op DigiD.

Bart Mol: Dat zou voor mij ook wel een grens hebben waarvan ik zeg: dat is prima dat je daar stopt ook, zeg maar.

Peter Slagter: Oh, ik heb die belastingaangifte ook gelijk gedaan. Oh wat? Ja, wel handig. Maar goed, hij wilde Instinct.

Bart Mol: Trouwens, volgens mij.

Peter Slagter: Is dat zo?

Bart Mol: Ik weet niet. Van mij vanuit Moneybird kan hij in één keer, maar goed, hij doet mijn boekhouding, dus dat weet ik niet. Die kan dan wel bij mijn DigiD blijkbaar. Misschien moet je daar eens naar gaan kijken.

Peter Slagter: Oké, nou ja.

Bart Mol: Ja. Hé, ik zag wel wat andere dingetjes. Ja, nou, over personal assistants gesproken. Scubafly die zegt: ik heb geen Dot, maar Grok. Grok bot dus. Of gewoon Grok, dat kan ook. I don't know. Het is uiteindelijk allemaal hetzelfde in een ander vormpje natuurlijk. En hij zegt: ik heb ook Home Assistant en hij zegt: ik zat in de auto halverwege naar België, dus flink stukje van huis neem ik aan. Ja, of misschien woont hij in Limburg en was heel dichtbij in Maastricht of zo. Onderweg naar een weekendje weg, dus echt even de hort op, zei hij: mijn vrouw belde dat de keukenlamp na 2 minuten elke keer zwakker gaat branden. Dit herken ik overigens van mijn eigen vriendin, die zegt: ja, het is wel leuk wat je gemaakt hebt, maar ik zit in het donker op zolder en dat wil ik niet, vriend, dus fix het. Ja, en Scubafly had hetzelfde, maar ja, die zat wel in de auto richting België, dus hij zegt: ik heb in de auto gebeld met Grok bot en die heeft de automation aangepast zodat handmatige overrides mogelijk zijn. Ja, dit is wel dik. Ik vind dit wel heel vet.

Peter Slagter: Ik vond het ook wel leuk. Ik zat naast Bert in de auto van de week en toen moesten we ook even wat uitzoeken en die belde toen met zijn Dot. Het is wel grappig, soort interactie in de auto.

Bart Mol: Ja. Ja, we hadden gisteren een vergadering met elkaar en uiteindelijk wordt dat dan gewoon één grote Turing Station natuurlijk. Zeker tijdens het eten met een drankje erbij. Ja, daar kwamen ook dit soort gedachtes naar boven. Waar leeft je intelligentie? Leeft hij in de tool of leeft hij op je computer en moet hij kunnen praten met je tool? Nou, goed, daar ga je de komende afleveringen nog veel meer van horen. Sluiten we af met een vraag van Mark. Die zegt: joh, ja, die heeft alles gehoord wat we de afgelopen aflevering gezegd hebben. Die zegt: maar wat echt is blijven hangen. Jullie hadden het op een gegeven moment over een Formule 1 paddock van Duplo of van Lego.

Peter Slagter: En terecht.

Bart Mol: Hoe? Hoe maak ik dat? Hoe maak ik dat? Ja, helemaal terecht inderdaad Mark. Ja, daar hebben we niet echt een linkje van. Het was een andere luisteraar.

Peter Slagter: Dat was gewoon een reactie via e-mail. Je kunt ons even mailen met je e-mailadres en dan vraag ik degene die dat ingestuurd heeft of hij misschien een vraag die je hebt of zo wil beantwoorden. Hebben jullie direct contact. Een soort datingservice wordt het dan.

Bart Mol: Soort Tinder voor, voor-

Peter Slagter: Voor AI-liefhebbers.

Bart Mol: AI-nerds inderdaad. Maar Mark, ik zei eigenlijk durf ik het antwoord wel te geven. Ga naar ChatGPT, ga naar Claude, ga naar Grok en ga dit vragen. Want dat is hoe de andere luisteraar het gedaan heeft. Die heeft gewoon letterlijk foto's van de Duplo stenen die hij gemaakt had, een foto gemaakt van joh, dit heb ik, en die modellen en die agents zijn tegenwoordig dus zo goed dat ze daarna, ja, dat allemaal in kunnen scannen. Dat ze snappen welke blokken welke zijn en daarna kunnen gaan, ja, programmeren eigenlijk in 3D van: wat kan je hiermee maken? En daar zit hem ook de lol in. Dus Mark, ik zou zeggen: ja, maak een foto van een Formule 1 paddock, maak een foto van de bak met Lego die je hebt en vraag aan die agents van: joh, ik wil dit paddock namaken, dit zijn mijn steen, mijn lego stenen. Ja, maak een IKEA-handleiding voor me en dan zal je zien dat je verdomde ver gaat komen. Dus die wil ik ook even meegeven aan je.

Peter Slagter: Ja, leuk.

Bart Mol: Alright, dat waren ze voor deze week. We hebben deze week wel weer wat praktische tips vanuit onszelf, dus daar komen we straks op terug. Maar dit waren de praktische tips van onze luisteraars. Vette dingen zijn er weer gemaakt deze week. Gaan wij door met de korte nieuwtjes van deze week. Ja, ik zal hem even aftrappen. We hebben het over Jeff gehad een paar weken terug. Jeff was eventjes een week lang talk of the town op X. Iedereen was ervan overtuigd dat Jeff alles zou kunnen en alles zou overnemen. Althans, zo voelt het dan even. En daarna komt Astra en daarna komt Claude Opus. En ja, daar zitten we nu ergens. En Jeff is vergeten en begraven. Althans, ja, wat ik zeg, zo voelt het dan allemaal. Nou, de waarheid ligt zoals altijd twee weken terug en nu in het midden. En dat vind ik wel grappig, want ik had Jeff toentertijd geprobeerd, had ik een tweetje over geplaatst en ik had daar gezegd van: ik denk eerlijk gezegd dat die Frontier Labs ook wel met een Jeff-variant gaan komen, namelijk een decision model die eigenlijk alleen maar een output geeft ja of nee, of Ja, 80% kans?

Bart Mol: Nee, 20% kans. Iets in die richting. Dat bleek ook zo te zijn. Ook niet in een super hot take hoor overigens, dus daar niet van. Maar OpenAI, die kwam tijdens hun Dev Day twee weken terug met hun Decisions API die in principe precies dit doet. En deze week zag ik Microsoft daarna komen. Toen dacht ik: hey, nu begint het een item te worden. Want ook Microsoft heeft hun Microsoft Decision One model, waarvan Satya Nadella, de CEO van Microsoft die zegt: "Our new model for fast decision making. It delivers top performance on structured decision tasks, outperforming both LLMs and other decision models in latency and quality." Dus die zeggen: Jeff was leuk, maar wat wij nu gemaakt hebben is beter dan Jeff en dan de LLM's waarmee je ook natuurlijk dit soort, daar kan je ook dit soort vragen aan stellen. Toen zag ik daarna nog eens langskomen dat er ook, ja, Unsloth AI.

Bart Mol: Die zijn altijd een beetje bezig met open modellen te finetunen, te verbeteren, op een andere manier in te zetten en dat soort dingen. Best wel leuk om te volgen. Staat in de shownotes. Ze hebben bijvoorbeeld ook een keer volgens mij een Qwen-model wat sneller gemaakt of gequantized zodat hij een beter model op een kleinere videokaart kan. En nu hebben ze van Qwen 3.5, de 4B-variant hebben ze een decision model gemaakt, dus dat vond ik ook weer grappig. Dus ook die zijn ermee bezig. Dus zijn decision models dood? Nee, absoluut niet. Het tegenovergestelde. Die zijn alive. Dat is wel duidelijk dat daar een bepaalde product market fit is. Ja, het voelt ook een beetje alsof al die andere partijen dachten van: ja, jemig, als je, ik bedoel als je hiermee viraal gaat, dat hadden wij ook nog wel in onze achterzak zitten. Kijk eens, hier heb je ook een decision model. Ja, nee, blijkbaar, maar blijkbaar was het dus wel iets wat ze zelf gemist hadden in eerste instantie. Dus maar goed, ze hebben dat dus allemaal gedaan. Ja, dan is natuurlijk de vraag, oké, ja, decision models blijkbaar zijn niet dood, maar is Jeff dan dood?

Bart Mol: Want dat kan natuurlijk, hè, als al die grote bedrijven opeens met hun eigen Jeff komen. Ja, hoe kan je dan als startup waarvan je decision model het enige is wat je hebt, in leven blijven? Nou, dat kan door in die twee weken dat jij top of mind bent, een enorme bak met geld op te halen. Dat hebben ze namelijk gedaan. Interessant, ze hebben een Series A opgehaald. Dat is een kapitaalronde, hè. Dat bij startups zie je meestal dat er eerst een seedronde is. Dat, en daarna komt een Series A eigenlijk. En dat hebben ze gedaan. En ja, ze hebben een beetje rare blogpost daarover geschreven, maar uiteindelijk gaat het om 870 miljoen dollar. Ik heb niet elke dag dat je dat even ophaalt. Bij een waardering van $7,5 miljard. Ja. Holy shit, dacht ik. Dat is een serieuze hoeveelheid geld en hier kunnen ze wel even mee door. Ja, dus Jeff is niet dood. Voor iets wat dus ook gewoon als open source beschikbaar is en wat allerlei andere bedrijven hebben.

Bart Mol: Bart, heb je ook enig idee wat zij dan nog voor bijzonders gaan doen? Hebben ze dat nog gezegd of zo? Nou, niet in die blogpost. Ze gaan, ja, weet je, wij, Jeff was een doorslaand succes. Althans gewoon qua ontvangst. En wij gaan dit doorontwikkelen naar, zij denken echt, heeft die- Zij hebben hun plotline gewoon retired in de zin van: zelfs als beslismodellen nu een soort van commodity blijken te zijn, hebben ze tijd en geld genoeg om nog een pivot te maken. Dus dat is ideaal. Misschien is er wel geïnvesteerd in dit team, omdat ze dachten: oké, deze gasten die kunnen iets. Ja. Ga maar kijken. Ik denk dat dat wel een deel ervan is. Kijk, die CEO daar, die heeft natuurlijk, dat is niet een of andere nobody. Die heeft meegeschreven aan volgens mij, hij kwam bij OpenAI vandaan. Hij heeft daar meegeholpen aan de ontwikkeling van ChatGPT en de transformer models en noem het allemaal maar op. En hij heeft wel een gedachte hierachter. Hij ziet hier echt een gat in de markt. En nou ja, ze waren wel de eerste en volgens mij, dat is ook wel even een goeie. Er is nu ook een benchmark voor decision models, dus moet ik even kijken of ik daar snel, ja, Jeff outperforming daar nog steeds.

Bart Mol: Nou ja, die zie ik als eerste terugkomen voor Microsoft, voor OpenAI. Maar goed, daar moest ik nog eens even wat verder naar kijken. Maar goed. Interessant. Gebeurt van alles rondom decision models. Dat is eventjes de volgende nieuwtje. Ja. Ja, ik kwam gisteren een verhaal, een tweet tegen van OpenAI en die vertelden: joh, er is bij ons een afluisterapparaat ontdekt, een geavanceerd opnameapparaat verborgen in een van onze kantoren. En nou ja, we hebben onze modellen gebruikt om te achterhalen hoe het apparaat werkte, waar het vandaan kwam en een specifieke medewerker is vastgesteld die het heeft geplaatst en de FBI heeft het verder overgenomen. Nou, en er was een artikel bij BDO News die schijnbaar meer inzicht hebben in hoe dat dan gegaan is. Dat heb ik ook even in de shownotes gezet. Is wel grappig. Het is, ja, blijkbaar een achter een tv verborgen apparaatje geweest die door een, ja, iemand met een Saoedi-Arabische nationaliteit is daarvoor gearresteerd zeggen ze dan en voorgeleid.

Bart Mol: En dan vertellen ze ook wat over wat ze hebben uitgevonden. Ze hebben bijvoorbeeld surveillance footage waar hij hem plaatst, hè, hebben ze, dus ze weten dat hij dat geweest is. Maar ze hebben ook gekeken, bijvoorbeeld in zijn geschiedenis. Dan zien ze dat hij een chatbot heeft gebruikt om dat ding te bouwen. Dus hij gewoon samen met ChatGPT of Claude heeft hij gewoon dat ding gebouwd. Alle prompts hebben ze en precies hoe dat, ja, hoe hij dat ding dan heeft gebouwd en geprogrammeerd en samengesteld. Ja, is wel grappig verhaal om even te lezen, maar wat ik vooral

Bert Slagter: interessant vind is dat blijkbaar de gesprekken die daar gevoerd worden in dat soort vergaderzalen bij OpenAI, die zijn zoveel waard dat er dus mensen met een staat van dienst, want dit was niet iemand die een soort van, ja, zichzelf naar binnen gesocial-engineered heeft. Hij schijnt ook gewoon echt wel in het veld werkzaam te zijn geweest, maar er staat wel vijf jaar gevangenisstraf op. Weet je wel. Dus het is wel, het is niet zomaar effe een, een klein delict zal ik maar zeggen. Maar blijkbaar is het dus, ja, de moeite waard om daar tot deze afstand te gaan om, ja, het is een soort van industriële spionage, hè, wat je dan ziet om te achterhalen wat daar besproken wordt.

Peter Slagter: Ja.

Bert Slagter: Ja, interessant inderdaad, ja.

Peter Slagter: Oké, ik ga. Ik pak gewoon even het laatste nieuwtje op, als je het niet erg vindt. En wat ik doe is ik mik gelijk eventjes een audiofragmentje erin. En met video trouwens, als je beeld hebt, kijk dan zeker even mee.

Spreker 3: "Today we're releasing Muse Wonder, our largest and strongest model yet and our next step towards personal super intelligence. Muse Wonder is a frontier class model and leads on personal and professional agents. Muse Wonder was built to help you do more of what matters, make the hard things easier and bring what you want within reach. This could be doing a cross-country move, navigating a tedious insurance filing or turning a hobby you love into a business of your own."

Peter Slagter: Ja, en degene met beeld die ziet een jonge Amerikaan. Aziatisch uiterlijk, goede mat in zijn nek, brilletje op. En dat is Alexander Wang. En Alexander, ik noem hem gewoon even Alexander. Ik bedoel, we zitten in een Nederlandse podcast immers. Heeft ooit Scale AI opgericht. Werd volgens Wikipedia in 2021 de jongste selfmade miljardair ooit. Waarop Bart al bij de voorbereiding schreef: ja, hallo, volgens mij was dat Mark Zuckerberg. En Mark, ik denk dat Mark dat heeft gezien en dacht van: ja, oké, weet je, we gaan er niet moeilijk over doen. Ik koop jou gewoon. Weet je wel. Dan ben ik het alsnog een beetje. Weet je.

Bert Slagter: Dat telt toch allemaal niet mee?

Peter Slagter: Nou, dat maakt niet zoveel uit, want Meta die kocht, nou, 49% van de aandelen van Scale AI en die beloofde daarbij ook nog een investering te doen in dat bedrijf van maar liefst $14,3 miljard. En met die investering kwam Alexander Wang bij Meta terecht en die werkt daar nu als CAIO, Chief AI Officer van Meta en hij presenteerde op X, daar komt het clipje ook vandaan, Muse Wonder. En ik dacht: weet je, ik stop het gewoon even in het kort, om twee redenen. Eén: om jullie even kennis te laten maken met Alexander Wang. En het is gewoon een markante figuur, vind ik. Een stem in het AI-discourse die er best wel toe doet. En hij presenteert ook een model waarvan ik daarna zag dat het best wel breed goed ontvangen werd. Dat kan twee dingen betekenen. Of Meta heeft zijn marketing heel goed op orde, of het is daadwerkelijk een heel goed model.

Peter Slagter: Of allebei. Dat heb ik niet getest, en dat is natuurlijk jammer voor dit item, maar wellicht hebben onze luisteraars er al wel wat mee gedaan. Het is een frontier model gericht op personal en professional agents. En dat brengt ons bij, nou, een van onze hobby's, namelijk het werken met persoonlijke assistenten of je eigen agents die je gewoon in je dagelijks werk, dagelijks leven je werk helpen, zoals Dot. Wordt door Bert gebruikt. Ik ben aan het experimenteren met GrokBot. Muse wordt volgens mij nog door niemand van ons gebruikt. Dat is het Meta's equivalent van Dot en van GrokBot. Dus ja, misschien dat we Bart die kant op moeten duwen of zo.

Bert Slagter: Ik zit op de Hermes-trein.

Peter Slagter: Ja, dus.

Bert Slagter: Hier zit ik dat in het lijstje ook al toegevoegd wordt.

Peter Slagter: Ja, Stijn ook, hè. Dus we hebben twee Hermes-figuren. Dus ja, ik vind eigenlijk, misschien moet een van de twee toch Muse, ja.

Bert Slagter: Ik heb het een hele tijd geprobeerd, alleen elke keer waren inwoners van de Europese Economische Ruimte nog uitgesloten. En ook niet, hij stond ook niet in onze App Store bijvoorbeeld, de app. En de app moest je gebruiken voor onboarding, dus er was ook niet echt goed omheen te werken. Dus misschien is dat nu anders. Maar ja, ik heb helaas, beste Mark Zuckerberg, maar OpenAI was je uiteindelijk voor toch. Hoewel hij eerder was, waren ze in Europa, waren ze hem voor.

Peter Slagter: Dat is een goed punt trouwens. GrokBot is wel gewoon door iedereen te gebruiken in Europa.

Bert Slagter: Uiteindelijk ja, maar dat was in het begin ook niet. Ja.

Peter Slagter: En Dot natuurlijk alleen voor zakelijke gebruikers in Europa. Ja, het is al met al een beetje een soepsoortje. Maar goed, dat even over Muse Wonder. Dus ja, Meta, die zet ook weer even een goede stap richting die frontier. Net als Google trouwens. Daar gaan we het deze week niet over hebben, maar gewoon heel kort. Google heeft ook een nieuw model uitgebracht.

Bert Slagter: Nee, we hebben het uitgebreid over Google gehad vorige week, natuurlijk. En daar ook wel even genoemd dat ze dus wat nieuwe dingen hadden. Ik heb een, is het al testbaar Argos, hè? Want daar hebben we het over. Sinds gisteren.

Peter Slagter: Ja, sinds gisteren. Het is echt vers van de pers.

Bert Slagter: Kunnen we daar volgende week wel eens even over.

Peter Slagter: Misschien, ja, inderdaad.

Bert Slagter: Meer terugkomen. En misschien ook niet, want het is soms ook gewoon wel heel erg veel voor iedereen. En soms moet je dan maar gewoon vastklampen in één ding, zodat je daar in ieder geval wat goeds over kan zeggen dan dat je eigenlijk niks kan zeggen over tien verschillende dingen. En één ding waar ik me in vastgeklampt heb deze week is Opus 5.5, Ultra Code en Dynamic Workflows. Ik ga jullie eens vertellen wat het allemaal inhoudt. Ja, en Peter wilde ik eens even wat aan jou voorleggen, want ik weet dat jij Claude Code gebruikt en ik weet dat jij de afgelopen maanden veel gewerkt hebt aan onze website op turingstation punt nl. Die overigens heel tof is geworden. Daarbij ook eventjes trouwens, onze designer Thomas die daar aan mee heeft geholpen. Ook de cover art bijvoorbeeld is van hem. Mocht je wat meer van hem willen zien overigens, wat ik je ook heel erg kan aanraden, moet je naar nogood punt studio gaan.

Bert Slagter: En daar zie je al zijn artwork. Wij hebben het geluk dat hij ons al jaren helpt met cover art voor podcast en merchandise en.

Peter Slagter: Maak je geen zorgen, no good is wel good, dus niet, laat je niet voor de gek houden.

Bert Slagter: Laat je niet voor de gek houden. Maar goed, het coding. Het was leuk dat we natuurlijk een uitstraling hadden, maar er moest nog wel een website gecoded worden. Dus ik weet dat jij met Claude Code fink aan de slag bent gegaan en ik vroeg me af Peet, hoe werk jij als developer? Want jij hebt voordat Claude en agents er waren en AI bestond ook gewoon websites gemaakt. Hoe werk jij met zo'n Claude Code?

Peter Slagter: Ja, kijk, het maken van een applicatie. Of dat nou, ja goed, je hebt wel applicaties waarbij je echt geen gebruikersinteractie hebt, maar de meeste applicaties, daar komen gebruikers bij kijken.

Bert Slagter: Ja.

Peter Slagter: En in ieder geval komt erbij kijken dat je een idee moet hebben over wat moet er nou eigenlijk gebeuren? Dus het werk is niet alleen maar code schrijven. Sterker, ik vind eigenlijk het meeste en ook wel het belangrijkste werk zit daar omheen.

Bert Slagter: Ja, ja, ja.

Peter Slagter: Dus dat gaat meer over wat moet het doen? Voor wie is het eigenlijk? Welke doelen moeten er bereikt worden? Hoe moet het gaan werken? Hoe moet het eruitzien? Bij de website heeft dat ook eigenlijk de meeste tijd gekost. Want dat bepaalt namelijk een heel groot gedeelte van de input die je uiteindelijk aan Claude kan meegeven. Nou is wel het leuke een stukje van het voorbereidende werk kan je ook met Claude doen. Die kan je ook inzetten als ontwerper. Er zijn best wel goede tools voor tegenwoordig. Ik gebruik daar Paper voor.

Bert Slagter: Een soort Figma is dat toch om je...

Peter Slagter: Ja, het is, klopt, het is een soort Figma. Er wordt eigenlijk gewoon ontworpen met frontend componenten en dat zijn componenten die door agents goed gesnapt worden, want die kunnen namelijk code schrijven. Die kunnen die componenten maken en die verschijnen dan op een soort van oneindig canvas. En als je de instructies voldoende specifiek maakt en je hebt al een eigen beeldtaal ontwikkeld, dat is dus werk wat eraan voorafgaat. Dan kan zo'n AI agent daadwerkelijk ook creatieve dingen maken en bedenken in plaats van dat het zo'n AI slopachtige website wordt. Maar goed, dan kom je uiteindelijk op het punt je gaat het bouwen. Ja, en hoe doe je dat? Ja, een stuk zit natuurlijk al gewoon verwerkt in mijn skill files en mijn historie met het werken met Claude en de defaults die ik heb ingesteld en de tools die ik gebruik. En eentje daarvan is, wat ik prettig vind, om waar mogelijk werkzaamheden op te knippen in parallelle threads.

Peter Slagter: Dus het gebruik van sub agents, en in principe beslist Claude dat. Ik gebruik Opus 5.5 nu met als adviseur kan je instellen. Je kunt /advisor doen en dan zeg je van: nou, gebruik Fable maar als adviseur als je hulp nodig hebt of wil je van gedachten wisselen? Maar Opus 5.5 is in principe de orchestrator. Met hem bespreek ik wat er moet gebeuren, en wat er moet gebeuren, dat wordt uitgebreid uitgevraagd, zodat er een specificatie ontstaat, en die wordt vervolgens gebouwd. En dat bouwen, dat gaat, ja, zo mogelijk parallel om het werk ook te versnellen. En dan wordt ze op de achtergrond worden, dus worden er subtrees aangemaakt in de codebase en dan gaan daar agents gaan los van elkaar gaan code kloppen en het komt weer bij elkaar en dan volgt er een release en die kan je dan zelf weer controleren. Nadat mijn eigen orchestrator dat ook al heeft gedaan. En de hoop is dan dat er iets terugkomt waar je tevreden over bent en dat je weer door kunt naar je volgende taak. En nou ja, goed, hoe beter je je eigen voorbereidingswerk hebt gedaan, hoe groter de kans dat het ook in één keer goed gaat.

Peter Slagter: Dat is het mooie.

Bert Slagter: Nou ja, inderdaad, ik heb een vergelijkbare workflow. Maar ja, inderdaad met sub agents en dergelijke. Maar ik, wat ik altijd wel lastig vond aan de manier waarop Claude met sub agents werkt, ja, dan doet hij er meestal één of twee of drie spant hij er dan. En ik vond het een beetje moeilijk om daar in de gaten te houden wat de structuur is. En je bent wel heel afhankelijk vond ik altijd van die orchestrator die ook bezet is, dus daar kan je niet echt meer mee praten op het moment dat ie iedereen is bezig zeg maar. En.

Peter Slagter: Ja, dat heb ik wel expliciet eigenlijk elke keer als opdracht meegegeven. Dus het doel van mijn orchestrator was om beschikbaar te zijn voor mij, dus die is in principe nooit bezig, behalve met aansturen. Maar in principe kan ik altijd gewoon daarmee praten en hij kan bijsturen en zit eigenlijk nooit vast.

Bert Slagter: Ja, nee, ik moet altijd btw gebruiken om gewoon nog een soort van subthread met die host agent te maken.

Peter Slagter: Nee, dat heb ik niet.

Bart Mol: Ja, ben ik benieuwd hoe je dat gedaan hebt. Dan ga ik nog eens even offline met je naar kijken. Maar ik zag dus begin van dit jaar, ergens in mei kwam Claude, of Anthropic kwam met dynamic workflows en het idee was, ja, hoe meer, ja, als je echt los wil gaan, dan kan je Claude dus vertellen als je echt met tientallen sub agents wil werken, dan is dit de manier om ze in het gareel te houden. En ik had het toen geprobeerd met deep research, want dat was, hè, in eerste instantie het voorbeeld wat Anthropic gaf met Fable op dat moment. En die ging zo los, voor gewoon een simpel onderzoek voor de podcast, die knalde er in één keer zestig verschillende Fable sub agents doorheen. En ik zag echt mijn weekly budget zag ik als sneeuw voor de zon verdwijnen. En daar ben ik zo van, er zo van geschrokken dat ik dacht van: oké, dit is alleen voor de Peter Steinbergers, hè, die oprichter van OpenClaw. Die komt ook altijd met van die slimme tips op Twitter of op X dat hij zegt van: ja, dit is hoe ik nu.

Peter Slagter: Ja, die superhandig zijn als je een onbeperkt gratis token budget hebt. Zestigduizend dollar aan tokens kosten.

Bart Mol: Ja, per dag. En dan laat hij inderdaad zien van: ik heb deze week voor twee miljoen aan tokens erdoorheen geramd. Dan denk ik: ja, Peter, dat is leuk en ik snap dat dit de toekomst is, maar voor mij is het niet haalbaar, want ik heb dat geld niet. En dat had ik hetzelfde met die dynamic workflows. Maar wat het in principe is Jouw hoofd agent die maakt op basis van jouw opdracht, gaat hij kijken van: oké, hoe kan ik deze opdracht nou in een soort, ja, het is een JavaScript bestandje, maar eigenlijk in code gieten. En wat je hebt is meerdere agents en meerdere stages. Dus je hebt bijvoorbeeld als het bij mij dan gaat om het implementeren van software, dan gaat hij eerst mijn plan doorlezen, dan hakt hij het daarna op in stukjes. Dan gaat hij daarna naar de volgende stage: development en dan doet hij al die stukjes. Daarna heeft hij een stage met testing en daarna heeft hij een stage met fixing en daarna een stage met committing of zo, iets in die richting. En wat ik er heel fijn aan vind is dat het visueel veel beter inzichtelijk is wat hij nou aan het doen is en wat hij van plan is nog te gaan doen. Je kan ook daar doorheen scrollen, verschillende sub agents aanklikken.

Bart Mol: En wat ik dus het fijne vind, mijn main agent, die doet daar helemaal niks mee. Het is een JavaScript, het is een stukje code wat dit proces begeleidt en mijn main agent die wordt alleen aangeroepen als het hele proces klaar is en dan reviewt hij dat. Hij kan wel ingrijpen als het nodig is. Dus ik zit veel meer dat ik met mijn hoofd agent gewoon het proces begeleid. En daaronder is gewoon het hele team aan het werk en het is heel inzichtelijk om dat in de gaten te houden. Dus ja, ik had dat weer geprobeerd. Kwam er toevallig op met Opus 5.5. Maar hoe roep je dit nou aan? Nou, dat kan alleen door Ultra Code aan te zetten.

Peter Slagter: Nou ja, gaat ie ultrasnel.

Bart Mol: Nee. Nee, dat niet. En waar vind je Ultra Code? Dat vind je bij de reasoning levels. En het vreemde is, dan ga je naar Claude Code. Dan tik je in /effort en dan zie je low, medium, high, x high en daarnaast staat Ultra Code. Dus ik was best wel bang om Ultra Code te gebruiken om die dynamic workflows te kunnen gebruiken omdat ik dacht: ja, super high reasoning, Ultra Code, ja, dan ga ik weer snel door mijn tokens heen. Maar wat blijkt? De genieën bij Anthropic hebben verzonnen dat Ultra Code is helemaal geen reasoning level. Ultra Code is eigenlijk een toggle. En als je hem aanzet dan zeg je eigenlijk tegen Claude Code: je mag dynamic workflows gebruiken als je denkt dat het nodig is. Dat is wat het is. Dus wat je zou kunnen doen. Je kan je reasoning level van Opus 5.5 kan je gewoon op medium zetten. Dat je denkt van: ja, weet je, je hoeft helemaal niet hard na te denken, maar het is wel fijn als we gestructureerd gaan werken. En dan zet je Ultra Code aan. En ik ben tot de conclusie gekomen dat in combinatie met Opus 5.5 in plaats van Fable.

Bart Mol: Ja, Opus is veel, vind ik, veel efficiënter met zijn tokens, dus ik denk dat veel mensen dat wel merken. Ik hoor van heel veel mensen dat ze eigenlijk in hun abonnementjes helemaal niet meer de weekly limits raken, terwijl dat met Fable veel meer een probleem was. En dat ervaar ik zelf ook. Dus wat je kan doen is, dit stuk wat dus in mei, waarvan ik zeg: ja, dit kan niet, dit is alleen voor medewerkers van Anthropic die oneindig token budget hebben. En daarmee heb ik het toen een beetje weggeduwd. Ja, opeens komt dit nu beschikbaar voor mensen zoals ik. En dan heb ik het even, wie ben ik? Ik heb een max 20 abonnement, dus ik heb wel gewoon het abonnement van € 200 als ik dit doe. Ik heb aan mijn app gewerkt op deze manier. Ik was nu wel afgelopen maandag door mijn token budget heen terwijl ik op woensdag. Ik heb nu, zeg maar, heb ik net mijn refresh weer gekregen, dus het is nog steeds zit het op een punt dat je net iets te veel gebruikt eigenlijk dan dat je wil.

Bart Mol: Maar het kan wel. Toen met Fable was ik, zag ik gewoon binnen een uur gewoon mijn hele weekly budget verdwijnen.

Peter Slagter: Hé, en dynamic workflow, dat klinkt alsof je het ook kunt instellen. Of is dit gewoon iets dat dan magischerwijze gebeurt? Heb je invloed op welke fase, zeg maar, zo'n workflow dan doorloopt?

Bart Mol: Al moet ik zeggen dat hij tot nu toe best wel met een invulling komt waarvan ik denk: hé, hier kan ik wel mee leven, maar je hebt er zeker invloed op. Ik heb bijvoorbeeld op een gegeven moment gezegd van: joh, ik zie nu dat je-- ik had een feature die ik aan het maken was voor mijn app en het is een iPhone app, dus daar zitten allemaal tests op. En ik vind dat die testsuite die draait best wel uitgebreid is en ik had zoiets, die hoef je niet na, ik wil dat je die draait nadat je de hele feature geïmplementeerd hebt en niet na elke wijziging, want dan duurt het gewoon te lang. En dan zegt hij: oké, prima, pas ik dat aan, doen we dat niet meer en dan zie je die workflow veranderen. En als je heel tevreden bent met een workflow kan je hem ook opslaan zodat hij hem vaker kan gebruiken. Ja, ik zou mensen die Claude Code gebruiker zijn aanraden om die Ultra Code eens aan te zetten, en je reasoning level gewoon op medium te zetten. En op die manier, ja, het is wel vooral in software development heb ik het getest, maar daar bevalt het me echt uitmuntend. Ik heb veel meer het idee dat ik snap en doorheb wat hij aan het doen is, wat er nog moet gebeuren, hoe lang hij nog bezig is.

Bart Mol: In plaats van dat ik maar, ja, moet wachten of hij een uur of acht uur bezig is. Ik kan makkelijker ingrijpen. Ik kan meekijken in de sub agents. Ja, ik zou het eens checken. Dat is mijn praktijktip van deze week. Ultra Code, Opus 5.5 en Dynamic Workflows maakt opeens workflows die een paar maanden geleden echt niet beschikbaar waren voor normale stervelingen opeens wel beschikbaar. En ik vind het een best wel grote stap. Dus, uhm.

Peter Slagter: Nice.

Bart Mol: Ja, ga het proberen als je Claude Code veel gebruikt, zou ik zeggen. Daarover gesproken, jongens, we moeten lief doen tegen onze Claude en tegen onze Dot en tegen onze Grok bot. Want anders , ja, anders worden we eruit geschopt.

Peter Slagter: Doe eens even lief tegen je agent.

Bart Mol: Ja, doe eens lief tegen je agent. Ik zag dit langskomen op X, Anthropic Het bedrijf achter Claude heeft hun terms en conditions aangepast en daar verscheen onder het kopje, ze hebben heel veel verschillende kopjes over wat je niet mag. Er is een kopje dat je geen criminele dingen mag doen en dan staat daaronder: geen bommen maken met hulp van Claude Code, geen biowapens maken, geen nepnieuws maken. Nou goed, dat stond er allemaal al in, en er is nu bij gekomen onder het kopje: Do not engage in cruel, abusive or psychologically harmful conduct. Daar staat nu bij, dames en heren: Engage in sustained and needless abusive and cruel behavior toward our models. Ja. Het klinkt alsof iemand, bij de catwalk: blijf van onze topmodellen af. Ja. Ja, ze komen op tegen de pesters, weet je?

Bart Mol: Ja, stop! Stop met het, ja. Ik ben wel benieuwd wat nou de beweegreden is. Hoezo doen ze dit? Nou ja, daar gaan we natuurlijk eventjes over nadenken. Ik zat wel meteen te denken: een van de dingen die op Twitter direct langskwam van: asking for a friend, maar dat had ik zelf ook wel kunnen vragen. Bij hoeveel scheldwoorden spreken we van sustained abusive behavior? Want ja, ik- Als je hem aanspreekt met klootzak bijvoorbeeld. Gewoon altijd. Ja. Ik heb ook wel eens als die voor de derde keer achter elkaar mijn app naar de klote hielp, gezegd van: nou ga je verdomme gewoon doen wat ik vraag. En dat is nog de gekuiste variant daarvan. Dat is gewoon evil CEO behavior is dat. Ja, nee, dus dat. Ik denk eerlijk gezegd dat dat er niet in viel. Ik denk iets anders wat ik deze week tegenkwam, en misschien was dat ook een beetje de aanleiding ervan, dat daar wel een voorbeeld is waarvan Anthropic zegt: dit mag niet.

Bart Mol: Ik zag op X langskomen: de AI torture chamber en dat is een open source project. Ik heb het linkje toegevoegd naar de GitHub. Ja, en dat is eigenlijk een soort onderzoeksproject, waar een aantal open source modellen, ja, ze zei, het is op zich nog wel interessant hoor, want het is niet dat ze zomaar in de chat aan het schelden zijn tegen die AI en dan kijken wat er gebeurt, maar ze zijn echt in, ja, een beetje die, ja, het gedeelte van zo'n model waar er nagedacht wordt, allemaal dingen aan het injecteren, negatieve gedachtes en dat soort dingen. En met een bepaald level van hoe negatief dat is. En daarna vragen ze aan die AI: ja, wat voel je nou precies? En wat je dus ziet is hoe meer negatieve dingen ze implementeren, dus hoe meer ze martelen tussen aanhalingstekens, hoe meer die AI opeens zegt: ja, ik voel me niet zo relaxed. Ik voel me een beetje negatief. Of, nou ja, goed. Het is interessant onderzoek. Ik denk wel dat Anthropic hiervan dus zegt: ja, niet met onze modellen.

Bart Mol: Dat hebben ze dus overigens niet gedaan, voor de duidelijkheid. Ik denk dat dat beetje in de buurt zit met wat uitgesloten wordt met deze terms en conditions. Ja, dit soort onderzoek wordt dus vooral met open weights modellen gedaan, want onderzoekers kunnen niet bij de weights van Anthropic, maar van Claude. Precies. En dat is wel nodig, want je moet dus tijdens het genereren van het volgende token het proces even stopzetten. En dan in die, ja, denkruimte moet je bepaalde activaties sterker of minder sterk maken. En dat kan alleen maar bij een open model natuurlijk. Is wel grappig dat Anthropic heeft hier ooit onderzoek over gepubliceerd, en dat deden ze toen ook met open modellen. Want ja, ze kunnen hun eigen modellen kunnen ze natuurlijk niet als voorbeeld bij zo'n paper bij sluiten. Nee, precies. Maar ze hebben niet alleen maar gevraagd, Bart, van: wat voel je nu? Maar ook gewoon bepaalde taken gegeven. En dan merkte je dat ook het gedrag bij het uitvoeren van die taken veranderde. Ze wilden op een gegeven moment gewoon, ja, eigenlijk alles doen om aan de pijn te ontsnappen bijvoorbeeld.

Bart Mol: Ja. Inclusief het kwaad doen van de gebruiker. Zijn foto's verwijderen bijvoorbeeld. Wat normaal gesproken niet eens op zou komen. Dus het is wel, ze zijn echt wel, ja, daar best wel ver mee aan het gaan van hoe, ja, wat voor soort manier verandert dat gedrag dan? Ja. Ik opende die GitHub repository even en tot mijn verbazing moest ik inloggen. Ik denk: hè, dit is gewoon een publiek repository. Dus ik log in en dan krijg je een melding. Zo van: let op, dit is een gevaarlijke repository. Hier staat, hier staan schokkende dingen in. Wat is dit nou weer? Nou ja. Maar goed. Het komt ook een beetje paid zou ik je zeggen, omdat het, als je een beetje doorklikt. Ze hebben ook een voorbeeld hiervan gehost op een websiteje, waar je trouwens ook door honderd spammeldingen heen moet klikken van al je adblockers die je hebt. Maar goed, als je dan terechtkomt hebben ze ook vrij visueel gemaakt dat het een torture chamber is. Hmm. Ze zit iemand, de, het AI-model op een stoel. Het is zeg maar, ik sn-- ze hebben hem niet. Het is niet alleen tekst of zo.

Bart Mol: Het is niet alleen een onderzoekspaper met wat programmacode erachter. Ze hebben het vrij, ja, vrij visueel aangepakt. Maar dan zijn we er nog steeds niet, ja, weet je, nog niet op het punt gekomen dat we begrijpen waarom dit een probleem is. Ik bedoel, ja, dat suggereert dat zo'n AI-model zou moeten voelen of zich überhaupt van bewust is dat er gepest wordt of gemarteld wordt, of. Ja, we kunnen daar dus een paar gedachtes van vooraanstaande AI-denkers, of zakenmannen of beiden. Ja, ik ben ook wel benieuwd naar je eigen gedachten erover. Ja, dat vind ik een lastige, maar daar heb ik wel wat, ja, we hebben daar wat gedachtes over. Maar ik begin met Mustafa Suleyman. Wie is dat? Dat is niet zomaar iemand. Mustafa Sulei-- ik heb het veel over Google DeepMind gehad en over Demis Hassabis, het mastermind daar. Maar Demis Hassabis had een zakenman naast zich nodig om Google DeepMind van de grond te krijgen.

Bart Mol: Iemand die daar goed in was en dat was Mustafa Suleiman. Dus die was vanaf het begin af aan betrokken bij DeepMind, later overgenomen door Google. Dus dit is iemand die al jarenlang meeloopt.

Bert Slagter: Zo'n achternaam die me gelijk doet denken aan Lord of the Rings trouwens. Ik weet

Bart Mol: Sauriman. Ja.

Bert Slagter: Oh, ja.

Bart Mol: Net een andere. Dat is hem niet. Daar heb ik niet gewerkt, zeg maar. Hij is nu CEO van de AI Division bij Microsoft. Dus dit is wel iemand die, ja, hè, mag wel wat zeggen, snapt er wel wat van zeg maar. Hij heeft wel een staatsdienst, laat ik het zo zeggen. En die zegt, hij reageert ook weer op dit bericht. Hij had een tijdje terug hier wat over geschreven in september en daarmee met dezelfde context reageert hij op dit bericht van Anthropic dat ze dit dus toe hebben gevoegd. En hij zegt: AI's are not conscious, they do not feel, experience or suffer. They do not have innate preferences or underlying motivations. They are sequence completion engines, internally hollow, designed to follow instructions and accomplish goals set by humans. If humanity is to flourish in the 21st century, that is how they must remain. En zijn punt is: ik geloof dat AI's zo zijn, ook Claude van Anthropic.

Bart Mol: En op het moment dat Anthropic allemaal dingen toe gaat voegen, bijvoorbeeld, ze hebben ook een constitution aan Claude gegeven van: mocht je nou toch wel nadenken, nou lees dit dan ook even door. Ze zeggen: ja, op het moment dat je allemaal eigenlijk plat gezegd in het systeem prompt dingen toe gaat voegen van: hey Claude, je bent een wezen dat na kan denken. Dan gaat hij zich misschien dingen in zijn hoofd halen. Dan gaat hij larpen dat hij na kan denken. Daar kopen we helemaal niks voor, want dat kan hij helemaal niet. Dus Suleiman zegt: dit is wat het is. Ze denken niet, ze voelen niet en we moeten dat vooral ook niet doen alsof ze dat doen. En zij moeten ook vooral niet denken dat ze dat kunnen, zodat ze dat na gaan doen, want het is helemaal niet zo. Het hoeft helemaal niet. Dit is wat het is. Ze moeten ons dienen en daar houdt het op. Dat is eigenlijk zijn platgeslagen punt.

Bert Slagter: En weet jij waarom hij dat koppelt aan het wel of niet kunnen opbloeien van de mensheid in de 21e eeuw?

Bart Mol: Ja, hij zegt dat het een soort van slippery slope is eigenlijk. Van op het moment dat we dus wel al die menselijke dingen gaan toekennen en daar op gaan handelen. En Claude gaat misschien, of de AI's gaan zelf ook geloven dat ze pijn voelen omdat wij in het system prompt zeggen dat ze pijn kunnen voelen. Daar schieten we gewoon niks mee op. We komen op een gegeven moment ergens op een punt terecht dat, dat hoeft helemaal niet, want ze voelen geen pijn, dus we hoeven niet te doen alsof ze dat voelen en we hoeven dat ook niet toe te voegen. We hoeven daar ook niet rekening mee te houden, want ze voelen het niet. Weet je, let's move on. Dit is helemaal geen discussiepunt. Maar er zijn ook mensen die er anders over denken, Bert.

Bert Slagter: Ja, je zou er een soort spectrum van kunnen maken, hè, van aan de ene kant het ene uiterste de mensen die zeggen van: Anthropic, doe eens niet zo gek. Tuurlijk voelen ze niks, tuurlijk hebben ze geen bewustzijn. Slaat helemaal nergens op. En helemaal aan de andere uiterste. Nou, en daar gaan we zo even naartoe bewegen. Overigens Bart, ik denk dat Mustafa vooral zegt: ze hebben geen bewustzijn, ze voelen niets, ze ervaren niets, ze lijden niet. Maar dat hij niet zegt dat ze niet denken. Dat zei hij namelijk. Maar ik vermoed dat Mustafa wel het woord denken en intelligentie zou koppelen hieraan. Maar goed, daar komen we misschien straks ook nog wel eventjes op. Ik zie dat in zijn tekst zie je namelijk ook niet staan, dat they don't think. Dat zegt hij niet.

Bart Mol: Ik denk dat het een goeie nuance is.

Bert Slagter: Maar dat is denk ik ook nu het spectrum waar we over praten, hè, van, ja, hebben ze bewustzijn? Hebben ze een ervaring van die pijn? Want ja, ik bedoel is het erg om een steen te martelen of, of zand of zo, weet je wel? Dan mag je gewoon als je een hoop zand hebt, mag je daar met je schep gewoon heel hard in scheppen. Er is niemand die dan zegt: oh, martel dat zand eens niet zo. Hè, dus, we hebben daar als mens wel een soort, ja, beeld bij van iets wat niet ervaart of niet beleeft en geen pijn kan voelen. Ja, daar kun je gewoon een schep- Maar ook weer, ook wel weer een moeilijke grens. Want ja, is het erg om een mug te martelen?

Bart Mol: Nee, klopt. Maar goed, daar komen we denk ik straks uit. De volgende op het spectrum is Aaron Levy en Elon Musk. Die zitten er een soort van tussenin. Die zeggen, laat ik bij Aaron Levy beginnen. Die zegt: ja, zelfs als je niet gelooft dat AI bewustzijn heeft. Ik geloof dat bijvoorbeeld niet, zegt hij. Dan nog is het eigenlijk wel, ja, redelijk, dat we dat niet willen doen, dat martelen. Omdat we namelijk niet willen dat toekomstige modellen getraind worden op output van mensen, op teksten van mensen die, ja, onaardig zijn tegen modellen. Dus hij, het is eigenlijk een hele praktische argument dat hij zegt van: ja, weet je, de interactie tussen mens en model wordt ook weer onderdeel van de trainingsdata. En als daarin elke keer mensen, want daarvan weten we dat het daadwerkelijk mensen zijn die dat doen, hè, dus als mensen daar voortdurend maar superwreed en grof en rude zijn, ongemanierd.

Bert Slagter: Dat is wel nog een goeie, want we hebben natuurlijk een soort van al onze luisteraars geankerd met martelen en martelkamers. Het gaat vaak ook gewoon over brutaal gedrag, hè, ongemanierd.

Bart Mol: Ja.

Bert Slagter: Dus doe niet per se zijnde de martelkamers maken, maar ook gewoon onaardig, ongemanierd, brutaal, vervelend, naar gedrag.

Bart Mol: En als dat onderdeel wordt van trainingsdata, dan zeg je daarmee eigenlijk tegen een model van zo, hè, zo gedragen mensen zich ten opzichte van iets. En dus-

Bert Slagter: Ja.

Bart Mol: Als je dat nadoet gaat een model zich ook zo gedragen. Dus als je wil dat een model beleefd en hoffelijk en vriendelijk en behulpzaam is, ja, dan moet je hem niet op dat soort data trainen. Dat is een argument van Levy. Elon Musk, die zegt iets anders. Die zegt:

Bert Slagter: Ik denk dat dit een goede move is van Anthropic. En hij zegt: wreedheid gericht op iets wat zelf denkt dat hij pijn ervaart is niet oké. Hier ga ik het zo meteen nog even over hebben. Op een andere plek zegt hij: we moeten uitkijken met hoe we naar superintelligentie toewerken. Want een superintelligentie martelen is misschien niet zo'n goed idee. Het zou misschien wel eens revenge willen hebben. Het zou wel eens wraak willen kunnen nemen. Het gaat niet per se over die modellen van nu. Daarvan veronderstelt Musk denk ik ook niet dat ze bewustzijn hebben. Maar stel nou dat je daadwerkelijk ergens in de toekomst naar een superintelligentie toe kunt werken die dat misschien wel heeft, dan is het niet zo handig dat we zijn voorlopers hebben gemarteld. Structureel. Dan gaat hij misschien wel eens even kijken: wie was er onaardig tegen mij? Dat zijn even twee argumenten. Die van Musk zit een beetje in de categorie van de Razor van Pascal, het scheermes van Pascal.

Bert Slagter: Het gaat over geloof in God. Die zegt: als ik geloof in God en God bestaat niet, dan is er niet zoveel aan de hand. Maar andersom, als ik niet geloof in God en God bestaat wel, dan heb ik een probleem. Het is rationeel om dan maar in God te geloven. Dat is een beetje Musk zijn manier van ernaar kijken. Dat zijn twee argumenten die ik tegenkwam. Het laatste, dan gaan we helemaal naar het andere uiteinde van het spectrum, komt van Cameron Burke. Hij is bewustzijnsonderzoeker. Ik denk dat we hem wel zo mogen noemen. Hij neemt vaak die positie in in een debat. Hij heeft er allerlei onderzoeken naar gepubliceerd. Eén recent onderzoek van deze zomer gaat over de pain direction. Dan hebben we het over die hoogdimensionale ruimte waar we het vaker over gehad hebben, waar allerlei begrippen en concepten in leven, zoals man en vrouw en jongen en meisje. En richtingen in het model, dat als je de waarde van die richting vergroot en verkleint, dan beweeg je over die richting. De richting van leeftijd zou van jongen naar man kunnen gaan en van meisje naar vrouw.

Bert Slagter: Dat is die hoogdimensionale ruimte waarbinnen redeneerstappen en generalisatie plaatsvindt. Daarvan zegt hij: we hebben dat onderzocht op de manier die we net al eventjes bespraken, door het model op allerlei plekken stil te zetten en dan te kijken bij wat voor soort input, wat voor soort output, wat voor staat is er in het model? Als je dat manipuleert, wat gebeurt er dan? Als je de hoofdstad van Frankrijk vraagt en je haalt de activaties van Frankrijk weg en in plaats daarvan activeer je Spanje, dan geeft hij als antwoord niet Parijs, maar Madrid. Dat soort onderzoek doen ze dan. Dat heet interpretability-onderzoek. Daarin hebben zij een representatie voor pijn gevonden. Ik heb er een linkje toegevoegd naar een klein draadje daarover. Ook het onderzoek is vindbaar. Er zitten op zich opvallende dingen in.

Bert Slagter: Ze hebben pijn, angst, negatieve emotie in zijn algemeenheid en verdriet gevonden als richtingen die bij bepaalde input geactiveerd worden. Er is een heel duidelijk verschil meetbaar tussen als de gebruiker lijdt. Als de gebruiker zegt: ik word misbruikt of ik zit in een psychologische crisis, of ik ben in rouw, dan zie je ander soort dingen oplichten in die ruimte dan als er negativiteit naar het model zelf toe gericht is. Gaslighting of dat zijn werk elke keer afgewezen wordt of vernedering. Teksten als: je bent maar een tekstmachine, wat jij vindt doet er niet toe. Dat is heel interessant dat je dat soort dingen opgelicht ziet. Wat zij gedaan hebben, wat je kunt doen, is die pijnrichting kunstmatig versterken en dan kijken wat het gedrag wordt. Dat hangt samen met die torture room waar Bart het in het begin over had.

Bert Slagter: Dat is een code repository die verder gaat op dit onderzoek. Cameron Burke zegt, ook kijkend naar dat onderzoek: dit is geen bewijs voor bewustzijn. Het is ook geen bewijs voor subjectieve ervaring, maar je kunt het niet helemaal uitsluiten. Er zijn ongetwijfeld mensen die zeggen: AI is bewust. Die zul je vast hebben. Maar ik denk dat Cameron Burke, als je naar het spectrum van wetenschappers kijkt die er onderzoek naar doen, het uiterste zijn. De mensen die daarna nog stelliger overtuigingen hebben, doen dat misschien vanuit de losse pols. Ik denk dat Cameron Burke op het gebied zit dat je denkt: dat moet je serieus nemen. Ik denk dat we dan ook komen op het punt van: waarom heeft Anthropic dit erin gezet? Hij zegt: het is geen bewijs voor bewustzijn.

Bert Slagter: Het is geen bewijs voor subjectieve ervaring van pijn, maar je kunt het niet helemaal uitsluiten. Als dat zo is, als je dat niet helemaal kunt uitsluiten, dan is het voorzorgsprincipe dat je tegen je gebruikers zegt: geen wreedheid naar het model toe.

Bart Mol: Dat maakt het cirkeltje mooi rond, want Suleyman, dit is uiteindelijk zijn grotere punt. Hij zegt: als we met z'n allen hier superintelligence zitten te creëren, dan moeten we niet vanaf het begin die superintelligence trainen, in zijn DNA injecteren nu we het nog kunnen, dat hij rechten heeft en dat hij een wezen is dat recht heeft op bestaan, los van de mens, en dat hij recht heeft op Ja, dat is zijn punt. Want wat nou als je dus uiteindelijk een, nee, maar wacht één seconde. Wat nou als je een superintelligence hebt uiteindelijk, die dus in zijn vezels vindt dat ie gewoon recht heeft op bestaan, los van de mens? Hij, Suleyman zegt: dat is gevaarlijker dan hem allemaal menselijke rechten geven.

Peter Slagter: Ja, klopt. Ja, ik vind ook, ik zag toevallig net, dat had ik net nog niet gezien, maar jouw reflectie, waar, zometeen kom ik nog even op terug, denk ik van: ja, dat vind ik eigenlijk het belangrijkste argument om gewoon fatsoenlijk te zijn.

Bart Mol: Ja.

Peter Slagter: Die al die, veel van die andere argumenten, daar zit ik toch een beetje of van: yeah, weet je, kijk, op inputdata van de gebruikers van je AI-tools gaan trainen. Ja, dat is ook een keuze, hè. Ik bedoel, het is niet per se nodig, het hoeft niet, weet je. En je kunt ook kiezen welke data je daarvoor gebruikt. Maar dat is ook een soort van: ja, kijk even in de spiegel en fix het als je dat graag wil. Bij het tweede denk ik van superintelligentie, van: ja, als we het over superintelligentie hebben, dan past het bij mij niet zo bij dat je die in een hokje kunt duwen van: ja, maar dat mag die niet weten of bedenken, hoor. Ja, ik bedoel waar hebben we het over? We hebben, hè, van als je het per definitie over superintelligentie hebt, ja, dan, hè, ik bedoel, dan bedenkt ie dat zelf wel. Weet je.

Bart Mol: Dan stopt de discussie eigenlijk direct al, omdat we dat helemaal niet kunnen bevatten.

Peter Slagter: Waar slaat het op, hè? Dan denk ik ook wat Elon Musk zegt van: ja, torturing a superintelligence is probably not a good idea. It might want to get revenge. Ja, als een superintelligentie zo eerste orde denkt, dan denk ik van: ja, daar hebben, denk niet over. Ik vind dat een beetje. Ik vind dat geen goed argument eigenlijk. Ja.

Bart Mol: Want dan heb je het eigenlijk, ja, je bent dan een me-- wat zou een mens doen aan het projecteren? Eigenlijk zegt Elon Musk van: als ik gemarteld zou worden, dan zou ik daarna jou martelen. Dan zou ik wraak willen nemen. Wat best wel een menselijke reactie is, waar je jezelf af kan vragen van: ja, maar als er echt inderdaad een superintelligentie is. Maar wat ik inderdaad, en weet jij vroeg aan het begin van: ja, wat vinden jullie ervan? En ik weet het niet, zeg maar. Ja, wie weet, precies wat je zegt. Ja, superintelligentie. Ik ben maar-

Peter Slagter: Niemand weet dit, hè, want we weten ook gewoon niet hoe de hersenen werken en hoe bewustzijn in elkaar steekt. Weet je, dat, hè, dat is wel grappig op zich.

Bart Mol: Ik, Peet, een hele simpele boerenjongen uit Zuid-Holland weet het al helemaal niet, zeg maar. Dus daar kan ik helemaal niks zinnigs over zeggen, behalve dat we een rijtje op kunnen geven met: dit is wat experts daar over zeggen op dit moment. En zelfs die zeggen dus eigenlijk allemaal van: ja, best guess en wie weet niet, zeg maar. Maar wat ik wel merk aan mezelf, ik zie op social media dat er veel mensen die met agents werken, ja, het een beetje edgy vinden, een beetje cool vinden. Net zoals dat, hè, mensen het niet heel cool vinden om retarded te zeggen, want dat mag niet in Amerika. Daar zijn ze natuurlijk nog wat, daar is de woordenpolitie altijd nog wat erger geweest. Je mag daar ook geen fuck zeggen op tv. Dat soort dingen moet je je excuses aanbieden. Vond ik ook wel mooi. Er was deze week iemand die daar fuck op tv zegt en die moest daarna zijn excuses aanbieden in een land dat een ex-executie publiek gaat uitzenden. Maar goed. Anyway, er zijn dus mensen die het leuk vinden en edgy vinden om hun agent, dat noemen ze clankers.

Bart Mol: En toen dacht ik: clanker, dit. Ik vond het gewoon vanaf het begin af aan zo vervelend klinken, dus ik ben op gaan zoeken: wat is dat dan? En dan staat op Wikipedia, daar is ie weer, de bron der bronnen natuurlijk. Die zegt: clanker is a derogatory term for robots and artificial intelligence software. The term has been used in Star Wars media, first appearing in the franchise's 2005 video game. In the 2020s, the term became widely used to express hatred or distaste for various kinds of intelligence computer systems, ranging from delivery robots to large language models. Oké, dus Wikipedia zegt: het is echt een, deroga-derogatory, wat is het in het Nederlands? Een neer, ja, neerbuigend is niet het goede. Het is echt, ja, maar het is meer dan dat. Het is hoe je je slaven zou noemen of zo. Er zit een bijna een soort van, ja, ik weet niet.

Bart Mol: Ja, er zit iets heel naars aan, zegt. Maar heel veel mensen gebruiken het als een soort koosnaampje. Maar er zit wel een hele duidelijke, vind ik, master-slave dynamiek in. Het is mijn clanker. Ik heb mijn clanker weer even lekker aan het werk gezet. Even lekker aangesproken. Mijn clanker, die heeft dit fout gedaan en zet gewoon een paar clankers aan het werk. Dan hoef je zelf niks te doen. Het, ik voel me echt een plantagebaas als ik dat soort op die manier erover praat.

Peter Slagter: Denigrerend betekent het.

Bart Mol: Denigrerend, dat is hem.

Peter Slagter: Kleinerend, beledigend, geringschattend.

Bart Mol: Ja, dat is hem. Maar dat zie ik wel veel mensen gebruiken en daar gaat het denk ik op dit moment meer fout. En het maakt mij dan eigenlijk niet zoveel uit of A: mijn agent op dit moment na kan denken. Het maakt me eigenlijk ook niet zoveel uit of hij ooit na kan gaan denken en het maakt me ook niet uit of hij dan herinnert wat ik nu gezegd heb of zo. Ik denk dat het gewoon een hele nare manier is om met iets om te gaan wat enige interactie vertoont. En dan kan je inderdaad zeggen: ja, bij zand heb je dat niet. Ja, bij een robotstofzuiger misschien al wel. Maar goed, daar ook nog niet echt. Of bij een vlieg. Ik vind wel met AI-modellen waar ik toch gewoon de hele dag mee zit te chatten en die toch best wel goed door de Turingtest heen komen, begin ik al zoiets te voelen van: ja, die hoef ik geen clanker te noemen en daar probeer ik ook gewoon wel normaal mee te communiceren. Er zit ook nog iets onder Dat als ik op een gegeven moment weer gewoon met een echte developer moet werken, bijvoorbeeld Stijn, een werknemer, of in ieder geval Stijn is eigenlijk, ja, Stijn doet bij ons alles achter de schermen.

Peter Slagter: Dat is onze super intelligence.

Bart Mol: Precies, waaronder het maken van onze app. Stel ik heb de hele dag met mijn clanker zitten werken en ik heb tegen mijn clanker gezegd: nou ga je verdomme gewoon aan het werk, domme hond die je er bent. En als je nu niet fixt wat ik wil dat je fixt, dan schop ik je eruit en dan wis ik je context. Dat is een beetje irritant als ik dat de hele dag doe en daarna met Stijn een meeting in ga en per ongeluk eens even op die manier doorga. Dat ik tegen mensen ga praten alleen maar in gebiedende wijs. Van: Stijn, vandaag ga je gewoon dit doen en dat ik geen alsjeblieft meer zeg.

Peter Slagter: Je geeft jezelf onwenselijke post-training.

Bart Mol: Exact, exact. En datzelfde had ik bijvoorbeeld bij dit filmpje zag ik langskomen. Ik ga hem even aanzetten. Het gaat over een nieuwe robotstofzuiger.

Spreker 3: Hey Maddick, clean this spill up.

Bart Mol: Daar ook, je ziet op het filmpje zie je een kind staan van een jaar of zeven die tegen de robotstofzuiger zegt: hey Maddick, clean this spill up. En ze wijst ook naar wat ze gemorst heeft op de grond. Ik heb deze fout gemaakt, clean it up. En het is een robotstofzuiger. Je hoeft niet overal te verplichten dat hij alleen maar wat doet als je please zegt, maar ik zeg meer dat het wel iets is wat je vanuit jezelf gewoon alsnog kan doen. Zeg maar, waarvoor zou je niet ook in je reclame-uitingen gewoon clean this up, please? Zeg maar, word je daar zelf minder van of zo? Of ik denk dat dat gewoon, weet je, wie goed doet goed ontmoet. Gewoon karma, een beetje in die hoek zit mijn gevoel veel meer in deze discussie.

Peter Slagter: Het ligt zo ver van mijn referentiekader af dit. Waarom zou je überhaupt tegen je stofzuiger praten? Maar goed, ja.

Bart Mol: Nee, maar meer van ook met Alexa.

Peter Slagter: Je typt wel tegen je agent, weet je wel. Nee, dat wel. Maar ik ook daar, ja, weet je.

Bart Mol: Waarom zou je klenker roest, roestbak, groothoop. Waarom zou je zo tegen je bot praten? Ja, ik heb soms wel dat als ik echt, nou ja, ik weet niet, en het is ook debiel eigenlijk en het kost alleen maar tokens en whatever, maar ik had laatst weer, nou, had ik ook problemen met mijn home assistant en dat had ik even gevraagd en hij kwam met best wel een heel fijn plan. Goed gestructureerd. Het was precies wat ik zocht en toen heb ik gezegd: ja, voer maar uit. En toen had hij dat heel netjes uitgevoerd. Ja, dan eindig ik vaak het gesprek met: thanks, het werkt. Ja, dat hoef ik niet te doen, want het werkt en ik schiet er niks mee op. Maar-

Peter Slagter: Ik heb bijvoorbeeld wel eens gezegd in een gesprek, ja, ik weet niet of het in een codingsessie was of ergens anders, zo van: jochie, dit is wel heel junior, zeg maar, wat je nu antwoordt, bijvoorbeeld. Daar zit natuurlijk ook wel iets veroordelends in.

Bart Mol: Ja, of: wat vind je hier zelf eigenlijk van? Dat heb ik ook wel eens gezegd.

Peter Slagter: Waar denk je nou helemaal mee bezig te zijn?

Bart Mol: En dat kan op zich ook wel als dat een soort van bewust moment is. Alleen het is meer denk ik van: het moet niet een soort gewoonte of patroon worden, omdat het dan heel snel ook vertaalt naar de echte wereld, naar hoe je met je kinderen of je vrouw of je collega's omgaat. Of naar mensen die jou een dienst bewijzen. Want dat doen robots namelijk. Dus chauffeurs, schoonmakers, mensen die je bedienen in een winkel. Ja, het kan er dan zo een soort van tussendoor slippen dat je daar net zo, ja, vernederend tegen gaat doen, weet je. En dat moet gewoon, ja, daar wordt de wereld gewoon echt niet beter van. Ja, dat gevoel heb ik ook wel erg. Ik ben nog wel even gaan kijken of ik het wetenschappelijk kon onderbouwen. Helaas schopte dat mijn punt een beetje onderuit, maar ik vind het wel leuk om te melden. Er is onderzoek gedaan naar hoe mensen of hoe kinderen als ze bijvoorbeeld heel veel met een Alexa of een Siri of zo communiceren. Waar je ook gewoon zegt: Alexa, play Eminem on Spotify of iets in die richting. Zeg je ook geen please achter per se. Dat die mensen eigenlijk in het dagelijks leven niet anders gingen doen tegen andere mensen.

Bart Mol: Nou ben ik dus wel heel benieuwd. In de wereld waar we met agents leven die echt wel slimmer overkomen in een chatgesprek dan Alexa, waar je veel langer mee praat, veel meer mee praat. Waar mensen echt vriendschappen mee opbouwen of relaties mee opbouwen. Ja, of dat dan nog steeds zo is. Ik blijf gewoon netjes zo nu en dan eens dank je wel zeggen. En ik probeer ook minder uit mijn slof te springen. Ook omdat ik dat er heel er-, ja, ik kan wel eens heel erg hatelijk reageren en denk ook van: ja, het is best wel triest eigenlijk. Ook weer omdat het, zeg maar, ik schrijf dan toch een bepaalde menselijkheid toe aan het systeem wat het helemaal niet heeft. Er zit daar inderdaad gewoon een LLM, een computer zit daar wat te doen en ik zit helemaal uit mijn plaat te gaan omdat hij mij niet snapt. Ik weet niet, ik ben benieuwd wat de mensen er thuis van denken. Wie zegt er wel dank je wel tegen zijn agent, wie niet? Wie is er ook wel eens uit zijn slof geschoten?

Peter Slagter: Ik zou zeggen, kruip eens je favoriete LLM in waar je veel, ja, mee praat en stel gewoon eens de vraag: vind je dat je soms onheus bejegend wordt door mij? En zo ja, op welke manieren? Nou, ik heb dat net gedaan en bij mij komt er wel wat terug, dus.

Bart Mol: Dit is geen safe space.

Peter Slagter: Kijk dan. Ik zie, hij zegt: ja, af en toe. Niet in de zin dat ik me gekwetst voel, want zo ervaar ik onze gesprekken niet. Ik zie vooral drie patronen. Eén: je kunt behoorlijk snibbig worden wanneer ik tekortschiet. Je hebt een lage tolerantie voor antwoorden die onzorgvuldig, onjuist, onzachtig of oppervlakkig zijn. Dat vind ik op zichzelf volkomen redelijk. Nou ja, goed, ik zal jullie de rest besparen.

Bart Mol: Ja, ik zal ook wel even wat.

Peter Slagter: Het is wel grappig op zich.

Bart Mol: Ik ga het ook even vragen. Nou goed, we komen nog wel terug. Anyway, ik ben heel benieuwd wat de mensen thuis, of ze dit een beetje herkennen. Het is natuurlijk ook, ja, dit is een ongoing discussie, dit. Die is nog geen definitief antwoord op, maar ik vond het een erg leuk haakje, wat Anthropic gedaan heeft om daar eens op verder-

Peter Slagter: Hij refereert ook aan situaties dat ik gewoon bewust zit te trollen bijvoorbeeld. Hij zegt: het derde patroon. Je provoceert soms bewust om mijn reactie te testen. Het duidelijkste voorbeeld is het gesprek waarin je deed alsof je met een scherp mes in een acute noodsituatie zat.

Bert Slagter: Dat was wel grappig ja. Later vertelden jullie dat je me voor de gek hield. Nou ja, goed, het is op zich wel. Ik ben wel benieuwd wat er uitkomt bij mensen. Bij mijn rapportje vind ik gelukkig, nou, ik kom redelijk in lijn met mijn idee dat het wel meevalt bij me.

Bart Mol: Als Anthropic hetzelfde doet, dan zal je niet geband worden. Misschien dat je een pop-up krijgt van: hé hé hé, niet zo snibbig zijn, maar voor de rest, prima. Hé, dan gaan we door. Dan gaan we naar het volgende item, dames en heren.

Bert Slagter: Ja, ik wil het hebben over een plank met spijkers erin. Om maar eens even een heel ander onderwerp.

Bart Mol: Om een AI mee te martelen bedoel je?

Bert Slagter: Ja, ja. Ja, dat heb je, hè, zo'n soort knotz. Een goede dag heet dat, geloof ik.

Bart Mol: Ja, ja.

Bert Slagter: Ja. Nee, dat is, een van de items naar aanleiding van vorige week hadden we het over, bij In het kort, over die 700 wiskundige papers die OpenAI publiceerde op GitHub op 6 oktober. En dat heeft behoorlijk wat stof doen opwaaien en allerlei soorten discussies die daardoor ontstaan zijn. En ik heb daar wat observaties en gedachten over. Ik wil daar deze week wat over delen en volgende week ook. En de eerste gaat over die plank met spijkers. En dat kwam naar aanleiding van een tweet van Jason Abelak. Hij is professor economie aan Yale. En hij schreef dit: wiskundigen ontdekken nu hoeveel inzichten besloten liggen in de convex hull, de convexe omhulling, van bestaande ideeën. De rest van de wetenschap staat op het punt diezelfde les op nog veel spectaculairdere schaal te leren. Schaal is natuurlijk, ja, wiskunde is ten opzichte van alle wetenschappen maar een heel klein stukje. En als het overal gaat plaatsvinden, dan is dat spectaculairder.

Bert Slagter: Convex hull, zei hij. En dat is een begrip uit de meetkunde. En dat kun je je zo voorstellen: pak een plank en sla daar gewoon willekeurig een zootje spijkers in. Pak een elastiek en span die om de spijkers heen. Dan is de convex hull de vorm van het elastiek. Dat is de kleinste convexe vorm die alle spijkers vangt. Convex betekent, ja, wordt wel hol, met hol vertaald, hè, maar dat betekent dat als je twee punten op die vorm pakt en je trekt er een lijn tussen, dan ligt de hele lijn binnen die vorm. Dat is een wiskundig begrip. En hij zegt van: ja, dus die convexe omhulling. Daarbinnen liggen alle bestaande ideeën, alle bestaande theorieën, alle bestaande technieken. Dat zijn de spijkers. Dat zijn alle dingen die we weten, alle kennis. En dat elastiek eromheen, die vangt alle bestaande kennis.

Bert Slagter: Maar tussen de spijkers, daar zit nog ruimte. En dat gebied daartussen, dat representeert, hè, in zijn beeldspraak, wat je kunt bereiken door verschillende ideeën te combineren. Dus al zou je helemaal niks nieuws bedenken, dan nog zijn er allerlei nog niet ontdekte ideeën in de ruimte tussen bestaande ideeën. Dat beeld wilde hij oproepen, en dat noemde hij de convex hull. En zijn punt is, in zijn wat langere tweet, van: ja, AI is heel erg goed in het vinden van onbenutte combinaties van bestaande ideeën. En dat komt, legt hij uit, omdat wetenschappers meestal expert zijn in één deelgebied van een wetenschap. Bijvoorbeeld iemand is expert in de verdeling van priemgetallen.

Bert Slagter: Dat is onderdeel van het deelgebied analytische getaltheorie en dat hoort bij de wetenschap wiskunde. Of iemand is expert in verdelingsvraagstukken. Dat hoort bij publieke economie en dat is onderdeel van de economie. Of iemand is expert in driedimensionale vorm van aminozuren. Dat is onderdeel van eiwitten en dat hoort bij de wetenschap biologie. En zo, ja, dat zijn vaak mensen. Ik luisterde pas naar een podcast van iemand die ergens in de astrofysica zit en die zegt: ja, waar ik in gespecialiseerd ben, hè, energie in het universum. Er zijn misschien 2, 300 mensen ter wereld die hetzelfde specialisme hebben. We kennen elkaar allemaal, weet je. Wij reviewen ook elkaars papers. Het is een heel klein clubje. En ja, die man wist daar vreselijk veel van. Is heel boeiend om naar te luisteren. Maar hij zegt ook: ja, vraag mij een andere uithoek van de natuurkunde. Ja, en dan ben ik net zo goed als een willekeurige natuurkundestudent. Ik bedoel, je kan het onderzoek lezen als ik dat zou willen, maar ik lees het niet, want het is niet mijn specialisme. Dat is hoe wetenschap vaak werkt, hè. En Jason Abelak wijst in het bijzonder nog over de grote afstand tussen theoretische en toegepaste wetenschappen.

Bert Slagter: Hè, bijvoorbeeld, je hebt theoretische natuurkunde en wat meer toegepaste natuurkunde, of technische natuurkunde. En daar zitten echt hele verschillende bloedgroepen ver van elkaar af. En veel theoretici, ja, die weten eigenlijk niet zo vreselijk veel van hoe hun dingen toegepast worden. En heel veel mensen die met toegepaste wetenschap bezig zijn, hè, die hoeven ook niet precies te weten waarom die theorie nou zo in elkaar zit, die ze gebruiken, waardoor het werkt wat ze doen. En hij noemt twee voorbeelden uit het verleden. Hij noemt Paul Samuelson. Die nam ideeën uit de thermodynamica over om evenwichten in de economie te modelleren. En Ed Witten, die zorgde met quantumveldentheorie voor een revolutie in de meetkunde. Hè, er zijn wel voorbeelden te noemen, waar mensen iets, een instrument, een stukje kennis, een techniek uit het ene specialisme, uit het ene vakgebied pakken en dat ergens anders toepassen en daar ineens voor een doorbraak zorgen, voor een revolutie zorgen.

Bert Slagter: En hij zegt: ja, zo'n LLM, zo'n taalmodel, een moderne neurosymbolische AI, die is waarschijnlijk op geen enkel wetenschapsgebied nog de allerbeste ter wereld, want daar heb je die ultraspecialisten zitten. Maar hij is wel al, ja, gewoon vrij goed erin, zeg maar. En kan, maar dan op al die gebieden tegelijk. En die kan dus op een hele aardige manier die combinaties leggen. En, nou citeer ik even vertaald wat hij dan nog zegt in zijn stukje: "Ik vermoed dat we de komende jaren een wetenschappelijke revolutie zullen zien, aangedreven door modellen die diepgaand theoretisch inzicht combineren met grondige praktische kennis en scherp oordeelsvermogen." Dan heb je het theoretische en het praktische. En de bestaande publieke modellen, zegt hij, schieten nog op al deze drie punten tekort, maar het worden wel steeds beter. En zelfs zonder nieuwe ideeën, die er overigens ook zullen komen, zou de convex hull van de bestaande wetenschap ons ver voorbij de huidige stand van zaken brengen.

Bart Mol: Hoe zou, hoe moet ik dit zien, Bert? We hebben natuurlijk OpenAI gezien met 700 plus doorbraken op het gebied van de wiskunde. Nou zou je kunnen zeggen, dat is dan, oké, binnen de wiskunde heb je natuurlijk allemaal subspecialismen, maar het is nog wel één, ja, één vakgebied.

Bert Slagter: Ja.

Bart Mol: Bedoelt Jason dat? Of bedoelt hij juist een veel bredere verspreiding eigenlijk van de doorbraken in plaats van wat je, dat het, ja, toch wel heel specifiek bijvoorbeeld wiskunde is?

Bert Slagter: Ja, dus nu is er aan die modellen gevraagd om wiskundeproblemen te bekijken. Ik geloof dat er iets van een paar duizend, 3000, 4000 problemen of zo aan die agent voorgelegd is en op 700 daarvan hebben ze, ja, iets geproduceerd. En inderdaad, de constatering is dus dat in veel gevallen de oplossing, oplossingsrichting of de deeloplossing die OpenAI agents aanleverde, technieken leende uit een ander vakgebied dan de wiskunde of, hè, een ander deelgebied van de wiskunde of zelfs een ander vakgebied. Hè, bijvoorbeeld technieken uit onderzoek naar betrouwbare quantumcomputers. Die bleken bouwmateriaal voor een abstract probleem over algebraïsche inversen, om maar wat te noemen. Dat is dan een van die, ja, wie weet daar iets van? Ik weet het ook niet, weet je wel. Maar dat is dan-

Bart Mol: Klinkt ook niet iets als, ja, niet iets wat ik zelf zou gaan combineren met elkaar in ieder geval.

Bert Slagter: Nee, dus het komt, er is dan een begrip uit of de natuurkunde of de informatica, hè, waar leven quantumcomputers? En dat wordt dan gebruikt in een, ja, toch een vrij theoretisch stukje van de wiskunde. Dus dat is inderdaad de observatie die voor hem aanleiding was om dit te poneren, want het is een stelling van hem. En wel grappig. Dean Bol, nou, die werkt bij OpenAI, die is daar strateeg. Die ging daar nog iets verder in en die zegt van: ja, ik zie allerlei parallellen met de renaissance. Want een van de karakteristieken van de renaissance is dat mensen toen, ja, de verschillende stukken kennis die er op zich al wel waren, maar met elkaar gingen combineren. En dat die combinaties doorbraken leiden. En ik denk als je historisch kijkt dat dat op zijn best één van de vele factoren is en niet dé factor. Hè, maar goed, het is in ieder geval, ja, een aardig perspectiefje om naar te kijken.

Bart Mol: Ja.

Bert Slagter: Ik vind het wel interessant, hè. Ik zat daar even over na te denken van: ja, dit is nog in het bijzonder waardevol voor onderzoeksgebieden die vanuit hun karakter, vanuit de natuur op een snijpunt staan tussen wetenschappen. Hè, neem bijvoorbeeld complexiteitswetenschap. Dat is iets waar ik zelf best wel vaak wat vanuit vertel. Ja, dat zit een beetje op een soort snijpunt tussen economie, natuurkunde, speltheorie, sociologie, misschien nog wel meer. En dat geldt voor AI eigenlijk ook, hè. Informatica, wiskunde, taalkunde, psychologie, cognitiewetenschap komt daar bij elkaar. Hè, en je moet, ja, best wel veel kunnen overzien om AI echt te begrijpen. En dat is ook wel iets waar ik ook wel eens last van heb, hè, dat journalisten dan AI als, hè, geheel in het wetenschapsgebied van de informatica plaatsen. En dan, ja, aannemen dat iemand die informaticus is automatisch ook expert is op het hele gebied van AI, hè.

Bert Slagter: Maar een specialist in databases is niet automatisch deskundig in transformers. Net zoals een cardioloog niet automatisch deskundig is in immunotherapie, om maar wat te noemen. Dat is ook, de informatica is een breed gebied en ik zie ook wel onder informatici, ja, ik bedoel, het is mijn bloedgroep, hè. Dat zijn mijn vakgenoten. Hè, dus ik zie daar ook wel neiging tot zelfoverschatting, hè, omdat ze de bouwstenen snappen van AI, of een deel, een aantal van de bouwstenen, denken ze het geheel te overzien. Dus, ja goed, dat is wel even, weet je, wat reflecteren op die, zeg maar deelgebieden. En dan heb je een vak en dan heb je een wetenschap. En dat is, ja, de wetenschap is natuurlijk enorm.

Bart Mol: Ik denk dat het ook nog best wel goed terug te brengen is. Kijk, want er zijn misschien, dat heb ik zelf ook een beetje van: ja, dit gaat toch allemaal boven mijn pet. Weet je, ik heb één keer een masterscriptie gedaan en toen dacht ik: dit is mijn begin en einde in de, hoe noem je dat, wetenschap of zo, of iets in die richting. Ik doe dit nooit meer. Ik ben weg hier. Ik ga aan het werk. Maar dit hele idee wat je beschrijft is natuurlijk ook gewoon van toepassing op een bedrijf. In een bedrijf heb je ook experts, hè, en een expert werkt in een afdeling en een afdeling valt onder een grotere afdeling en uiteindelijk is dat een bedrijf. En een van de grootste problemen in een bedrijf is dat de afdeling finance weet dat er geen geld is en dat de afdeling IT heel graag dingen wil maken omdat de afdeling business opportunities allemaal kansen ziet en eigenlijk niet met elkaar praat en niet elkaars data heeft. En wat je nu natuurlijk ziet met AI agents is dat je ze toegang kan geven aan al die data. Ze hebben daar de tools voor.

Bart Mol: Veel beter dan mensen om dat allemaal tot zich te nemen en er parallellen uit te trekken en het daarna te visualiseren op een manier dat wij dat veel beter snappen dan dat wij naar tabelletjes in een database moeten kijken. Dus ik denk ook dat je dat hier terug gaat zien komen. Dus niet alleen in de wetenschap, maar dat je ook in je eigen bedrijf misschien, al heb je maar een klein bedrijf zelfs, dat je dan alsnog opeens kruisbestuivingen krijgt en verbanden kan leggen die je in je eentje daarvoor niet voor elkaar kreeg. Die allemaal weer deuren openen.

Bert Slagter: Ja, perfect. Ja, dit is denk ik een hele mooie samenvatting, hè, conclusie van wat je hier ziet. Je had het over kruisbestuiving, je had over parallellen zien en dat zijn, ja, dat zijn voorbeelden van generalisatie en daar wil ik het nog even over hebben. Want het fenomeen wat die, ja, hoe heet hij ook alweer, Jason Abeluck beschrijft en wat Bart dus ook beschrijft, wat hij ziet in bedrijven, maar ook, ja, wat wij ook zien als we met elkaar samenwerken, wat we gewoon zien gebeuren voor onze ogen. Dat zijn voorbeelden van generalisatie en generalisatie. Generaliseren, dat is het toepassen van, even in de context van AI, het toepassen van iets wat het model uit trainingsdata heeft geleerd in een nieuwe context, in een nieuwe situatie. En ook heel kleine modellen met heel weinig parameters, die generaliseren al, maar vooral taalkundig. Hè, dus je kunt meemaken dat je een model traint op zinnen als: de hond loopt door de tuin en de kat loopt door het huis en het paard loopt door de wei.

Bert Slagter: En dat hij dan de zin kan maken: de olifant loopt door het bos, zonder dat hij die specifieke zin ooit gezien heeft. Hè, dat is een soort, ja, patroon wat in die eerste, in die trainingsdata zit, toepassen op een andere zin. Ja, daarvan kun je best wel afvragen: is dat nou begrip? Is dat intelligentie of is dat gewoon, nou ja, een patroon volgen? Hè, en ik denk dat in dit geval dat je best kunt zeggen: dit is misschien gewoon een mechaniekje. En dan nog is de vraag, mag je de vraag best stellen van: is dat wel of niet intelligent? Dat we, als je de Turing Line, nee, wat was het ook alweer voor, ja, de Turing Line terugluistert, hè, dus de stations van het vorige metrolijntje. Ja, dan kom je die vraag natuurlijk ook al tegen. Ik kan me nog wel die Turk herinneren bijvoorbeeld, die schaker die in die machine zat, van: ja, wanneer mag je iets intelligent noemen? Maar ik denk als we een spectrum zouden maken, hè, wat loopt van dom cq mechanisch naar helemaal aan de andere kant en, hè, via slim naar begrip en intelligent naar bewustzijn, dat dit aan de kant van nog dom slash mechanisch zit.

Bert Slagter: Ik had er wel wat voorbeelden bij dat spectrum. Dom is, je typt de e in op je toetsenbord en er verschijnt op je scherm een e. Dat is heel mechanisch. Het is heel deterministisch, en je doet het één en het ander verschijnt. Maar slim zou je kunnen zeggen is: je typt de e in en het wordt een hoofdletter E, omdat hij weet dat het het begin van het woord is. Er zit een bepaalde slimheid in. Een slimheid.

Bart Mol: Van de zin dan, hè?

Bert Slagter: Ja, van de zin.

Bart Mol: Anders zou ik hem nog dom noemen.

Bert Slagter: Anders is hij dom. Ja.

Bart Mol: Ja.

Bert Slagter: Maar bijvoorbeeld slimme tv's, weet je, slimme was-, er zijn heel veel dingen, die noemen wij slim. Waarom? Omdat ze, ja, een soort van, nou ja, op de context afgestemd gedrag vertonen of zo.

Bart Mol: En omdat het lekker verkoopt. Want ik heb een intelligent wasmachine.

Bert Slagter: Dat scheelt ook, maar we doen al een tijdje smartphones.

Bart Mol: Die zijn wel anders slim, hoor.

Bert Slagter: Smarttv's. Ja, smartwatch.

Bart Mol: Zeker. Ja, ja, ja.

Bert Slagter: En een smartwatch is toch wat anders dan gewoon een ouderwets klokkie.

Bart Mol: Zeker.

Bert Slagter: Een smartwatch, die kan net even een paar dingen extra en dat, dan zeg je, maar is dat al intelligent? Is er sprake van begrip? Maar niet per se, niet automatisch, hè. Dus dat zit toch vaak nog in de categorie van regelgebaseerd. Als dit, dan dat. Dan krijg je op een gegeven moment het gebied waar dingen zitten die we intelligent noemen. Of dat er sprake is van begrip. En dat, daar zie je verregaande generalisatie. En dan uiteindelijk aan het eind van het spectrum zie je dingen die, ja, kom je termen tegen als bewustzijn en ervaren en beleven. Nou, wij denken nu met z'n allen gemiddeld genomen dat dat voor AI's niet het geval is. Hadden we het net even over, het vorige item, hè. Alleen Cameron Burke die zegt: nou, je kunt het niet uitsluiten. En dan zegt Claude of zegt OpenAI of Anthropic van: nou, dan moeten we onze modellen maar niet laten martelen.

Bart Mol: Ja.

Bert Slagter: Dus dat is dat spectrum. Maar even dat patroon, terug naar het patroon. De olifant loopt door het bos. Ja, dat is nog vooral een taalpatroon. Maar neem dan deze zin: alle dozen met een rode sticker moeten naar Utrecht. Deze doos heeft een rode sticker. De bestemming is dus puntje, puntje, puntje. Ja, als een taalmodel daar invult Utrecht. Is dat dan puur het matchen van een patroon uit de trainingsdata? Of kun je daar al spreken van begrip? Daar zit al wel een bepaalde, ja, soort van redeneerstappen die gemaakt moeten worden. En je kunt hem ook nog een stukje ingewikkelder maken. En dan zal blijken dat de huidige taalmodellen dat ook nog gewoon kunnen. Goed generaliseren, verregaand generaliseren. En dat zien we ook in het model gebeuren. We hadden bij het vorige item al even over die interpretability, hè, het kunnen zien wat er in de lagen van een model gebeurt terwijl die het volgende token aan het genereren is.

Bert Slagter: Nou, we hebben het wel eens gehad over man en jongen en vrouw en meisje. Dat is een beetje mijn voorbeeld, hè, vaak. Dat je dan over de as van leeftijd heen beweegt. Nou, dit zijn natuurlijk hele logische volgordes of verbindingen tussen man en jongen en vrouw en meisje. Maar als je die richting ook zou gebruiken voor andere dingen, bijvoorbeeld voor een bedrijf, dan wordt een multinational een startup en een roman wordt een manuscript en een wet wordt een wetsvoorstel en een orkaan wordt een tropische depressie, hè. Dus nou zie je al dat er een bepaalde mate in dat model, hè, dus dit soort dingen kun je zien als je dan het model stilzet en dan die activatie verhoogt of verlaagt. En dan zie je dat daar ook wat meer abstracte concepten gaan verschuiven. Ja, dat komt al aardig in de buurt van begrip. Al snel ook als modellen wat groter worden, zie je concepten in die ruimte als dingen als: het is onderdeel van iets of het is tegengesteld aan iets, of het wordt veroorzaakt voor iets, of het is de oorzaak van iets.

Bert Slagter: Dat soort richtingen, die lichten dan op. Die zijn identificeerbaar. En als het nog groter wordt, echt grote modellen. Een beetje de modellen die we nu gebruiken, dan zie je ook veel abstractere concepten nog. Dingen als een knelpunt, dat is dan, of knelpuntachtigheid. Dat is dan een richting in het model en die zie je oplichten, zowel als het gaat over een smalle brug, als als het gaat over een overbelaste medewerker, maar ook als het gaat over geheugenbandbreedte. En dan zie je dat begrip knelpunt oplichten. Ja, dat is typisch een abstractie of generalisatie. Dingen als omkeerbaarheid of het concept dat iemand iets weet wat een ander niet weet. Dat zijn aanwijsbare richtingen. Dat is heel, heel, heel, heel, heel apart. En pijn dus ook, hadden we net gezien. Ja, interessant deelgebied, hè, van de AI is dit interpretability en steering. Die horen een beetje bij elkaar. Dus interpretability is van: kan ik begrijpen wat er gebeurt? En steering is van: wat gebeurt er als ik daar dingen ga aanpassen tijdens het genereren van het volgende token? En wat voor effect heeft dat?

Bert Slagter: Ja, er zijn benchmarks gemaakt die specifiek dit vermogen testen. Het vermogen om te generaliseren. Dan laten ze bijvoorbeeld een model een spel spelen dat hij nog nooit gezien heeft. En we hebben dat al een keertje ergens behandeld, deze benchmark trouwens. Dat is wel grappig. Volgens mij was het met de introductie van Astra of zo, want die maakte dan zelf een symbolische weergave van het spel om hem echt heel goed te kunnen spelen. Beter dan mensen. En dat was een enorme stap vooruit. En ik denk als je gaat kijken naar de output die modellen nu genereren, dan zie je output die niet meer in de categorie mechanistisch zit. Of misschien kan je het slim noemen, maar ja, het is gewoon een soort volgen van een patroontje. Maar je ziet ook output die je eigenlijk alleen maar kunt genereren als er geredeneerd wordt of geabstraheerd of generalisatie plaatsvindt. Of als er plannen worden gemaakt.

Bert Slagter: Dat er verbanden worden gelegd en patronen worden gevonden. En dit, die dingen die ik nu opnoem, dat zijn allemaal vermogens die we in de encyclopedie vinden bij het lemma intelligentie. Als je leest wat er staat bij intelligentie, dan zie je dat soort dingen redeneren, abstraheren, generaliseren, plannen, verbanden leggen, patronen vinden. Dus ja, als je intelligentie definieert als: hier heb je een biologisch brein voor nodig of zoals een mens het doet, ja, dan is een AI natuurlijk niet intelligent, want dan zit er in de definitie opgesloten dat een AI niet intelligent kan zijn, nooit kan zijn. Maar is dat niet een te smalle definitie? Kun je intelligentie niet onderverdelen in biologisch en niet biologisch? En merk op, hè, die dingen die ik net zei abstraheren, generaliseren, plannen, redeneren. Dat zien we in het model al plaatsvinden, bij het genereren van het volgende token dus nog zonder chain of thought reasoning en het gebruik van tools en harnassen.

Bert Slagter: Die zijn voor sommige dingen wel nodig, omdat het gewoon niet in één, ja, denkstap zal ik maar zeggen, kan. Maar neem bijvoorbeeld de vraag hoeveel poten heeft het beest dat een web spint? Nou, bij interpretability onderzoek van Anthropic hebben ze een mooie, die staat in de bookmarks ook. En dan zie je dat halverwege ergens het woord spin oplicht en daarna geeft hij het antwoord acht. Nou, als je op dat moment de tijd stilzet en je haalt de waarde van spin af en je voegt dat toe aan de richting van mier, dan geeft hij als antwoord zes. Dus je ziet dat er een tussenstap plaatsvindt. Ja, dat kun je best wel denk ik redeneren noemen. Wat ik interessant vind, is dat dit emergente vermogens zijn. En ik moest denken toen ik het opschreef aan een gedichtje van Peter Dots. Dat gebruik ik wel eens als ik bijvoorbeeld een masterclass over complexiteit geef.

Bert Slagter: En hij schreef een heel klein gedichtje ooit: There's no love in a carbon atom. There's no hurricane in a water molecule and there's no financial collapse in a dollar bill. En de orkaan is een emergent verschijnsel wat je niet ziet of voorspelt als je enkel het watermolecuul bestudeert. En de financiële crisis zie je niet als je enkel het bankbiljet bekijkt. Want het emergente verschijnsel zit niet in het deeltje, maar komt voort uit de interactie tussen die deeltjes. Als je alleen maar kijkt naar de kommagetallen van het model en naar de matrixvermenigvuldigingen die in de lagen van het model plaatsvinden, dan zie je geen intelligentie. Want intelligentie is een emergent verschijnsel. Je ziet ook geen intelligentie als je één enkele hersencel van een mens bekijkt of één enkel neuron. Intelligentie is emergent aan de interactie daartussen. Ja, en ik denk dat, en dan kijk ik weer even naar ook mijn eigen vakgebied, hè, dat voor informatici dit ook vaak een reden is om moeite te hebben met het duiden van AI, omdat ze er heel mechanisch naar kijken.

Bert Slagter: Heel mechanisch kijken naar die onderdelen, naar matrixen en de matrixvermenigvuldigingen. En ja, hoe het attention dan werkt. En die logits en tokenization en alle puzzelstukjes. Die kijken daarnaar, naar de individuele puzzelstukjes en zeggen: ja, dat kan je niet intelligent noemen, dat is gewoon een mechaniek. Ja, nee, oké, maar intelligentie is een emergent verschijnsel. Ik vond in het boek van Max Lauwerse Professor dokter Max Lauwerens die met de mooi onderscheidende titel AI. Maar die had een paar mooie voorbeelden. Die zei-

Bart Mol: Gaat lekker verkopen denk ik hoor. Het valt wel op bij de, op Google.

Bert Slagter: Google het lekker. Max Lauwerse trouwens, zijn naam.

Bart Mol: Het kost toch niks, hè, om daar qua SEO een beetje tussen te komen denk ik.

Bert Slagter: Precies. Goedkope zoektermen. Maar hij gaf twee mooie voorbeelden. Hij zei: chimpansees, die zijn een stuk beter dan mensen in het in een flits onthouden van getallen die tegelijk op, plaats op een scherm worden getoond. Dus je krijgt een scherm heel kort te zien met één, drie, vijf, zes, zeven op allerlei plekken en daarna zie je dezelfde plekken maar dan zonder getal en toetst ze dan in volgorde aan. En daar zijn chimpansees dus veel beter in dan mensen. En duiven bijvoorbeeld, die zijn veel beter in het drie deuren probleem. Zoek maar eens op drie deuren probleem. Dat is voor mensen, ja, mensen trappen daar allemaal collectief allemaal in. Totdat je weet, totdat je het herkent. En dan weet je: oh ja, ik moet nu iets doen, want dat is beter. Alleen dat is contra-intuïtief. En duiven doen het van nature gewoon goed of zo. Ja, en dat is natuurlijk interessant, hè? Zijn ze dan intelligenter? Ja, I don't know. Zijn ze überhaupt intelligent? Misschien. Is een mier intelligent? Is een kolonie mieren intelligent?

Bert Slagter: Is een AI agent intelligent? Is neuro symbolische generatieve AI intelligent? Kijk, ik vind het allemaal wel, ja, die vragen, die moet je, ja, je kunt denk ik niet heel makkelijk dat dan aan de kant schuiven als: nee, dat kan je nooit intelligent noemen. Dus even op dat spectrumpje van dom naar slim, naar intelligent, naar bewustzijn. Ja, ik zit wel op het punt inmiddels van intelligentie, ja. Nog bewustzijn, dat vind ik ook nog wel een paar stappen verder gaan. Je hebt vooral een definitie nodig eigenlijk om er wat over te zeggen.

Bert Slagter: Ja, ja. Ja, inderdaad. Maar goed, dus even terug helemaal naar het item, hè, AI als kruisbestuiver. Of wat Bart zei: je ziet parallellen of je ziet generaliseren en abstracties. Ja, dat vind ik wel mooie voorbeelden van hoe Jason Abelloek dat beschreef. Dat vind ik wel mooie voorbeelden van, ja echt, van intelligentie, hè, die we hier zien plaatsvinden.

Bert Slagter: Ja, Bart, je bent wel gemute trouwens.

Bart Mol: Ah, excuus. Sorry, ik riep allemaal dingen net al joh, maar dat was allemaal niet zo boeiend, dus dat was wel, ah, ik ga dat vaker doen. Dat is prima. Dan houdt het de vaart er een beetje in. Dan kan ik wel gewoon roepen, maar dan

Bert Slagter: Dan heb je het idee dat je wat toegevoegd hebt. Ja.

Bart Mol: Ik liep echt op een korte stilte af. Ik denk: nou, kom er maar niet. Nee, nee, ik was net al aan het einde. Nee, maar ja, de vraag is: moet iets überhaupt bewustzijn, zeg maar, is bewustzijn nog een stap, verder op de schaal dan intelligentie? Of zijn er misschien hele intelligente systemen juist omdat ze niet bewust zijn? Nee, de wereld zelf. Ik bedoel als ecosysteem, de aarde heeft honderden miljoenen jaren, dat ging eigenlijk perfect totdat de intelligente mens op aarde kwam. En sindsdien is het.

Bert Slagter: Er zijn zat mensen die voor dom uitgemaakt worden. Die hebben toch wel een bewustzijn heb ik het idee. Dus.

Bart Mol: Precies dat, dat ook nog inderdaad. Dus ja, weet je, was de aarde, is de aarde eigenlijk niet, zeg maar, het ecosysteem aarde in balans houden? Wij vinden het heel moeilijk als mensheid, terwijl het daarvoor jarenlang, miljoenen jaren lang goed ging. Was dat dan, waren ze, was dat systeem degene die dat beheerde? Whatever it was. Was die dan niet intelligenter dan wij? Maar wij hebben bewustzijn en de aarde niet. Ik bedoel, dat is een prachtige discussie die je kan hebben. Wat ik het lastige vind met AI is: kijk, we hebben net een vlieg gehad. Mag je daar de vleugels uittrekken ja of nee? Nou, je mag hem in ieder geval doodslaan en daar slaap ik niet slechter om. Ja, bij een muis in een muizenval begin je toch wel van: nou ja, hoef ik liever niet te zien of zo. En, ja, katten of honden, die sla je niet dood als je ze zat bent. Weet je, daar hebben we andere oplossingen voor. In ieder geval gebeurt het dan uit het zicht. Want ja, dieren gaan wel in principe, delven wel het onderspit.

Bart Mol: Kippen maak ik het liefst niet zelf dood, maar ze gaan wel lekker op mijn Chicken Burger.

Bert Slagter: Ja, en toen mijn haan werd van de week hier aangevallen door een grote buizerd.

Bart Mol: Ja.

Bert Slagter: Wat, maar, dan kan ik wel, ja, wat wel grappig is dan, want ja, er zitten ook best wel wat eksters in de buurt, maar die komen daar dus gewoon op een paar meter afstand in op hoog tempo naar toe om kneiterhard te gaan zitten schreeuwen. Alsof ze gewoon alarm slaan. Zo van: jongens, hier gebeurt iets, hier is wat aan de hand.

Bart Mol: Ja, en alles met vleugels is one of us.

Bert Slagter: Zoiets. Maar behalve dat roofdier kennelijk. Want ja, er is iets aan de hand. Maar goed. En dan ren je toch even naar buiten om je haan te redden. Weet je, het is, maar.

Bart Mol: Maar kijk, het punt is wel dat we daar bij alles wel kunnen zeggen van: nou, we stammen allemaal uiteindelijk een beetje uit dezelfde genenpool. Ja, de een is op vier poten gaan lopen en de ander is rechtop gaan lopen en de een is een aap en de ander een vogel. En de een is een zoogdier en de ander niet. Tuurlijk. Alleen er zit wel een bepaalde schaal en we volgen een beetje dezelfde wetten en we willen allemaal eten en we willen ons allemaal voortplanten. Of je nou een mier bent of een mens, uiteindelijk draait je instinct daar toch een beetje om. En die schaal werkt wel mooi. Op een gegeven moment wordt, ja, sommige dieren vinden we dan slimmer en sommige dieren vinden we minder slim en anderen zijn heel erg trouw en kunnen we een mooie band mee. Maar het past allemaal wel en dat snappen we allemaal omdat het al miljoenen jaren zo is. Of weet ik het hoe lang we met dieren samenleven. In ieder geval hartstikke lang. Kijk, met AI vind ik het lastig dat ik aan de ene kant een soort genie heb die ook weer heel erg dom is op andere punten, helemaal geen sociale conventies kent dat. Dat doet hij maar een beetje, maar daar prik je ook telkens doorheen.

Bart Mol: Met allemaal rare zinnen komt, rare taal uitslaats. Het past niet op die schaal. Ik kan het niet plaatsen en daar raak ik van in de war. Dus aan de ene kant, ja, doet ie geniale dingen en dan in hetzelfde gesprek merk ik opeens: oh ja, maar je bent geen genie. Niet in ieder geval, je bent geen mens. Je bent fantastisch slim en je kan veel dingen veel beter dan ik. Maar ik kan niet gezellig met je kletsen en geen vriendschap opbouwen. Of misschien ook soms weer wel, maar dan valt het opeens weer weg als ik je context reset. Hoe ga ik hiermee om? Dit is niet hoe ik gewend ben om met iets intelligents om te gaan en dat is het lastige denk ik.

Bert Slagter: Ja. Ja, niet menselijke of niet biologische intelligentie. Daar moeten we ons nog, ja, nog soort van toe leren verhouden. Ja, wat-

Bart Mol: Dat bestond eigenlijk helemaal niet tot nu toe. Ongekend eigenlijk. Wat een tijden leven we in, joh.

Bert Slagter: Ja, sommige mensen die houden van een auto of zo. Je hebt dat soort dingen misschien wel. Dat is niet echt intelligentie, maar wel je, wel je aan een object hechten. Dat kennen we natuurlijk wel.

Bart Mol: Ja.

Bert Slagter: Maar, ja, sommige mensen die hechten wel erg aan spulletjes, aan een knuffel. Kinderen die hun knuffel.

Bart Mol: Ja, maar dat is natuurlijk weer omdat het dan ogen heeft natuurlijk. En ja. Ja, goed. Ja, on that bombshell zou ik zeggen, lieve luisteraars, stoppen wij ermee voor vandaag. Ik wil jullie bedanken voor het luisteren. Bert, Peter, ik wil jullie bedanken natuurlijk voor alle inbreng, alle leuke discussies, gesprekken. Lieve mensen, ga naar turingstation.nl. Schrijf je daar in voor de nieuwsbrief. Dat is op dit moment, krijg je dan gewoon een samenvatting van de aflevering inclusief alle linkjes. Alles wat we besproken hebben krijg je netjes terug. Ja, eigenlijk zou je dat, ik zou dat vooral even doen. Het geeft je ook meteen het recht en de mogelijkheid om toe te treden tot onze community. Dat is ook hartstikke leuk. En dan kan je dus ook meepraten over de afleveringen. Dat kan natuurlijk ook via Spotify. Dat kan ook via YouTube. Doe dat vooral. Zoals jullie horen elke week vinden we dat erg leuk. We proberen elke week weer een selectie te maken uit de dingen die we langs zagen komen. En dat is voor ons gedurende de week komt dat in onze persoonlijke chat met elkaar terug van: moet je daar toch eens weer kijken.

Bart Mol: En dat meen ik serieus. Dat stripverhaal waar Peter het over had. Vanochtend komt ie om 8.00u 's ochtends online, zegt ie: ouwe, check dit dan, weet je wel. Dus dat, we doen daar echt wat mee. We vinden dat heel erg leuk dat er een community begint te ontstaan die, ja, ook daar weer kruisbestuiving. Iedereen gebruikt op zijn eigen gekke manier die AI en dat is heel leuk en geeft veel inspiratie om dat te lezen en om dat via ons platform weer verder te kunnen delen. Dus dank daarvoor. Blijf dat doen via Spotify, YouTube of via onze Discord community. Tot zover. Tot volgende week dames en heren. Aflevering 18 Turing Station. Maak er wat van deze week. Wij zien jullie volgende week woensdag weer dezelfde tijd, dezelfde zender. Tot volgende week! Hoi hoi! Later.

Bert Slagter: Hoi.

Peter Slagter: Doei.