Staat Europa in 2031 volledig buitenspel in de AI-race?
TL;DR
AI-samenvatting, door de redactie nagelezenHet rapport Europe 2031 schetst een scenario waarin Europa in 2031 geen eigen frontier modellen, compute of datacenters heeft en tussen de VS en China terecht is gekomen.
GPT-5.6 en Fable 5 vielen deze week onder Amerikaanse exportcontroles, wat volgens de podcast aantoont dat toegang tot AI een geopolitiek machtsmiddel is geworden.
Anthropic loste de jailbreak van Fable 5 op door de veiligheidsgrenzen te verbreden en gaat nauwer samenwerken met de Amerikaanse overheid.
Een token is een woord of woorddeel dat wordt omgezet in een vector, waarna het model via tientallen lagen het volgende token voorspelt.
De achttiende-eeuwse Mechanical Turk en de Digesting Duck laten zien dat mensen al eeuwenlang geneigd zijn machines intelligentie toe te schrijven die er eigenlijk niet is.
Hoofdstukken
- 00:00:00
Intro en overzicht
Bart, Bert en Peter introduceren de aflevering en de onderwerpen: Europe 2031, GPT-5.6, tokens en de geschiedenis van automaten.
Spring naar dit hoofdstuk
Bart - 00:02:42
Europe 2031 rapport
Bart en Bert bespreken het rapport Europe 2031, dat via twee fictieve personages schetst hoe Europa er in 2031 voor staat als het achterblijft in AI.
Spring naar dit hoofdstuk
Bart - 00:12:05
Nieuwsuur fragment en afhankelijkheid
Een fragment van Nieuwsuur met rapportschrijver Michiel Bakker leidt tot een gesprek over toenemende Europese afhankelijkheid van Amerikaanse AI-bedrijven.
Spring naar dit hoofdstuk
Bert - 00:14:03
GPT-5.6 en exportcontroles
OpenAI's nieuwe model GPT-5.6 valt net als eerder Fable onder Amerikaanse exportcontroles, waardoor toegang tot AI nu formeel een geopolitiek vraagstuk is.
Spring naar dit hoofdstuk
Bert - 00:21:07
Fable 5 weer beschikbaar
Anthropic heeft de jailbreak van Fable 5 verholpen door de veiligheidsgrenzen te verbreden en gaat nauwer samenwerken met de Amerikaanse overheid.
Spring naar dit hoofdstuk
Peter - 00:28:52
Geopolitiek chip schaakbord
Nieuwe ontwikkelingen zoals de Broadcom-chip van OpenAI, Zuid-Korea's chipinvestering en het Nederlandse General Intuition laten zien dat het AI-schaakbord verbreedt.
Spring naar dit hoofdstuk
Bert - 00:32:03
Wat is een token
Op een luisteraarsvraag legt Bert uitgebreid uit hoe tekst wordt omgezet in tokens, vectoren en uiteindelijk een output token binnen een AI-model.
Spring naar dit hoofdstuk
Bert - 00:53:18
Mechanical Turk en Digesting Duck
Peter neemt de luisteraars mee naar de achttiende eeuw, met verhalen over de schaakautomaat de Turk en de mechanische eend van Vaucanson.
Spring naar dit hoofdstuk
Peter - 01:12:06
Branch in new chat
Bert legt uit hoe je met branchen in ChatGPT en Claude een gesprek kunt terugdraaien zonder de nuttige context te verliezen.
Spring naar dit hoofdstuk
Bert - 01:22:08
Tip: praten met AI
Bart pleit voor dicteren in plaats van typen tegen AI, terwijl Peter en Bert liever schrijven om hun gedachten te ordenen.
Spring naar dit hoofdstuk
Bart
Hoofdstukken
Genoemd in deze aflevering
- Europa heeft in het scenario geen eigen frontier modellen en bijna geen datacenters.
- Europa zou moeten bouwen als een land in oorlog, zeggen de rapportschrijvers.
- Exportcontroles op AI-modellen kwamen al in 2026, twee jaar eerder dan het scenario voorspelde.
- GPT-5.6 moest eerst langs de Amerikaanse overheid voordat het uitkwam.
- Fable 5 is weer wereldwijd beschikbaar na aangescherpte veiligheidsclassifiers.
- Het Witte Huis schoot zichzelf volgens Peter in de voet met de exportcontrole.
- Een token wordt in het model een vector van duizenden getallen die door tientallen lagen reist.
- De Mechanical Turk uit 1770 verborg in werkelijkheid een menselijke schaker in de kast.
- Branch in new chat laat je teruggaan naar een eerder punt zonder de context te verliezen.
- Dicteren tegen AI gaat volgens Bart veel sneller dan typen op een telefoon.
Transcript
16.738 woorden · klik een tijdcode om te springen
Bart Mol: Welkom bij aflevering twee van Turing Station, de AI-podcast van Nederland. Ik ben Bart Mol en samen met Bert en Peter Slagter bespreken we hier elke week het belangrijkste nieuws in de wereld van AI, waar we deze week Fable 5 uit zagen komen vandaag. En ook het nieuwe model van OpenAI, GPT-5.6. Wat betekent dat voor de plek van bijvoorbeeld de Verenigde Staten in de wereld van AI, maar ook voor Europa? Want daar was ook veel over te doen, met onder andere een item in Nieuwsuur.
Bert Slagter: En we gaan het hebben over tokens. Wat zijn eigenlijk tokens? We moeten ervoor betalen en ze kosten zoveel dollar per miljoen tokens. Input tokens, output tokens. We gaan op reis met tokens door het model heen om te kijken dat als je er wat instopt, dat er dan een volgend token gegenereerd wordt en als tekst op jouw scherm verschijnt.
Peter Slagter: Ja, en de metroreis door de AI-geschiedenis, die gaat ook gewoon verder. We gaan van oude verhalen, de mythes waar we vorige week waren, naar het Europa van de 18e eeuw, toen er aan echte automaten gewerkt werd. De Mechanical Turk, de Digesting Duck. Bekende machines die opvallend veel over de AI-machines vertellen die we nu gebruiken.
Bart Mol: Welkom bij aflevering twee van Turing Station. Veel plezier. Zo mannen, zijn we weer terug. Aflevering twee. Nou, hij is goed ontvangen vorige week. Dat was echt wel leuk om te horen. We hebben leuke reacties gehad. Best wel veel ook moet ik zeggen. Bijna 70 of 80 reacties. We hebben ze allemaal gelezen. Allemaal beantwoord. We gaan er zelfs een paar meenemen deze week. We hebben een hele leuke vraag gekregen over wat tokens nou eigenlijk zijn. Als we het hebben over AI. Waarvoor gebruik je ze? Is het hetzelfde als een crypto token, vroeg iemand. Maar nou ja, goed, daar gaan we vandaag op in. Bert heeft die vraag helemaal uitgeplozen, dus daar gaan we induiken. Ja, en voor de rest heel veel leuke onderwerpen om mee te gaan beginnen.
Nog 16.400 woorden aan transcript · vouw uit om alles te lezen.
Bart Mol: En misschien is het ook wel meteen goed om naar het eerste onderwerp toe te gaan. Ik weet niet, hebben jullie het gezien, mannen? Ik zag opeens AI langskomen op de Nederlandse staatstelevisie bij Nieuwsuur. Hebben jullie het langs zien komen?
Bert Slagter: Jazeker.
Bart Mol: Ja, wat vonden we ervan? Laten we eens even losjes beginnen. Want waar ging het item over? En ja, en wat vonden we van het item?
Bert Slagter: Ja, het was vorige week donderdag 25 juni, dus als je terug wil kijken, daar kun je het vinden. Jeroen Wollaars die presenteerde en ze hadden, ja, het was naar aanleiding van het Europe 2031-rapport. Een rapport over de staat van AI in Europa. En het zat er al een beetje aan te komen, want Jeroen Wollaars zat op Twitter ook al erover te praten met mensen en hij had gedeeld van: poah, dit moet je echt lezen. Dus hij was echt wel onder de indruk. En hij had-
Peter Slagter: En een notoire vibe coder, hè?
Bert Slagter: Ja, precies, hij is zelf ook echt wel gebruiker ervan. Niet alleen maar vraagjes stellen aan ChatGPT, maar ook echt dingen bouwen. Dus dat is wel cool. En hij had Michiel Bakker uitgenodigd, dat is een van de schrijvers van het rapport. En ja, met hem besprak hij het.
Bart Mol: Ja, precies. Heb jij het rapport ook gelezen? Want die stamt van 9 juni, volgens mij. Peet, heb jij hem gelezen? Wat vond je ervan?
Peter Slagter: Nee, dat rapport heb ik niet gelezen, nee.
Bart Mol: Nou, dat is mooi, want we gaan het hier eventjes nog bespreken, want het was, ja, ik vond het best wel dubbel. En dat komt omdat in het rapport Europe 2031 wordt best wel een doemscenario als het gaat om AI en de ontwikkelingen in AI voor Europa besproken. En ik vind dat altijd zelf wel lastig, aangezien ik zelf een Europeaan ben en aan het einde van dit rapport je toch een beetje in de put gepraat wordt, ja, omdat we echt tussen wal en schip zijn geraakt. En de wal is dan Amerika en het schip is China en eigenlijk komen we er niet meer echt tussenuit. We komen niet het schip op en ook niet de wal op, in ieder geval niet met droge kleren, om het zo maar te zeggen. Zoals gezegd, het is dus een scenario en het leuke is dat het echt wel gemaakt is om te lezen. Dus waar je vaak nog wel onderzoeken ziet waarvan je denkt: ja, als je wil dat iemand dit leest, zou je het een keer wat leuker op moeten schrijven. Nou, dat hebben ze hier gedaan. Het is een scenario dat beschreven wordt vanuit de blik van twee personen.
Bart Mol: Eigenlijk vanuit het personage Caroline Dubois. Dat is een Franse mevrouw. Die werkt in Brussel bij de Europese Commissie, volgens mij. Daar begint ze bijna soort van als stagiair en daar werkt ze zich gedurende het scenario ook wat verder omhoog. En aan de andere kant hebben we een Duitser. Dat is een vriend van Caroline en dat is Christian Vogt en dat is een, ja, soort Adriaan Mol eigenlijk, beetje. Die heeft een AI-bedrijf gestart en die zijn net naar Silicon Valley verhuisd met zijn Duitse bedrijf, omdat daar gewoon het geld te halen is. Daar gebeurt het, dus hij is vanuit Europa vertrokken naar Silicon Valley. Dat heeft Christian of meneer Mol natuurlijk niet gedaan, maar het is wel zo'n soort founder. Jonge gast, technisch, veel op Twitter, veel met dingen bezig en ook nog wel allebei Europeanen. Dat merk je ook wel in het stuk. Het scenario begint in 2025 en je moet het zo zien: het eerste gedeelte van het scenario is de realiteit.
Bart Mol: Ze hebben een soort van, ja, ze kijken gewoon terug naar hoe het gegaan is de afgelopen tijd. Dat is best wel interessant, want daardoor raak je een beetje gewend aan hoe het verteld wordt. En dat gaat eigenlijk dan, ja, tot nu, ja, volgens mij maart 2026 gaat dat door, dus dat is dan 15 maanden ongeveer en daarna gaan ze vooruitblikken. En dat doen ze vijf jaar in de toekomst, tot aan 2031. En dan werken ze eigenlijk voort op wat we nu weten en wat er nu gebeurd is. Ja, en de vraag is: hoe staat Europa er aan het einde voor in 2031? Nou ja, het antwoord in dit geval in dit scenario is slecht. We hebben eigenlijk geen eigen AI capability. We hebben geen frontier modellen zoals dat heet. We hebben geen Mythos 5 in Europa of ChatGPT 5.6 Pro. Dat is ons niet gelukt. We hebben eigenlijk ook geen toegang meer tot de frontier modellen van Amerika en China, hè, dus die hebben de toegang ontzegd. Wat je nu natuurlijk een beetje met Mythos en Fable zag gebeuren. En we hebben eigenlijk ook bijna geen datacenters, bijna geen compute en we hebben eigenlijk ook niet meegedaan op het gebied van humanoids en robotics, hè.
Bart Mol: Die taart gaat eigenlijk volledig naar China in het scenario. Het enige wat we hebben is ASML en dat is ook de enige reden waarom Nederland in dit scenario er nog enigszins bekaaid vanaf komt, ten opzichte van de rest van Europa. De EU zit dus eigenlijk vast tussen twee reuzen: de VS met hun frontier AI models en China met robotics. Wat ze eigenlijk zeggen, want daar blikken ze dus ook op terug. Wat hadden we nou moeten doen, hè? Wat komt er nou terug? Caroline, die blikt aan het einde terug van: wat hadden we nou kunnen doen? Nou ja, in ieder geval deze trend serieus nemen in plaats van het weg te zetten als bubbel en te zeggen: het komt allemaal wel goed. De open source modellen gaan ons wel redden. Ze zeggen ook: we moeten bouwen als een land in oorlog. Dat is natuurlijk best wel serieus. Dat is echt covid-stijl interventie van de overheid vragen zij om. Het gaat om het behouden van talent, het maken van datacenters, misschien eigen chip production, het maken van eigen modellen, maar in ieder geval zo snel mogelijk door middel van datacenters die modellen van Amerika hier in Europa grounden.
Bart Mol: Dat ze eigenlijk niet zonder ons kunnen omdat we dus veel datacenters hebben, Bert.
Bert Slagter: Ja, dus oorlogsstijl, dat betekent dat je de regels die je normaal hanteert even tijdelijk aan de kant zet. Bijvoorbeeld regels over mededinging en staatssteun. En weet je, het moet gewoon nu gebeuren. Klaar, dat idee.
Bart Mol: Ja, en ook de budgetten die normaal gesproken klaarstaan hiervoor. Dit is echt, ja, Lagarde mag de knip gaan trekken. Er moet echt gewoon weer geleend en gefinancierd worden. Ja, wat zeggen ze ook nog? Wat ik ook interessant vind. Ja, ga op zoek naar een coalitie van middenmachten. Dus een aantal Europese landen, hè, Duitsland. Veel fabrieken, autofabrieken die je om kan bouwen tot robotfabrieken. Nederland met ASML. Ja, ga eens bij Zuid-Korea kijken. Ga eens naar Japan. Dat zijn ook allemaal landen die wel iets te bieden hebben, maar geen machtsblok zijn zoals de VS en China dat wel zijn. Maar niet alle landen van de EU, want dan heb je weer die bureaucratische, logge machine. Ja, dat is een beetje het scenario. Ja, wat ik er goed aan vond: het leest heel goed weg en daardoor, ja, het is echt wel even 2 uur lezen, een uurtje lezen, maar het is wel leuk om te lezen. Het is bijna sciencefiction, daarom voelt het ook echt als een wake-upcall. Ik geloof best wel dat beleidsmakers in Europa dit gaan lezen en zeggen: zo, hier, hier moeten we wat mee.
Bart Mol: Dus het slaat wel even een spijker, zeg maar, in de grond. Ja, dus, it drives the point home, zeg maar, zou je kunnen zeggen. Dus dat vond ik heel erg goed. Wat ik er iets minder aan vind, en als je de interviews met de schrijvers leest en hoort, dan komt het ook wel terug. Maar dat zeggen ze niet in dit stuk en dat vind ik jammer. Het is wel echt één scenario. En normaal gesproken als je in scenario's denkt, dan schets je ook even de andere scenario's en dan zeg je van: ja, dit scenario geef ik 10% kans, dit scenario 50% kans, dit scenario 20. En dat doen ze niet echt. Want als je naar dit scenario kijkt, eigenlijk bij elke vertakking in het verhaal, elke keer dat er een keuze gemaakt moet worden, ja, voert Amerika en China, dat pakt perfect uit wat ze doen en alles wat Europa doet is gewoon, ja, fout. En ik snap dat dat in dit scenario past. Maar ja, goed, het zou denk ik goed zijn om het wel in een waaier van scenario's te zetten. Aan de andere kant, als je natuurlijk gewoon wil dat er over gepraat wordt en even dat er mensen wakker geschud worden, is dit wel het scenario wat je moet kiezen.
Bert Slagter: Ja, to be fair, hè, dit is niet de worst case, dus dit is niet de uiterste linker staart van de waarschijnlijkheidsverdeling. Het is zeg maar gewoon de linkerhelft of zo, hè. Dus waar het grofweg in ons nadeel uitpakt. En ik vind hem wel fair wat dat betreft. Het is niet een soort van extreem doemscenario. Het is wel realistisch. Het is wel plausibel. Er zit wel een aardige waarschijnlijkheid op. Een beetje te vergelijken met dat Citrini-rapport. Ik geloof, dat was in januari of zo.
Bart Mol: Ja.
Bert Slagter: Die schreef ook zo'n scenario waarvan je kon zeggen: ja, dit is wel maar één scenario. Maar het was wel een plausibel scenario.
Bart Mol: Nee, dat is op zich waar. Maar ik vond bijvoorbeeld, om één specifiek voorbeeld te geven, dat het rapport iets te makkelijk heen stapte over de sociale onrust in Amerika. Weet je, daar was een beetje helikoptergeld en wat voedselbonnen en dan was dat allemaal wel weer rustig. Terwijl je toch nu al wel ziet dat er in Amerika onder de bevolking best wel een anti-AI-gevoel, zeg maar, een beetje opkomt. Maar goed, ga het vooral lezen. Linkje staat in de shownotes. We hebben er ook een klein fragmentje van, want we willen hier nog even over doorpraten, Bert. Ik ga hem aanzetten en dan kun jij hem daarna oppakken. Want er gebeurden deze week ook al een paar dingen die nog niet in het scenario staan, maar er ook weer wel in staan. Dus dingen die ze enigszins voorspeld hadden. Ik heb hier Michiel Bakker volgens mij. Dat is een Nederlander die in Amerika professor is volgens mij op MIT. Die werkt ook bij Google DeepMind en die heeft meegeschreven en die was dus bij Nieuwsuur te gast.
Gast: En wat wij zeggen is: als die ontwikkelingen doorgaan, niet per se harder gaan, niet per se langzamer gaan, maar gewoon op dezelfde manier doorgaan
Bert Slagter: Dan krijg je eigenlijk steeds meer afhankelijkheid van AI. En als je steeds meer afhankelijkheid van AI krijgt, dan krijg je dus in Europa steeds meer afhankelijkheid van Amerika
Bart Mol: Van Amerikaanse bedrijven. En wat is daar het gevolg van? Het gevaar van?
Bert Slagter: Ja, dat is een mooie vraag om mee af te sluiten. Wat is daar nou het gevaar van?
Bart Mol: Ja, precies.
Bert Slagter: Steeds meer afhankelijkheid van Amerika. En, ja, dat. We gaan het zo even hebben over GPT-5.6 en over Claude Fable-5. En daar speelt deze vraag een belangrijke rol. Kijk, denk je, je had het net even over van, ja, je hoopt dat Europese beleidsmakers in beweging komen. Dat mensen dit gaan lezen. Nou, dat is dus bij Jeroen Wollaars van Nieuwsuur gelukt. Die las het en die dacht: hé, hier moeten we wat mee. In dezelfde week schreef ook, hoe heet ie? Rutger
Bart Mol: Bregman.
Bert Slagter: Bregman even een stuk en op zo'n blog waarin hij het had over, ja, rechts was klimaatontkenners en links is AI-ontkenners. Waarmee hij eigenlijk zegt van: ja, je zet het weg als een hype, als iets tijdelijks, als iets slechts, als een bubbel, als leeg, als een domme papegaai die alleen maar nakweekt. En door het te ontkennen ga je er ook niet op handelen. En die passen wel een soort als puzzelstukjes in elkaar. En, ja, in het stuk was het, in het scenario was het nog een soort van hypothese. Jij zei net 2028 voor de show, Bart, hè, dat ze daar iets gingen verbieden, toch? In dat scenario.
Bart Mol: Export controles op frontier models hadden ze 2028 gezegd inderdaad.
Bert Slagter: Ja, nou, dat is dus in 2026 gebeurd, namelijk in juni.
Bart Mol: Ja, een dag nadat ze dat rapport hadden.
Bert Slagter: Ja.
Bart Mol: Ja, 9 juni rapport, 10 juni Fable verboden. Ja.
Bert Slagter: Ja, toen, hè, dus export controls. Dat betekent, hè, dat het een beetje geklasseerd is uit de categorie: het is een wapen. Het valt in de categorie van wapens. En dan mag je dat wel exporteren, maar alleen maar onder heel specifieke omstandigheden, naar heel specifieke landen. Niet de beste technologie, maar de een na beste. Weet je, allemaal van dat soort regels. Om ervoor te zorgen dat, ja, de Verenigde Staten voor blijft lopen. Dat is het verhaal. Dus het wordt ineens een geopolitiek vraagstuk. Nou, dat was met Fable en dat was, datzelfde regime, daar viel ook GPT-5.6 onder. Dat is het nieuwste model van OpenAI. Die is afgelopen week gepresenteerd, met drie varianten: Sol, Terra en Luna. Hè, zon, aarde en maan. Dat zijn de namen die die drie varianten hebben. De grootste, de middelste en de kleinste. Zo kun je het een beetje zien. En daarvan, die zijn blijkbaar ook zo goed dat de Amerikaanse overheid zegt: ja, kom eerst maar even langs het loket, dan gaan we eerst even kijken wat we ervan vinden.
Bert Slagter: Of we vinden dat het veilig genoeg is. Dat bepaalde dingen die wij, uniek, voor ons uniek moeten blijven, dat hij die niet zomaar weggeeft. Allemaal dat soort zaken. Dus we hebben nu N is twee, hè. Het was eerst bij Fable, kon je nog afvragen: is dit een incident? Is het een eenmalig iets? Is het een soort paniekreactie geweest van de overheid? Hè, omdat, ja, weet je, die Dario Amodei heeft natuurlijk, de CEO van Anthropic, die heeft maanden en maanden geroepen: oh, we zijn een wapen, een kernwapen aan het ontwikkelen. Ja, moet je niet gek van opkijken. Dat als er dan wat is, dat de overheid dan in een soort reflex zegt: even, even pauze. Hè, maar dat ze dan er dieper over nadenken en zeggen: oké, dit was eenmalig, ga maar verder. Maar blijkbaar is het vanaf nu de regel geworden. Het beste model moet langs de overheid en dan gaan wij kijken. Hè, dus dat gold ook voor GPT-5.6, geldt er nu nog steeds voor. En dat heeft, hè, ik bedoel, even terug naar het fragmentje.
Bert Slagter: Wat is daar het gevaar van, van de Amerikaanse overheid? Nou, dat betekent dus dat de combinatie van het bedrijf en het land, in dit geval Amerika, die bepalen: wie heeft er toegang? Welke vragen mag je stellen? Dat zijn ze namelijk ook aan het bepalen, hè. Waar mag het wel en waar mag niet over gaan? Hoe moeten die guardrails ingericht zijn? En wat zijn de kosten? Dat bepalen de bedrijven hoofdzakelijk. Het kan ook zijn dat Amerika zegt van: joh, het is goedkoper voor Amerikanen dan voor buitenlanders. Dat soort dingen zijn natuurlijk ook mogelijk. Hè, dus die drie vragen, die vallen ineens buiten jouw invloedssfeer. Als Nederlander, als Europeaan, als Japanner, als Zuid-Koreaan. Om maar even die coalitie van Bart te gebruiken. En, heel interessant, hè, dat dat nu heel zichtbaar wordt. En het punt is: stel dat je die drie vragen stelt, hè, wie heeft er toegang? Welke vragen mag je stellen? Wat zijn de kosten? En stel dat je tevreden bent met de antwoorden op die vragen. Ik heb toegang. Ik mag de vragen stellen die ik wil stellen en ik vind het prima te betalen.
Bert Slagter: Het punt is: het kan morgen anders zijn, want de beslissing, de soevereiniteit, die ligt bij Amerika en niet bij ons. Zij zijn de hond, wij zijn de staart. Zij kwispelen, gaan wij heen en weer en niet andersom. En dat is nu, heel zichtbaar geworden. Oké, en tegelijkertijd hebben we natuurlijk ook geconstateerd vorige week in het stuk over GLM 5.2 dat open-source modellen inmiddels bijna even goed zijn als, ja, die topmodellen van Amerikaanse huizen. Die ook nog eens elke keer wat later komen omdat ze vertraagd worden door de overheid. En dat is een interessant punt, hè, van, ook even naar het scenario weer van Europe 2031. Is dit dan het punt waarop, is dit het keerpunt, hè, in dat scenario? Is Europa nu wakker geschud? We zijn, hè, dat punt van die export controls is twee jaar eerder dan in het scenario. Is dit, hè, zijn we nu, is er nog genoeg urgentie om nu te zeggen: oké, nu moeten we wat. En dan op een moment dat open source niet eens zoveel achterloopt.
Bert Slagter: Het is wel een gunstig moment om eventueel wat te doen als je dan wat wil doen.
Bart Mol: Ja, het grappige is, in dat scenario bespreken ze ook het DeepSeek-moment van 2025. En ze grijpen dat eigenlijk aan om juist te zeggen dat Europa het tegenovergestelde doet. Want ze zeggen: oooh, die open source modellen, die lopen eigenlijk, maar die zijn eigenlijk net zo goed als de frontier modellen, dus we gebruiken gewoon die en dan hoeven we eigenlijk zelf niet zoveel meer te doen.
Bert Slagter: En daar is op zichzelf wat voor te zeggen. Alleen, hè, dus wat je dan niet hoeft te hebben is per se een model wat van jou is, hè. Want als je een open source, open weights model met een permissive license hebt, dan kan dat altijd jouw startpunt zijn.
Bart Mol: Ja.
Bert Slagter: Alleen wat je dan alsnog moet bouwen zijn AI-labs waar mensen werken die er verstand van hebben en die daar eventueel mee verder kunnen gaan. En compute en datacenters.
Bart Mol: Ja.
Bert Slagter: Dus die zul je, ook als je niet per se zelf die modellen maakt of frontier modellen hebt, zul je dat wel moeten gaan regelen. Dus hoe dan ook, in elke situatie is het verstandig om die dingen in ieder geval wel te gaan bouwen.
Bart Mol: Ja, zeker. Ja, wat grappig is, in het scenario staat, ja kom, zo het scenario wat ze geschreven hebben valt of staat een beetje met de vraag: blijven de frontier models zich met dezelfde snelheid verbeteren als waarmee ze de afgelopen jaren gedaan hebben? Hoeveel beter kan het nog? Kunnen modellen zichzelf gaan trainen, hè, recursive models om nog sneller, nog slimmer te worden.
Bert Slagter: Recursive self-improvement.
Bart Mol: Ja, precies. Want dan komt er een vraag bij jou bij. En naast wie heeft toegang, wie, welke vragen mag je stellen en wat zijn de kosten? Gewoon, hoe goed zijn de antwoorden? Wat is de kwaliteit van antwoorden? En als die natuurlijk veel beter is bij die gesloten modellen, dan kan het antwoord op de eerste vragen gewoon niet helemaal relaxed zijn. Maar dan moet je alsnog het frontier model gebruiken. Die Michiel de Witte heeft bijvoorbeeld-
Bert Slagter: Exact.
Bart Mol: Of sorry, die, nee, dus Pim de Witte en Michiel. Nou in ieder geval die jongen van Google DeepMind die bij Nieuwsuur zat. Die hadden het bijvoorbeeld over gewoon research. Bij wetenschappelijk onderzoek, dan wil je gewoon een frontier model hebben. Nou goed, daar kan je het over hebben. Je kan sowieso het hebben over de vraag: blijven die frontier models zich met dezelfde snelheid verbeteren? En hoe ver loopt open source achter? Want we hadden GLM 5.2, waren opeens weer best wel dichtbij. Maar je hebt het net over GPT 5.6, hè, dat is een wel weer een nieuwe stap, aldus OpenAI zelf. En wat ik vanochtend langs zag komen is dat wij vanaf vandaag weer toegang hebben tot Fable 5. Dat is een beetje het afgeschermde broertje van Mythos 5 en dat is het nieuwe frontier model van Anthropic, die toch wel weer, ja, ook gewoon een stuk beter is dan hun vorige modellen en ook dan GLM 5.2. Daarover gesproken, die jailbreak waardoor ze eventjes hebben moeten, ja, waardoor ze teruggefloten werden door de overheid, wat Bert net aangaf.
Bart Mol: Ja, die hebben ze opgelost, zeggen ze, voor zover dat kan. Ze zeggen eigenlijk twee dingen: die jailbreak. Ja, dat was niet echt een jailbreak, want, ja, Mythos of Fable gaf gewoon antwoord op een vraag waar GPT 5.5, Opus 4.8, Grok, GLM, Minimax, Qwen. Elk model gaf daar hetzelfde antwoord op. Dus ja, het was een soort bug die je kon maken. Of een soort hack of whatever. Alleen, ja, dat had niet zoveel met de super capabilities van Mythos te maken. Maar zeggen ze: we hebben het wel opgelost, en ze hebben eigenlijk de safeguards nog wat verder naar het veilige getrokken. Dus wat je krijgt, ze hebben een buffer en in die buffer zitten vragen die eigenlijk prima zijn, maar wel teruggekaatst worden. En die buffer hebben ze groter gemaakt. En nu de grote vraag op X, hè, onder mensen die het willen gaan proberen: hoe vaak word ik teruggefloten? Is dit nog wel bruikbaar? Nou, dat kunnen we je volgende week vertellen, want we gaan het uitgebreid uitproberen omdat het per vandaag dus weer in alle abonnementjes van Anthropic zit.
Bart Mol: In ieder geval in de Max en Pro-abonnementen. Wat gaan ze verder doen met de overheid? Nou ja, dat is interessant, Bert. Ze gaan dedicated research, rapid information sharing als er een breach is gevonden, dus als er weer zo'n jailbreak is en nog wat andere dingen. Maar veruit het belangrijkste is: bij nieuwe frontier modellen zeggen ze, ja: pre-release government access and evaluation. Dus ja, de overheid krijgt gewoon als eerste toegang tot zo'n model en mogen dan gaan zeggen of het veilig is ja of nee. Dat is wel, dat is wel even een bevestiging van wat we-
Bert Slagter: Dat eigenlijk al, hè.
Bart Mol: Ja, precies.
Bert Slagter: Met Mythos, met Mythos. Die was natuurlijk ook maanden van tevoren al beschikbaar voor overheid, overheidsorganisaties. De vraag is natuurlijk of de overheid hier iets zinnigs over kan zeggen. Of de overheid zelf de expertise heeft om hier een goed antwoord op te formuleren. Beter dan Anthropic zelf. Dus ja, goed, het is ook de vraag of dit nu security theater is of het toneel is, of dat er hier daadwerkelijk-
Bart Mol: Dat heeft het wel, hoor.
Bert Slagter: Wat zei je, Peter?
Peter Slagter: Ja, dat heeft het wel. Is eigenlijk, wat dit vooral allemaal aantoont, is dat het Witte Huis een enorm harde, grote, dikke eigen goal gemaakt heeft. Gewoon echt gewoon van, op de penaltystip gelegd en hem vol in het net gejast. Dat hebben ze gedaan. Eigenlijk zegt Anthropic in hun persbericht van: nou, weet je, er was eigenlijk met dit specifieke model niet zoveel aan de hand. Ja, wat er gebeurde, dat kon in principe ook met heel veel andere modellen. We letten al heel goed op veiligheid. Er is al een groep in de overheid en die heet de US Department of Commerce Center for AI Standards Innovation, waar slimme mensen, goede wetenschappers zitten, die het al met ons eens waren. Hè, dus vanuit de overheid was er eigenlijk allemaal geen reden om aan de bel te trekken. En toch heeft het Witte Huis, en dat is dus niet het expertisecentrum voor dit soort vraagstukken, gezegd: hè, jongens, gooi er een exportcontrole bovenop. En dus eigenlijk, het werkte zoals het zou moeten werken.
Peter Slagter: Er was al contact en een patroon en een structuur om met de Amerikaanse overheid te interacteren over de veiligheid van nieuwe modellen. En toch heeft het Witte Huis gezegd: hé, we trappen toch eens even vol op de rem. Ja, waarmee ze natuurlijk iets in gang hebben gezet dat ze niet meer terug kunnen draaien. Dat is het stomme.
Bert Slagter: Precies.
Peter Slagter: Die beslissing, die heeft, ja, die heeft iets veroorzaakt dat ze niet meer even met een persbericht kunnen terugdraaien. Ja, en.
Bert Slagter: Maar wat heeft het dan in gang gezet?
Peter Slagter: Nou, het hele idee dat je dus afhankelijk bent van een staat voor toegang tot bepaalde modellen, hè. Dus de vanzelfsprekendheid van toegang tot een model die is weggevallen.
Bert Slagter: Ja, dit is, dit is-
Peter Slagter: Dus het idee dat je een bedrijf kunt bouwen op iets nieuws of überhaupt op modellen die vanuit de VS worden geproduceerd. Ja, daar is best wel een bommetje onder gelegd.
Bert Slagter: Ja, dit is eenzelfde soort kwetsbaarheid als het hebben van de wereldreservemunt en dit is de dollar en dat was daarvoor, aan het begin van de 20e eeuw het Britse pond en ooit was het de Nederlandse gulden ook nog. Het hebben van de wereldreservemunt is een groot voorrecht voor een land, maar heeft ook bepaalde verantwoordelijkheden brengt het met zich mee, hè. Dus je hebt de dollar als reservemunt en je hebt de Amerikaanse staatsobligaties als reserve asset. Ja, op het moment dat jij op een gegeven moment zegt, dus heel de wereld heeft die Amerikaanse staatsobligaties in de kluis van de centrale banken liggen als valutareserve. Als jij op enig moment als uitbrenger van de wereldreservemunt die staatsobligaties gaat bevriezen, ja, dan is vanaf dat moment met een soort van bepaalde omkeerbaarheid, jouw munt niet meer echt geschikt als wereldreservemunt. Hè, je moet, hoe lastig dat ook is, hoeveel je de ander ook haat, jouw wereldreservemunt eigenlijk een bepaalde neutraliteit laten hebben. En dat was het punt in 2022, hè, toen dat bij Rusland gebeurde.
Bert Slagter: Amerika die bevroor de Russische valutareserves. Ja, en dat was het punt dat gewoon heel veel landen en organisaties zijn gaan kijken van: moeten wij nog wel zo afhankelijk zijn van de dollar als we dat de afgelopen 50 jaar waren? Ja, dat is een beetje, dat is een bepaalde padafhankelijkheid. Dat is gebeurd. Hè, zoals maïs popcorn wordt. Dat wordt niet meer weer maïs door te laten afkoelen. Ja, hè.
Peter Slagter: Aan de andere kant zijn we vier jaar verder en het is nog steeds de wereldreservemunt.
Bert Slagter: Nou, er zijn, dus als je in allerlei grafieken zie je een knik op dat punt.
Peter Slagter: Nee, tuurlijk.
Bert Slagter: Bijvoorbeeld dat de staatsobligaties worden ingeruild voor goud, hè, bij centrale banken. Zijn allerlei overheidsinstanties en centrale banken die zichzelf expliciet en actief minder afhankelijk van de Amerikaanse dollar aan het maken zijn.
Peter Slagter: Nee, klopt. Alleen zeg maar popcorn en maïs is nogal binair. En dit-
Bert Slagter: En plotseling. Ja, dat klopt.
Peter Slagter: Maar, zeg maar, m'n punt is meer dat, zeg maar, zolang Anthropic modellen blijft maken die veel beter zijn dan de rest, kunnen we het wel een vervelend bedrijf vinden met veel risico's met de Amerikaanse overheid, maar zijn we toch afhankelijk, zeg maar. Dat-
Bert Slagter: Nee, zeker. Dus zo'n centrale bank, die kan ook niet in één keer in één dag alle afhankelijkheid van de dollar afbouwen. Alleen het is wel de categorie: als je het één keer hebt gezien, kun je het niet meer ontzien.
Peter Slagter: Nee, dat is waar.
Bert Slagter: Hè, en dat geldt hiervoor ook. Nu is voor iedereen in de wereld, voor zover je er nog niet van bewust was, zichtbaar geworden: AI is een geopolitiek vraagstuk. Het is een geo-economisch schaakbord waar we allemaal op aan het spelen zijn, of je het nou wil of niet. Je kunt ook zeggen: ik doe niet mee, dat is prima, maar dan word je binnen de kortste keren schaakmat gezet. Want je bent nu eenmaal onderdeel van het spel.
Peter Slagter: Dus ook intern de politiek, gewoon nationaal. Want in feite, ik lees dit persbericht eigenlijk als, ja, hele politiek correcte manier om het Witte Huis even terug te duwen. Joh, hou je even bezig met de dingen waar je verstand van hebt. Hier heb ik geen verstand van.
Bert Slagter: Ja.
Peter Slagter: Het delen van informatie, het evalueren van ideeën, dat deden we al. Hè, het delen van informatie met mensen die er verstand van hebben bij de overheid deden we al. En mensen hier specifiek voor aan het werk zetten binnen ons eigen bedrijf en ook binnen de overheid was al gebeurd. Kijk, dat ze met de hele industrie een soort van lat gaan leggen. Ik zie in de shownotes een common industry bar. Dat is wel nieuw volgens mij en dat is denk ik goed. Maar ja, dat is, ja, weet je dat an sich is natuurlijk, dat is meer een soort van bijkomende vrucht van de gebeurtenis. Ja, dat is dan dat het iets is waar het Witte Huis op gehoopt had. Die hebben daar gewoon echt dik gefaald, denk ik.
Bert Slagter: Ja, inderdaad. En ze hebben zich misschien wel voor het karretje laten spannen van Anthropic, hè, want dat is ook een uitleg dat Anthropic nu in aanloop naar een beursgang zichzelf zo belangrijk en waardevol mogelijk wil maken. En dat ze op deze manier willen laten zien, hè, doordat het Witte Huis zegt: dit is zo'n ongelooflijk goed model, we moeten het van de markt halen. Dat ze daarmee dat doen en dat ze daarmee on the fly de glazen van de VS en dus de Amerikaanse AI-industrie een heel klein beetje ingegooid hebben. Maar met Bart eens. Het is geen popcornmoment in de zin van dat op de ene op de andere dag alles anders is. Maar ja, weet je, het stuk van Rutger Bregman, dat Europe 2031, dat dit besproken wordt. Ik denk dat er wel landen nu meer urgentie zien voor het in actie komen, om in ieder geval zelf iets te gaan opbouwen van AI-labs, van talent pools, van infrastructuur. En we zien ook wel dat er langzaam wat, ja, verbreding komt, hè. Het was natuurlijk allemaal heel simpel. Je hebt ASML voor lithografie, je hebt Nvidia, die maakt de chips en je hebt een paar grote Amerikaanse huizen.
Bert Slagter: That's it. En je ziet die Chinese modellen even groot worden. Je ziet dat er andere chips gebruikt worden. OpenAI die liet deze week weten dat ze samen met Broadcom een nieuwe chip hebben ontwikkeld en gaan in gebruik nemen. Geoptimaliseerd specifiek voor inference, hè, dus voor het gebruik van het model, niet het trainen, maar het gebruiken. Jalapeño heet die geloof ik, die chip. Dus dat is wel weer leuk. Pittig naampje. Zuid-Korea, die heeft 880 miljard, Bart, klopt dat echt? 880 miljard.
Peter Slagter: Ja, ik zie dat je, klik de link maar aan. Het was gewoon voor mij een Reuters linkje.
Bert Slagter: 880 miljard dollar. Een AI Investment Plan. Kijk, dat zijn getallen, daar kun je wat mee. En zo, ja, zo zie je dat er op allerlei gebieden, dat er nu beweging is. En het is natuurlijk niet een direct oorzaak en gevolg van het hele Fable Mythos verhaal, maar ik denk wel dat dit, ja, een knikje in de lijn zou kunnen zijn, omdat duidelijk is: ja, je bent nu eenmaal of je het leuk vindt of niet, onderdeel van het schaakspel.
Bart Mol: En er gebeurde wat in Nederland. Dat vind ik dan nog wel leuk om even te noemen. General Intuition van Pim de Witte. Die hebben 320 miljoen dollar opgehaald, worden tegen een waardering van 2.3 miljard. Wel heel veel Amerikaans geld. Pim zelf zit volgens mij in New York. Hij was ook in dat Nieuwsuur fragment zat ie. Ja, wel een interessante gozer, omdat hij zichzelf wel heel erg, nog steeds wel identificeert, zeg maar, die Duitser in dat stuk, die zegt echt van: ja, ik zit nu in Amerika en ja, ik heb nog wel wat met Europa, maar het is meer een soort van emotionele, nog een randje emotionele binding. Maar ja, jullie moeten het maar redden zelf. En Pim die zegt van: joh, ik ben een Nederlands bedrijf en dat blijven we en we gaan Europa op de kaart zetten. En dat vind ik wel de energie dat ik denk van: nou, dat is precies waarom gevraagd werd in dat stuk, denk ik. Nou vet, dat is leuk om dat even wat aandacht te geven. Ze maken een world model. Dat is, ze zijn dus een frontier lab ook, hè, dus ze maken hun eigen model.
Bart Mol: Heel erg vet. Is weer wat anders dan een LLM. Gaan we het nog wel een keer over hebben. Maar, ja, check even het linkje in de shownotes, dan kan je de informatie vinden. En als je daar meer over wil weten moet je dat even verder nalezen, want wij gaan door met een luisteraarsvraag. Ja, want we kregen de volgende vraag: het enige wat ik nog niet begrijp: wat zijn tokens en wat kun je ermee? Zijn dat cryptotokens die je naar een wallet stuurt? Nou, dat laatste durf ik al wel even te beantwoorden. Nee, dit heeft niks met cryptotokens te maken, dus dat gedeelte van de vraag kunnen we alvast eraf snijden en naar de prullenbak gooien. Maar het eerste gedeelte van de vraag is denk ik wel heel interessant. Want als je met ChatGPT of met Claude werkt, dan ga je vroeg of laat met tokens te maken krijgen. Ja, de vraag is: wat zijn dat nou? Waarvoor is het interessant? Nou, ten eerste je context venster, hè, de hoeveelheid tekst die je in je vraag kan dumpen naar een AI.
Bart Mol: Hoe lang je door kan praten met een AI voordat hij ermee stopt? Voordat hij dom wordt? Ja, dat wordt gemeten aan de hand van het aantal tokens dat je daarin hebt zitten. Je ziet vaak bijvoorbeeld een 1 miljoen token context window, maar ook de kosten worden gemeten aan de hand van tokens. Dus als je naar API-prijzen kijkt, dan zie je vaak dat er input tokens zijn. Die hebben een bepaalde prijs en output tokens, die hebben een bepaalde prijs en daar betaal je voor. Dus hoe langer je antwoord of hoe vaker je het gebruikt, hoe meer tokens je gebruikt en hoe meer kosten dat met zich meebrengt. Maar ook de prestaties worden soms weer gemeten in tokens. Want het ene token van het ene model is het andere weer niet. En een token in Opus is duurder dan een token in Haiku, om maar eens wat te noemen. Of in een kleiner model. Dus dat is hoe je er praktisch mee te maken krijgt. Het is een soort meeteenheid om kosten aan te kunnen verbinden. Maar ja, je raadt het al, er zit natuurlijk veel meer achter. Bert, jij bent erin gedoken en ik ben wel benieuwd of jij ons mee kan nemen in de diepere uitleg van wat tokens in AI nou precies zijn.
Bert Slagter: Ja, wel leuk. Ik zat even naar je te luisteren. Ik stelde de vraag hier thuis aan tafel ook gisteren. Toen kreeg ik ook een antwoord van: ja, dat is toch zoiets van zo'n muntje waar je mee kunt betalen. En ik kreeg ook toen jij het verhaal vertelde een soort van douchemuntjes idee.
Bart Mol: Ja.
Bert Slagter: Of festivalmuntjes.
Bart Mol: Ja.
Bert Slagter: Je moet muntjes kopen en daarmee betaal je het model. Ik zei, had gisteren even opgezocht: GPT 5.5 van OpenAI. Als je die via de API gebruikt dan kost het $5 per miljoen input tokens en $30 per miljoen output tokens. Ja, dat klinkt wel een beetje alsof je muntjes koopt, hè, en ze dan gebruikt. Maar dat is het niet. Dat is wel, laten we eens even bij de simpelste uitleg beginnen. Een token is een woord of een stukje van een woord. Spaties, leestekens en speciale karakters zijn dan onderdeel van een token of krijgen een eigen token. De tekst die jij naar een AI-systeem stuurt, die je instuurt, die wordt eerst vertaald naar een reeks tokens. En die tokens, die gaan dan het model in. Dus de tokens, daarom heet het ook input tokens en output tokens. De tokens is eigenlijk de taal van het model, hè. Dus jouw tekst, dat zijn allemaal woorden en die woorden, hè, die zinnen, laat ik maar zo zeggen.
Bert Slagter: Of jouw paragraaf, die wordt opgesplitst in hele kleine stukjes. En die kleine stukjes zijn tokens. In de moderne modellen, die hebben vaak een woordenboek van zo'n 100.000 tot 200.000 verschillende tokens en daar zitten alle talen in. Engels, Nederlands, Frans, maar ook Chinees en Zuid-Koreaans en noem maar op. En programmeertalen om maar wat te noemen. Elk token heeft een volgnummer, een ID en je zou je eens kunnen voorstellen nummertje één is de, nummertje twee is het, nummertje drie is een. Niet echt natuurlijk, hè, maar zo zou het kunnen zijn. Je kunt overigens die woordenlijsten gewoon online vinden en dan kan je op GitHub staat bijvoorbeeld de tokenlijst van Mistral, het Franse model, en dan kan je gewoon zien wat één, twee, drie, vier, vijf tot en met, weet ik veel, 30.000 is. Dus jouw tekst wordt eerst opgedeeld in tokens of eigenlijk vertaald naar tokens, naar een lange lijst tokens en die gaat het model in.
Bert Slagter: Wat de eerste stap, wat daar gaat gebeuren is dat er per token-ID wordt er in de grootste tabel iets opgezocht, namelijk een grote vector met bijvoorbeeld 8.000 getallen. Hoeveel getallen dat zijn verschilt per model. Dat is onderdeel van de eigenschappen van een model. Soms 4.000, soms 8.000 of 12.000 verschillende getallen. Die horen bij één token. Dat zijn in dit geval, ik hou even 8.000 aan. Dat zijn de 8.000 dimensies van het model. Dimensies mag je best zien als de x en de y op een x- en y-as. Alleen dan, dat zijn twee dimensies en als je een kubus hebt heb je ook nog een z-as. Dan heb je drie dimensies, 3D. We hebben het hier over 8.000D. 8.000 dimensies van het model en op elke dimensie van het model krijgt een token een waarde. Elk token begint zijn reis door het model heen als een punt in een 8.000 dimensionale ruimte. En in die ruimte zijn er richtingen. De richting: heeft het iets te maken met kleuren?
Bert Slagter: De richting Nederlandstaligheid, de richting lidwoordachtig. In die ruimte zullen blauw en blue dicht bij elkaar liggen. Maar blauw scoort hoog op Nederlandstaligheid en blue scoort hoog op Engelstaligheid. Dus op verschillende richtingen in die ruimte, zullen woorden een plekje krijgen. Ook Belastingdienst en politie. Die zullen bij ons iets blauws krijgen, maar in Engeland misschien wel niet, hè. Dus het Engelse woord police heeft misschien helemaal niks met blue te maken. Dus dat gaat verschillen. Die vector met die 8.000-
Bart Mol: Ja, even Bert, vanwege dus blauw op straat, blauwe brieven, dat soort geintjes.
Bert Slagter: Ja.
Bart Mol: Ja, precies. Ja.
Bert Slagter: Ja, ik ging ervan uit dat helaas-
Bart Mol: Ja, ja, ik dacht-
Bert Slagter: Ook wel eens een stapel blauwe brieven.
Bart Mol: Voor de mensen die aan hun tak zitten, zoals ik, is het goed om dat even te borgen. Ja.
Bert Slagter: Ja. Ja. En die, dus, oké, token, een vector met 8.000 getallen. Die gaat door het model heen. Die 8.000 getallen, die krijgt, dat is de uitgangspositie en daarna gaat het model in tientallen stappen die uitgangspositie transformeren. Dat zijn de lagen van het model. 50 tot 100 lagen hebben moderne modellen en je kunt dat zien, het transformeren van die getallen, van die 8.000 getallen, als: dat punt in de ruimte gaat zich verplaatsen door de ruimte heen. Na elke stap bevat die vector andere getallen, een ander coördinaat in de ruimte. Na de laatste stap wordt voor elk token in het woordenboek met de uiteindelijke vector die in het model zit, berekend: hoe goed past dit token nou als volgende token bij de plek in de ruimte waar we terechtgekomen zijn? Die scores per token worden omgezet in kansen en op basis daarvan wordt één volgende token gekozen.
Bert Slagter: En dat is het output token. Dus: ik zit op de. Nou ja, dan kan het best zijn dat het volgende token bank wordt, omdat dat het punt is in de ruimte waar we uitgekomen zijn nadat we de reis hebben gemaakt. Of: mijn geld staat op de. Komt er misschien ook wel bank uit. Dat is natuurlijk interessant. Dus dat token, het output token, dat wordt via hetzelfde woordenboek weer terug omgezet in een deel van een woord. De, het, een of punt, wat dan ook, en dat wordt weer teruggegeven aan de gebruiker. Dat gaat dus token voor token. Daarom zie je als je aan het chatten bent in ChatGPT ook, de zinnen opgebouwd worden. Want elke keer komt er een token terug naar jou. Goed, dus input tokens, dat is alle data, moet ik zeggen, die het model ingaat, want we hebben het nu even over tekst. Je vraag, maar ook alle eerdere vragen en antwoorden in het gesprek. Maar ook documenten en bestanden en programmacode die je erin stopt. Allemaal input tokens. Dat gaat allemaal als input tokens het model in. En de output tokens, die vormen uiteindelijk het antwoord wat het model genereert.
Bert Slagter: Het antwoord, maar ook eventueel documenten, bestanden of code. Want dat kan een model ook outputten. En dat kan flink oplopen. Ik bedoel, als jij gaat programmeren of veel data gaat verwerken, dan gaat het al snel om honderdduizenden tokens. En daar komen die kosten vandaan. En we hadden het net over, wat zei ik nou? $5 per miljoen input tokens. Dus op het moment dat jij grote bestanden erin stopt, dan ben je zo een paar dollar kwijt, alleen maar aan die input tokens. En het is ook niet zo heel gek, want je hoort wel wat er allemaal moet gebeuren voor één token. 50 lagen, 100 lagen, 8.000 getallen per input token. Dus als je 1.000 input tokens, heb je 8 miljoen van die vectoren die dan door dat model. Het is natuurlijk een geweldige hoeveelheid data en daarom is het ook niet gek dat het duur is, want het kost gewoon ontzettend veel rekenkracht. Geweldig veel rekenkracht.
Bart Mol: Waar denk je dat Fable 5 op zit?
Bert Slagter: Qua wat?
Bart Mol: Qua input en output tokens.
Bert Slagter: Ja, ik verwacht eigenlijk min of meer hetzelfde.
Bart Mol: Dus dat was ongeveer?
Bert Slagter: Ja, dus $5 per miljoen input tokens en $30 per miljoen output tokens. Beetje die ordegrootte.
Bart Mol: 10 en 50. Dus dan zitten we net een stukje boven inderdaad, ja.
Bert Slagter: Ja, ja, ja, ja. Ja, je ziet, ik heb ook even opgezocht hoe dat in de afgelopen vier jaar is gebeurd. Dat min of meer de beste modellen ongeveer even duur blijven. We zitten ietsjes onder de kosten van helemaal in het begin. Maar dat komt, dat is natuurlijk logisch. Die modellen worden wel elke keer zwaarder, maar de hardware wordt ook elke keer beter, dus dat weegt elkaar een beetje op. Ja, je zou er best een uur kunnen vullen over hoe het precies werkt in dat model en dat gaan we vandaag niet doen. Maar ik wil nog wel vier inkijkjes geven. Om het ietsjes uit te breiden, de gedachte. Goed, die 8.000 dimensies. De betekenis van die 8.000 dimensies in het model, dat wordt niet van tevoren bepaald door degene die het model bouwt. Dat zou je kunnen bedenken van: nou, we gaan 8.000 soorten eigenschappen vastleggen van dingen die het model in gaan. Laten we eens even een lijstje maken met z'n allen op het whiteboard. Dat is niet hoe het werkt. Die ontstaat tijdens het trainen. De betekenis van de richtingen in die ruimte, die ontstaan, die zijn emergent.
Bert Slagter: En onderzoekers zijn dan achteraf bij hun model gaan kijken van: oké, als we nou een bepaald soort vragen stellen, wat voor soort richtingen worden er dan geactiveerd? En dan zie je dus dat er dingen in zitten als de stijl of de toon, of het genre, of een bepaalde expertise of causaliteit, of bepaalde abstractheid. Maar ook een richting die betekent: dit is een ruimtelijk concept, iets met coördinaten en een richting die betekent: dit is onderdeel van een tabel en een richting die betekent: dit is waarschijnlijk programmacode, maar ook een richting: dit heeft iets met financiën te maken. En het is interessant om je te realiseren dat het altijd een schaal is. Dus niet: het heeft wel of niet met financiën te maken, maar de mate waarin het met financiën te maken heeft. Dus laten we zeggen: dollar scoort waarschijnlijk hoger dan bank. Gewoon als uitgangspunt. Bank heeft wel iets met financiën te maken, maar minder dan dollar bijvoorbeeld. Dus dat is een schaal. En ik zei richtingen in plaats van dimensies, want betekenissen zijn vaak verdeeld over meerdere dimensies.
Bert Slagter: Een beetje, kan je je voorstellen, als je een grafiek maakt met een x- en een y-as, dan zijn er heel duidelijk twee richtingen, namelijk de x- en de y-richting, dus recht omhoog en vlak opzij. Maar je kunt ook nog oneindig veel schuine pijlen tekenen. Dat zijn richtingen in een tweedimensionale ruimte en in een 8.000 dimensionale ruimte heb je dus nog heel veel meer mogelijke richtingen. En in die richtingen liggen die verschillende betekenissen. Dus niet dimensie 417, dat is financiën. Maar ergens in die 8.000 dimensionale ruimte ontstaat een richting waarlangs financiële termen dicht bij elkaar komen te liggen. Zo moet je het je voorstellen. Een tweede inkijkje. Een woord als hypotheekrenteaftrek en levensverzekering. Duidelijk iets met financiën, maar die zullen wel uit meerdere tokens bestaan. Bijvoorbeeld ver, zeker en ing als drie tokens. Hoe kan het dan toch dat uiteindelijk dat hoog komt te scoren op financiën? Want hypotheekrenteaftrek en levensverzekering zijn wel echt financiële termen.
Bert Slagter: Alleen ze gaan er niet in als één token. En dat komt omdat, kijk bij het helemaal in het begin, ik zei net: het uitgangspunt is dat je een waarde krijgt op die 8.000 dimensies. Maar wat het model doet in die vijftig tot honderd lagen is de andere woorden, of de andere tokens moet ik zeggen, die eraan voorafgaan, informatie laten toevoegen aan jouw token. Dus als bij levensverzekering is ing het laatste token, dan gaan die tokens daarvoor informatie toevoegen aan ing, namelijk onder andere het concept: dit is iets financieels. Dus dat is het hele geniale van hoe modellen werken, is dat tokens die eraan voorafgaan informatie kunnen gaan toevoegen aan jouw token. En door het model heen gaat dus langzaam allerlei dingen, vanuit de context, en daar komt dat woord vandaan natuurlijk, een rol spelen voor het huidige token.
Bert Slagter: En we hadden het over het woordje bank. De betekenis die het woordje bank krijgt, gaat afhangen van de context. Dat zit nog niet in die uitgangspositie. Dat heet de embeddings vector, maar die ontstaat bij het doorlopen van die stappen. Nog even één klein inkijkje. Nummertje drie: woorden en woorddelen die veel voorkomen, die krijgen een eigen token, de en het. Die zullen er gewoon in staan. Woorden die weinig voorkomen, die zullen worden opgebouwd uit tokens. En dat geldt ook voor talen die veel en weinig voorkomen in trainingsdata. Nou, Engels is oververtegenwoordigd op het internet, heel veel in het Engels, dus er zullen best wel lange Engelse woorden gewoon een eigen token hebben, terwijl lange Nederlandse woorden allemaal opgebouwd zullen worden uit stukjes. Dat betekent ook, is interessant, dat Engels in de praktijk goedkoper is dan Nederlands of Nepalees, om maar wat te noemen. Interessant om je dat te realiseren. Dus als je het Engels praat, dan kost het je minder tokens dan als je het Nederlands praat. Oké, mijn laatste reflectie hierop: het woord taalmodel is eigenlijk te smal geworden.
Bert Slagter: In het begin klopte dat best. Modellen werden vooral getraind op tekst en ze voorspelden het volgende stukje tekst. Maar moderne AI-systemen, denk aan ChatGPT-5.5 en Opus 7.8 en natuurlijk Fable en 65 straks ook. Die verwerken ook code en tabellen en coördinaten en afbeelding en audio en video en screenshots en tool output en acties. En die hebben allemaal ook daadwerkelijk betekenis in het model. En soms komt die informatie het model binnen als tokens. Dus code en getallen en tabellen en transcripties en zo. Die zullen gewoon als soort van tekst, met soms lijstjes met getallen en zo erin gestopt worden, maar soms ook direct als vectoren. Dan wordt de hele stap van tokens overgeslagen. Dat geldt bijvoorbeeld voor video, voor beeld en voor geluid. Dat wordt als beeldpatches en audioframes rechtstreeks als token het model ingestuurd. Dus wordt dat of als vector erin gestopt en dan wordt de tokenstap overgeslagen. Maar goed, hoe dan ook, het is dus veel meer dan taal.
Bert Slagter: Dus het woord taalmodel is eigenlijk achterhaald. Wat je ook vaak hoort: het uitvoeren van zo'n model, dat is eigenlijk niet veel meer dan met statistiek het volgende woord raden. En ook dat is te simplistisch. Zo'n token begint als een tekstfragmentje: de, het, een of ing uit verzekering. Maar tijdens zijn reis als vector door al de lagen van het model heen krijgt het, in samenhang met alle andere tokens, een veel rijkere contextuelere betekenis dan het initiële tekstfragmentje. Het model werkt dus niet alleen maar met woorden, maar met representaties van taal, van data, van beelden, geluiden, acties, concepten ook. En dat verklaart waarom de uitkomst soms intelligent aanvoelt. Niet omdat het model denkt zoals een mens, dat is dat je de intelligentie van een mens voor je ziet plaatsvinden, maar omdat het patronen vindt in een ruimte die veel groter is dan taal.
Bert Slagter: Dus het is dus, er zit een ruimte tussen waarin concepten bestaan. En het is niet alleen maar taalstatistiek.
Bart Mol: Ja.
Bert Slagter: En dan als laatste concept. We zeggen ook vaak, we horen vaak: AI kan niks nieuws bedenken en alleen maar bestaande zinnen aan elkaar plakken. Kan alleen maar interpoleren en ook dat klopt niet. Een model heeft niet een soort van kaartenbakje met allemaal zinnetjes waar je woordjes uit kunt selecteren en erachter kunt plakken. Maar je moet die 8.000 dimensionale ruimte, de representatieruimte, dat is een soort, je mag het best voor je zien. Kijk, mensen kunnen nog eigenlijk moeilijk ruimtes zien die meer dan drie dimensies hebben. Maar goed, hou het maar als een soort kubus die je voor je ziet. Daarin zitten allemaal woorden en beelden en concepten en stijlen en patronen. En die worden gevuld, die ruimte, met de voorbeelden die je kent, die je tegenkomt tijdens de training. Maar de ruimte zelf is groter dan wat het model uit de training kent. Er zitten tussen bekende punten nog punten die liggen nieuwe combinaties zou je kunnen zeggen.
Bart Mol: Mhmm.
Bert Slagter: Je kunt bewegen over een richting naar een gebied waar mensen nog nooit woorden aan hebben gegeven. Even als voorbeeld, je kunt, als je rood en geel kent, dan kun je dat interpoleren en zeggen: nou, er zit oranje tussen. Maar je kunt ook posities vinden tussen financiële producten, tussen bestuursvormen, tussen programmeerstijlen, tussen muziekgenres of wetenschappelijke ideeën. En je kunt ze ook extrapoleren, verder bewegen die ruimte door en dan kun je dus op een positie komen waar nog nooit een mens iets over geschreven heeft. En dat is interessant. En vaak zal zo'n positie in zo'n ruimte bullshit zijn, maar soms zit daar iets nieuws.
Bart Mol: Ja.
Bert Slagter: Dus het is te simpel om te zeggen dat AI alleen maar het volgende woord raadt of bestaande teksten aan elkaar plakt. Het navigeert door een ruimte van mogelijke betekenissen en daar liggen ook combinaties die nog nooit opgeschreven zijn.
Bart Mol: Ja.
Bert Slagter: En of dat dan intelligentie is, dat hangt dan af van je definitie.
Bart Mol: Die discussie moeten we later nog eens voeren.
Bert Slagter: Die moeten we nog maar een keertje voeren. Ja, precies.
Bart Mol: Ja, superinteressant, Bert, ik heb ademloos zitten luisteren. Ik vind het ongelooflijk wat voor wereld erachter zit. Als je zat te luisteren. Je hebt nu de eerste twee items gehoord. Laat ons ook even weten wat je ervan vond. Vorige week heel veel comments gehad. Zoals gezegd, dat vinden we leuk. Laat ons weten meer van dit, minder van dit, hoe we, en in deze vorm. Of moeten we dat misschien in video's gaan doen op YouTube? Laat het effe weten. Iets anders wat ik jullie wil vragen: we hebben meer dan 1.000 mensen, volgens mij wel 2.000 of 3.000 mensen die geluisterd hebben. Als je zit te luisteren en je denkt nu van: nou, dit is echt, die jongens die doen echt hun best en dit was echt goed, pak dan nu je telefoon erbij. Ga even naar Spotify. Klik daar op het icoontje om de aflevering te delen en deel hem even met één vriend of één familielid of één collega of één groepschat waarvan je zegt: ja, daar hebben we het de hele dag over AI, dit moeten ze luisteren.
Bart Mol: Dat zou ons enorm helpen. En op die manier hebben we zo snel mogelijk een grote groep met mensen in de community, waardoor we ook gewoon meer vragen kunnen beantwoorden, meer input van jullie kunnen meenemen in de aflevering. Dus als jullie dat zouden willen doen, zou dat helemaal fantastisch zijn. Gaan wij verder met het volgende item. Want Peet, ik wil eigenlijk wel de metro weer even instappen als dat kan. Want dat was vorige week, ook in de comments zag ik het langskomen, dat veel mensen daar erg van genoten hebben. Nou, ik zelf ook. Ik vond het een erg leuke, originele rubriek. Ja, dus vorige week zijn we ingestapt. Volgens mij Myth Station. Waar gaan we naartoe? Waar stoppen we? Waar brengt deze lijn ons heen, Peet?
Peter Slagter: Het mooie is dat er gewoon weer een metrotje vertrekt. Dus dat instappen, dat is al geroddeld.
Bart Mol: Ja, precies.
Peter Slagter: We zijn. Bert had in zijn item over intelligentie en, nou, is het intelligent of lijkt het alleen maar zo? En daar gaat eigenlijk dit fragmentje ook over. Dus het was wel een mooie brug, vond ik. Dus dat je mooi gevonden, Bert. En we waren op Myth Station. Daar hadden we het vooral over oude verhalen. Over een robot die Kreta bewaakt, een beeldhouwer die leven zag in zijn eigen beelden. Een god die gouden hulpjes bouwt, enzovoorts. Het waren natuurlijk mythen en ik dacht: vandaag gaan we het wat concreter maken. De droom van machines. Van die droom naar echte machines. We gaan nog steeds wel terug in de tijd. We gaan naar de 18e eeuw, Europa. En de verhalen die ik heb uitgezocht, nou, die laten in de eerste plaats zien dat mensen ook toen al bezig waren met automatisering. Het is best wel lang geleden, zo tussen 1700 tot 1800. Maar ook, het zijn ook verhalen die laten zien dat mensen zich echt moesten verhouden tot iets nieuws. Dus machines die gedrag en ook wel intentie vertoonden.
Peter Slagter: En zijn ze dan echt slim of projecteren we dat erop? En andersom: hoe laat je nou als bouwer een mens geloven dat iets intelligent is? Want dat is natuurlijk ook handig, als je die indruk kunt wekken. Nou goed, we gaan dus de 18e eeuw in en in die periode innoveert Europa volop. Ik denk dat er toen minder doempredikers waren over Europa en meer mensen die profetieën van grote welvaart voor zich zagen. Dus het is net even anders dan hoe het nu is.
Peter Slagter: Maar mensen waren bezig met bijvoorbeeld elektriciteit, maar ook met luchtpompen, klokken en de eerste simpele machines. En er heerste een cultuur waarin als er iets uitgevonden werd, dat dat dan ook gedemonstreerd werd aan het publiek of semi-publiek. Het gebeurde dan aan hoven, dus kan je denken aan plekken bij een paleis of zo, of in salons, in theaters en ook op universiteiten. En dat deden ze vanwege prestige, want het was natuurlijk iets om trots op te zijn, maar ook vanwege de show en de verwondering. Eigenlijk was spektakel onderdeel van de beweging die ontstond. Nou en ik dacht, voordat we naar het eerste concrete voorbeeld daarvan gaan, heb ik gewoon even een klein fragmentje opgezocht om even de scene te zetten. En we gaan het zo hebben over de Turk en dat heeft Bart nodig om het juiste fragmentje aan te zetten.
Gast: Also er sagte immer: meine Damen und Herren, ich habe eine Maschine gebaut, wie es sie bisher noch nie gegeben hat, einen automatischen Schachspieler. Er ist in der Lage, jeden Herausforderer zu schlagen in einer Partie.
Peter Slagter: Gewoon even, je ziet hier iemand die start een show en tegelijkertijd presenteert hij iets. In 1770 was het Wolfgang von Kempelen aan het hof van de Habsburgse keizerin, dat kennen we nu als Oostenrijk, een apparaat en dat gaat de geschiedenis in als de Turk. En dat is een schaakautomaat. Of nou ja, in ieder geval is dat wat het publiek ziet. En ik voel en hoor je denken: er waren in 1770 toch weinig middelen om uiteindelijk op YouTube terecht te komen? Nou, dat klopt wel. Je luisterde naar een presentatie van een nagebouwd exemplaar. Het was een Duitse groep wetenschappers, technici en onderzoekers die een jaar aan die machine gewerkt hebben, en die hebben dat gedemonstreerd en dat duurt een half uurtje, die video, dus ik heb daar een klein stukje uitgeknipt, het begin. En ze proberen ook na te spelen hoe Wolfgang dat dan zou hebben gedaan in het verleden. Linkje naar de video komt in de shownotes als je dat leuk vindt.
Peter Slagter: Maar beeld je even in. Dus er is een houten kast met daarop een schaakbord en achter die kast staat een groot figuur. Die is gekleed in wat toen bekend stond als Turkse kleding, vandaar ook de Turk, een mantel, een tulband, een pijp. En die speler kijkt naar het bord en dan, voor de presentatie, worden even de deurtjes geopend en kan het publiek even kijken naar de binnenzijde van de kast en dan zien ze tandwielen en kettingen en hendels en zo. En eigenlijk zegt Wolfgang gewoon: kijk, dit is echt, dit is techniek. En dan begint de partij, nou, een menselijke tegenstander, dat kan ook iemand zijn uit het publiek, die doet een zet en die Turk kijkt en zijn arm beweegt en hij pakt een stuk, plaatst op het bord, en dat doet hij ook niet zomaar. Hij speelt helemaal niet onaardig. Sterker nog, de meeste potten wint hij. En met dat als basis reist hij door heel Europa heen, speelt tegen beroemde mensen, beroemde schakers. Hij wordt onderzocht, hij wordt veel besproken, wordt gewantrouwd. En voor het publiek, even voor het beeld, geloof dat een periode van zeventig of tachtig jaar heeft hij hiermee rondgetrokken, dus die heeft nogal wat publiek gehad.
Peter Slagter: Moet bijna een irritante ervaring zijn geweest, want zij zien dat, het is voor hen compleet nieuw. En wat gebeurt hier nou precies? Is dit nou, is dit mechaniek? En wat dan? Dat, daar weten we ook al weinig van. Is het magie? Is het een truc? Kijken we naar iets wat gewoon echt zelf denkt? Nou, en het antwoord was natuurlijk minder romantisch uiteindelijk, want die Turk die dacht niet. Er zat een mens verstopt in de kast, dus een schaker, een goede schaker zat opgevouwen tussen het radarwerk en die bediende dat apparaat van binnenuit. Op zichzelf ook al best wel knap natuurlijk. Je zou kunnen zeggen het was een schaakcomputer met een menselijke processor in de kast. En toch, ondanks dat een groot deel dus puur show was, denk ik dat het voorbeeld van de Turk interessant is. Want het publiek werd wel in de positie geduwd om te overwegen dat een machine zelf nadacht. Dus mensen moesten zich daartoe verhouden. En die beoordelen intelligentie vaak van buitenaf.
Peter Slagter: Dus als iets goed schaakt, dan lijkt het slim. Net zoals dat als iets vloeiend schrijft, dan lijkt het begrip te hebben. En als ik op de juiste manier, juiste moment knik of antwoord geef, nou ja, dan lijkt het alsof ik aandacht voor je heb. We geven al snel een diepe betekenis aan iets in ons hoofd. Als iets geen intentie heeft, verzinnen wij het er gewoon bij. Dat is briljant van wat wij als mensen kunnen. Dat is ook een hele mooie eigenschap. Oké, maar goed, die Turk was dus bedrog. Maar niet alle machines uit die tijd waren nep, dus sommige uitvindingen, sommige apparaten, ja, de verzamelterm is apparata. Ik vind het een beetje vervelend woord, dus dat vermijd ik gewoon zelf. Maar voor insiders zal het een beetje vervelend zijn. Sommigen waren echt technische hoogstandjes. Jacques de Vaucanson is een naam die in deze context vaak langskomt. Franse uitvinder. Bouwde ook in de achttiende eeuw mechanische figuren en zijn beroemdste apparaat was een mechanische eend, The Digesting Duck.
Peter Slagter: En die kon bewegen. Die kon kwaken. O, zo, dat fragmentje komt zo. Dus die eend, die kon bewegen, die kon kwaken, die kon met zijn vleugeltjes slaan. Hij kon eten en hij kon, nou ja, zogenaamd verteren. Het was ook ter grootte van een eend. Was met mooi metaal gemaakt, hier en daar transparant, zodat je het binnenwerk ook kon zien. En het publiek zag gewoon een machine die echt dierlijk gedrag nadeed. Later bleek dat ook hier een deel van de voorstelling mooier dan de werkelijkheid was. Dan komt het fragmentje. Luister maar eens naar deze Australische dame die van oude automaten haar expertise gemaakt heeft.
Gast: The duck's greatest marvel was its apparent digestion. When fed small pellets of grain, it seemed to chew, swallow and excrete them. Voskens described this as a chemical laboratory at work, but later analyses showed the process was theatrical. The excrement it was pre-made and cleverly expelled from a hidden reservoir.
Peter Slagter: Ja, dus hij had de ontlasting die zat al in de eend en hij had het zo gemaakt dat dat na een bepaalde periode na de invoer de output werd. Dus ja, het zijn ook een soort tokens denk ik dan. Het heeft best wel lang geduurd voordat hier replica's van gemaakt zijn, want het was best een ingewikkeld apparaat. Er zijn ook historici die aan deze uitvinder toeschrijven dat er voor het eerst rubberen materialen zijn gebruikt voor het vervoeren van middelen. En hij heeft, dat zit in de context van het nabouwen van het darmsysteem van de eend.
Bart Mol: Een lopende band.
Peter Slagter: Ja, nee.
Bart Mol: Een soort.
Peter Slagter: Meer een soort binnenband zeg maar.
Bart Mol: Ah, oké.
Peter Slagter: Dus het, als darmstelsel. Maar die Vaucanson dat was niet een showman. Hij had echt wel een serieus ideaal. Kan je iets levends nabouwen met onderdelen? Kun je levende functies nabouwen? Kan iets gemaakts leven? Dat was eigenlijk zijn kernvraag. En welke onderdelen heb je dan nodig? Nou, een ander voorbeeld komt uit Zwitserland. Daar woonde Pierre Jaquet-Droz. Die maakte ook machines, was een horlogemaker. Hij maakte The Writer. Dat was een mechanische pop. Jaren zestig van de achttiende eeuw. En dat, heel verfijnd mechaniek. Je kon met een ganzenveer teksten schrijven en die bewegingen waren ingesteld met schijven en met nokken en met, nou ja, met dingen die horlogemakers gebruiken. En je ziet dan dus een hand die schrijft. Je ziet ogen die teksten lijken te volgen. Een hoofd dat beweegt, dat voelt echt persoonlijk. En daaronder zit natuurlijk een choreografie, want zo'n automaat doet niet iets zomaar. Hij voert een reeks ontworpen bewegingen uit met, ja, met instrumenten die de bouwer daarvoor heeft gebruikt.
Peter Slagter: Tandwieltjes, assen, hendels en die zetten energie om in gedrag. Ja, zo'n nok bepaalt wanneer een arm omhoog gaat of wanneer de pen het papier raakt. En dat lijkt op een keuze, maar het is een patroon en dat noemen we deterministisch. Dus dezelfde beginstand levert in principe altijd dezelfde beweging op. Zo'n automaat improviseert niet, hij twijfelt niet, hij heeft ook niet een last van een emotionele bui of zo. Hij speelt gewoon zijn mechanische choreografie af. En ik denk dat dat verschil later, als we het over AI verder gaan hebben, later op onze reis belangrijk wordt. Want zo'n modern AI-systeem, dat werkt dus niet met één vaste beweging die telkens identiek wordt afgespeeld. Dat zat ook wel een beetje in het verhaal van Bert opgesloten. Dus die produceren veel meer de antwoorden op basis van patronen en waarschijnlijkheden. De uitkomst die kan variëren met dezelfde input. Je zou tien keer hetzelfde kunnen vragen en er kan weer iets anders uitkomen. Dat maakt ze niet levend, maar ze lijken al wel levendiger in onze ervaring.
Peter Slagter: Maar soms ook dom, hè, want je kunt bijvoorbeeld een model wat gespecialiseerd is in het transcriberen van YouTube video's een lege prompt geven en dan komt ie gewoon met iets. En 99 van de 100 keer eindigt dat met hetzelfde zinnetje, namelijk: like en subscribe onze video. En heb je helemaal niet om gevraagd, maar dat komt omdat al die input, ja, die bevat dat aan het eind. Dus wat staat het meest waarschijnlijk om mee te eindigen? Ja, dat zinnetje. En het blijkt nog best wel lastig zijn dat eruit te krijgen bijvoorbeeld.
Bart Mol: Overigens komen mensen soms ook met domme output, dus wat dat betreft.
Peter Slagter: Jij, ja.
Bart Mol: Ja, maar dat is natuurlijk de parallel. Dat, waar we steeds weer achter komen met al die manieren om met AI te werken is eigenlijk elke keer gewoon ouderwetse manieren om met mensen samen te werken of met een team samen te werken blijken voor AI ook heel goed te werken. Omdat AI net als mensen zo nu en dan een slechte dag heeft tussen aanhalingstekens en met een slecht antwoord komt. En dat moet je ondervangen.
Peter Slagter: Ja, precies, inderdaad. En ik denk dat het belangrijk is om, als we naar intelligente tussen aanhalingstekens systemen kijken, altijd even twee vragen uit elkaar te houden. Wat doet het systeem? Dat is denk de buitenkant. Of het schaakt, of het schrijft, of het praat, of het tekent, of het zoekt, of het plant. Nou, het kan natuurlijk steeds meer. Hoe modern, hoe verder we in de tijd zitten, hoe meer zo'n systeem kan. Het tweede is: waar komt dat gedrag nou eigenlijk vandaan? En dat is moeilijker. Is er nou echt begrip? Is er statistiek? Is er een regel? Is er een verborgen mens? Ik bedoel, we hebben ook de Mechanical Turk, hè? Dan weet je nu waar die naam vandaan komt. Dat is gebaseerd op die oude machine, de Turk en die Mechanical Turk. Dat zijn gewoon mensen die allemaal zonder bepaalde taken uitvoeren.
Bart Mol: Ja, precies.
Peter Slagter: En het liefst zo deterministisch mogelijk. Dus da's een verborgen mens. Is er een interface die ons precies de juiste signalen geeft om intelligentie na te doen of te projecteren? Ik denk dat dat even het nut was van Turing Station. Een soort reflex creëren om jezelf dat soort dingen te blijven afvragen bij het gebruik van systemen. En dat is nuttig bij gewone systemen, maar zeker bij AI-systemen. Kijk niet alleen naar het kunstje, kijk ook naar de opstelling. Wie bedient wat? Welk gedrag is ontworpen? Waar zit de echte kennis? Hoeveel van de magie nemen we nou eigenlijk zelf mee de zaal in? Nou, en daar wil ik ook een punt zetten. We rijden dan door. Ik heb al even nagedacht over volgende week. Dat noemen we Babbage Station en dan gaan we het hebben over-
Bart Mol: Charles
Peter Slagter: ...machines die meer kunnen dan één taak of één zorgvuldig ingestudeerde beweging. En dat is op zichzelf al indrukwekkend. Zeker als je beseft hoe lang dat geleden is.
Bart Mol: Ja.
Peter Slagter: Maar het zijn natuurlijk nog geen algemene machines.
Bart Mol: Nee.
Bert Slagter: En, ja, dan wordt de route naar computation wat concreter.
Bart Mol: Ja, ik vond het een heel vet stuk, Peter. Je noemt het zelf nog even als laatst als bijzin, hè, wat Amazon heeft gedaan. Ik denk dat dat voor veel mensen dat niet weten en dat het misschien nog wel leuk is om even een klein beetje uit te leggen dat dat was. Want Jeff Bezos, die noemde dat bij de introductie in 2005 Artificial Artificial Intelligence. Een soort van inderdaad complete rare inception. En wat dat was, is als klant ging je gewoon naar jouw Amazon backend, hè. Het was vooral voor zakelijke klanten en daar kon je iets vragen. Gewoon in een website, in een computersysteem en dan kreeg je uiteindelijk een antwoord terug wat leek alsof dat uit het computersysteem kwam. Maar er zat aan de achterkant een Indiër of een Pool of iemand uit een lagelonenland. Die zat 100.000 afbeeldingen te analyseren of teksten te labelen of iets dergelijks. En dat hadden ze inderdaad ook gewoon Amazon Mechanical Turk genoemd. Ze probeerden dat ook niet eens echt onder stoelen of banken te stoppen.
Bart Mol: Het was letterlijk de naam ervan.
Bert Slagter: Volgens mij bestaat het ook gewoon nog.
Bart Mol: Klopt. Je ziet natuurlijk nu wel dat steeds vaker AI daar wel iets van over kan nemen. Zeker met het labelen van afbeeldingen bijvoorbeeld. Maar wat nog grappig was, wat ik eraan toe wilde voegen, wat nog recenter was. We hadden een tijdje terug de Neo, een humanoïde robot die jou kan gaan helpen in huis. En, bijvoorbeeld met het stofzuigen of het opvouwen van kleding of misschien wel koken zelfs, hè. Dat lieten ze allemaal zien in die demo. En dat hebben we ook natuurlijk, Elon Musk heeft vaak op zijn Tesla evenementen heeft hij ook die robots van Tesla staan die daar ook cocktails.
Bert Slagter: Optimus.
Bart Mol: Ja, die staan daar cocktails te shaken of hapjes uit te delen. En dat is letterlijk dit voorbeeld wat je geeft van 500 jaar geleden. Nu, het gebeurt nu nog. Dus dan heb je zo'n robot staan en daar wordt het verhaal opgehangen. Deze robot, die doet het allemaal zelf. En dan achteraf blijkt toch vaak van, in ieder geval bij die Neo robot, van: ja, het bezemen of zo, dat kan hij dan zelf, maar, hè, echt het opvouwen, ja, dan is er toch aan de achterkant een mens met twee van die VR-controllers en een VR headset die die robot bestuurt. Ja, dat is dus exact wat jij beschrijft hier en daarom is het zo mooi. Dit is niet iets van 300 jaar terug, 400 jaar terug. Nee, dit gebeurt nog steeds. Dus dat we inderdaad proberen een rookgordijn, een soort magisch ding te maken.
Bert Slagter: Fake it till you make it. Weet je.
Bart Mol: Exact.
Bert Slagter: Ja.
Bart Mol: Met het verschil dat het nu misschien binnen een aantal jaar wel mogelijk gaat zijn, en dat we die Mechanical Turk niet meer nodig hebben. Maar hij is er nog steeds en daarom is dit zo'n, is dit een stuk.
Bert Slagter: Een paar jaar geleden bleek dat die Optimus robots die, daar kon je een gesprekje mee voeren, maar dat er aan de achterkant mensen dat gesprekje zaten te scripten.
Bart Mol: Exact.
Bert Slagter: Tippen.
Bart Mol: Ja.
Bert Slagter: En nu kun je er daadwerkelijk een gesprekje mee voeren, want ja, er is nu.
Bart Mol: Precies. Het gaat heel, heel, heel hard vooruit. Zeker ook met die world models, hè, waar we het eerder over hadden. Dat, ja, we maken grote sprongen, maar op dit moment is die Mechanical Turk die Peter beschrijft nog steeds gewoon te zien op heel veel tech events waar jij robots vrij rond ziet lopen. En dat maakt het.
Bert Slagter: Een beetje kleur bij wat je soms hoort, hè, van: de ontwikkelingen gaan nu snel. Ja, dan zie je dus al van: nou, we zijn natuurlijk ergens in de paar 100 jaar voor Christus begonnen bij het vorige stationnetje en nu wat recenter, maar het is nog steeds de 18e eeuw.
Bart Mol: Ja.
Bert Slagter: En in al die honderden jaren, hè, ja, is natuurlijk, zijn heel veel ontwikkelingen geweest. Maar als je nu kijkt wat er samengepakt in een jaar of 20, 30 allemaal gebeurt, hoe ontzettend snel de ontwikkelingen elkaar opvolgen. Ja, dat is wel echt een snelkookpan ten opzichte van de 300 jaar daarvoor zeg maar.
Bart Mol: Ja, dat zeker. Ja, misschien is de overlap dat mensen, het menselijk brein wat minder snel evolueert. En die 500 jaar natuurlijk niks is. En dat wij uiteindelijk nog steeds net zo impressed zijn als bij Wolfgang als we zitten te kijken naar Elon Musks creatie. En dat is, dat is wel grappig. Vet item. Hé, wij kregen comments dat we toch iets vaker, althans iets vaker in de eerste aflevering dan, ja, mensen hebben, ja, maar ik wil ook wel praktische tips. Wat, want wat kan ik nou met AI? Daar krijgen we heel veel verschillende vragen over. Nou, we hebben jullie gehoord en we gaan dit laatste stuk van deze aflevering eens besteden aan een aantal praktische tips. Dus laten we eens beginnen met de eerste. Want Bert, jij wilde het even hebben over branching. Branching in een, branch in new chat heb je het genoemd.
Bert Slagter: Ja.
Bart Mol: Ik ben benieuwd. Brand los.
Bert Slagter: Ja, dus als je, dit gaat over het werken met een chatbot, hè, dus in ChatGPT of in Claude. Je bent aan het typen, je bent een gesprek aan het voeren. Misschien ben je iets samen aan het schrijven of aan het onderzoeken. En je stelt vragen of je geeft opdrachten en er komen antwoorden terug. En die hele geschiedenis van die chat, die is onderdeel van de context waarin de volgende vraag gesteld wordt. En die hele geschiedenis van die chat, die weegt mee bij de volgende vraag. En dat heeft te maken met wat ik net uitlegde met die tokens. Wat dat betreft past dit item heel goed in deze week, hè, want bij elk token wordt er teruggekeken naar alle voorgaande tokens en wordt er gevraagd: heb jij misschien nog iets relevants voor mij? En dat betekent dus dat alle voorgaande woorden en zinnen en paragrafen sturen bijdragen aan wat de AI, ja, eigenlijk bij de binnenwereld die het volgende token gaat genereren. En wat soms kan gebeuren is dat je in zo'n gesprek, ja, op een soort spoor terecht bent gekomen waarvan je denkt: ja, dit is het verkeerde spoor.
Bert Slagter: Hè, er zijn, ik heb nu dingen, er zijn vragen en antwoorden, het is een verkeerde richting opgegaan. Soms gewoon vanuit nieuwsgierigheid. Je vraagt door: oh, dat is ook leuk. En hoe zit dat dan? En dan kom je op een gegeven moment achter: ja, oh ja, maar dit waren we helemaal niet aan het doen. En dan kan het soms zijn dat je denkt: ja, de dingen die de afgelopen vier vragen, ja, het zou handig zijn als die even niet meer onderdeel zijn van deze context. Dus eigenlijk was dit de verkeerde afslag en je wil een stukje terug en daar verder gaan. En dat kan. Dat kan gewoon. Dat kan in ChatGPT door terug te gaan naar de vraag waarvan je denkt: eigenlijk zou ik vanaf hier verder willen gaan en dan klik je onderaan het antwoord op de puntjes. Daar staat: more actions en ik heb hem op Engels staan. Ik weet niet of er ook een Nederlandse interface is, maar ik heb hem in het Engels. More actions, das bovenste item is: branch in new chat. En wat ie dan doet, dan maakt ie een nieuwe chat voor je aan. Die, er staat dan ook achter branched from en dan, ja, dan begin je weer. Dan is dat de vraag waar je dat, of het antwoord waar je op die puntjes hebt geklikt is het laatste antwoord geworden en dan kun je vanaf daar verder gaan.
Bert Slagter: En het aardige is, dat is dan ook daadwerkelijk, de context is dan daadwerkelijk gevuld tot en met dat punt. Dus je krijgt de hele geschiedenis erbij. Je gaat gewoon echt verder waar je toen was, zonder de afslag die je genomen had. Dit kan ook in Claude, alleen daar werkt het net iets anders. Daar doe je exact hetzelfde door een vraag te editen of te bewerken. Dan ga je terug naar de vraag waar je was. Druk je op edit, bewerk. Dan verander je die vraag in wat je wil en dan zul je zien dat ze naast elkaar komen te staan en dan ga je vanaf die branch kun je verder gaan. Hè, bij, in de beschrijving of in de documentatie van Claude staat: editing of, oh nee, dat is de waarschuwing die je krijgt.
Bart Mol: Ja.
Bert Slagter: Editing this message will create a new conversation branch. You can switch between branches using the arrow navigation buttons. Dus daar kun je hetzelfde doen. En, ja, dit is dus, in de praktijk kan het heel erg nuttig zijn om, zeker als je eigenlijk al een heel eind op weg was of daadwerkelijk tot waardevolle inzichten of producten gekomen was om dan, ja, dat te bewaren. Wat ik zelf regelmatig doe, is omdat ik al weet: ha, ik vind het wel razend interessant wat je nu zegt. Hier wil ik meer over weten. Dan branch ik hem af en dan ga ik in die branch eventjes dat zijpad verkennen.
Bart Mol: Ja.
Bert Slagter: En dan hou ik het daarbij en dan ga ik daarna verder in mijn hoofd ding. En soms, heel soms, dan vind ik ook dat, dan komt er iets geks terug dat ik denk: ja, waarom zeg je dit nou weer? En dan wil ik gewoon weten: gast, waarom zeg je dit?
Bart Mol: Ja.
Bert Slagter: Hoe kom je hier ineens op? En dat doe ik aan een branch, want ik ben wel benieuwd naar de reflectie van Claude of van ChatGPT op zichzelf of op deze chat. Want het helpt mij namelijk ook soms om betere vragen te stellen. Alleen dat doe ik niet in de hoofdbranch. Want, ja, daarmee vertroebel je ook het vervolg van je gesprek.
Bart Mol: Ja.
Bert Slagter: Dus dit is een manier om denk ik net even wat meer uit die tools te halen, Bart.
Bart Mol: Jazeker, want het is deze manier van denken, hè, dus soort van expliciet met je context in het achterhoofd nadenken over: oké, hoe ga ik hiermee om? Ja, dit is een techniek die daaraan gehaakt kan worden. Zo heb je er best wel veel, hè, als je in Codex werkt of in Claude Code, hè, dus wat meer de wat uitgebreidere agent harnassen die de twee grote labs aanbieden, hè. Dus niet ChatGPT zelf of Claude.com, maar echt het wat uitgebreidere agent harnas. Ja, dan zie je ook vaak dat ze dit bijvoorbeeld doen door subagents te gebruiken. Dat is niet per se hetzelfde als branchen, maar het lijkt er wel heel erg op dat je bijvoorbeeld vraagt van: nou, ik wil een script schrijven voor een video die ik aan het maken ben. We hebben de informatie samen al gevonden, hè, dus we hebben een bakje met info, maar ik weet nog niet helemaal welk soort script en welke tone of voice ik het fijnst vind.
Bart Mol: Dus kunnen we eens gaan experimenteren met bijvoorbeeld een kort script, een wat langer script, of kunnen we experimenteren met drie, vijf of 10 verschillende intro's. En dat zou hij allemaal in datzelfde chatvenster kunnen doen. Alleen dan moet hij 10 keer hetzelfde doen. Dan loopt die context vol en op een gegeven moment kan hij niet meer verder. En je zal ook zien dat hoe voller die context is, hoe slechter de output wordt. En dan heb je nog niet eens de beste van de 10 gekozen. Dus wat hij dan doet eigenlijk, wat Bert net beschrijft, zo zou je het een beetje kunnen zien. Hij, ja, het is niet helemaal een branch, maar hij geeft 10 verschillende subagents geeft ie net genoeg context mee om dus een introotje te schrijven. Tegen de één zegt ie: hou hem kort, hè, de andere zegt ie: maak een clickbait intro. De andere zegt ie: maak een Nieuwsuur-achtige intro en de ander zegt ie: maak een lange intro en de ander. Nou goed, anyway. En al die agents komen terug met een antwoord. Die komen weer in de context van het hoofdgesprek, om het zo maar te zeggen, waar die agent, waarvan zijn context dus dan niet stampes vol zit, heel goed eigenlijk kan zeggen: nou ja, ik vind van deze 10 vind ik deze drie het beste en die krijg ik dan als user weer terug.
Bart Mol: En dat soort handig omgaan met de context die beschikbaar is, dus door branching of door subagents of door compacting, dat is een andere techniek die je vaak ziet, hebben gewoon het praten, het hebben van lange gesprekken met AI het afgelopen jaar veel beter gemaakt.
Bert Slagter: Ja, en dat helpt dus ook in dit specifiek voorbeeld van Bart, hè, in zo'n coding omgeving waar, of werkomgeving, helpt het ook om het goedkoop te houden. Want een nieuwe lege context met alleen maar een korte opdracht is gewoon veel minder input tokens dan als je je complete voorgesprek er ook in meeneemt.
Bart Mol: Exact, ja.
Bert Slagter: Dus heeft ook te maken met kosten en met snelheid. En het zorgt ervoor dat je mooi gescheiden AB-tests kunt doen.
Bart Mol: Ja.
Bert Slagter: Hè, je kunt tests die, waarvan je zeker weet dat ze elkaar niet beïnvloeden, hè, die dus eigenlijk geïsoleerd zijn van elkaar. Hè, dus dat kan met subagents en dat kan in een chatomgeving door te branchen. Je maakt gewoon twee branches. Daar stel je twee verschillende vragen en dan kijk je wat de twee verschillende uitkomsten zijn. Of als je niet tevreden bent met een resultaat en je denkt: ja, als ik nu dit resultaat ga verbeteren, dat gaat hem nooit worden. Dan ga je lekker terug en dan branch je vanaf d'r voor en dan geef je een betere opdracht.
Bart Mol: Ja.
Bert Slagter: Of je geeft betere associaties mee.
Bart Mol: Dat is waar ik het 9 van de 10 keer voor gebruik, eerlijk gezegd. Ik vind het wel leuk om het even op de Turk te plakken
Peter Slagter: In de zin van, ja, hè, stel dat schaakspel gaat een kant op. Je zegt van: ja, ik wil eigenlijk 10 zetten terug. Dit is gewoon niet, dit is niet leuk of niet interessant. Dan kan dat en dan kun je een branch maken. Je gaat terug en je begint opnieuw. En als je merkt van: hij doet elke keer weer diezelfde 10 zetten, hij zit daarin vast. Dat gebeurt ook soms met zo'n model dat je een gesprek voert, ja, of code aan het schrijven, wat dan ook, maar hij zo geconfigureerd op een specifieke uitkomst. Dan kan je, maak een branch. Of wat Bert doet van: ik wil gewoon even in die kast kijken wat er gebeurt. Maak een branch. Weet je, heel nuttig, maar de toepassing van, je bent iets aan het, je bent aan het samenwerken, en ergens in de context zorgt ervoor dat hij toch ergens naartoe convergeert in zijn redeneren, en dat leidt elke keer tot soortgelijke resultaten waar je niet tevreden mee bent. Ja, dat is echt zo'n signaal van: jij hebt een branch nodig, je moet even terug, teruggaan en uitzoeken waar ging het mis en vanaf daar branchen.
Bert Slagter: Dit is een voordeel van AI boven mensen, hè, want bij mensen kun je ook wel zeggen: joh, vergeet dat even en doe het op deze manier. Dat is ontzettend lastig. Op het moment dat je zegt: denk niet aan een roze olifant, zit ie daar aan een roze olifant te denken.
Peter Slagter: Dat vinden AI's ook lastig zonder een branch.
Bert Slagter: Klopt, dus zonder een branch heb je precies hetzelfde probleem als bij mensen. Als je zegt vergeet dit of doe dit niet, dan heb je kans dat dat toch doorlekt in wat je aan het doen bent.
Bart Mol: Maar toch kan je hier ook wel de parallellen trekken dat als je zegt: ja, ik zit nu al een uur lang met een collega te brainstormen of een hele dag. Dat het soms ook even goed is om naar het koffiezetautomaatje te lopen en gewoon aan andere collega's te vragen die er niks van mee hebben gekregen: welk van de twee vind jij het mooist? Hè, en ik merk toch wel dat er gewoon heel veel dingen zijn, die in, zeg maar de optimale samenwerking die je op de werkvloer hebt met mensen, dat die vaak ook gewoon de optimale samenwerking is met AI of AI agents of chatbots of whatever.
Bert Slagter: De parallel technisch is dan dat je zou het brein van één specifieke collega kunnen vergelijken met de representatieruimte die in één chat is ontstaan met de hele context.
Bart Mol: Ja.
Bert Slagter: En een andere collega pakken is min of meer hetzelfde als een branch maken, want dan pak je eigenlijk een andere hersenpan.
Bart Mol: Ja, zonder die bestaande context. En die kan je weer smeden zoals je het zelf wil. Kijk, de vergelrijving breekt dat je een collega niet even clear context kan doen. Weet je.
Bert Slagter: Nee, of kan klonen of zo.
Bart Mol: Precies, als die collega jou een lul vindt, dan blijft dat. Dan is dat, heeft dat reparatiewerk nodig, zeg maar. Dat kan je niet zomaar fixen. Over samenwerken op een menselijke manier met AI's gesproken, daar gaat ons laatste item van vandaag ook over. Ja, want wat ik jullie wil vragen jongens, hoe communiceren jullie met jullie chatbot? Met jullie AI, met jullie Codex, ChatGPT, Claude Code, noem het maar op. Zeg maar, wat is de interface die jullie gebruiken om te communiceren? Laat ik het zo zeggen.
Peter Slagter: Typetypetypetypetyp.
Bart Mol: Ja, oké, tekst, oké, maar hoe, zeg maar, hoe komt die tekst vanuit jouw hoofd op jouw computer in het chatvenster terecht?
Peter Slagter: Gewoon door te typen inderdaad.
Bart Mol: Typen? Oké, ja.
Peter Slagter: Ja. Ja. Kijk, ja. Kijk, ik wil niet te veel gras voor je voeten wegmaaien.
Bart Mol: Oké, dan ga ik, dan start ik de grasmaaier. Daar gaan we. Doe jij eerst maar. Ja, ja.
Peter Slagter: Doe bij de kantjes straks van het gras.
Bart Mol: Ja, precies, ja. Nou ja, ik typ ook nog vaak, hoor. Alleen ik kwam er wel een paar maanden geleden achter dat, ja, typen soms, zeker als je veel typt en ook, ja, veel met AI bezig ben. Duurde, vond ik best wel lang duren en ik vind het voor mij op een gegeven moment ook gewoon cognitief, zeg maar mentaal best wel zwaar worden. Zeker als je echt een heel plan aan het uitwerken bent met AI, denk ik van: ja, ik heb het wel in mijn hoofd zitten, maar dan moet ik het helemaal uit gaan typen. En dat is ook niet zo gek. Ik heb het helemaal op mijn telefoon en wat ik zeg, dat is niet zo gek, want de meeste mensen typen tot 40 tot 100 woorden per minuut. 40 is redelijk standaard, 100 is echt een getrainde, getraind, typer om het zo maar te zeggen. Maar op een telefoon typ je met twee duimen en met autocorrect erbij haal je daar misschien 50 of 60, zeg maar. Dus die 100 woorden op een telefoon ga je nooit halen. Op het moment dat je gaat dicteren, dus praten tegen een AI, en dat omgezet wordt in tekst, dan zit je al snel tot op 120 tot 160 woorden per minuut.
Bart Mol: Tuurlijk, het probleem is wel dat de output vaak wat rommelig is, minder netjes dan typen. Er zitten uhs en ahs in en, nou ja, je moet maar eens kijken, hè, ook als je het transcript van deze podcast terugkijkt. Ja, dat kunnen wij niet zomaar online zetten als artikel. Daar is het gewoon niet goed genoeg voor. Dat heeft werk nodig. Maar mijn ervaring is in ieder geval dat een AI in heel veel gevallen maakt dat niet zoveel uit. Die kan daar wel mee overweg. Die snapt dat wel, en ik vind het heel fijn. Ik moet zeggen, ik gebruik het op twee momenten heel veel. Ten eerste op mijn telefoon dus. Dus als ik wil weten hoe lang mijn kipdijfiletje op de barbecue moet en hoe heet ie moet en welke kerntemperatuur ik nodig heb. Gebruik ik ChatGPT. Klik ik op het microfoontje en dan vraag ik dat gewoon. En dat gaat eigenlijk 10 van de 10 keer goed. En ik gebruik het als ik iets nieuws aan het maken ben. Een nieuw projectje aan het maken ben met Claude Code. En we zijn eigenlijk in de planningsfase en het idee is dan dat Claude heel veel vragen aan mij stelt.
Bart Mol: En dan vind ik het ook fijn om te praten. Om gewoon uit te leggen van, ja, wat mijn idee is en hoe ik dat voor me zie. Maar goed, de vraag is: hoe doe je dat dan? Nou, wat ik zei in ChatGPT moet ik zeggen, is de dicteerfunctie echt behoorlijk goed. Dus hier gebruik ik, als ik een appje gebruik op mijn telefoon is 9 van de 10 keer ChatGPT op de een of andere manier in Claude. In het Nederlands is die echt heel slecht en dat is heel irritant, want het zit wel in Claude Code, maar het werkt dus niet goed in het Nederlands. En ik praat toch wel het liefst in het Nederlands, anders breng ik die cognitieve zwaarte, die mentale load weer terug als ik in het Engels moet gaan zitten ranten. Dat vind ik toch moeilijker dan in het Nederlands. Maar ik heb ook iets op mijn laptop en dat is wel fijn. Daar heb je verschillende voor. Je hebt volgens mij, Whisper Flow is de meest bekende, maar daar moet je ook voor betalen. Je hebt ook Voice Inc. Dat is één keer aftikken voor de software voor maar iets van $20 of zo en dan heb je hem voor altijd. En het leuke is dat je hier voor het eerst dat ik eigenlijk volledig lokaal werk.
Bart Mol: Dus ik gebruik daar geen model van OpenAI of van Anthropic of van Google. Ik gebruik een lokaal model. Het heet Parakeet V3. Dat is van Nvidia. Is wel grappig, maar het is dus een open source model en dat draait op mijn eigen laptop. Dus als ik zit te praten over, weet ik veel, hoe ik het beste aambeien kan verwijderen, zo snel mogelijk, dan wordt dat niet ergens op een cloudserver opgeslagen. Dan is het gewoon op mijn laptop. Als ik daarna die vraag alsnog verstuur naar ChatGPT om een antwoord te krijgen, dan natuurlijk wel, hè. Dus dat is even. Maar het is wel heel grappig dat je toch een lokaal model hebt dat echt werkt. En het werkt ook snel. Op mijn MacBook gaat het supersnel, maar bijvoorbeeld op een klein servertje heb ik er ook eentje draaien. Heb je toch binnen 20 seconden heb je gewoon een transcript van een antwoord, echt in goede kwaliteit. Dus dat is echt wel leuk om te zien dat dat een vlak is waar open modellen, lokale modellen heel goed werken. Goed, dit is een lofzang. Iedereen moet gaan dicteren.
Bart Mol: Dat is hoe ik erin sta. En ik dacht toen ik dit item aan het maken was. Ik dacht: ja, ja, die jongens, die heb ik te pakken na deze lofzang. Maar ja, ik ben toch wel benieuwd: hoe kijken jullie hier nou tegenaan, jongens? Welke gaten zijn er nou in dit verhaal te schieten?
Peter Slagter: Ah, eerst gewoon even één. Ik denk niet dat er een gat in het verhaal te schieten is trouwens, want dit is superpersoonlijk natuurlijk. Ik denk vooral dat als jij praten, zeg maar als jouw modus operandus praten is. Ik weet mijn vrouw bijvoorbeeld, ja, ook liever praat dan schrijft. Dat wil, behalve in een specifieke setting. Dat is namelijk als je met een groepje mensen rondom je telefoon zit bijvoorbeeld en dan probeert te praten met een AI erbij als tweede, derde of vierde, vijfde of zesde deelnemer, zeg maar, dat, ja, dat is echt compleet kansloos. Er doorheen lullen, heeft geen idee wanneer die aan de beurt is, welke vraag gesteld is, verschillende personen. Daar is het totaal niet op ingericht. Dat is één situatie waarin ik denk niet zo goed werkt, maar dat is op te lossen, hè. Dus misschien, ja, als dat prioriteit krijgt, gaat het gewoon goed werken. Dat zou top zijn trouwens, want het is wel heel, heel leuk of handig soms. In de auto of aan tafel: joh, zullen we dat eens uitzoeken met zijn allen? Nou, en het andere is, ik heb voor mij persoonlijk geld, ik, ja, ik vind typen gewoon een veel prettigere manier om een gedachte te vormen dan praten.
Peter Slagter: En ik denk dat dat te maken heeft met het feit dat ik wel hou van als ik me eenmaal echt uitdruk, dat ik wel van precisie hou, zeg maar. Dus ik vind het prettig dat als ik iets zeg of iets schrijf, dat in naar mijn idee klopt. Hè, dat hoeft dan nog niet per se de waarheid te zijn of alle informatie te bevatten, maar in ieder geval iets dat naar mijn idee precies is. En als ik puur gewoon uit de losse pols praat, dan zit daar een periode tussen dat die precisie ontstaat en het moment dat ik begin met praten. Dat proces, dat doe ik veel liever op papier eigenlijk. En dan merk ik dat er gewoon een veel specifieker, in dit geval prompt uitkomt dan als ik gewoon in het luchtledige begin in te leuteren. Nou ja, heb ik ook nooit echt gedaan, dus ik ben ook niet zo'n smalltalker bijvoorbeeld. Dus dat proces, dat is bij mij veel meer schrijfgericht dan praatgericht. En ja, dat is denk ik, ik vind het mentaal ook lekkerder, zeg maar.
Peter Slagter: Het is voor mij veel natuurlijker om te gaan schrijven dan om te gaan praten. Dus dat verschilt denk ik toch per brein of zo, of per persoon. Wat daar de voorkeur voor is.
Bert Slagter: Ja, ik heb wel een zelfde soort brein, hoor Peet, dus ik herken dat wel. Ik, ja.
Bart Mol: Broers of?
Bert Slagter: We hebben ook samen een boek geschreven, dus het is ook niet zo gek. Daar zijn we prima doorheen gegaan zonder dat er ruzies ontstaan. Nee, sterker nog, het was echt super synergetisch. Dus niet zo gek dat er daar wat overeenkomsten zitten. Kijk, ik denk als ik zou gaan praten dat er min of meer hetzelfde gebeurt als bij het schrijven. Namelijk dat je tijdens het uiten, schrijven of praten, dat je dan je gedachten aan het ordenen bent en aan het formuleren bent.
Bart Mol: Ja.
Bert Slagter: En bij het schrijven stuur je dan alleen het eindresultaat in en bij het praten stuur je het hele proces in. En dat is eigenlijk prima, wat Bart al zei: in een groot gedeelte van de gevallen kan een AI daar uitstekend mee omgaan, inclusief uh's en ah's en dingen die je verkeerd verstaat en verhaspelingen en versprekingen en correcties. Dat boeit allemaal niet. Zeker niet bij kippendijen, maar ook niet als je een plan aan het maken bent samen.
Bart Mol: Ja, behalve als ie denkt dat het een zalmfiletje is of zo, maar daar is, dat-
Bert Slagter: Ja, precies. Dus als je kip. Als je kippendij uitspreekt alsof het inderdaad een zalmfilet, dan krijg je een hoop bacteriën binnen. Maar er is wel een situatie waarin het wat meer gaat uitmaken, namelijk als je een hele precieze opdracht gaat geven en een complexe opdracht gaat geven aan een systeem, dan maakt het uit, dan heeft het een, zeg maar, een negatief effect als daar veel ambiguïteit in zit, hè, dus dubbelzinnigheid of stukken die elkaar tegenspreken. Dan verlaagt dat de kwaliteit van de output. Niet veel per se en ook niet altijd. En zeker tegenwoordig zijn er ook allerlei trucjes van de AI om daarmee om te gaan. Bijvoorbeeld om een verduidelijkingsvraag te stellen: wat bedoel je dan precies? Bedoel je A of B? AI gaat er steeds beter mee om. Maar het blijkt uit onderzoek dat de kwaliteit van jouw vraag invloed heeft op de kwaliteit van je antwoord. In veel situaties boeit dat niet en in sommige wel.
Bert Slagter: Wat goed zou kunnen werken, is dat je een plan maakt met de AI door met elkaar te praten, te lullen en te verkennen, en het uiteindelijke plan, een precieze formulering, als startpunt geeft van een opdracht. Dan is het helemaal goed.
Bart Mol: Precies. Dat is de workflow die ik net beschrijf. Alleen zo'n plan maken, als ik dat moet gaan zitten typen, ben ik een dag bezig. Ben ik liever een dag aan het praten.
Bert Slagter: Precies. Dat is iets over de technicalities. Persoonlijk vind ik het vaak onhandig om hardop te praten. Ik zit thuis, ik heb drie kids en een vrouw.
Bart Mol: Die zijn niet gewend dat je herrie praat.
Bert Slagter: Een beetje herrie te maken. Mijn werkkamer is beneden. Of je zit in een gedeelde ruimte op een kantoor en iedereen gaat tegen zijn apparaat zitten ouwehoeren. Soms vind ik het gênant. Het gedachtevormingsproces, dat is een stukje persoonlijkheid.
Bart Mol: Dat ben ik met je eens. In de trein werkt het niet zo goed.
Bert Slagter: Precies.
Bart Mol: Dat klopt. Ik zou zeggen tegen de luisteraars: laat het weten. Probeer het eens. Ik weet het niet. Voor mij was het een inzicht dat ik dacht: wow. Zeker met die lokale modellen. Dat vind ik gaaf, dat dit op mijn laptop draait en dat ik op deze manieren snel dingen uit mijn hoofd kan krijgen. Zeker als je hem combineert met een agent die dat netjes in een Obsidian Vault zet, waar we het ook nog wel eens over kunnen hebben. Dan verstuur ik mijn gedachtes en als ik kijk in Obsidian staan ze gelabeld erin met een datum erbij en opvolging en weet ik het allemaal. Dat kan ook met zo'n transcription AI. Dat is leuk. Mannen, we zitten aan de 1,5 uur, dus we gaan er voor deze week een einde aan breien. Ik wil jullie hartelijk bedanken.
Bart Mol: Ik heb genoten van de input, moet ik zeggen. Van zowel het treinstation als ook de andere reis die we gemaakt hebben, samen met een token door een model heen. Heel erg cool. Ik wil jullie, lieve luisteraars, allen bedanken voor het luisteren. Nogmaals, als je het een leuke podcast vindt, hoe je ons het beste kan helpen is op het deelknopje drukken in Spotify. Stuur het naar een vriend, een familielid, een groepschat of naar een collega met het bericht erbij: deze aflevering moet je eens luisteren als je meer wil weten over AI. Dat gezegd hebbende, wij sturen een nieuwsbrief uit met de samenvatting van deze aflevering. Schrijf je in op turingstation.nl. Dan krijg je die in je inbox zodra die online staat. Er staan alle linkjes in, een beschrijving. Dat is hartstikke de moeite waard. Als we meer nieuwsbrieven gaan maken, sta je meteen op de lijst. Dan weet je dat ook meteen. Als laatste: laat via de comments weten op YouTube, op Spotify wat je meer wil zien.
Bart Mol: Nieuwe concepten, nieuwe formats, andere onderwerpen? Wat hebben we deze week gemist? Wat hadden we moeten bespreken? Laat het weten. We lezen ze allemaal en dan zetten wij dat op de lijst en gaan we kijken wat we mee kunnen pakken. Voor nu: maak er een mooie week van. Geniet van het lekkere zomerse weer en dan zien we jullie volgende week woensdag terug voor aflevering drie alweer van Turing Station. Tot volgende week! Joe.
Spreker 6: Joe.