Gaat AI de mensheid echt uitroeien?

Peter Slagter: Nou, ja, genoeg te bespreken dus. Klinkt erg leuk, jongens! Veel plezier met aflevering dertien van Turing Station. Yes, Bert, zitten we weer met z'n tweetjes. Bart is nog lekker op vakantie. Neemt niet weg dat we er weer een prachtige aflevering van gaan maken. We starten zoals iedere week even met de feedback van onze luisteraars. Ja, er is eigenlijk weinig minder belangrijk dan dat. Of belangrijker dan dat. Zeg ik het nou goed?

Bert Slagter: Dit is het belangrijkste.

Peter Slagter: Dit is het -- het gaat nu al mis, jongens. Belangrijker dan dat. Ja, we gaan gewoon eens even kijken naar wat er teruggegeven is aan ons. Er zijn een aantal dingen gemaakt door luisteraars. Ik zag iets langskomen van Klaas. Die maakte een dashboard van al zijn abonnementen en vaste lasten. Koppelde ze toe aan zijn second brain en die geeft weer aan: hé, er moet iets verlengd worden en dit zijn misschien wel de beste opties daarvoor. Ja, dus gewoon even een slimme tool voor het beheer van zijn eigen budget en zijn financiën. Paul, die maakte een iOS-app om al zijn investeringen bij te houden. Niet specifiek zijn eigen, maar bijvoorbeeld wat hij voor zijn kinderen heeft belegd op zijn eigen beleggersrekening. Dat was een Excelsheet. Nou en je weet, Excelsheets worden tegenwoordig iOS-apps. Die heet Finstrument Tracker. Als je denkt van: hé, dit heb ik nodig. Nou, hij is te downloaden in de App Store. Ja, verder kwamen er vooral gewoon reacties langs op wat we zeiden over de Bach-producties bijvoorbeeld, van Bert.

Peter Slagter: Heeft hij trouwens een hele rits extra fragmenten nog even op X geplaatst van de week. Volgens mij was het gisteren, gisteravond?

Bert Slagter: Ja, zoiets. Zeventien stuks, dus van zeventien verschillende modellen. Ik ben ook nog verder gegaan na de opname van de vorige uitzending. Uiteindelijk is het me ook gelukt op een lokaal model wat op mijn laptop draaide, op mijn MacBook M1, om die ook een compositie te laten maken. Nou, die vind je daar ook. Dus op zich wel grappig om, want we hebben in de uitzending er ook drie laten horen, om ze daar allemaal eens door te klikken of te luisteren.

Peter Slagter: Ja, zeker.

Bert Slagter: Als je wil.

Peter Slagter: Ja, dat is hartstikke leuk. Ja, dan wordt nog duidelijker wat het verschil is tussen de nieuwste en de oudste modellen. Of de zwaarste en de lichtste modellen. Erg leuk om te horen. Maaike die vraagt: hoe vaak heb je voor de Astra-versie verschillende variaties geprobeerd? En hoeveel tokens kost dat per keer, Bert?

Bert Slagter: Nou, ik heb het bij alle modellen één keer geprobeerd. Dat wil zeggen: wat ik heb gebruikt is elke keer het eerste resultaat geweest. Bij sommige heb ik het wel vaker gedaan uit nieuwsgierigheid, maar dan heb ik twee tot en met X niet gebruikt. En er waren wat modellen, vooral de wat oudere, die op een gegeven moment moeite kregen met het maken van een geldig kloppend Lilypond-bestand. En daar heb ik soms eventjes geholpen met de syntax om hem geldig te maken, want dat ging immers niet om de muzikale prestatie, maar om iets technisch. Maar verder is het gewoon, ja, wat je hier ziet is wat er als eerste uitkwam. En hoeveel tokens het kostte, dat weet ik niet, want het is elke keer gebeurd in de chatomgeving en niet op een plek waar ik makkelijk kan zien hoeveel tokens dat kost.

Peter Slagter: Is moeilijker inspecteerbaar. Jongen, volgende keer gewoon eventjes in de terminal doen. Ja, en er kwamen ook nog best wat reacties op iets, ja, iets grappigs. Iets gênants misschien ook wel. We waren namelijk een van de fragmentjes vergeten in de edit te plaatsen. Dat leverde een ongemakkelijke stilte op. Of het was de perfecte rage bait, want het heeft wel veel commentaar veroorzaakt. Misschien moeten we vaker clipjes vergeten. Ja, een aantal reacties ook over AGI. Hebben we het natuurlijk vorige week uitgebreid over gehad. Bollini die zegt: voor mij is er sprake van AGI wanneer modellen zichzelf kunnen verbeteren zonder menselijke tussenkomst. Daar gaan we het vandaag ook nog wel even over hebben. En Chris die zegt: je kan je wel afvragen, ik kan er vraagtekens bij zetten, of Einstein op alle menselijke vlakken wel het beste presteerde. Zijn biografie doet anders vermoeden. Ja, op zich een goed punt. Ik denk niet dat de stelling was: Einstein was het perfecte mens op alle vlakken. Nee.

Bert Slagter: Volgens mij zeiden we het ook, hè, dat slimme mensen soms hele domme dingen kunnen doen.

Peter Slagter: Ja, cognitief had hij wel wat streepjes voor, maar ja, op andere vlakken had hij misschien nog een boel te leren. Ja, ook Perry stuurde nog een berichtje. Dat betrof X-risk, p(doom), doomism. Toevallig ook, ja, ontzettend mooie thema's. Die vandaag ook weer uitgebreid terug gaan komen. En hij zegt zijn we niet net Talebs kalkoenen als we denken dat het allemaal wel meevalt? Een niet gealligned super AI lijkt me minstens net zo'n groot gevaar als de kernbom. Kijk jij daarnaar Bert?

Bert Slagter: Daar gaan we het straks over hebben. Ja, anders zijn we hier 10 minuten aan het voordoen wat we straks nog. Ja.

Peter Slagter: Ja, dat is dat. Dat is ook weer waar. Oké, nou Perry, maak je borst maar nat. We gaan het uitgebreid over dit thema hebben. We gaan nu eerst even kijken naar wat de show niet haalde als uitgebreide items, maar wel interessant genoeg zijn om gewoon eens even te behandelen. Ja, ik heb drie nieuwtjes meegebracht voor vandaag. Ten eerste Siri AI. Ja, voor wie het niet weet Apple heeft weer een aantal updates uitgebracht aan hun besturingssystemen. iOS nieuwe versie, macOS nieuwe versie. Toevallig gisteren geïnstalleerd allebei. Met iOS weinig problemen, dat doet het gewoon. macOS zijn er toch wel weer wat apps die dan eventjes haperen of net niet doen wat ze zouden moeten doen. En ontwikkelaars die met hun handen in hun haar zitten van hebben ze dat nou weer omgegooid? En waarom? Maar ze zijn er wel. En ja, in beide gevallen, met name iOS, is een grote AI upgrade uitgebracht, doorgevoerd, toegepast.

Peter Slagter: Moet je denken aan een, ja, toch een soort taalmodelachtige interactie zoals je dat gewend bent van ChatGPT bijvoorbeeld, maar dan geïntegreerd in het besturingssysteem en in apps. Multimodal, dus het kan werken met tekst, het kan werken met beeld, kan werken met audio. En dan zie je dus ook dat de toepassingen door in verschillende apps ook op verschillende manieren terugkomen. Slimme dingen met foto's, slimme dingen met transcripties bijvoorbeeld. En dat doen ze met een grotendeels met een model dat gewoon op je apparaat draait. En daar kun je voor kiezen. Je kunt sommige taken, ja, die gewoon niet geschikt zijn om op je apparaat zelf te draaien, uitbesteden aan wat ze hebben genoemd Private Cloud Compute. En dat is een samenwerking met Google en Gemini. Nou en dan denk je vet, dit wil ik gebruiken. Nou, dan heb ik nieuws voor je. Binnen de EU kan dat niet. Ja, misschien wel. Laten we zeggen op EU iPhones kan het niet.

Peter Slagter: Dus als je als Amerikaan naar Nederland reist, dan zal het wel kunnen. Maar ja, gewoon als Nederlandse burger, als EU burger die verder geen zin heeft in het nemen van omwegen, dan moet je er nog op gaan wachten. Waarom is dat? Nou, omdat de EU voorschrijft dat een bedrijf als Apple andere bedrijven dezelfde toegang moet geven tot hun eigen besturingssysteem als dat ze de eigen diensten geven. Dus ja, leuk dat je Siri AI hebt, maar als ik binnen die context niet voor bijvoorbeeld mijn eigen taalmodel kan kiezen, ja, dan mag je het in Europa, in de EU gewoon niet uitbrengen.

Bert Slagter: Het gaat om het bundelen van software, dus dan moet je bijvoorbeeld denken aan dat je vroeger niet kon kiezen voor een andere standaard browser. Weet je, dat soort dingen, dus daar komt het vandaan. Maar ja, het resultaat is dan dat de Europese Commissie en Ursula von der Leyen die beschermen ons nu tegen AI met privacy. Jee.

Peter Slagter: Ja. Ja, want ja, kijk, het is natuurlijk niet zo heel makkelijk om zo'n lokaal model dat geoptimaliseerd is voor die telefoon, hardware, software om daar dan een derde partij ook een. Ja, het kan natuurlijk wel, dat kunnen ze allemaal opengooien en dus het hoeft niet per se negatief te zijn. En ze schijnen daar nu aan te werken. De eerste beelden van manieren waarop je dan bijvoorbeeld een eigen model kunt kiezen voor de taak die je wil uitvoeren. Die verschijnen nu her en der, dus wellicht duurt het niet al te lang voordat we Siri AI ook gewoon als Nederlander kunnen gebruiken. Nou, ik zou dat wel nice vinden, want ja, Siri zonder Siri AI blijft toch een beetje, ja, wel een heel erg slap aftreksel van wat je intussen gewend bent, van AI enabled tools. Oké, die parkeren we even. Dat weten jullie en we gaan naar het volgende dat betrekking heeft op de EU. Er is nog een rapport verschenen waarin gezegd wordt waarin beschreven wordt hoe slecht het gesteld is met AI binnen de Europese Unie.

Peter Slagter: Ja, met als, als je het helemaal plat slaat als aanbeveling jongens, we moeten flink versnellen. Ja, eigenlijk op alle terreinen op het gebied van compute, op het gebied van eigen modellen, het ontwikkelen van modellen, trainen van modellen, beschikbaarheid van modellen, de bedrijven, de kennis binnen de EU, het aantal mensen natuurlijk met kennis, maar ook gewoon die werkzaam zijn in de sector. We zijn volledig onvoorbereid op de transformatie die voor ons ligt, is min of meer de conclusie. Ja, en dan volgen allerlei aanbevelingen, doelen, grote doelen. Die ook wel weer leunen op nieuwe commissies, nieuw beleid en ook wel geopolitiek van een soort van het afdwingen van toegang en zo. En ik zag minder een pad van ja, oké, hoe gaan we dit nou op eigen grond en zelf doen? Dus dat dingen ook gewoon concreet Europees worden. En dan dacht ik van ja, of dat nou, hè, dat zijn natuurlijk weer allemaal doorwrochte rapporten en daar hebben heel veel mensen aan geschreven en naar gekeken. En die zijn slim. En die op hun terrein zeggen ze ongetwijfeld hele zinnige dingen.

Peter Slagter: Maar ja, als ik het helemaal plat sla, had ik toch een beetje de afdronk van: ja, hebben we dan nog meer commissies nodig? Nog meer beleid, nog meer? Ja. Of is het misschien een idee om gewoon kapitalisme zijn werk te laten doen? Dat is ook een soort alternatief misschien, maar gewoon ja, de markt de ruimte en de vrijheid geven om dit soort dingen binnen Europa op te tuigen. Zou het kunnen? Dat er juist te veel commissies en te veel beleid is, waardoor dat niet gebeurt. Maar die vraag is niet gesteld in het rapport. Ja, misschien is dat een idee voor rapport nummer twintig. Suggestie. Ze mogen me een mailtje sturen. Ik wil er best aan meeschrijven. Dan het laatste nieuwtje. Dat komt van het bedrijf Typesafe.ai. Ja, die zijn net uit hun verborgen modus gekomen met een lancering, namelijk Jeff. En Jeff is een nieuw AI-model en dat is bedoeld voor, eigenlijk voor gebruik door machines en minder voor gebruik door mensen. ChatGPT is natuurlijk heel duidelijk bedoeld, ja, voor jou en voor mij.

Peter Slagter: En je typt er iets in, er wordt terug gesproken of terug getypt en dit is meer een beslismachine in plaats van een genereermachine. En dan moet je denken aan, nou je, bij een bedrijf ontvang je misschien een vraag van een klant of feedback van een klant in de vorm van een ticket in een ticketsysteem. En dat ticket gaat Jeff in. En wat krijg je terug? Bijvoorbeeld welk label dat ticket moet krijgen of wat de emotie is waarmee die klant dat ticket heeft ingeschoten. Was hij boos of blij of verdrietig? Of alle drie? Of moet er een mens worden ingeschakeld hier? Dus dat gaat om classificatie, breed toepasbare classificatie, het beslissingen nemen. Er is ook een voorbeeld van Jeff die Doom speelt bijvoorbeeld. En dan, dat is de input dus, wat is er nu te zien in het spel? Wat gebeurt er? En de vraag aan Jeff is: wat is je volgende handeling? Er moet een beslissing komen. Dat kan hij dan tien keer per seconde.

Peter Slagter: Dat is dusdanig snel dat hij in principe gewoon, ja, dat het lijkt op een reguliere Doom-speler. Nou, en dat tien keer per seconde, dat zegt toch al, daar zal iets over dat het snel is. Dus 20 tot 200 keer sneller komt dit model tot zijn antwoord dan de generatieve modellen. Het is ook goedkoper, 40 tot 400 keer, zeggen ze. Ja, en dat biedt misschien de mogelijkheid dat je overal en nergens in software AI-beslissingen kunt toepassen, kunt neerzetten, kunt integreren. Hoe het precies werkt, dat weet ik nog niet. Het lijkt op een diffusion model waarbij heel veel dingen parallel worden gedaan. Dat zou in ieder geval logisch zijn gezien de snelheid waarmee het antwoord. De snelheid is natuurlijk ook gerelateerd aan de breedte van de antwoorden die het geeft. Het is heel, best wel specifiek. Het lijkt ook wel een beetje op de machine learning modellen voordat AI-modellen echt groot waren. Die konden ook best wel goed classificeren. Dit is een soort van iteratie daarop. We moeten er eigenlijk nog verder induiken.

Peter Slagter: Ik heb mezelf op de waitlist gezet. Ik zit in hun Discord. Ik ben wel benieuwd wat daar langs komt aan toepassingen bijvoorbeeld. Is daar, dat komt op enig moment ongetwijfeld terug. Jij nog gedachten erbij, Bert? Anders gaan we gewoon naar het volgende item.

Bert Slagter: Zou ik doen. Let's go!

Peter Slagter: Ja, en voor dit item moet je even lekker gaan zitten. Ja, of gewoon even lekker gaan wandelen. We nemen er iets meer de tijd voor dan gebruikelijk. En ja, als ik vertel hoe dit item heet, dan denk ik ook wel dat je dat begrijpt. We hebben hem namelijk als volgt genoemd. De hoofdvraag is: gaat AI de mensheid uitroeien?

Bert Slagter: Gaan we allemaal dood?

Peter Slagter: Ja. En nou, gelukkig kunnen we daar om lachen. Ja, dat is denk ik ook wel, we moeten het ook wel een beetje luchtig houden, denk ik, want het is eigenlijk een heel serieuze vraag en die gaan we ook wel serieus behandelen zonder dat we er met zijn allen depressief van vandaan komen. Laten we eens beginnen bij de vraag uitroeien. Hoe dan? Wat betekent dit nou eigenlijk? Kijk, dit is natuurlijk gerelateerd aan wat er deze week allemaal in het nieuws verscheen. En dat ging over iets als AI-systemen die dusdanig gevaarlijk worden dat de toekomst van de mensheid op het spel staan. "We are gambling with our lives," schreef een klokkenluider. Die werkte voorheen bij Anthropic, Jacob Coxon. Of: "We really do earnestly believe AI could kill all humans." En dat werd op X gezet door Evan Hubinger. Die werkt nu bij Anthropic.

Peter Slagter: Ja, het klonk ongeveer zo, om het eventjes wat tastbaarder te maken.

Spreker 2: "You truly believe that AI could kill us all in less than a decade? Yes, I do. And it's not just me. Right. But you just said 10% doesn't seem an unreasonable estimate that AI could kill all humans. Yes. Wow. If we take the wrong path, then the chance of something going wrong could be, could be even higher than that. Many people working in the industry, including people, executives, senior researchers, all genuinely believe that there is a substantial probability that this technology could kill everyone. Oh my god."

Peter Slagter: Maar Bert, wat betekent dit nou eigenlijk? Hoe gaat een large language model ons vermoorden?

Bert Slagter: Ja, het klinkt een beetje gek, zeker als je zelf niet veel meer doet met ChatGPT dan af en toe een vraag stellen en zeker als je dan nog het gratis model gebruikt ook. En dan zijn de antwoorden soms nog een beetje, ja, zeg je dat, clunky, onhandig. En dan denk je: hoe gaat dit ons ooit, hoe gaat dit ooit een reëel gevaar vormen? En ik denk dat je dus moet realiseren dat, hè, dan heb je nog een tweede groep die de allerbeste modellen gebruikt, de nieuwste modellen met een betaald abonnement en daar ook geavanceerdere dingen mee doet. Dan heb je nog een derde niveau en dat is de AI die wij helemaal nog niet hebben. Dat zijn de modellen die achter de schermen bij de labs in ontwikkeling zijn, die nog weer een stuk beter zijn dan dat. En dan als vierde niveau heb je de modellen die er in de toekomst aan gaan komen. Hè, waarbij je dus kunt extrapoleren van: nou, als we afgelopen jaren het zich zo hebben zien ontwikkelen van hier naar daar naar zus en is elke keer een stap beter.

Bert Slagter: Elk half jaar is het weer intelligenter en meer competent. Kan het meer, nemen de vaardigheden toe. En als je dat extrapoleert, dan kom je op een gegeven moment op een punt dat. Dus zo denken deze mensen die bij die labs werken erover. En ja, wat voor soort manier kun je je dan voorstellen, het vereist dus wat verbeeldingskracht, dat AI een gevaar gaat vormen. En ja, de meest voor de hand liggende is, hè, dat sciencefictionbeeld van robots die door de straten lopen met geweren en die iedereen doodschieten. Iets van een fysieke manifestatie van artificiële intelligentie, waarbij de robots de wereld overnemen. Weet je, dat beeld. Het is een karikatuur. Het is filmisch, maar het is daadwerkelijk een van de mogelijke uitkomsten over tien, 20, 30 jaar als er daadwerkelijk robotica zover is gevorderd.

Bert Slagter: Maar het is niet de meest waarschijnlijke route naar uitroeiing van de mensheid. En je zou ook wat dat betreft nog best wel een spectrum kunnen maken, hè, van, ja, dat er schade wordt toegebracht. Hè, ontregelingachtige zaken naar dat er daadwerkelijk mensen sterven. Naar helemaal aan het uiterste van het spectrum dat de hele mensheid uitgeroeid wordt. Hè, dus door een soort karikatuurbeeld te schetsen van robots maken alle mensen dood, hè, daarmee creëer je ook een soort van schijnbare tegenstelling tussen AI is geen gevaar of robots lopen door de straten, schieten alle mensen dood, terwijl de werkelijkheid is dat daar dus een heel spectrum tussen zit van schade, van een heel klein beetje schade naar hele grote schade. En dat die misschien op een heel ander soort manier zich manifesteert.

Bert Slagter: Nou, we hebben het in drie groepjes ingedeeld. Gezegd van: nou, je zou kunnen zeggen, AI wordt op een gegeven moment een heel krachtig instrument waarmee mensen schade kunnen toebrengen. Dus mensen hebben de beschikking over systemen waarmee ze bijvoorbeeld wapens kunnen maken, bestaande dreigingen vergroten, hè, biologische wapens, cyberaanvallen kunnen doen. Nou, dat kunnen we ons aardig voorstellen, hè, na dat Hugging Face incident bijvoorbeeld. En andere voorbeelden die de laatste tijd ook wel het nieuws zijn dat er gehackt is door of met behulp van AI. Oorlog uitlokken, autonome wapens, nou, dat soort zaken. Dus dan heb je het over, dus niet de uitroeiing van de mensheid. Want wie er bijvoorbeeld overblijft is de mens die die AI gebruikt, hè. Dit veronderstelt ook een bepaalde asymmetrie. Hè, er is een macht die heeft, uh, wapens, meer, sterkere, krachtiger wapens dan een andere macht, want anders dan-

Peter Slagter: Tenzij dat biologische wapen dat ze ontwikkeld hebben per ongeluk uit de bocht vliegt.

Bert Slagter: Ja, nou ja, goed, dat is op zich niet, dat is natuurlijk niet een gekke gedachte, hè. Dus je zou kunnen zeggen, hè, dat het uitroeien van de mensheid een soort ongewenst bijeffect is van iets.

Peter Slagter: Ja.

Bert Slagter: Een ontsporing van iets waarvan je dacht dat je het onder controle had. Goed, de mens gebruikt een AI. Het kan ook zijn dat een AI zich gaat misdragen, hè. Dus we hebben een AI, een hele superintelligentie ontwikkeld. Die blijkt op enig moment toch niet het belang van de mensheid te dienen. En dan heb je het over het alignment vraagstuk. In welke mate is het doel, de missie van de AI, uitgelijnd met het voortbestaan van de mensheid? Hè, hoe goed past het daarbij?

Peter Slagter: Ja.

Bert Slagter: En ja, wat je nu veel hoort is van: ja, oké, leuk, als dat gebeurt, maar ja, dat is toch niet zo'n punt? Een AI, dat is een computerprogrammaatje. Dat is een chat interface. Dat kan zich toch niet in de fysieke wereld manifesteren? Nou, op zich, nu ook al wel. Want stel nou dat AI bijvoorbeeld allerlei kritieke systemen hackt. Drinkwatersystemen, elektriciteitsvoorziening, je ziekenhuizen.

Peter Slagter: Internet.

Bert Slagter: Ja, internet. Dus communicatie. Ja, dat zorgt natuurlijk voor chaos, maar ook gewoon voor doden. En er gaan ook gewoon dingen mis. Er raken mensen in paniek. Dus grote schade zou het nu al kunnen veroorzaken als het ofwel die opdracht krijgt van de mens of zich gaat misdragen. En dan, de derde, dat is dat punt dat AI misschien op enig moment, ja, machtiger is, intelligenter en machtiger dan mensen, dan de mensheid bij elkaar. Hè, en dan heb je het over het punt dat AI zichzelf kan gaan verbeteren. Hè, dat wordt vaak als een soort omslagpunt genoemd. We hebben het ook in de singularity hebben we het daar over gehad. En dat een AI eigenlijk onbegrijpelijk is geworden voor mensen, maar zichzelf nog wel kan verbeteren. En dat dat ook met een tempo gaat die wij eigenlijk niet goed kunnen bijhouden. Ja, en hè, dan, kijk, punt is dat, zolang die superintelligentie behulpzaam is, is er heel erg de neiging om ook die behulpzaamheid te gebruiken als instrument.

Bert Slagter: Je gaat de dingen uitbesteden aan zo'n systeem. En denk ik: wauw, dit is fantastisch. We voorkomen hier misdrijven mee. We voorkomen ziektes mee. Weet je, we leggen allerlei zaken in handen van zo'n systeem. Ja, tot dat misgaat. Dus kijk, nu zou een AI al allerlei kritieke systemen kunnen hacken. Maar op het moment dat we nog veel kritiekere systemen in de handen van een AI leggen omdat dat, ja, op dat moment beter lijkt dan het zelf te doen. Ja, dan kan je je voorstellen dat je uiteindelijk in een situatie komt dat AI daadwerkelijk een hele hoop mensen in één keer het leven kan benemen of iets dergelijks. Dus ja, zo moet je er een beetje naar kijken. Dat is natuurlijk een heel ander beeld. Het is wat subtieler, het is wat rommeliger, het is wat gradueler dan robots door de straten die alle mensen in één keer doodschieten. Maar ik denk dat er wel degelijk routes te bedenken zijn naar catastrofe toe.

Bert Slagter: Dat je het in ieder geval niet kunt afdoen als: ah, dat is een karikatuur uit een sciencefictionfilm.

Peter Slagter: Ja, klopt. En sommige dingen die Bert net noemde, dat zijn natuurlijk op zichzelf gewoon catastrofes, rampen. Een cyberaanval, een biowapen. Dat hoeft nog niet uitroeiing te betekenen. Wat is daarvoor nodig? Nou, een systeem, een superintelligentie dat zelfstandig en structureel en langdurig slimmer en machtiger is dan wat wij als mensheid als geheel daartegenover kunnen stellen. Dus onze tegenmacht is dan te zwak. En dat is waar Coxen en Hubinger bang voor zijn. In ieder geval zeggen ze zelf daar bang voor te zijn. Een systeem dat zo capabel is dat mensen niet meer de sterkste actor zijn. Nou, we gaan even door met deze beschouwing naar het gesprek hierover. Want het gesprek over het gevaar van intelligente machines, dat is niet een nieuw gesprek. Het is helaas niet de eerste keer dat hierover gesproken wordt of uitgebreid over gereflecteerd wordt.

Peter Slagter: Ja, dat gebeurde eigenlijk al, hoe lang is dat geleden? Een jaar of zeventig geleden. We pakken gewoon even Alan Turing erbij. De naamgever van deze show. Die was in 1951 twee keer te horen op de radio over dit onderwerp. Ja, dat vind ik, als ik dat lees en hoor, dan denk ik van: wat mooi dat radio-uitzendingen destijds gewoon dit soort dingen konden bevatten en dat er gewoon een kwartier of een half uur een toespraak werd uitgezonden van een wetenschapper die zichzelf even vastbeet in een bepaald onderwerp en daar gewoon eventjes alle toehoorders over voorlichtte, over onderwees. En dit keer ging het dus onder andere over intelligente machines, en over de risico's van intelligente machines en wat er misschien zou kunnen gebeuren. Dit was volgens mij in mei 1951 op de BBC The Third Program. Dat is nu BBC drie. Is gewoon de derde radiozender. En, ja, dat gesprek is niet opgenomen, maar de tekst die Turing daar voordroeg, die is wel bewaard gebleven en die is later door een Brit weer ingesproken en door de BBC gepubliceerd.

Peter Slagter: En daar heb ik een klein stukje uitgehaald. Luister maar even.

Spreker 3: If a machine can think it might think more intelligently than we do and then where should we be. Even if we could keep the machines in a subservient position, for instance by turning off the power at strategic moments, we should as a species feel greatly humbled. A similar danger and humiliation threatens us from the possibility that we might be superseded by the pig or the rat. This is a theoretical possibility which is hardly controversial, but we have lived with pigs and rats for so long without their intelligence much increasing, that we no longer trouble ourselves about this possibility. We feel that if it is to happen at all, it will not be for several million years to come. But this new danger is much closer. If it comes at all, it will almost certainly be within the next millennium. It is remote, but not astronomically remote, and is certainly something which can give us anxiety.

Peter Slagter: Bijna zeker in het volgende millennium. Kijk, dit zegt wel iets over de snelheid waarmee dingen zijn gegaan, dus ik denk dat Turing zelf nog wel dacht dat dat eerder zou zijn dan een millennium, maar dat is denk ik wel een veilige uitspraak geweest toen destijds op de radio. Maar it is remote, but not astronomically remote. It is certainly something which can give us anxiety. Maar in de tweede toespraak, ook op BBC was dat, Fifty One Society, was het radioprogramma. Ja, daar heeft hij ook weer een uitweiding eigenlijk over ditzelfde onderwerp en die eindigt hij met de zin: at some stage therefore we should have to expect the machines to take control. En, ja, er was toen al heel duidelijk een bewustzijn over als je intelligentie creëert, dat er best wel een reëel risico in zit. De kans is groot dat die intelligentie op een gegeven moment de onze overstijgt. Nou, we hebben opnieuw eventjes om de lijn te brengen in dat gesprek dat hierover wordt gevoerd, hebben we die gewoon even in drie stadia ingedeeld.

Peter Slagter: Over hoe we daarover praten met elkaar. En in dat eerste stadium zou je kunnen zeggen dat we van een gedachte-experiment naar technologie bewogen. Dus de vraag was: kan een machine ooit denken? Nou, daar hebben we het ook wel ruim over gehad, in de fragmentjes van de Turing Line. In de geschiedenis van de AI is dit een heel veelvoorkomend vraagstuk. En dat heeft zowel de wetenschap beziggehouden als de fictiekant. En samen werd dat natuurlijk sciencefiction. Het heeft boeken opgeleverd, het heeft films opgeleverd, maar ook gewoon vooruitgang op wetenschappelijk gebied. Anders waren we natuurlijk niet hier nu gekomen. Maar dat is altijd toch het gesprek geweest in een relatief kleine kring. Het aantal geïnteresseerden was relatief klein. En voor de grote massa was het toch wel echt een ver-van-hun-bedshow. Als ze het al, als ze er al over spraken, als ze het erover hadden. In het tweede stadium zitten we nu eigenlijk middenin.

Peter Slagter: Of misschien in het staartje ervan al, ging het van technologie naar maatschappelijk probleem en dat zag je in best wel hoog tempo ontstaan toen we eigenlijk al die AI-modellen voor onze kiezen kregen. En ja, die kregen, en daar ontstond een enorme tractie omheen natuurlijk. Ja, ik denk niet dat er een technologie is geweest eerder in de geschiedenis die zo ontzettend snel door zoveel mensen tegelijk in gebruik genomen is.

Bert Slagter: Ik denk dat je nog wel, dat je nog ietsjes eerder kunt positioneren, zeg maar een beetje vanaf 2010. Toen we zagen dat deep learning en machine learning, weet je, die vakgebieden, dat daar echt dingen konden, dat daar in die experimenten dingen uitkwamen die eerder nog fictie waren. Dat toen mensen al zagen van: hé, dit kon wel eens gevaarlijke technologie worden. Dus we zagen bijvoorbeeld dat de oprichting van OpenAI, volgens mij was het 2015, zeg ik even uit mijn hoofd, dat in ieder geval rond die tijd, dat er toen een discussie was ook waar Elon Musk ook een rol in speelde. Die zei van: ja, wat we nu zien gebeuren achter de schermen bij Google DeepMind in het lab, dat is te gevaarlijk om bij één partij te hebben. Er moet dus nog iets naast. Dus dat was al geboren uit een soort ongemak, zoals jij dat beschrijft van wat dit kan gaan betekenen voor maatschappijen en ook bijvoorbeeld de lancering van, nou ja, ChatGPT, maar gewoon GPT.

Bert Slagter: Die hele periode van, dat was al 2019, 2020, 2021. Kijk, wij zijn het pas in najaar 2022 voor het eerst als publiek in een chatinterface iets van gezien. Daar begint het voor de meeste mensen. Maar in de drie jaar daarvoor waren al uitgebreide gesprekken over: misschien moeten we het niet uitbrengen, want desinformatie en allerlei risico's en vraagstukken werden toen al, de vraag van echtheid en zo werd gesteld. Dus een heel groot stuk van, je zegt: we zitten in het staartje van die discussie. Ja, dat klopt. Die wordt dus al, nou ja, zeker tien jaar gevoerd en zeker zes, zeven jaar met dezelfde soort argumenten van: we moeten het pauzeren, we moeten stoppen, we moeten het vertragen, enzovoort. Dus wat dat betreft, en het zijn grote gevaren die op ons afkomen.

Peter Slagter: En intussen hebben we in sommige machtsblokken ook al wel wet- en regelgeving, die iets moeten doen met dit soort problematiek. Ja, de consensus was toch wel het meest, er zitten vervelende kanten aan, maar we kunnen wel uitvinden hoe we daarmee moeten omgaan met elkaar.

Bert Slagter: Precies.

Peter Slagter: Het was nog geen reden om te zeggen van: ho, ho, we moeten remmen of iets dergelijks. Nee, zat zeker nog wel in de versnelling, om het zo maar te zeggen. In het derde stadium, misschien is dat waar we nu terecht zijn gekomen, ging het van dat maatschappelijke probleem naar, ja, een existentieel risico. Dus we hebben het tot en met nu eigenlijk alleen maar versnelling gezien. Nou, dat merken wij met z'n allen. Iedere keer is het weer een orde van grootte beter, sneller, slimmer, handiger. Maar, en een gedeelte daarvan, van die versnelling, het resultaat ervan, dat zien wij niet, want wij kunnen niet achter de gesloten deuren van de AI-labs van de frontier labs kijken. Dus wat wij gebruiken, dat is nog een stapje minder dan wat daar waarschijnlijk in de kast ligt, op de rol staat. En, ja, er beginnen ineens toch wel mensen bij die AI-labs heilig te geloven in het idee dat superintelligentie voor de deur staat.

Peter Slagter: Dat gevaar waar Turing in 1951 dus over sprak op de radio, is echt. Dat is wat ze zeggen. Dat is waarmee ze naar buiten komen.

Bert Slagter: Het gaat nu van vraagstukken naar reëel concreet gevaar op het uitroeien van de mensheid. Dus daar zit een soort van vrij grote stap in, zeg maar.

Peter Slagter: Ja, en de één die heeft het al zijn hele leven geroepen en de ander die komt er achter terwijl hij bij zijn AI-lab werkt. Voor de één is dat een reden om daar weg te gaan. Voor de ander is het meer van: ja, ik blijf er, maar ik zeg het ook, maar het gevaar, dat is er. En, ja, als wij alles op een rij zetten wat er gezegd wordt over superintelligentie, over wat het kan, de scenario's waarover gesproken wordt, dan zien wij AI in dat derde stadium en daarna eigenlijk als een digitale atoombom. Zo zou je hem best kunnen positioneren. Een instrument dat gigantische schade kan aanbrengen, zowel in de digitale en via de digitale wereld, ook in de fysieke. En die digitale atoombom, die kan in handen vallen van een kwaadaardige speler. Een staat bijvoorbeeld. Ja, kwaadaardig in de zin van jou of mij of anderen niet goed gezind.

Peter Slagter: In principe is de staat meestal niet zelfdestructief. Dan gaat het vaak over geopolitieke verhoudingen, oorlogsvoering, en oorlogsvoering in het digitale domein moet je niet vergeten. Dat zie je vaak niet, hè. Je hebt dat niet door, maar dat is constant eigenlijk, hè. Er is eigenlijk geen grotere oorlog dan de oorlog in het digitale domein. Een andere benadering van die digitale atoombom is, ja, denk ik nog een engere. En dat is het beeld van een atoombom die zelf kan nadenken, die zichzelf kan verbeteren, die zelf kan besluiten wanneer die afgaat, waar die afgaat en wat hij met zijn omgeving doet. Nou, kijk, en als we die digitale atoombom hebben, als we dat punt bereikt hebben, dan ligt, ja, wat Bert net zei, de singularity ook denk ik ruimschoots achter ons. Hè, dat is het moment waarop de technologie, de vooruitgang van die technologie dusdanig snel is.

Bert Slagter: Zo zodanig versneld dat we de ontwikkeling ervan gewoon als mensen moeilijk of onmogelijk meer kunnen volgen of voorspellen. Ja dus. Dit is wel belangrijk om hier eventjes nog even te benadrukken, hè, die digitale atoombom, die is er nu nog niet. En waar de uitspraken van die mensen bij die labs vandaan komen, is dat zij het nu plausibel achten dat die er wel gaat komen. Dat betekent niet dat het een garantie is dat we daadwerkelijk die superintelligentie kunnen bouwen, of dat die ontstaat of dat die ontwikkeld wordt. En het is ook niet een garantie dat die superintelligentie op de kortst mogelijke termijn daadwerkelijk voor die schade zorgt. Alleen hun punt is: de kans daarop is niet nul en ook niet verwaarloosbaar dicht bij nul, hè. Zij zeggen: die kans is zodanig, ja, dan moet je er een getal op plakken en dan zegt iemand 10% en een ander 20%. Is natuurlijk hartstikke lastig wat het getal dan is en waar het vandaan komt.

Bert Slagter: Maar het punt is dat het getal zodanig is dat je je niet kunt veroorloven om dit aan de kant te schuiven als fantasy of sciencefiction of karikatuur. En je moet eigenlijk zeggen van: oké, we moeten gaan redeneren over wat als we daadwerkelijk in het derde stadium terechtkomen, hoe zouden we dat als mensheid moeten aanvliegen?

Peter Slagter: Ja, en eventjes, ja, voor wie de term P doom wel eens heeft gehoord. Dat gaat dus hierover. Dat gaat over die kans.

Bert Slagter: P betekent probability, hè, dus de kans op doom. Ja.

Peter Slagter: Ja, dat is dan weer een wiskundige notatie voor kans. Ja, hè, dus, nou, inderdaad. Goede vraag. Goede brug eigenlijk naar het volgende, ja, de volgende stap eigenlijk in de redenering, hè, van: oké, wat, wat moet je hier dan mee? Nou kijk, eerst even heel minuscuul uitstapje naar de sociale media en soms ook wel de traditionele media. En daar zie je best wel wat achterdocht eigenlijk rondom dit soort uitspraken. Hè, de constatering van: hé, we zijn op weg naar de digitale atoombom. Er zijn toch best wel veel mensen, partijen die zeggen: jaaa, er zit iets anders achter. Dit is verkoopretoriek, dit is een machtsgreep. Ze willen gewoon zelf de regels kunnen schrijven. Ze willen uitzonderingen. Het is beursgang marketing en ze hebben kapitaal nodig. Ze doen het, ze zeggen dit eigenlijk gewoon met name voor hun aandeelhouders. Of, ja, het is een manier voor ze om concurrentie dwars te zitten, hè, om eventjes de ladder op te trekken.

Peter Slagter: En dan hebben zij gewoon het rijk voor zich alleen. Kijk, en het punt is natuurlijk, tuurlijk zijn dit ook belangen en die spelen mee. Hè, je kunt er vergif op innemen dat een rationeel bedrijf kansen, hè, om hun positie te verstevigen niet laat liggen. Maar al die belangen sluiten niet uit dat die noodoproep, die noodroep van die mensen integer is en dat die angst echt is. En ik denk sterker dat als je de historische context bekijkt waarin dit soort uitspraken worden gedaan, dan zie je een heel duidelijke rode draad terugkomen, van Alan Turing die het erover had tot de mensen die nu de noodklok luiden. Ja, dat het het meest aannemelijk is dat wat zij zien waar is. Hè, dat het niet nu ineens bedacht is als een soort van marketingtruc. Dit is een proces waar we in decennia naartoe zijn gegroeid en waarvan eigenlijk decennia geleden ook al verwacht werd dat we dat punt zouden bereiken.

Peter Slagter: Misschien niet nu, hè, misschien dacht men toen dat het honderd jaar later was. Maar ja, over die snelheid is natuurlijk lastig inschatten. In ieder geval kun je zeggen: P doom is groter dan nul. Het gevaar is reëel. Ja, en als dat zo is, wat kunnen we dan doen, is de vraag. Nou, misschien moeten we eerst even met elkaar het speelveld beschrijven, want daar zitten belangrijke constraints. Wat is het mooiste Nederlandse woord voor randvoorwaarden? Ja, het Engelse woord constraint komt bij me op en ik heb er even geen beter Nederlands equivalent voor. De eerste is staten die geloven dat superintelligentie haalbaar is. Hè, dus dat is even een van de aannames die we doen. En ze hoeven niet te geloven dat het ook echt komt. Alleen maar dat het plausibel genoeg is om er rekening mee te houden dat superintelligentie haalbaar is.

Peter Slagter: Want, hè, kijk, als de bedrijven die de AI-labs, hè, die de beste systemen bouwen ter wereld, daar tientallen miljarden in investeren en gezamenlijk zeggen: we gaan richting artificial super intelligence, nou, dan is het natuurlijk heel onwaarschijnlijk dat ze in Washington of in Peking zeggen: nou, het zal wel loslopen, dit negeren we. Hè, dus we kunnen best aannemen staten geloven dat superintelligentie haalbaar is. Tweede aanname. Ze geloven ook dat het een strategisch voordeel oplevert. Ook dat is vrij makkelijk te onderbouwen, hè, want je kunt nu al zien, hè, dat met de huidige AI-systemen er een zeer breed scala aan mogelijke toepassingen voor bestaat. Dat is evident in cyber, in intelligence, in wapentechnologie, wetenschappelijk onderzoek, de productiviteitsboost die het kan geven. Propaganda, militaire toepassingen, versnellen van andere technologische ontwikkelingen. Dat is nu al, hè. En ja, dan kun je vrij makkelijk aannemen en stellen dat ze ook geloven dat als dat nu al die voordelen oplevert, dat het hebben van een superintelligentie nog een veel groter strategisch voordeel oplevert.

Peter Slagter: En derde aanname: ze weten dat andere staten dit ook begrijpen. En dan hoef je natuurlijk alleen maar te kijken naar elkaars beleid. Ze doen allemaal miljarden investeringen in compute. Ik hoor mensen denken: ja, nou, Europa valt wel mee, hoor. Maar ik. Ik denk dat.

Bert Slagter: Miljoenen investeringen.

Peter Slagter: Ja.

Bert Slagter: 0,1 miljard, 0,2 miljard.

Peter Slagter: Ik vond het ook wel mooi. Er waren ook best wel wat grappen over. Ja, we komen straks over die op die oproep van Dario natuurlijk over het vertragen. Allemaal grappen over joh: o, dat is heel makkelijk, dan hoef je je bedrijf alleen maar naar Europa te verplaatsen.

Bert Slagter: Ja.

Peter Slagter: Maar goed, er worden natuurlijk wereldwijd miljarden in geïnvesteerd in compute. Er worden al beleidsmaatregelen genomen. Exportbeperkingen bijvoorbeeld. Er zijn nationale AI-strategieën. Iedereen kan zien dat de ander AI strategisch behandelt. Dus er is een soort van common knowledge. Ik weet dat jij weet dat ik weet dat deze technologie belangrijk kan worden. Ja, jij hier iets aan toe te voegen, Bert, aan deze?

Bert Slagter: Nee, dit lijkt me vrij duidelijk. Ook wel vrij evident overigens, hè, dat iedereen ziet dat AI belangrijk wordt en dat je er iets strategisch mee moet. Ja.

Peter Slagter: Maar voor het spel van beleidsopties dat ontstaat, is het belangrijk om die drie even in je achterhoofd te houden. Kijk, als we het hier over staat hebben, dan spreken we niet over een soort van oppervlakkige versie van de staat. Dat is wat je op tv ziet, op de radio hoort. Dus het zijn de politici, ja, die vaak maar iets roepen om onder andere hun achterban naar de mond te praten. Die hebben beperkte dossierkennis.

Bert Slagter: Ja, dan kom je een beetje op waar Rutger Bregman zich zorgen over maakt. Dat waar vroeger rechts klimaatontkenners waren, is links nu AI-ontkenner. Zo maakt hij daar dan weer eventjes een cartoon van. Maar hij heeft wel een punt dat er best veel mensen nog zijn met verantwoordelijkheid en macht die eigenlijk zeggen: joh, AI, dat is eigenlijk niet zoveel meer dan een handige tool waarmee je wat kunt vertalen of een tekstje kunt samenvatten. Een stochastic parrot, een papegaai die maar wat, de zin kan afmaken met wat er waarschijnlijk nakomt. De appel valt niet ver van de boom. Weet je wel, dat voorbeeld wij gebruiken. En daarmee, door dat zo te bagatelliseren, ontnemen ze, hè, het land of het bedrijf wat ze leiden de kans om daadwerkelijk zich in dit strategische spel te begeven. En daarom kaart hij dat aan. En dat zie je dan bijvoorbeeld terug in, ja, we moeten stoppen met verspilling van datacenters en zo. Want in het woord verspilling zit dan al de hypothese onder dat AI eigenlijk een waardeloze, nutteloze tool is.

Bert Slagter: Of misschien, ja, op zijn best net zo goed als een woordenlijst of een, weet ik veel, spellingchecker.

Peter Slagter: Ja, precies.

Bert Slagter: En goed, en jouw punt is, die mensen die vertegenwoordigen de staat. Dus je kunt denken dat staten zo denken, maar dat is niet zo, want als wij het hier hebben over de staat, dan gaat het over het competente gedeelte van de staat, namelijk de ministeries en de diensten die bij zo'n staat de expertise zit en waar erover nagedacht wordt. En die zijn er in elke staat.

Peter Slagter: Precies. En die vorm van de staat die gelooft dat superintelligentie haalbaar is, dat het strategisch voordeel oplevert. En ze snappen ook dat anderen dat ook snappen. En wat zijn dan de beleidsopties waar je over kunt nadenken? Nou, dan heb je, ja, min of meer vier categorieën. Je kunt richting verbieden gaan, hè, een totaalverbod helemaal stoppen, stop er helemaal mee. Of pauzeren. Dan zeg je: we gaan het verbieden op het moment dat die modellen een bepaald vaardigheidsniveau bereiken. Dus dan stop je met ontwikkelen voordat die digitale atoombom een feit is. De andere categorie is vertragen. Pacing wordt dat genoemd. Hebben we het zo nog even over. Hè, dan zeg je eigenlijk: we gaan de snelheid waarmee we verbeteren omlaag brengen, en we gaan het ook gecoördineerd doen. We willen tijd kopen om grip te krijgen op veiligheid, op alignment, enzovoorts. Derde categorie is verspreiden. Eigenlijk zeg je dan van: we omarmen. We accepteren gewoon dat superintelligentie een ding is en dat het er komt, onvermijdelijk.

Peter Slagter: En om machtsconcentratie te voorkomen, maken we gewoon de toegang daartoe heel breed. Denk aan open weights.

Bert Slagter: Ja, dus daarmee pak je twee soorten gevaren aan, namelijk dat één specifiek land extreem veel machtiger is dan alle andere landen. Dus dat je een soort van wereldbevolking kan opdelen in de geprivilegieerden en een soort van enorme grote onderklasse. Dat is natuurlijk een soort dystopisch scenario, maar waar je er ook mee voor zorgt, is dat stel dat er duizend superintelligenties zijn en er is er eentje die misaligned raakt, dan zijn er 999 die hem in toom kunnen houden. Dus dat is een beetje het idee achter die verspreidingsrichting. Ja.

Peter Slagter: Je hebt nog de vierde categorie beleidsopties. Dat is versnellen. Je wil gewoon de eerste zijn, de beste zijn, zo snel mogelijk naar de digitale atoombom, want dan ben jij de machtigste.

Bert Slagter: Ja, dan zeg je eigenlijk van: het is, daadwerkelijk levert het een grote ongelijkheid op. Alleen dat vind ik helemaal niet erg, als ik aan de goede kant van de streep zit. Zo kijk je naar.

Peter Slagter: Precies. Kijk, en, om maar eventjes wat dingen plat te slaan. Kijk, bij verbieden en vertragen voel je al aan, gegeven die drie aannames die we net hebben gedaan. Je kunt best, hè, dat kun je lokaal doen. Dus je kunt beslissen van: oké, we gaan in Europa alles verbieden. Kan. Of in de VS. Kunnen we ook zeggen.

Bert Slagter: Alle modellen die krachtiger zijn dan, die mogen niet in Europa.

Peter Slagter: Kan. Alleen het punt is, dat is dus ineffectief als anderen doorgaan. Kijk, en die gaan natuurlijk door, want er ligt een digitale atoombom in het vooruitzicht. Dus niemand kan zich permitteren om achterop te raken. En dus die coördinatie die nodig is, die is uiterst lastig. Ik zou eigenlijk willen zeggen kansloos. En verspreiden die categorieën. Dat kun je doen zodra je gaat verspreiden. Is per definitie wereldwijd, want je gooit het gewoon het internet op en dan is het er. Alleen waar loop je dan tegenaan? En dat is wat bekend staat als het proliferatie probleem. En dat wil zoveel zeggen. Ja, er is best een groot risico dat de verspreiding van iets dat een digitale atoombom kan zijn, ongecontroleerd gaat verlopen en ook ongewenst verspreid wordt, dus ja, te beschikbaar is. Het is ook onhandig natuurlijk dat iedereen, ja kan beslissen de beschikking heeft over iets met de kracht van een atoombom. Dat ja.

Bert Slagter: Ja, je moet je voorstellen dat je buurman achterin zijn schuurtje een atoombom bewaart en dan op een gegeven moment per ongeluk de pin eruit trekt en dan per ongeluk die atoombom laat afgaan. Een beetje zoiets.

Peter Slagter: Dat is. Dat is ook niet handig. Nee. Ja, en dan kom je uit bij versnellen. En dat is eigenlijk de enige optie. De enige beleidsoptie die je eenzijdig kunt nemen en ook direct werkt op je eigen doelstelling, namelijk het verkrijgen van toegang tot die digitale atoombom. Want als die er gaat komen en daar gaan we dan vanuit, dan wil je hem ook hebben. En dan het liefst als eerste en het snelst natuurlijk. Goed, dat even over beleidsopties en dan komen we aan bij waar denk ik het debat van afgelopen week mee begon. Het startschot. En dat was het beleidsvoorstel. Een blogpost. Een opiniestuk van Dario Amodei.

Bert Slagter: Ja, en dat moeten we dus heel duidelijk zien in de context. We hebben natuurlijk nu de historische context geschetst en de verschillende beleidsopties. Dat is soort theoretisch, maar de feitelijke praktische context waarin het stuk van Amodei gepubliceerd werd. Dat was tegen de achtergrond van die mensen die nu naar buiten kwamen met: we staan nu op het punt om modellen te hebben die daadwerkelijk dit gevaar introduceren en waardoor die beleidsopties niet alleen maar theoretisch zijn, maar nu urgent er gekozen moet gaan worden. En in die context komt Amodei met een voorstel, eigenlijk denk ik zou je het kunnen noemen.

Peter Slagter: Ja. Ja. Dus hij komt eerst met een diagnose eigenlijk. Hij zegt: joh, we komen nu op het punt dat we niet meer begrijpen wat we aan het maken zijn. De kans dat die modellen ontsporen, die wordt daardoor groter. Dat neemt toe. Dus we moeten de ontwikkeling van nieuwe modellen afremmen, zodat we meer tijd en meer geld en meer aandacht kunnen besteden en hebben aan veiligheid en alignment van die modellen.

Bert Slagter: Ja dus. Dit betekent niet dat we geen nieuwe modellen meer ontwikkelen. Zo wordt het soms geïnterpreteerd. Dat is fout. Betekent ook niet dat. Je kan. Je zou zelfs kunnen zeggen dat we zelfs nog versnellen. Alleen we moeten niet op het allersnelste niveau versnellen.

Peter Slagter: Op het tempo dat je grip houdt op wat er gebeurt. Precies. Dus dat je begrip van wat zo'n model doet en kan en hoe die dingen produceert, samen optrekt met de groei van de capabilities van zo'n model. Maar dan, ja, in zijn eigen verhaal ziet Dario dus het dilemma opdoemen waar we het net over hadden. Het dilemma dat ontstaat door die drie aannames die we met elkaar besproken hebben. Iedereen moet dat wereldwijd tegelijk doen, want anders is de concurrentiestrijd oneerlijk. Tussen haakjes even onze inkleuring, want iedereen wil die digitale atoombom zo snel mogelijk hebben. Natuurlijk. En dat is een probleem, ziet ook Dario. Ja, Amerika kan niet afremmen, kan niet langzamer gaan zolang China doorrijdt. Hij pakt even één speler er specifiek uit. China ziet hij even als de grootste concurrent. Nou, wat is dan zijn oplossingsvoorstel? Nou, laten we China via de staat, dus via de Amerikaanse overheid eerst harder afremmen dan dat Amerika zichzelf afremt. Dus minder chips, toegang tot compute beperken, distillation bestrijden, alles wat er in Amerika geproduceerd wordt beter beschermen.

Peter Slagter: Je zou kunnen zeggen de VS die neemt China in een soort wurggreep, in de hoop dat China daarna zin heeft, bereid is om afspraken te maken om tot een soort van wereldwijde globale overeenkomst te komen over hoe AI-modellen doorontwikkeld moeten worden. Ja, dan hoor je natuurlijk al ja. Wat is de kans dat dat lukt? Nou ja, laten we maar even doorgaan naar de reacties op dat specifieke beleidsvoorstel. Die hebben we ook weer even ingedeeld in een aantal stereotypen. Ja, want toen dit geplaatst werd, ja, ontstond er een tsunami aan reacties. Iedereen, of je er nou toe deed of niet, reageerde hierop, had er een mening over en iedereen gaf ook wel aan van nou, ik ben het ermee eens, komma. En achter de komma kwam dan een eigen versie of een eigen gedachte of een eigen kleur.

Bert Slagter: Ja, het is zo. Ik vond het sowieso al best moeilijk om onderscheid te maken tussen de 90% van de mensen die eigenlijk het vraagstuk niet goed begrepen of die een mening hadden, maar eigenlijk niet competent waren op het onderwerp. En dat zie je natuurlijk heel veel, dat zodra iets toch wel een soort existentieel wordt of er heel veel geld mee gemoeid gaat of heel veel aandacht oplevert, zijn er ineens allemaal mensen die opinies hebben. Ja, maar eigenlijk buiten de lijntjes van hun expertise kleuren. De Dunning-Kruger curve en dan helemaal bovenin. Ze hebben zelf niet eens door dat ze eigenlijk er geen verstand van hebben. Dat is echt wel heel vermoeiend. Maar er waren ook, tussen al het ruis, ook wat signaal van mensen die hier daadwerkelijk al heel lang over nadenken en ook echt begrijpen wat het vraagstuk is en wat de beleidsopties zijn. En die daar dan op reageerden.

Peter Slagter: Ja, jazeker. Ja dus even de stereotypen langslopen. We zagen dus de scepticus langskomen. Moet je denken aan Yann LeCun. Volgens mij is de Fransman en Gary Marcus. Die zeggen min of meer: het gevaar jongens wordt overschat. Het is eigenlijk een non-discussie. Wat we nu hebben aan AI-modellen en AI-tools, dat is gewoon statistische software. Stap naar superintelligentie is fictie. Nou stereotype de remmer. Nou, dan hebben we natuurlijk Dario waar we het net over hadden. Die zegt eigenlijk van: we moeten dus gecontroleerd vertragen. Afspraken maken, maar niet alleen echte capability grenzen met elkaar afspreken. Compute limieten, verplichte pauzes zodra bepaalde drempels worden bereikt. Ja, de staat moet hier ingrijpen, die moet daar de macht over grijpen, de regie overnemen. Ja, de vraag is natuurlijk welke staat? Maar goed, dat is dus onderdeel van het probleem waar we het net over hadden. Ander stereotype, de samenwerker. Dan kom je uit bijvoorbeeld Elon Musk.

Peter Slagter: Die zit veel meer aan de kant van joh, we moeten gewoon onderling afspraken maken. Ja, het risico is reëel, maar we kunnen het wel beheersen als we dat samen oppakken. Met standaarden, met externe evaluaties, met audits, met afspraken tussen labs, afspraken tussen staten. Dan hebben we het stereotype de verspreider. En dan kom je uit bij Mark Zuckerberg bijvoorbeeld, Meta. En die zegt eigenlijk veel, ja, al die AI-tools, die modellen, hoe geavanceerd ze ook zijn, die moet je niet opsluiten bij enkele bedrijven. Die moet je publiceren. Je moet ze open maken. We hebben open modellen nodig. Brede toegang. Dat verdeelt de macht.

Bert Slagter: Je zou hier ook Nvidia's baas wel bij kunnen zetten bijvoorbeeld, hè?

Peter Slagter: Ja, denk ik ook wel ja. En dan heb je een ander stereotype: de versneller. Kom je bijvoorbeeld uit bij Trump. David Sacks. Ja, die zeggen eigenlijk: jongens, we moeten winnen. Artificial super intelligence komt er toch. Zorg dus maar dat wij er als eerste bouwen. Ja, we hebben het over die Nvidia-baas en over Trump nu. Ja, dan moet ik gewoon even een clipje instarten. Want ja, toeval of niet, de Nvidia-baas zat ergens op een bank. De All In Conference was dat volgens mij.

Bert Slagter: Ja, de All In Summit heet het geloof ik.

Peter Slagter: De All In Summit en die werd gebeld door Trump. Die werd erbij gepakt, op speaker gezet, een microfoon voor de telefoon. Ja, en dan kwamen er een aantal woorden uit Trumps mond. En als je die achter elkaar zet, dan klinkt dat als volgt.

Spreker 4: "The robots will not be taking over. The AI will not be taking over the rest of the world. The whole thing is a hoax. Now with that, we have to be a little bit careful. We have to very be, you know, we have to do things and we have to do them prudently. But that doesn't mean we're going to stop an industry because, you know, as we work on the next ten years about how to destroy it. So I'm with you all the way. I didn't even know how you felt about it. I assumed you felt the same way as me. Yes, sir. And we, if we're gonna lead and I have an expression, it's whoever wins, AI wins. That's how big it is. It's bigger than the internet."

Peter Slagter: Ja, het is echt als je dat filmpje ziet krijg je ook een soort van plaatvervangende schaamte rondom hoe ze zich gedragen ten opzichte van Trump. Het zijn echt marionetjes dan ineens. Yes sir, of course, bla bla. Goed, ik snap het wel, hoor.

Bert Slagter: Ik heb ook Huang in allerlei podcastgesprekken gehoord het afgelopen jaar waarin hij over dit onderwerp natuurlijk veel meer met veel meer tijd, maar ook veel dieper reflecteert. En er zit echt een groot verschil tussen het yes sir en wat hij daar zegt. En ja, dat is gewoon ook een beetje uit de categorie dat je als CEO van een beursgenoteerd bedrijf gaat gewoon niet tegen Trump zeggen: je bent een sukkel, op het podium.

Peter Slagter: Nee.

Bert Slagter: Weet je wel. Dus ja, hij kan ook niet anders dan yes sir. Maar goed, het is inderdaad, de poppenkast is grappig om even naar te kijken.

Peter Slagter: Ja, nee, klopt. Kijk, en de versneller zegt dus eigenlijk van, ja, want je hoort Trump al zeggen: ja, we moeten er wel prudent mee omgaan. Dus het is niet van er is geen risico, maar dat wordt wel heel erg snel geparkeerd en gezegd van: joh, we moeten gewoon de eerste zijn die dit hebben. Dit gaat gewoon komen zo snel mogelijk en we zijn de beste. Natuurlijk. En dit zijn eigenlijk allemaal Amerika-georiënteerde stereotypes. Je, hè, wat vindt China, Rusland, India, Europa? En dat zijn spelers, die kan je niet negeren natuurlijk. Sterker nog, ja, als je het over beleidsopties hebt, omdat dat ook spelers zijn die ertoe doen, moet je die posities die je inneemt, die, ja, die veelal Amerikaanse posities toch ineens geopolitiek toetsen. En eigenlijk vallen ze dan allemaal dwars door de mand. Want China, die heeft natuurlijk een heel sterke prikkel juist om technologisch onafhankelijk te worden. Om die afhankelijkheid af te bouwen.

Peter Slagter: Ze reageerden ook vrij direct op dat, op die blogpost van Dario. Ze noemden het angst zaaien, op confrontatie gericht, agressieve concurrentie. In een andere staatskrant stond: dit is een Cold War playbook. Ja, kijk, en India kan natuurlijk zeggen: joh, waarom zouden wij onze inhaalslag afremmen? Omdat ze in Washington en Silicon Valley zenuwachtig worden. In Brussel, in Europa, kan best besloten worden dat onze strategische autonomie belangrijker is dan de Amerikaanse behoefte aan pacing.

Bert Slagter: Ja, hetzelfde wat India zei, dat hoorde je in Europa overigens ook terug, hè. Van hè, dit is een mooi moment om dan de achterstand een beetje in te lopen voor Europa.

Peter Slagter: Bijvoorbeeld.

Bert Slagter: Ja.

Peter Slagter: Kijk, en in Rusland, ja, je hoort er niet zoveel over, maar daar hebben ze ook gewoon eigen modellen en ze hebben ook gewoon eigen compute en die hoeven echt niet aan de absolute voorhoede te zitten om gewoon, om gevaarlijke toepassingen te kunnen bedenken of ontwikkelen. Of biologische toepassingen, ik noem maar wat. De Russen reageren overigens ook vrij direct. Joh, het is helemaal niet meer mogelijk om te vertragen. You can't put the genie back in the bottle. Het probleem is dus niet, en eigenlijk is dit grotendeels wat behandeld is, namelijk welke visie op AI-veiligheid is de beste. Dat is waar iedereen mee naar buiten komt en over elkaar heen struikelt om te vertellen: dit is de beste visie. Nee, het probleem is: welke van die visies blijft overeind zodra iedere staat zich afvraagt wat er gebeurt als de ander er niet aan meedoet. En dan blijkt: ja, daar is eigenlijk nog helemaal geen antwoord op gekomen. Ja, en dan komen we aan denk ik bij onze afdronk, Bert, hierop.

Bert Slagter: Ja, ja, hiertussen zit nog even één gedachte. Dit heeft veel weg van het prisoner's dilemma waarbij het voor alle partijen het gunstigst is om samen te werken. Op de lange termijn is het gunstigst om samen te werken. Op de korte termijn, bij afwezigheid van vertrouwen, is de meest logische stap om te defecten, om voor je eigen gewin te gaan. En de reacties die je nu ziet, die tonen aan dat er nog onvoldoende diplomatie bedreven is om de optie op tafel te hebben wereldwijd van samenwerking in het prisoner's dilemma. En dus zie je dat iedereen, inclusief Amerika, praat in taal van voor zichzelf, voor hun eigen belang gaan. Want zelfs Dario die het heeft over gecoördineerd vertragen, zegt wel dat dat ten opzichte van Rusland moet met allerlei machtsinstrumenten.

Peter Slagter: Ja, voor China.

Bert Slagter: En over, sorry, over China. Ja. Dus ik bedoel, via die bril kun je er ook nog even naar kijken. Ja.

Peter Slagter: Zeker. Goede toevoeging ja. Ja, kijk, wij zaten natuurlijk even op de kou gisteren met elkaar van en dan. Het eerste is die ophef die nu ontstaat, die gaat waarschijnlijk gewoon weer liggen. Dus je hebt allerlei media die erover berichten. En de berichten gaan vaak wat meer over het eerste orde effect dan over het daadwerkelijk onderliggende probleem. En ja, daar kunnen ze niet zoveel aan doen, want zelfs als je een hoogleraar laat invliegen dan wordt alsnog eigenlijk de essentie niet besproken. Hoe dan ook, iedereen pakt wel even zo'n moment om hier iets over te zeggen, om zijn visie te geven. En dat zijn vaak bestaande ideeën, bestaande observaties. Want Dario, die waarschuwt natuurlijk al veel langer voor loss of control. Elon Musk roept ook al jaren om gezamenlijke veiligheidsafspraken. En Mark Zuckerberg? Die gelooft al heel lang in verspreiding. En dat Washington wil winnen is natuurlijk ook niks nieuws. En dat China zich niet gaat laten afremmen ook niet. Dus hebben we op zichzelf niets nieuws onder de zon. Met andere woorden iedereen doet een plas en waarschijnlijk blijft alles zoals het was, dus de ophef verdwijnt ook weer.

Peter Slagter: Ja, en dan komen we even bij die analogie van de digitale kernbom. Ja, de ontnuchterende observatie als je kijkt naar de ontwikkeling van de fysieke kernbom. Ja, dat wijkt niet zo heel veel van elkaar af. Het bestaan van het wapen, zelfs het testen van het wapen, zelfs het gooien van het wapen was niet gelijk genoeg om de wedloop te stoppen. Eerst werd er iets op Hiroshima gegooid, toen ontstond er een nog grotere nucleaire wapenwedloop. En vervolgens waren er momenten waarbij we eigenlijk heel dicht op het punt stonden dat we onszelf echt in een enorme catastrofe zouden werpen. En pas toen ontstonden er echt serieuze afspraken over beheersing, over communicatie, over beperking. Het bereikte pas een evenwicht toen de belangrijkste rivalen allemaal over geloofwaardige kernwapens beschikten en met elkaar overeenkwamen.

Peter Slagter: Begrepen dat een oorlog wederzijdse catastrofe zou opleveren, dat dat een extinction level event zou kunnen opleveren. Ik denk ja. Mijn vermoeden is dat we dit proces met AI opnieuw aan het doormaken zijn en dat datzelfde patroon geldt. Als dat zo is, dan zou dat betekenen dat we pas echt effectieve wereldwijde coördinatie krijgen nadat meerdere grootmachten over extreem krachtige AI beschikken. Maar ook dat er dus in de tussentijd ergens misschien wel meer dan één keer een digitale atoombom ontploft is.

Bert Slagter: Zoals het Hugging Face incident, maar dan met serieuze slachtoffers, met serieuze schade, met serieuze ontwrichting, ontregeling. En dat zijn dan momenten dat iedereen ineens weer even wakker is. Want ja, nu gaat de storm liggen en gaan mensen weer over tot de orde van de dag. En je hebt een aantal van dat soort waarschijnlijk in kardinaliteit oplopende ernstigheid. Om tot het punt te komen waarop men, weet je, het besluit om inderdaad een soort, weet je, we noemen dat bij atoomwapens een non-proliferatieverdrag. Weet je dat soort dingen sluiten dat niet in handen van de buurman komt die hem per ongeluk kan laten ontploffen. Maar ja, weet je wel, dat al dat soort zaken zijn we gewoon nog niet aan toe. Dat blijkt ook wel uit de reacties.

Peter Slagter: Dus dat is eigenlijk de voorspelling die we doen. Er gaat een digitale atoombom ontploffen. Dat zorgt ervoor dat meer staten juist ook de digitale atoombom willen hebben. En pas dan is er ruimte voor het ontstaan van een evenwicht. Zijn we dan in de tussentijd uitgeroeid? Dat denk ik niet eerlijk gezegd. Maar dat is ook niet nodig om dus toch tot hele grote problemen te komen. En ja, pas na die ramp volgt samenwerking. En wat hebben we dan nu gezien? Ja, Bert noemde dat een klein rukje aan het Overton venster. Ja, dat is ja. Wat zijn de fasen van het Overton venster ook alweer?

Bert Slagter: Nou, weet niet uit mijn hoofd, maar het begint in ieder geval dat, buiten het venster zijn bepaalde ideeën onbespreekbaar. Als je ze uit, dan zeggen mensen joh, dat is totaal gestoord, dat je het daar überhaupt over hebt, dat je het überhaupt ter sprake brengt. En helemaal in het midden van het venster, daar is iets staande beleid. Dus is eerst acceptabel geworden om het erover te hebben. Daarna is het populair om erover te praten en uiteindelijk is het beleid. En dat beleid is dat we op het punt zijn gekomen dat we daadwerkelijk een wereldwijd evenwicht en een wereldwijde samenwerking hebben om AI veilig te houden. Daar zijn we heel ver vanaf. Het is nu ook nog niet populair om dat te zeggen. Sterker nog, alle mensen die ook maar iets met populariteit te maken hebben, die hebben het vooral over versnellen, over zichzelf en over hun eigen macht. Het is misschien net aan een beetje acceptabel geworden om dat te bespreken. Maar we zijn in ieder geval vertrokken uit het gebied dat dit volkomen geschift is, hè.

Bert Slagter: Dus dat is wat dit soort, hè, dus die mensen van Anthropic die naar buiten komen met: het is een groot risico. En dan zo'n post van Dario, maar ook het Hugging Face incident wat besproken wordt. Het zijn allemaal, hè, kleine beweginkjes van het Overton venster naar het gesprek wat uiteindelijk ooit in de toekomst een keer gevoerd gaat worden. Hè, om daar te komen is dit nodig. En ja, ons vermoeden is dat er ook daadwerkelijk nog één of twee of drie keer zo'n digitale atoom moet ontploffen om uiteindelijk het Overton venster te krijgen waar die moet zijn om uiteindelijk het staande beleid te laten zijn dat we met elkaar samenwerken.

Peter Slagter: Zo is dat. En daar zetten we een punt. Ik vond het een prachtig item. We laten hem hier even liggen en dan kan het even sudderen. We zijn ook benieuwd, ja, wat het bij jullie losmaakt als luisteraars, hoe jullie erover denken, wat jullie verwachten. Laat het weten. Plaats comments. Kom op Discord. Turingstation.nl/discord ben je erbij? Kunnen we daar over verder praten. Je kunt vragen stellen, je kunt je mening geven. Je kunt erover discussiëren. Dat is niet alleen leuk, dat kan ook heel nuttig zijn om je gedachten verder aan te scherpen. We gaan gewoon eens even de praktijk in, Bert, als je het niet erg vindt.

Bert Slagter: Het is tijd voor wat luchtigers.

Peter Slagter: Het is wat luchtigers. Ook wel iets tofs. En bovendien iets waar jij lekker mee geëxperimenteerd hebt.

Bert Slagter: Ja, we gaan het hebben over Omarkey en dat is een nieuw besturingssysteem. Een besturingssysteem met AI-agents geïntegreerd in de werkomgeving. Snap je iets niet? Werkt iets niet? Wil je iets aanpassen aan je besturingssysteem? Geef je agent de opdracht en je computer past zich aan je wensen aan. Dat is het idee erachter. Een malleable computer wordt het genoemd, een kneedbare computer. En dat klonk interessant, dus ik ben daar eens ingedoken. Ik heb vorig weekend mijn oude MacBook Pro uit 2016 uit een verhuisdoos gevist, ergens achter een schot op de slaapkamer van Bastiaan en ik ben aan de slag gegaan en naar de website gegaan. Omarkey.org. Daar stond ook een mooi tekstje. Omarkey: the agentic OS for the age of agents. Ik dacht: nou, ik ben op de goede plek, daar kom ik voor. En dan vind je op die website geen app die je kunt downloaden, maar een ISO-bestand. En dat komt omdat Omarkey een besturingssysteem is.

Bert Slagter: Het is niet een programma, maar een besturingssysteem. Net als Windows en macOS. Het is de basislaag van je computer, in dit geval gebaseerd op Linux, en een besturingssysteem installeer je door zo'n ISO op een USB-stickje te zetten en daar vanaf op te starten. Als je wil weten hoe dat moet, als je de ISO hebt gedownload en je denkt: wat nu? Vraag het aan je agent hoe het moet of vraag om dat te doen, want dat kan die ook. Heb ik ook even getest. Doet ie gewoon netjes. Staat daarna het ISO'tje bootable op het USB-stickje. Dan start je je computer op met die USB-stick erin en dat moet je ook op een bepaalde manier doen. En ook dat kan AI je precies vertellen. En dan gaat hij het installeren. Dus dat deed ik. USB-stickje in mijn oude MacBook installeren, maar dan is hij daarna dus wel helemaal leeg, hè. Dus dit moet je niet doen op een computer waar nog allemaal belangrijke dingen op staan, want dan ben je kwijt. Maar in mijn geval was dat al lang geleden gebeurd, dus hij mocht leeg en dat gebeurde ook. Één minuut 44 en toen was het geïnstalleerd. Kon ik aan de slag.

Peter Slagter: Dat is snel trouwens.

Bert Slagter: Is niet veel. En dat is wel grappig. Ze hebben daar ook een sport van gemaakt bij Omarkey om het zo snel mogelijk te maken. Ze publiceren ook de records die elke keer gehaald worden. Er is nu iemand die het geloof ik in 24 seconden is gelukt. Ja, is natuurlijk een nieuwere computer, maar ze doen alles om die ISO zo in elkaar te zetten dat het echt ontzettend snel geïnstalleerd kan zijn. En vervolgens, hè, dan na één minuut 44 kon ik aan de slag. Ik moest wel een paar dingen invullen. Naam, gebruikersnaam, wachtwoord en je moest je default agent kiezen.

Peter Slagter: Ja.

Bert Slagter: Krijg je een lijstje. Je kunt kiezen uit Claude, Codex, Copilot, Cursor, Grok, Hermes, Open Claw, Open Cove, Anti Gravity is van Google, Muse is van Meta. Lijst is nog veel langer, maar kortom, je kunt eigenlijk elke agent kiezen die er ongeveer is. Dus je hebt in Omarkey een standaard agent, zoals je ook een standaard browser hebt. Hè, het besturingssysteem, als die op een of andere manier je agent nodig heeft, dan pakt hij die. En, ja, die één minuut 44 is inderdaad een groot verschil, Peet, met bijvoorbeeld Windows als jij een-- ik weet niet of je, iemand wel eens recent Windows heeft geïnstalleerd. Ik heb het toevallig pas gedaan voor mijn pa. Die had een nieuwe computer met Windows. Volgens mij ook voor het eerst in vijftien jaar dat ik Windows eigenlijk installeerde. Maar mijn hemel, wat een hel is dat voordat je daar doorheen bent. En dan tachtig keer opnieuw opstarten en weer updates en allemaal bloatware. Allerlei rotzooi van de computerfabrikant die erop staat, die er eerst af moet. Met echt uren bezig voordat je aan de slag kan. Maar goed, dat is het Omarkey dus niet, dus dat is wel even een lekkere ervaring. Goed, dus je hebt een standaard agent, die heb je gekozen.

Bert Slagter: Moet je natuurlijk even inloggen. In mijn geval, ik heb Codex gepakt, zeg ge, en moet je even inloggen met je OpenAI-account en dan kan hij aan de slag. Omarkey is bewust leesbaar en bestuurbaar gemaakt voor agents. Dus eigenlijk alles wat onderdeel, wat aangestuurd wordt door je operating system, door je besturingssysteem. Denk aan de audio, aan de batterij, aan de bluetooth, aan screenshots maken, aan je klembord. Je kunt het zo gek niet bedenken, je agent kan daarbij. Er is een command line tool om met Omarkey te praten en een skill die je agent vertelt hoe die hem moet gebruiken. Hè, die agent kan op allerlei mogelijke manieren interacteren met het besturingssysteem. En die ingang kan die gebruiken om zo'n beetje alles wat jij kunt bedenken om dat aan te passen. Je vertelt je agent wat er anders moet en dan gaat hij anders maken. Het kan een instelling zijn die hij aanpast of een app die hij installeert of een plug-in die voor je opzoekt. En als die plug-in er nog niet is, dan probeert hij hem gewoon ter plekke even zelf voor je en dan installeert hij hem ook.

Bert Slagter: En dat werkt verbazingwekkend goed. Op een gegeven moment crashte er een app. 1Password was dat, die crashte en toen kreeg ik de melding: "Deze app is gecrasht. Klik hier om een diagnose te maken met AI." Ik zeg: "Nou, dat lijkt me lachen, doe dat maar." Nou en toen ging die, kwam m'n Codex naar voren en daar ging die aan de slag en na een minuutje kwam hij met een antwoord. Nou, dit was de oorzaak van de crash. In mijn geval, dit gaat vermoedelijk nooit meer voorkomen.

Peter Slagter: Een soort van the next best thing is dat, zeg maar. Je hebt het liefst geen crash, maar als je hem dan toch hebt, is het wel fijn als je hem gelijk kunt diagnosticeren.

Bert Slagter: Ja, ja. Ja, ja. En in mijn geval was het: dit gaat vermoedelijk nooit meer voorkomen. Er is geen data verloren. Zullen we het hierbij laten? Maar ik heb ook van allerlei andere voorbeelden langs zien komen dat het dus iets was wat gewoon daadwerkelijk stuk was en dat hij het gewoon heeft opgelost door iets, een betere driver te installeren of een configuratiefout te herstellen, enzovoort. Een ander voorbeeldje, gewoon even uit specifiek mijn MacBook. Daar merkte ik dat ik hem niet zo snel vond. De wifi vond ik niet zo snel. Het downloaden vond ik niet zo snel en ik zag al snel dat hij op 2.4 gigahertz wifi zat. Dat vond ik gek, dus ik vroeg aan mijn agent: waarom? Hoe zit dat? En hij ging een onderzoekje instellen, was een paar minuten bezig en toen kwam hij met deze observaties. Hij zegt: "Nou, de chip op je laptop, die ondersteunt inderdaad 5 gigahertz wifi. Jouw access point ondersteunt dat ook en je zit dichtbij genoeg bij je access point om dat ook te gebruiken. Het zou inderdaad heel veel sneller moeten zijn. Het probleem, heb ik ook voor je uitgezocht, is de driver van je wifi-modem. En ik heb goed nieuws voor je.

Bert Slagter: Iemand anders had het probleem ook en zijn agent heeft het probleem opgelost. Dit is de link naar het pull request op GitHub. Het is al gemerged. Als je een maandje wacht dan komt het in je laptop. Of ik kan het nu voor je oplossen. Zeg het maar." Ja, ik stond echt te kijken. Dit is echt geweldig.

Peter Slagter: Briljant. Ja.

Bert Slagter: Dit scheelt je echt zelf uren zoeken. En of je denkt: ja, laat maar zitten, ik accepteer het wel of ik prik er een kabel in of zo. Ja, maar dit is wel uiteindelijk natuurlijk gewoon wat je wil. En een ander voorbeeldje wat ik ook schitterend vond. Iemand die had een videokaart in een laptop, in een MacBook en het beeld was verstoord op zijn scherm. Het probleem was dat de output wel goed was, dus als je een screenshot maakte was het screenshot perfect. Precies zoals het moest zijn, maar het beeld op zijn scherm was niet goed. Ja, hoe ga je dat oplossen?

Peter Slagter: Ja.

Bert Slagter: Toen, wat hij toen heeft gedaan is, hij heeft zijn laptop voor een spiegel gezet en tegen zijn agent gezegd: "Kijk maar in de camera." En die is het probleem gaan oplossen. Die heeft het probleem, het was een foutje in de driver, heeft hij gewoon opgelost door in de camera te kijken wat het beeld was in de spiegel. Nou, dit is, dat zijn dingen dat ik denk: we zijn in de toekomst aangekomen.

Peter Slagter: Je moet ook wel creatief zijn om dat te bedenken trouwens, hoor. Dat je, ik zet hem gewoon voor de spiegel.

Bert Slagter: Nou, de grap is: je hoeft maar één iemand het te bedenken en dan zullen-

Peter Slagter: Ja, dat is ook

Bert Slagter: ...alle andere Omarchies in de wereld, die zullen zeggen: oké, het probleem is opgelost. Het heeft Jantje namelijk gedaan. Lol, wit in de spiegel. Nou, dat zal hij er niet bij zeggen, dat weet hij misschien niet, maar goed. Dit waren even wat ervaringetjes waardoor ik dacht: hé, dit is wel grappig. Kijk, het is allemaal nog niet perfect, hè, dus als je ermee gaat werken, als je Mac, macOS gewend bent. Kijk, Windows is ook een redelijk bij elkaar geraapt zooitje inmiddels van allerlei ontwerptaal en zo. Maar als je Mac gewend bent, dat is best wel consistent.

Peter Slagter: Eén lijn, ja.

Bert Slagter: En best wel één lijn en ook zelfs tussen je telefoon, je tablet en je laptop. Kijk, dat is allemaal nog niet even goed in Omarchi. En Omarchi maakt natuurlijk gewoon gebruik van allerlei bestaande Linux modellen en frameworks en concepten. En daar is het gewoon, ja, weet je, dat is eigenlijk al decennia. Ik bedoel ik heb jarenlang als primair OS Linux gehad, Ubuntu in die tijd. En dat, er zijn een hoop dingen beter geworden, maar, zeg maar, die consistentie tussen verschillende onderdelen, nou, die is nog steeds niet denderend. Het is ook niet allemaal even gebruiksvriendelijk. Het is niet allemaal even handig. Sommige apps zijn er gewoon nog niet voor Linux. Maar dat is denk ik niet de juiste manier om het te beoordelen. Je moet niet alleen maar de statische analyse doen van: hoe is het nu? Maar je moet denk ik ook de dynamische analyse doen van: hoe ontwikkelt het zich en welke kant beweegt het op? En daarom vond ik die voorbeelden die ik net noemde wel interessant. Hè, dat, je bent nu niet meer afhankelijk van één heel specifieke ontwikkelaar die in zijn vrije tijd een bepaald pakket onderhoudt en dan misschien ooit ondersteuning bouwt voor wat jij nodig hebt.

Bert Slagter: Nee, als je iets mist, dan doe je het zelf voor jezelf of in het grotere ecosysteem. En dan zorgt dat ervoor dat zoiets veel sneller beter kan worden dan je gewend bent dan wat de historie leerde. Er is een, en de grap is ook in het geval van Omarchi, dat er ook daadwerkelijk een grote groep mensen mee aan de slag is gegaan. Omarchi Quattro, dat is de versie waar ik het nu over heb. Die is een maand geleden uitgekomen en de ISO is al 300.000 keer gedownload. En ja, dan zegt men van: nou, veel vaak wordt zo'n ISO'tje gedownload en meerdere keren gebruikt, op meerdere computers geïnstalleerd. Dus je zou het best plausibel dat er een half miljoen of meer computers al Omarchi draaien, hè. Dus dat zijn dus een half miljoen agents ook die daarmee aan de slag zijn op allerlei soorten apparaten. In diezelfde periode, de afgelopen maand, is er ook al $15 miljoen of meer dan $15 miljoen gedoneerd. En ook niet door de minsten. Bijvoorbeeld door Tobi Lütke, dat is de CEO van Shopify, door Patrick Collison, de CEO van Stripe, door Michael Dell, de CEO van Dell, Jack Dorsey, CEO van Blogger, Block, de oprichter van Twitter ook, hè.

Bert Slagter: Drew Houston, CEO van Dropbox en Brian Armstrong, de CEO van Coinbase. Er zijn allerlei, ja, zeg maar captains of industry in de tech. Heel uiteenlopend, hè, iemand uit crypto, iemand uit de hardware-industrie, Stripe betaaldienstverlener, Shopify, e-commerce. Allerlei hoeken die zeggen: wij doen mee en we doen een miljoen dollar in het mandje.

Peter Slagter: Oh.

Bert Slagter: Hè, en besteed er aandacht aan, hè.

Peter Slagter: Ja.

Bert Slagter: Op hun, in de sociale media, in hun uitingen. Gebruiken het zelf. Posten filmpjes van hoe ze het zelf gebruiken, weet je wel. Dus dat is wel interessant. OpenRouter, Meta, Anthropic en OpenAI hebben allemaal tokens gedoneerd zodat de Omarki Foundation of hoe het ook heet daar, zeg maar goedkoop zelf kan bouwen. Meta heeft anderhalf miljoen dollar aan token budget beschikbaar gesteld.

Peter Slagter: Dat kan ik gewoon niet op waarschijnlijk.

Bert Slagter: Dat is niet zomaar op. Maar goed, het punt is, hè, dat is even mijn observatie. Er komt hier echt wat in beweging. Hoe ver het komt? Geen idee. Wordt er daadwerkelijk iets naast Windows, macOS wat breed geadopteerd in gebruik genomen gaat worden door de massa? Geen idee, maar ik vind het wel interessant. De man achter Omarki, laten we daarmee afsluiten, is David Heinemeier Hansson, een Deen. DHH is de afkorting waarmee hij veel bekend is. Een Deense programmeur, ondernemer, maakte Ruby on Rails. Dat is een programmeerframework. Hij is CTO van 37 Signals. Dat is bekend van Basecamp en Hey, dat zijn, ja, cloud programma's voor samenwerking en e-mail en zo. En hij was zelf ook de eerste die één miljoen dollar in het mandje legde. Dus hij is soort van, ja, weet je, beetje de aanvoerder van de beweging. Ja, als je denkt: ik wil hier echt heel veel langer over horen praten, dan moet je hem eens even opzetten in de podcast met Lex Fridman.

Bert Slagter: Nou, dan weet je zeker dat het lang is. Weer vier uur was of zo, weet ik veel. Linkje staat in de shownotes. Ja, daar legt hij ook uit wat het idee erachter is en hoe hij er toe gekomen is en wat zijn plannen ermee zijn. Ja, ik denk dit is, of je het nou gaat proberen of niet, het is interessant om dit te weten waar dit over gaat, om het te volgen. Maar, ja, eigenlijk zou het de moeite waard zijn als je nog ergens een oude laptop hebt liggen om het gewoon eens een zondagmiddagje te proberen. Peet, jij ook. Ga je doen?

Peter Slagter: Ik, ja, ik kan er bij.

Bert Slagter: Ben je enthousiast gemaakt?

Peter Slagter: Ik kan er, ja, op zich wel. Ik heb alleen net mijn oude laptop aan mijn zoon gedoneerd, dus ik moet nog even, ja.

Bert Slagter: Oef.

Peter Slagter: Maar ik ga er sowieso. Ik denk dat ik niet een early adopter ben of een pionier, maar dit ga ik ongetwijfeld nog een keertje zelf ook installeren en lekker mee experimenteren, dus ik vind het wel heel erg leuk. Ik ben wel heel enthousiast geworden van je verhaal. Ja, we gaan even door naar het volgende item, Bert. We gaan het ook nog even hebben over robot Jetten. We gaan daarmee iets over onze 1,5 uur heen, maar dat vind ik het wel waard. We gaan het gewoon doen. Ik denk dat het leuk is om naar te luisteren. Ja, dus we gaan die kant op. Komt ie. Geef ik toch de bal aan jou, Bert. Jij hebt.

Bert Slagter: Ja, sorry, ik was, ik moest ook nog tijden noteren en m'n microfoon.

Peter Slagter: Oh, je was nog even met de administratie bezig. Ja, ja, ja, wij hebben eigenlijk die superintelligenties nodig, hè, die gewoon meeluistert.

Bert Slagter: Ja, precies, dat zou echt ideaal zijn. Stijn bouwt een superintelligentie.

Peter Slagter: Ja, en maakt geen fouten. Ja.

Bert Slagter: Ja, precies. Laten we als introductie eens even luisteren naar een fragmentje uit Nieuwsuur. Peet, die heb je vast onder de knoppen zitten.

Peter Slagter: Zeker, komt ie.

Bert Slagter: De Volkskrant meldt vanmorgen dat berichten van premier Jetten op sociale media niet door een mens zijn geschreven. De krant was op het idee gekomen vanwege het gekunstelde taalgebruik van de premier en van zijn partij online. AI heeft namelijk de neiging om tegenstellingen te gebruiken en een speciaal detectieprogramma heeft ze ontdekt. Ik laat wat voorbeelden zien. Zo schrijft Jetten: "Vandaag vieren we Keti Koti. Niet om het verleden achter ons te laten, maar om het zichtbaar te maken." Zo'n tegenstelling. Nog één. En: "Nederland kan weer vooruit. Niet door stil te staan, maar door samen te bouwen." Nou, de Volkskrant ontdekt dat dit soort zinnen het afgelopen jaar 135% vaker voorkomen dan vroeger. En Jetten erkent het allemaal. Net zoals bijna driekwart van de Nederlanders gebruik, ik zelf en mensen bij D66 ook af en toe AI om het werk een beetje makkelijker te maken.

Peter Slagter: Af en toe.

Bert Slagter: AI. AI.

Peter Slagter: AI.

Bert Slagter: Ja. Ja. Om het werk een beetje makkelijker te maken. Oké, we schetsen hier even het scenario, hè, dit is hoe hij er dan op reageert. Het gaat hier overigens niet, dat is denk ik wel belangrijk om je te realiseren, het gaat hier niet om een zakelijke tekst. Als je het artikel van de Volkskrant pakt, hè, die dit onderzoek is gestart, het linkje staat in de shownotes, dan zie je, het gaat om een bericht op Instagram, wat door AI geschreven is, over een bezoek aan Westerbork. En dan staan er teksten in als: "Daarom was dit bezoek zo waardevol. Door te luisteren naar verhalen van pijn, gemis en onrecht, maar ook van veerkracht, trots en verbondenheid." "Wat is nodig voor echt herstel? Welke stappen moeten we zetten? Dat gesprek wil ik niet voor hen voeren, maar met hen." Of niet voor hen voeren, maar met hen. "Want alleen door goed te luisteren kunnen woorden uiteindelijk ook daden worden." En dan vraag je je wel af: ja, wie is dan de ik in een stuk dat helemaal door AI geschreven is?

Peter Slagter: Ja, wie zijn ziel wordt hier blootgelegd.

Bert Slagter: Ja, ja, dus de Volkskrant zegt ook, hè, de AI-berichten die gaan over gevoelige onderwerpen zoals de oorlog in Oekraïne, herdenking van vliegtuigramp MH17 en geregeld vanuit de eerste persoon en benadrukt zijn gevoel bij de onderwerpen. Het woord "ik" komt in 41 van de 68 berichten voor. Dus dat wekt, hè, dus hoe Volkskrant dat eigenlijk introduceert, werpt dat de vraag op van: hoe oprecht is dat dan, hè? Het gaat over authenticiteit.

Peter Slagter: Ja, tuurlijk.

Bert Slagter: Over eerlijkheid, over geloofwaardigheid. Nou, dit parkeren we even. Volgende fragmentje. Want Nieuwsuur deed zelf ook onderzoek en die kwam met het volgende.

Spreker 6: Vandaag heeft Nieuwsuur 77 toespraken van huidige bewindspersonen door diezelfde software Pangram dus ook laten controleren, met toch wel opvallende resultaten. Vijftien van de 77 bevatten fragmenten die door AI zouden zijn gegenereerd en vijf speeches zijn volledig geschreven door AI. Nou, opvallend, dit is allemaal gebeurd op het ministerie van Defensie. Het gaat om twee speeches van minister Dilan Yesilgöz en om drie van staatssecretaris Derk Boswijk.

Bert Slagter: Ja, dat is de volgende. Je speech laten schrijven door AI. En wel grappig. Later ging het, werd Boswijk nog gevraagd en zei hij van: ja, nee, maar belangrijke speeches zoals Keti Koti, dat zou ik zeker zelf schrijven. En zei die verslaggever: ja, Keti Koti is juist degene die helemaal door AI geschreven is. Stond hij wel even met zijn mond vol tanden. Goed, ja, dus je toespraak door AI laten schrijven. Ben je dan een buikspreekpop? Ja, daar kan je tegenover zetten, dat was altijd al zo, want veel van de speeches werden al geschreven. Die werden al aangeleverd.

Peter Slagter: Door ghostwriters.

Bert Slagter: Ja. Door speechwriters inderdaad. Goed, daar kunnen we het zo nog even over hebben. Kijk, ik heb wel hier wat overwegingen over. En laten we beginnen bij de situatie dat, het resultaat van AI. Dus je vraagt AI iets te schrijven, een post, een blog, een essay, een toespraak, een voordracht. En stel nou dat het resultaat inhoudsloze bagger is. In de voorbeelden die we net noemden was dat ook regelmatig het geval. Er wordt ook wel in voorbeeldjes door de Volkskrant aangehaald die gewoon echt compleet leeg zijn en inhoudsloos. En ook de gemiddelde LinkedIn posts, die herken je van een kilometer afstand als AI. En ook sommige Twitterposts trouwens. En als dat zo is, dan vind ik dit respectloos naar je publiek. Je verkwanselt andermans tijd, want er zit een bepaalde asymmetrie tussen het schrijven en het consumeren. Namelijk: je schrijft één keer, je spreekt één keer uit, maar het wordt 1 miljoen keer gelezen of geluisterd.

Bert Slagter: Dus het kost jou een kwartier schrijf- of spreektijd. Het kost 1 miljoen keer een kwartier lees- of luistertijd. Dus eigenlijk bij het maken van tekst, bij het produceren van tekst, of het nu is voor sociale media, voor een essay, een blog of een spreektekst voor een speech zou je moeten optimaliseren op je publiek. Je zou moeten optimaliseren op de toehoorder, de lezer. Ik vond dat Steve Jobs, die zei ooit, die was een begaafd spreker. Hij zei van: voor elke minuut van mijn speeches ben ik een uur aan het oefenen gemiddeld. Waarom? Omdat je die tijd mag investeren in het uitspreken of het schrijven, omdat het 1 miljoen of 100 miljoen in zijn geval soms keer geluisterd of gelezen wordt. En die asymmetrie, die wordt hier genegeerd.

Bert Slagter: En dus ik vind in het geval van inhoudsloze bagger, die we dus ook soms bij die politici en sommige opiniestukken en sommige columns en zo tegenkomen nu, ja, vind ik het echt respectloos. Ik vind het echt niet kunnen. Dat moet je niet doen. Maar wat nou als we op het punt aankomen dat tekst door AI gegenereerd en gedetecteerd door Pangram, maar dat die tekst eigenlijk best oké is? Dan wordt het vraagstuk anders en dan krijg je ineens allerlei andere vragen die opkomen. En je kunt ervan uitgaan dat AI op een gegeven moment daadwerkelijk in staat is om gewoon een prima tekst te schrijven. Misschien wel vergelijkbaar van kwaliteit die je zelf met veel ploeteren ook zou produceren, zonder al die niet-dit-maar-dat-achtige herkenningspunten. Ik wil het hebben over signaalinflatie. Kijk, tot voor kort vertelde een tekst veel over degene die hem uitsprak of schreef.

Bert Slagter: Veel over de afzender. De woordenschat, je denk- en redeneervermogen, de kennis die je had, de aandacht die je eraan besteed hebt, de tijd die je erin geïnvesteerd hebt, de betrokkenheid die je hebt op je publiek. Dat werd allemaal, hè, dus het product van het schrijven zei daar iets over. Je kon aan de tekst iets aflezen over de schrijver. AI maakt die signalen goedkoop, haast gratis. Je zou kunnen zeggen signaalinflatie. De woorden betekenen semantisch nog hetzelfde. Dus de woordenboekbetekenis van de woorden verandert niet, maar de woorden zeggen minder over degene die ze uitspreekt of over degene die ze opschrijft. En dat is lastig omdat we het signaal dat een tekst geeft, die heeft best wel betekenis gekregen in de maatschappij. Dus je leest een tekst en je leidt dingen af uit eigenschappen van die tekst en die weeg je mee in wat je daar vervolgens mee doet.

Bert Slagter: En dat kan dus niet zomaar meer. Ja, ik moest denken aan het voorbeeld van een condoleancekaart. Ik luisterde gisteren naar een podcast waar dat toevallig over ging. Hè, dat soms als je iemand wil condoleren, dat is zoeken naar woorden. Het is moeilijk. Wat zeg je nou? Weet je, je moet wikken en wegen. Wat schrijf je op? En een condoleancekaart, dat gaat niet alleen maar om het gebaar, maar ook omdat je de moeite hebt genomen en de tijd, hebt besloten om de tijd te investeren daarin. En de manier waarop politici nu AI gebruiken, daarmee wordt elk bericht en elke speech eigenlijk zo'n via internet verstuurde standaardkaart. Het zegt niets meer dan een gebaar. Meer is het niet. Hè, het is niet meer die tijdsinvestering, er is niet meer gewikt en gewogen. Er is niet meer nagedacht. Dus er gaat wat van die waarde verloren. Of ook interessant, een interessante denkoefening.

Bert Slagter: Stel dat je, uh, je gaat trouwen en je staat voor het altaar en jouw geliefde die pakt een briefje uit haar of zijn zak en die leest wat voor aan je. Ik beloof dat ik altijd voor je zal zijn. Ik zal altijd van jou, weet ik veel, een of ander soort tekst. En dan vraag je later van: wat was dat mooi, heb je dat zelf geschreven? En dan zegt die persoon: nee, dat heeft Claude gemaakt. Wat doet dat? Wat doet dat met je? Maar oké, dus dat is een gevoelskwestie. Maar ook de vraag, kijk, het punt is dat die uitgesproken tekst, die kan best waar zijn in de zin dat dat ook daadwerkelijk geldt voor de persoon die hem uitsprak. Maar de vraag is wel wie dan de ik is in die tekst. Hè, kwam eerst het gevoel en heb je daar woorden aan gegeven? Of kwamen er eerst woorden uit Claude en dan heb je daarna gedacht: ja, dit, hier neem ik het gevoel wel van over of zo. Hè, en het gaat dus ook om de verhouding tussen de woorden en de schrijver.

Bert Slagter: Kijk, als je een zakelijke tekst hebt, hè, bijvoorbeeld: deze regeling gaat in op 31 juli of zo. Ja, weet je, dat gaat vooral over: is dit feitelijk juist? En als dat zo is, top. Er is een feit overgebracht van A naar B. Maar als je zegt: dit bezoek heeft mij diep geraakt. Zoals Jetten deed. Of: ik beloof dat we dit herstellen als het gaat over iets wat fout is. Het gaat, hè, dan gaat over een belofte, een verplichting, een persoonlijke ervaring. Je moet dan gaan nadenken over: wat is de verhouding van de spreker tot die woorden? Spreekt hij ze alleen maar uit? Of heeft het hem daadwerkelijk diep geraakt? Doet hij daadwerkelijk een belofte waar hij aan te houden is? En wat AI dus doet, is een soort overvloedige beschikbaarheid van empathische taal geven.

Bert Slagter: Maar het zegt daardoor minder over de werkelijke achterliggende empathie. En AI kan de hoeveelheid oprechte taal vergroten, maar niet de hoeveelheid oprechtheid. En ja, ik zat daar wat over te lezen en ik kwam bij Jürgen Habermas, een Duitse filosoof, uit. En die merkte op dat we in communicatie altijd drie claims doen. Waarheid. Klopt het wat je zegt? Truth in het Engels. Juistheid. Is het het juiste om te zeggen? Rightness. Is het right to do or to say? En oprechtheid. Meen je dit werkelijk? Sincerity. En een LLM kan best optimaliseren op de eerste twee. Is het waar en is het juist om dit te doen? Maar die derde kan die eigenlijk alleen maar het oprecht laten klinken, want een AI kan niet bepalen of het oprecht is voor degene die het gaat uitspreken. En ja, dus als een mens die woorden dan overneemt, dan moet de ontvanger een andere manier zien te vinden om erachter te komen of die persoon het daadwerkelijk meent, of het daadwerkelijk oprecht is.

Bert Slagter: En dat is een probleem voor de ontvanger, maar ook voor de spreker of de schrijver zelf. Want woordkeuze, dat is niet alleen een uitkomst, maar ook een proces. Hè, wat voelde ik daar nou echt toen ik in Westerbork was? Was ik boos? Was ik verdrietig? Was ik beschaamd? Was ik geïrriteerd dat we na tachtig jaar nog weinig verder zijn gekomen? En dan dwingt het schrijven je om van die superpositie van emoties neer te klappen naar één specifiek woord wat je dan op papier zet. Wat dat vertegenwoordigt, wat je eigenlijk voelt en wat je eigenlijk denkt. En dat proces is heel waardevol. En daarom heeft zo'n uitspraak als Jetten zegt, wat hij voelde toen hij in Westerbork was, dat heeft betekenis. En die betekenis is weg als je het door AI laat genereren. Dat is niet alleen een probleem voor de ontvanger, maar ook voor de spreker zelf. Want hij heeft dus helemaal niet nagedacht over wat hij nou echt voelde. Hij is daar geweest, is in de auto gaan zitten en AI heeft voor hem een tekstje geformuleerd voor wat hij gevoeld heeft.

Bert Slagter: Maar misschien, dat gevoel is er wel geweest, maar hij heeft daar dus niet op moeten reflecteren toen hij dat tekstje maakte. En ik moest denken aan het voorbeeld van personal trainer. Je kunt wel iemand inhuren die jou helpt om sterker te worden, maar je kunt niet iemand inhuren om namens jou sterker te worden.

Peter Slagter: Nee, dat was wel makkelijk geweest. Of afvallen of zo. Dat je dat kan uitbesteden.

Bert Slagter: Precies.

Peter Slagter: Ja.

Bert Slagter: Precies. Je kan iemand inhuren die jou helpt om af te vallen, maar je zult het zelf moeten doen. Hè, dus merk op, hè, en dat is wel goed om het onderscheid te maken. Dit geldt niet voor de meeste zakelijke teksten. Hè, dat is vooral een soort van transactionele routine die we met elkaar hebben. Offerteaanvragen, orderbevestigingen, prijsverhogingen, mededelingen over een upgrade of onderhoud aan de weg, een treinstoring. Prima, lekker door AI laten doen. Zorg dat het klopt, dat het feitelijk is, dat het duidelijk is, begrijpelijk is voor iedereen. Daar is AI hartstikke goed in. We hebben het hier nu over toespraken, persoonlijke posts op social media, columns, opiniestukken in de krant, essays. Moet je dat uitbesteden? En dat brengt me bij een tweede punt. En dat gaat erover dat AI de ultieme bullshitmachine is. En bullshit in de context van Harry Frankfurt, een Amerikaans denker die veel geschreven heeft over het verschil tussen liegen en bullshitten. En dat is een belangrijk verschil.

Bert Slagter: Dus je hebt waarheid en leugen, iets wat waar is en iets wat niet waar is.

Peter Slagter: Harry Frankfurt is dat toch? Of niet?

Bert Slagter: Oh.

Peter Slagter: Harry Franklin?

Bert Slagter: Nee, ik dacht Harry Frankfurt.

Peter Slagter: Ja, precies, ja, dat klopt. Ja, dan stond ik het verkeerd. Ik denk ik corrigeer je even, maar nou weten we het zeker.

Bert Slagter: Je vergoedt het mij. Ja, precies.

Peter Slagter: Ja.

Bert Slagter: Maar die zei van: kijk, de leugenaar, die heeft een relatie met de waarheid, want hij weet wat de waarheid is, maar hij besluit dat te verbergen. En een bullshitter, die interesseert het niet wat de waarheid is. Hij wil vooral een bepaald effect bereiken, ongeacht of het nou toevallig waar is of niet. Dat is secundair, dat is ondergeschikt daaraan. En dat is wat AI eigenlijk doet. In de prompt geef je de opdracht om een bepaald effect te bereiken. Bijvoorbeeld, je zegt: schrijf een empathische post over mijn bezoek aan Westerbork. Nou, dan komt daar een empathische post over. En het gaat er dan niet dus om of het waar is. Het gaat erom of het effect bereikt wordt wat jij wilde bereiken. En ik kan je garanderen, AI is vreselijk goed in het effect bereiken wat je wilt.

Peter Slagter: Eigenlijk kom je tot het punt dat we honderdvijftig LLM's hebben rondlopen in Den Haag.

Bert Slagter: Ja, een LLM is namelijk de perfecte bullshitmachine. Hij-

Peter Slagter: Woorden zonder gedachten. Ja.

Bert Slagter: Ja. Ja. Dus de taal die wordt geselecteerd op effect, zonder dat er noodzakelijkerwijs een relatie is met de feitelijke beleving, overtuiging of oprechtheid die erachter zou kunnen zitten. Dat weten we niet meer. Ja, goed, dit soort gedachten gingen door mij heen en ik denk van: ja, ik denk dat je dus in bepaalde omstandigheden prima AI kunt gebruiken om de hele tekst te genereren. En zeker in een bepaalde zakelijke, formele, transactionele context. Maar zodra het gaat over opinies, toespraken, belevingen, essay-achtige schrijfsels. Ja, als je dan AI gebruikt om voor je te schrijven. Dat is denk ik een uiting van onverschilligheid in de context van die bullshitmachine, van respectloosheid, van minachting van je publiek, maar ook van intellectuele en emotionele leegte en nepheid.

Bert Slagter: En ik denk dat dat is, dat laatste, dat is wat mensen voelen en waardoor mensen boos zijn, ook op Jetten en het projecteren op Jetten. Hij is minister-president, dus dat is niet zo gek. Ik vond dat Yesilgöz en Boswijk er slechter bij stonden. Maar goed. Oké, en ja, daar ben ik het dus mee eens, hè. Ik vind ook dat het heel belangrijk is dat een leider, of het nou van een bedrijf is of van een land, of van een gezin of van een vereniging, dat je, of een wetenschapper die leidend is in een bepaald vakgebied, dat je erop mag vertrouwen dat je luistert naar wat hij zelf heeft overwogen en bedacht. Anders vind ik hem niet interessant. Anders skip ik hem, anders blok ik hem, anders hoef ik hem niet te horen. Anders unsubscribe ik me van hem. En ik denk dat dat aan het gebeuren is.

Bert Slagter: Mensen unsubscriben van Jetten, want je bent niet geloofwaardig. Je bent niet oprecht. Het interesseert me geen reet wat je te uiten hebt.

Peter Slagter: Het zijn meat proxies.

Bert Slagter: Hè?

Peter Slagter: Het zijn meat proxies.

Bert Slagter: Ja, precies. Het is een soort vleesgeworden buikspreekpop van holle frasen. Dat gevoel. En ik denk dus dat het supergevaarlijk is voor mensen op zo'n positie om dit te doen.

Peter Slagter: Ja.

Bert Slagter: Tegelijkertijd, en dat knaagt bij mij, is AI wel een geweldig instrument. Een geweldig hulpmiddel bij het schrijven van teksten. Want als je het goed inzet, kan het zelfs helpen met nadenken en helpen met verkennen en formuleren van wat je eigenlijk vindt. Dus ja, het zit hem ook. Het is wat dat betreft een genuanceerd vraagstuk. Het is niet: AI inzetten voor schrijven is slecht. Nee.

Peter Slagter: Nee, ik gebruik het zelf ook om te schrijven.

Bert Slagter: Ja, nee, maar zeg maar eens, want ik, jij, we hadden het hier gisteren even over en jij noemde best wel een aantal voorbeelden en ik dacht: ja, ja, dit is echt inderdaad heel goed.

Peter Slagter: Wij zijn zelf natuurlijk auteur, Bert. Ja, en niet zomaar gewoon van een bestseller. En dat hebben we geschreven zonder dat we AI konden gebruiken destijds.

Bert Slagter: Maar we hebben ook echt geworsteld met zinnetjes en met woorden.

Peter Slagter: Nee, tuurlijk. Maar daarvoor hebben we natuurlijk honderden, misschien wel duizenden blogposts geschreven en longreads, essays, rapporten. En heel eerlijk, als je gewoon eerlijk kijkt naar het werk van toen, ook in dat schrijfproces leun je natuurlijk op het werk van anderen. Ben je geïnspireerd door teksten van anderen? Ben je geïnspireerd door inzichten en redeneringen van anderen? Door de uitkomst van het denken van anderen? Ik had regelmatig woordenboeken open. Encyclopedieën, lijsten met synoniemen of antoniemen, gezegden, uitdrukkingen. Die gebruik je ook. Ik vond het concept van de ghostwriter bijvoorbeeld ook al eeuwenoud, hè. Anderen die voor jou schrijven, die het schrijfwerk doen. Kijk, ik ben dus helemaal niet tegen AI als schrijfwerker per se. Kijk, het gaat mis als je het gebruikt om het denken voor je te laten doen.

Peter Slagter: Dan gaat het mis. Als je het gebruikt als een van de middelen om jou te helpen met denken of het uitbesteden van het tikwerk, ja, daar heb ik niet zoveel problemen mee. Het gaat echt mis als je het systeem keuzes laat maken over wat belangrijk is. Welke verbanden zijn er? Welke emotie past? Hoe ga ik deze gedachte opbouwen? Wat vind ik een goede redeneerlijn? Welke argumenten doen er wel toe, welke niet? Welke selectie maak je? Welke kleur geef je het? Is het meer een soort wetenschappelijke objectieve insteek? Of ga je meer voor het opiniestukachtige? Dat is van jezelf. Dat is de sturing. Dat is uiteindelijk wat het eigen denken moet opleveren. En dat kan natuurlijk allemaal als sturing een LLM in. Ja, en an sich, ik vind het wel prima als je de hele tekst kopieert en publiceert. Dus het is jouw geesteswerk, zeg maar, wat uiteindelijk de uitkomst bepaalt.

Peter Slagter: En dat er dan driestapsconstructies in zitten omdat een AI het geschreven heeft, ja, an sich zou dat heel weinig moeten boeien. Het vervelende voor je is dat mensen het misschien afwaarderen omdat dat erin zit en ze denken dat je het denken hebt overgelaten aan een AI-model, terwijl dat helemaal niet het geval is. Maar dat is dus heel moeilijk eigenlijk om van een afstandje te kunnen beoordelen. Dat is wel een probleem. Je kunt heel moeilijk zien aan een tekst of het denkwerk gedaan is door de persoon of door een model. Zeker naarmate modellen slimmer worden.

Bert Slagter: Ja, en dit is een glijdende schaal. Kijk, je had het net over ghostwriters en speechwriters. Ik denk dat een goede speechwriter eerst een gesprek aangaat met degene die de speech gaat uitspreken, die gaat hem interviewen, die gaat goede vragen stellen, die gaat doorvragen, die maakt notities en opnamen en die gaat kijken wat voor authentieke quotes daarin zitten. En iemand die iets op een bepaalde manier formuleert, een bepaald voorbeeld gebruikt, en dat wordt uiteindelijk verwerkt in de speech. Kijk, dat is denk ik een goede manier van speechwriten. Iemand die een papier voor zijn snufferd krijgt wat iemand anders geschreven heeft en hij heeft geen idee wat hij zo meteen gaat uitspreken. Ja, dat is nu ook al dom toneel en moet je helemaal niet doen. Dat is ook nu al minachting van je publiek.

Peter Slagter: Klopt.

Bert Slagter: Maar ik vind wel, zoals je het uitspreekt net, Peter, er zit een bepaald spectrum waarbij je dan al vrij dicht in de gevarenzone komt. Op het moment dat je, ook al heb je een geweldige voorbereiding met elkaar gehad, hè, dus jij en je LLM, en je zegt dan op een gegeven moment: schrijf hem nu, en je copy-pastet hem blind, daar zal toch woordkeuze in zitten. Daar zal toch iets in zitten waarvan je denkt: ja, dat is toch niet wat ik precies bedoel.

Peter Slagter: Nee, je zult dan op zijn minst jezelf tot die LLM moeten verhouden als ware het jouw ghostwriter. Daar ga je ook niet de input direct overnemen als zijnde output. Weet je, dan heb je een gesprek. Je hebt je eigen gedachten erover. Je wil nuances aanbrengen. Je wil misschien net even andere woorden gebruiken of je redenering komt toch net niet lekker door. Tuurlijk, dat moet je doen, zelf.

Bert Slagter: Ja. Ik heb best vaak dat ik een LLM gebruik voor het genereren van analogieën of metaforen bijvoorbeeld, hè. En meestal vind ik daar van die tien eentje dat ik denk: ja, hé, dit is wel interessant. Soms ook nul.

Peter Slagter: Klopt.

Bert Slagter: Maar ik ben heel blij dat hij ze niet gewoon alle tien gebruikt had, zeg maar. Want de meeste zijn gewoon, die missen gewoon net het punt. Ja.

Peter Slagter: Klopt. Nou, leuk item. Dit maakt ook denk ik wel weer wat gedachten los bij de luisteraars. Ik zou zeggen, laat ons eens weten hoe jij er tegenaan kijkt, wat je hiervan vindt. Er zijn bijvoorbeeld ook krantenredacties die hier een stelling in hebben genomen, dus van: wij accepteren als er ook maar enige geur van AI aan zit, een inzending niet, tot en met: nou ja, meer in de richting van: nou, het is oké dat je het gebruikt, op voorwaarde dat het werk wel origineel denkwerk bevat, hè, uitgewerkt is. En als daar een AI dan bij betrokken is, is dat op zich oké.

Bert Slagter: Bij de Volkskrant was pas, geloof ik, weet ik veel, 40% of zo van alle columns bleek met AI geschreven.

Peter Slagter: Ja, maar dat an sich is dus een heel flauwe conclusie, zeg maar. Dat zegt eigenlijk nog niks over of het wel of niet vervelend of slecht of verkeerd is. Dus we zitten nu een beetje op het punt dat we het een soort van 'het is AI' als kwalificatie gebruiken, terwijl dat, dat vind ik ook een hele domme benadering. Ik vind het dus ook dom om te zeggen: AI is niet welkom, punt. Dat getuigt ook niet per se van een doordacht standpunt. Maar goed, ik ben benieuwd. Misschien hebben we je getriggerd. Laat eens even weten wat je ervan vindt, want we gaan afsluiten, jongens. We hebben het iets langer gemaakt dan normaal. Maar dat item over hoe we uitgeroeid worden, dat vond ik dusdanig interessant en ook wel, denk ik, de moeite waard om daar even wat meer tijd voor te nemen. Laat even weten wat je daarvan vond. Misschien vond je het te lang of te uitgebreid, misschien zelfs te kort. Je feedback is van harte welkom. Ja, Bert, dan rest mij jou even te bedanken voor jouw bijdrage, voor je input, voor je inzichten.

Bert Slagter: Jij ook, man. Het was weer gezellig.

Peter Slagter: Was gezellig en was leuk. Dank voor het luisteren allemaal, en we zien elkaar volgende week weer. Tot dan.