Kan Nvidia nog wel zonder Jensen Huang?
TL;DR
AI-samenvatting, door de redactie nagelezenHet Nvidia-bestuur besluit dat Jensen Huang niet terugkeert als ceo na buitenechtelijke relaties en een vermeend spionageschandaal.
De affaire raakt niet alleen Huangs moraliteit maar ook veiligheid, bestuur, geopolitiek en politiek rond Nvidia.
AI-onderzoeker Paul Christiano schetst in veertien stappen hoe AI binnen een jaar buiten menselijke controle kan raken.
Anthropic gaat deze week naar de beurs met een verwachte waardering van ongeveer 1,3 biljoen dollar.
Bart ontdekt dat iemand anders vrijwel exact dezelfde iPhone-app bouwde als hij, als voorbeeld van AI die creativiteit uniformeert.
Hoofdstukken
- 00:00:00
Intro
Bart, Bert en Peter introduceren de aflevering met vooruitblik op Nvidia, AI-risico's en persoonlijke verhalen.
Spring naar dit hoofdstuk
Bart - 00:02:07
Luisteraarsreacties
Jesse zoekt een plek om over AI-bouwprojecten te praten en Bas lanceerde zijn eigen enquêtetool mijnenquete.nl.
Spring naar dit hoofdstuk
Bart - 00:08:17
Nieuws in het kort
Anthropic maakt details van zijn beursgang bekend, SpaceX vangt Starship voor het eerst en OpenAI lanceert GPT-6.2.
Spring naar dit hoofdstuk
Bert - 00:16:09
Jensen Huang treedt af
De tijdlijn van het schandaal rond Jensen Huang wordt doorgenomen, van de onthulling door The New York Times tot zijn vertrek als ceo.
Spring naar dit hoofdstuk
Peter - 00:20:49
Perspectieven op de Nvidia-crisis
Het trio bespreekt de zaak vanuit moreel, veiligheids-, bestuurlijk, geopolitiek, politiek en financieel perspectief.
Spring naar dit hoofdstuk
Peter - 00:46:17
Kan AI ons binnen een jaar de baas zijn?
Bert bespreekt het scenario van Paul Christiano over hoe AI-onderzoek zichzelf kan versnellen tot buiten menselijke controle.
Spring naar dit hoofdstuk
Bert - 01:11:24
Meat proxies en de eigen app
Bart vertelt over het concept meat proxies en zijn ontdekking dat iemand anders dezelfde app bouwde als zijn eigen Saidling app.
Spring naar dit hoofdstuk
Bart - 01:30:59
Bart
Hoofdstukken
Genoemd in deze aflevering
- Jensen Huang erkent ontrouw, Nvidia start intern onderzoek.
- Huang zegt terug te willen komen als het bestuur dat wil.
- Het bestuur besluit definitief dat Huang niet terugkeert.
- Nvidia-aandeel daalt zes weken op rij tijdens het schandaal.
- Kwartaalcijfers van Nvidia blijken ondanks alles uitstekend.
- Paul Christiano geeft ongeveer vijftig procent kans op een oplossing.
- AI-onderzoek versnelt zichzelf doordat modellen hun opvolgers trainen.
- Bart ontdekt dat iemand anders exact dezelfde app bouwde als hij.
- Meat proxies zijn mensen die ongefilterd AI-output doorsturen.
Transcript
16.804 woorden · klik een tijdcode om te springen
Bart Mol: Welkom bij Turing Station, de AI-podcast van Nederland. Ik ben Bart Mol en samen met Bert en Peter Slagter bespreken we elke week het belangrijkste nieuws over AI.
Bert Slagter: Ja, we horen regelmatig doemverhalen, maar die beschrijven vaak vooral het eindstation. Deze week bespreken we de route ernaartoe. Een opeenvolging van gebeurtenissen waardoor we binnen een jaar in een situatie kunnen komen van grootschalige ontregeling, wanorde, schade en slachtoffers.
Bart Mol: Ja, dat is nogal wat, maar daar gaan we het zeker over hebben. En er wordt soms een beetje lacherig gedaan over mensen die meer, ah, eigenlijk het doorgeefluik van hun AI zijn dan dat ze zelf nog nadenken, hè. Meat proxies noemen we dat soort figuren. En zelf heb ik daar natuurlijk totaal geen last van. Althans, dat dacht ik, totdat iemand precies dezelfde app online zette als de app, die ik zelf gemaakt had. Dus, nou ja, daar moeten we het eens over hebben.
Peter Slagter: Ja, waar we het ook even over moeten hebben is Jensen Huang, dus de CEO van Nvidia. Of nou ja, de voormalig CEO van Nvidia, want hij heeft zijn functie neergelegd. Ja, en in die beslissing, daar komt meer samen, dan je misschien denkt. Het gaat over veiligheid, over politiek, geopolitiek, ethiek en misschien zelfs hoe AI als technologie doorontwikkeld.
Nog 16.590 woorden aan transcript · vouw uit om alles te lezen.
Bart Mol: Je hoort het alweer, een bomvolle aflevering. We gaan snel beginnen. Veel plezier, bij aflevering 22 van Turing Station. Ja, mannen. Goedemorgen, we zitten er weer voor echt weer, ja, we kunnen niet wachten om te gaan beginnen, want wat er deze week toch weer allemaal is gebeurd, dat hadden we vorige week toch weer niet kunnen voorspellen. Terwijl we vorige week ook weer de gekste dingen, besproken hadden. Dus daar gaan we vandaag ook, zeker, op terugkomen. Dan heb ik het natuurlijk over, wat er allemaal bij Nvidia, gebeurd is, om maar eens wat te noemen. Maar ja, Bert is ook weer allemaal interviews tegengekomen die we moeten bespreken. Ik ben appjes aan het bouwen, er is van alles, dus we gaan snel beginnen. Ja, Peter, wat hebben we deze week binnengekregen van onze, lieve luisteraars?
Peter Slagter: Ja, het was een wat rustigere week dan, dan eigenlijk alle weken ervoor. Dus, mocht je nu zitten te luisteren en denken van: ah, ik stond op het punt om wat te typen. Ja, de volgende keer moet je jezelf even over die drempel heen jeeten. Desalniettemin was er nog steeds genoeg te vinden in onze inbox. Ik heb er even twee uitgepikt. Eentje van Jesse, eentje van Bas. En, Jesse die mailde over, ja, eigenlijk vooral met heel veel vragen, want die is zelf aan het bouwen naast zijn, job. Ja, die heeft wat behoefte om daar met andere mensen over te praten. Die vroeg: welk kanaal is daar het meest geschikt voor? Zijn er ook terugkerende online sessies waarin leden samen aan iets bouwen of elkaars projecten bespreken? Zijn er regionale groepen, van die fysieke, groepen waar mensen gewoon met elkaar gewoon een beetje een soort hackathon-achtige setting? Nou ja, kijk, bij ons op Discord, dat is daar hartstikke geschikt voor om erover te praten. Maar dat is natuurlijk best wel wat anders dan zo'n fysieke hackathon. Die organiseren wij nog niet. Die terugkerende online sessies waarin we samen iets bouwen of bespreken, die zijn er ook nog niet.
Peter Slagter: Maar het zijn eigenlijk wel, het zijn alle drie dingen die wij wel heel leuk vinden.
Bart Mol: Ja.
Peter Slagter: En wij zijn op de achtergrond echt wel bezig met, het doorontwikkelen van het hele ecosysteem om Turing Station heen, dus later daarover waarschijnlijk wel meer. Maar kom gewoon even naar Discord, Jesse, en dan, kun je daar over doorpraten.
Bart Mol: En, als je zit te luisteren en je denkt: goede ideeën Jesse, of ik heb ook hele goede ideeën rondom, ja, wa-, als we nou één ding mogen kiezen met Turing Station, hè, naast de podcast die we toe zouden mogen voegen. Ik zeg maar wat, hè, een community, fysiek, meet-ups, nieuwsbrieven, tutorials, seminars, livestreams, liveshows. Ik weet het niet, hè. Ik noem even een paar dingen die bij ons, over tafel zijn gekomen. Laat het even weten in de comments, en gooi ook daar je goede ideeën even in. Ja, dan kunnen we eens gaan kijken waar we onze spaarzame tijd, hiernaast op kunnen, richten. En wie weet kunnen we een van die, ideeën da-, ja, realiseren.
Bert Slagter: Ja, en doe ook vooral een duimpje als je een ander idee tegenkomt wat je leuk vindt. Een beetje wat we bij ons op het werk wel eens deden is dotvoten. Dan stonden er wat dingen en dan kon iedereen een stip zetten en dat bepaalde dan wat dan populair was.
Bart Mol: Precies.
Peter Slagter: Of je denkt: ik wil dit gewoon opzetten. Ja, dan regelen wij gewoon de naam, het merk, misschien wat, budget. En als je dan regionaal, ja, met mensen bij elkaar wil komen en een oproep natuurlijk. Vind het leuk om dat te organiseren, kun je ook gewoon aangeven. Laat het weten. Bas die, zocht voor zijn studie een tool om enquêtes uit te sturen. Nou, er zijn er natuurlijk heel veel, maar hij vond ze allemaal lelijk, dus hij bouwde er zelf eentje. En dat, betekende de geboorte van mijnenquête.nl. Prima domeinnaam ook trouwens. Met binnenkort ook een MCP-servertje om naar je, resultaten te kijken, ermee te praten, of je agent ermee te laten praten. Dat is leuk. Ja, hij heeft eigenlijk zijn, zijn eigen wens en zijn eigen product om die, aan die wens tegemoet te komen, heeft hij gelijk omgecodeerd tot een klein SaaS-tooltje. Mocht je nou in de markt zijn om zelf ook zo'n tooltje te willen gebruiken en je stond op het punt om bij een concurrent, iets te doen, moet je niet doen. Ga je gewoon even naar Bas, Turing Station luisteraar, mijnenquête.nl. Hé, jij, kreeg een mailtje van, van een oude bekende volgens mij, hè?
Bart Mol: Ja, zeker. Ja, ik zal nog even naar Bas z'n site kijken. Ik vind het wel grappig. We komen hier later nog ook wel op terug, over de race to the bottom, ook qua het beprijzen van dit soort diensten, zoals mijn enquête. Ja, hoe diep kan je gaan? En als jij het na kan bouwen, kan iemand jou dan niet nabouwen en daar weer een eurootje onder gaan zitten? Dat is een dynamiek die we steeds meer beginnen te zien natuurlijk met, ja, m-met de coding agents die erop zijn gekomen. Ja, ik kreeg een mailtje van Christian. En Christian, heeft een bedrijf samen met een, partner en een, compagnon, Snijlab in Rotterdam. En, ja, het grappige was, hij stuurde een mailtje. Hij zei: "Yo, Bart, ik zat te luisteren naar Turing Station. Luister met veel plezier tijdens het klussen over het algemeen. En, ja, ik hoorde je over je split flap, display wat je aan het bouwen was." Daar heb ik overigens nu een klein prototypetje van, nog niet helemaal werkend. Als die werkend is volgende week zal ik hem laten zien. En die zei: "Ja, daar waren wij ook een tijdje terug mee bezig, maar was niet helemaal gelukt. Ja, we doen ook veel met AI binnen ons bedrijf."
Bart Mol: Want zij hebben een bedrijf waar ze dus lasersnijders hebben, hele grote, hè, daar kunnen ze acryl uitsnijden Dus ja, we gebruiken het voor de designs, maar ook gewoon intern en, van alles wat we doen. En, ja, ik zou het wel leuk vinden om te helpen bij je split flap projectje. Dus, mocht je een keer wat uit willen laten snijden, dan krijg je dat van ons cadeau. Nou, dat is hartstikke aardig natuurlijk van, Christian. Maar wat Christian niet weet is dat wij al lang en breed klant zijn bij Snijlab. Het grappige was dat zij namelijk met hun bedrijf in hetzelfde pand zaten als waar wij, ons studiootje voornamelijk voor onze andere podcast Satoshi Radio hebben. En wij hebben al een keer een hele mooie lichtbox, laten lasersnijden bij hun. Dus Christian, als je dit hoort, ja, wij zijn al lang klant. Ik was ook al van plan om gewoon, vanuit het eigen kontzakje die acrylplaten te betalen. Maar ik ga alsnog graag op je aanbod in.
Peter Slagter: aanbod in.
Bart Mol: Ik kom ook graag een keertje langs om een bakkie koffie te drinken en eens te kijken hoe jullie met AI omgaan, want het klinkt, alsof jullie daar ook vrij diep in zitten. Ik ben wel benieuwd, want, ja, dit is denk ik wel, waar er nog echt waarde zit, hè. Dus een bedrijf wat digitaal genoeg is dat je heel veel met AI kan doen. Bijvoorbeeld het ontwerpen, digitaal ontwerpen van designs. Maar ja, die designs moeten wel uit een echte acrylplaat gesneden worden en dat gebeurt gewoon nog in de echte wereld. Daar heb je machines voor nodig. Ook nog wel wat kennis. Ook nog wel wat arbeid. Ja, daar zit iets. Wat weet ik nog niet precies, maar dat, mijn Spidey senses zeggen dat daar, langer waarde blijft hangen dan bijvoorbeeld, ja, het vibe coden van, ja, puur digitale, software as a service, producten. Dus Christian, thanks en, we houden contact. Hé, wij gaan eventjes wat dingen bespreken, die we wel willen bespreken, maar die te kort zijn om een heel, item te geven. Ja, Bert, dan beginnen we bij Anthropic geloof ik, hè?
Bert Slagter: Ja, deze week is het zover. Ze gaan naar de beurs Het is, we hadden natuurlijk al, eerder hun S1, behandeld. Dat is het prospectus dat ze indienen bij de beurswaakhond SEC, waarmee ze de informatie-asymmetrie opheffen tussen hen en de belegger, zodat de belegger weet waar die in gaat beleggen, waar die in gaat stappen. Allemaal cijfertjes erin. Wat toen nog niet bekend was, de precieze datum en de precieze prijs van de aandelen en hoeveel nieuwe aandelen er uitgegeven gaan worden. En dat hebben ze dan nu wel bekend gemaakt. Woensdag 18 november, dat is de dag waarop we nu opnemen, wordt de exacte prijs bekend gemaakt. Ze hebben al gezegd: nou, we mikken op een range tussen de $70 en de $78 per aandeel. Morgen, donderdag 19 november, gaat de handel van start. Dus dat is de beursgang. Dan staan ze daar in het beursgebouw om op de bel te slaan. Waar die foto's altijd van krijgt, die persberichten. Ze lieten gisteren al weten: nou, misschien gaat het prijsje toch nog iets omhoog, want er is wel heel veel vraag. Dus ze zijn zorgvuldig bezig om het een beetje op te hypen en op te zwepen.
Peter Slagter: Nou, ik heb ook allerlei mailtjes gekregen, hoor, over deze beursgang.
Bart Mol: Ja.
Peter Slagter: Zelfs sms'jes van: joh. Ja, en dan elke keer eronder: ja, dit is geen marketing, hoor. Nee, dit is geen mark-- ja.
Bert Slagter: Nee, overal waar je klant bent van een bank of een broker of een cryptobedrijf, die doen allemaal natuurlijk mee.
Bart Mol: Ja, zelfs die ING inderdaad begonnen over-- dat is mijn bank, hè, even voor de duidelijkheid. Ik denk dat ABN en Rabo hetzelfde hebben gedaan, maar zelfs zeg maar de instituten. Kijk, dat ik van Revolut en van Kraken een, een WhatsAppje krijg snap ik, maar van ING dacht ik wel: ja, ja.
Bert Slagter: Nee, ik kreeg er van Kraken en van Coinbase, van Revolut inderdaad.
Bart Mol: Ja, ja, ja, ja.
Bert Slagter: Van DeGiro, van Saxo.
Bart Mol: Ja.
Bert Slagter: Ik ben echt, ik heb nog geen Anthropic meer zien, joh. Maar goed.
Bart Mol: Maar ze hebben een cruciale fout gemaakt, Anthropic.
Bert Slagter: Wat dan?
Bart Mol: Ze lanceren tegelijkertijd met GTA VI. Ja, en er is één ding, er is één ding groter dan de Anthropic IPO en dat is de lancering van GTA VI.
Peter Slagter: Ja, ja, ja, ja, ja, ja, ja.
Bart Mol: Al die degens, die zitten gewoon een week lang met hun internet uit te gamen.
Bert Slagter: Opgesloten, ja.
Bart Mol: Niemand, niemand koopt het.
Bert Slagter: Maar ja, Bart, wat?
Peter Slagter: Bartje, wel, je zult zien, in GTA 6 kun je Anthropic aandelen kopen straks. Ja.
Bart Mol: Ja, inderdaad, ja.
Bert Slagter: Ja, wanneer hadden ze het dan moeten doen? Twee weken geleden werd World of Warcraft gelanceerd. De week daarvoor werd Zelda gelanceerd. Ja, ik bedoel, al die dirt zit allemaal op elkaar, weet je. Nu
Bart Mol: ja, dat, da's waar, maar GTA VI is another level. Maar goed, het zal vast goed komen inderdaad.
Bert Slagter: Maar als we eventjes het sommetje maken: ze gaan bijna een miljard nieuwe aandelen uitgeven, richting de $80. Dus er gaat ongeveer een kleine $80 miljard aan nieuw kapitaal opgehaald worden door Anthropic. Dat is dus ook de liquiditeit die uit de markt gehaald moet worden. Hè, dus je ziet dat mensen soms andere beleggingen verkopen om met Anthropic mee te kunnen doen. De totale waardering gaat dan uitkomen op 1.3, 1.4, misschien $1.5 biljoen. Ja, dan hebben we dus de tweede beursgang van een biljoen-dollar-plusbedrijf dit jaar. SpaceX, AI en dan nu Anthropic. En dan wellicht volgend jaar OpenAI.
Peter Slagter: En welk deel daarvan leg jij in, Bert?
Bert Slagter: 1.2 biljoen. Nee. Nee, ik doe zelf niet mee met deze beursgang. Met beursgangen eigenlijk in het algemeen, ja, want zeg maar, historisch gezien zie je dat in de één à twee jaar na een beursgang de koers op zijn best zijwaarts gaat en vaak zelfs nog wat daalt. Daar zijn natuurlijk uitzonderingen op, maar zeker met zulke enorme waarderingen, ja, moet je maar even kijken hoe dat precies uitpakt. Kijk, je moet je voorstellen, er zijn natuurlijk allerlei vroege investeerders en vroege medewerkers die nu een levensveranderende hoeveelheid geld of vermogen hebben en daar iets van willen realiseren. Dus het is niet alleen maar die 80 miljard die nu opgehaald wordt, maar er zijn ook bestaande beleggers die in de komende maanden, jaren zullen willen verkopen. Hè, dus ja, laten we het maar even afwachten, denk ik dan.
Peter Slagter: Ik zag op X langskomen dat Nvidia 10 miljard aan aandelen zou inkopen. Klopt dat? Of is dat gewoon even zo'n geruchtje om de hele complotcircus rondom Nvidia. Oké.
Bert Slagter: Ik zag het ook langskomen, maar wel van een bron die dat over het algemeen niet zomaar roept. Dus het zou heel goed kunnen dat ze dat bijvoorbeeld rond de kwartaalcijfers bekend hebben gemaakt. Die hebben ze gisteren gepresenteerd.
Bart Mol: Alright. Je had het over SpaceX, AI, even tussen neus en lippen door. Die hebben ook van de week even laten zien waarom ze dan zoveel centjes waard zijn, namelijk door voor het eerst Starship uit de lucht te vangen. Helaas lukte het ze deze keer niet om de booster ook op te vangen. Die is in zee geland. Dus het was de bedoeling om zowel, hè, de booster raket als Starship zelf, hè, dus echt het spaceship uit op te vangen zodat ze ze konden hergebruiken. Dat is nog niet gelukt. Nou, dan hebben ze iets om naar uit te kijken. Maar we hebben nu, hè, de afgelopen maanden, jaren gezien dat ze de boosters kunnen vangen. Dat is een paar keer gelukt. En nu voor het eerst Starship. Ja, ik heb een linkje in de shownotes staan, dan kan je het filmpje zien. Ja, ik heb het effe aan Claude gevraagd: maak effe een tekening en zet effe Starship plus de booster naast de Euromast. Ja, het is gewoon echt alsof de Euromast uit de hemel komt vallen en daarna gewoon landt. Dat is niet normaal.
Bert Slagter: Echt bizar.
Bart Mol: Het is ongelooflijk. Dus ja, ik kan er verder weinig over zeggen. Ga het effe kijken als je het nog niet gezien hebt. En ja, ik vind het, ja, het is, het is zo gruwelijk knap en vet en dik en top. Ja.
Bert Slagter: Ja, en het is de stap naar serieuze ordegrote verschuiving in wat we in de ruimte kunnen doen. Want als je die raket kunt hergebruiken, dan zijn de enige kosten, even los van af en toe een plaatje van die heat shields of zo die je moet vervangen, maar is het brandstof. En daar ging het ook even over op Twitter. X, Elon Musk die reageerde op iemand. Op dit moment kost het, even kijken, $1 miljoen per tripje voor de Starship. En hij kan 100 ton, dus 100.000 kilo materiaal meenemen. En Elon Musk zei: "Ja, dat gaat omlaag naar ongeveer een half miljoen dollar en de payload gaat naar 200 ton." Als je dat gaat uitrekenen, dat is $2,50 per kilo. Ja, met dat soort prijzen, als je dus niet je ruimteschip elke keer hoeft te vervangen of uit zee hoeft te vissen of weet ik veel. Ja, dan kan je ineens allerlei andere soorten dingen in de ruimte gaan doen.
Bart Mol: Ja. Ja, zeker.
Bert Slagter: Dus dit is wel echt.
Bart Mol: Je kan je kind naar de ruimte sturen.
Bert Slagter: Kan ook, ja, als je dat zou willen.
Bart Mol: Bijvoorbeeld, hè.
Bert Slagter: Ja.
Bart Mol: Ja, om maar eens wat te noemen
Peter Slagter: zou ik wel benieuwd van af te komen.
Bert Slagter: Is wel het meest logische voorbeeld inderdaad
Bart Mol: Nou ja, ik, w-, nee, nee, absoluut niet.
Peter Slagter: Bart, heb je plannen?
Bart Mol: Maar ik hoorde gisteren van mijn vriendin dat ons kind nu in de buik 2,5 kilo is. Dus ja, dan begin je toch te rekenen. Weet je, dan kan je hem toch een levensveranderende er, er-- ja, precies.
Peter Slagter: Ja, en die is ook een soort gewichtloos.
Bart Mol: Hé, en dan als laatste hebben wij gewoon even een nieuwtje van OpenAI, want die zijn namelijk gisteren naar buiten gekomen met het, of eer-, was het eergisteren, gisteren? Voor mij gisteren uit mijn hoofd.
Bert Slagter: Gisteravond, ja.
Peter Slagter: Ik denk gisteren, ja.
Bart Mol: Met het langverwachte, de langverwachte aankondiging, dat GPT-62 Astra en Sol nu beschikbaar zijn. Ja, ik zou aan jullie willen vragen luisteraars: ga ermee aan de slag, als OpenAI jouw homebase is en laat ons weten wat je ervan vond. Want alle experts daar werden we nog niet heel veel wijzer van. Veel negativiteit, veel positiviteit en het liep allemaal dwars door elkaar heen. Dus wij gaan het zelf gebruiken en wij zijn benieuwd wat jullie ervan vinden. Dus ja, volgende week daar meer over. Mits we daar natuurlijk meer over kunnen zeggen en het de moeite waard is. Gaan wij door?
Bert Slagter: Ja, en ze hebben voor een bepaalde groep nu ook ultrafast opengezet.
Bart Mol: Gaan we niet door?
Bert Slagter: Dus kijk ook eventjes goed in je interface of je die misschien nu ook hebt. Ik heb hem wel en dat is wel weer geinig om daar eens mee te experimenteren. Hoe, hoeveel sneller dingen dan gaan, gebouwd worden of je antwoorden krijgt.
Bart Mol: Ja, en hoeveel sneller je tokens opgaan, daar ben ik ook wel benieuwd naar. Ik denk dat dat met dit soort modellen wel, wel aangaat, ja, ultra.
Peter Slagter: het gaat over de outflow van je bankrekening ultrafast denk ik.
Bart Mol: Ja, het is wel vet. Weet je, het probleem is als je daar een beetje aan verslaafd raakt en dat soort experimental hele dure features, dan kom je er moeilijk vanaf. Dus ik ben ook altijd een beetje huiverig om daarmee aan de slag te gaan, zeg maar. Als je dan gewend bent, denk ik: ja, dan-- net als nu ook weer met Fable denk ik: ja, zit ik weer. Opus was zo relaxed omdat je gewoon je hele week met je te goede deed en nu schiet je daar toch weer snel doorheen omdat je dan Fable aan het gebruiken bent. Hé, we moeten het over onze grote vriend Jens en Jensen Huang. Iemand zei vorige week Huang. Ja, dat vind ik altijd lastig. Dan ben ik ook weer bang dat ik het, ik zeg gewoon-- dat zeggen ze in Amerika toch ook niet? Zeggen ze toch gewoon Jensen Huang? Zoiets.
Bert Slagter: Ja, die Amerikanen trekken zich sowieso weinig aan van uitspraken in andere talen dan het Engels.
Bart Mol: Dan ga ik, ja.
Bert Slagter: Maar het, Jensen, dat komt dus van Yen Tsun en Huang. Ja, dus dat zou je eigenlijk, maar dat wordt wel heel, het wordt wel al snel een soort van denigrerend als je dan ook Yen Tsun Huang gaat zeggen of zo, weet je.
Bart Mol: Dus dat kan ik helemaal niet, dus ik schaar me bij de Amerikanen. We gaan het hebben over Nvidia en Jensen Huang. Ja.
Peter Slagter: Weng, weng. Ja, ja.
Bart Mol: Ja, want je zou zeggen, Peet, dat we vorige week het een en ander besproken hebben daarover. En dat had al een heel mooi verhaal geweest als het daar gestopt was. Want we hadden natuurlijk The New York Times die een kleine samenvatting: The New York Times die daar schreven over zijn relatie met een zogenaamde, dat is nog niet helemaal duidelijk, Chinese spion Alice Huang. 8 november vertelt ie aan iedereen binnen Nvidia en daarmee ook de wereld, want het werd gewoon gepubliceerd als persbericht, dat hij inderdaad ontrouw is geweest, vreemd gegaan met die vrouw. Nvidia kondigt een onderzoek aan naar of er bedrijfsgeheimen gelekt zijn. 11 november komt er nog woord naar buiten, dat er een tweede buitenechtelijke relatie was, dit keer met een medewerker binnen Nvidia. En daarmee sloten we eigenlijk af, Peet.
Bart Mol: Maar de echte vuurpijlen werden toen pas aangestoken zou je kunnen zeggen.
Peter Slagter: Ja, de soap die ging gewoon door. Ik bedoel die trok zich niks aan van het einde van die aflevering van Turing Station Of ze dachten er is gewoon een sequel nodig. Nou en die kwam want, ja, Hwang Ja, die naam, dat wordt nou een dingetje deze aflevering. Die legt, dat was dan donderdag de 12e, legde zijn functie neer als CEO.
Bart Mol: Ja.
Peter Slagter: En hij maakte dat zelf bekend. Nou ja, ja, je kunt er wel vergif op innemen dat daar achter wat externe druk zat, hè. In plaats van dat hij dacht van: nou, ik kap er zelf mee, ik vind het wel mooi geweest. En Colette Kress, die nam zijn functie over. Dat was de CFO, dat is nu CFO en interim CEO. Ja, en vanaf dat moment kun je wel zeggen dat het op sociale media allemaal in lichte laaien stond, met best wel, ja, verschillende soorten gesprekken die door elkaar heen liepen. Nou, eventjes fast forward naar vandaag en gisteren. Al die gesprekken die, ja, die kwamen bij Jensen Huang terecht in de vorm van: nou, weet je, als het board wil dat ik terugkom, dan kom ik terug als CEO. Ik ben best bereid om terug te komen.
Bart Mol: Ja, want blijkbaar wil de rest van de wereld dat wel.
Peter Slagter: Dat zit daartussen inderdaad.
Bart Mol: Ja, ja.
Peter Slagter: En vandaag zagen we het bericht langskomen, bij monde van Colette, dus de interim CEO. Ja, het board heeft al besloten hij komt niet terug. Ja, met als ongelooflijke, ja, ja, ik weet niet of daar een goed woord voor is. Het verschil tussen de uitstraling van wat de CEO was en de huidige, nou het is dan wel de interim CEO, is enorm. Van, we zijn van rockstar naar ja, ja, een beetje, ja, heel droog gegaan. Ja, er zit een linkje in de show notes. Moet je maar even naar kijken, naar het interview waarin Colette, ja, deze woorden uitsprak. En, ja, we gaan het dus eigenlijk hebben over, ja, die periode tussen 12 november en nu. En dat eigenlijk duidelijk is dat die niet terugkomt. En, ja, wat ik zei op sociale media, in de media, op televisie, op de radio, wereldwijd ontstonden allerlei perspectieven op dit hele euvel.
Peter Slagter: En dat, ja, al die gesprekken liepen door elkaar heen. Hè, dus, op X ging het, ja, in mijn bubbel met name over, ja, hoe zit het met de moraliteit hiervan? Hè, mag Jensen Huang wel terugkomen? Is het logisch dat hij is vertrokken? Had hij dat niet moeten doen? Of is het het domste wat hij had kunnen doen? Is dit het einde van Nvidia? Het ging heel erg over de ethische kant van het verhaal. Op andere plekken ging het weer over de invloed op politiek of op de veiligheid, of over de spionage. Over allemaal dingen die eigenlijk ook nog helemaal niet zo bekend waren wat daar nou de feiten waren. Ik dacht: weet je wat ik ga doen? Want we kunnen hier niet precies zeggen hoe alles zit, want dat weten we gewoon niet. We weten niet hoe alles zit, maar we kunnen wel eventjes de perspectieven op dit euvel even nalopen met elkaar. En dan breken Bart en Bert gewoon even in als ze denken: hé, dat is interessant, daar heb ik nog wel gedachten over.
Peter Slagter: We beginnen even bij dat morele perspectief, hè, want, ja, Jensen Huang, hè, vooraanstaand figuur, CEO van nou, een van de grootste bedrijven ter wereld. Een leider, ja, die is ontrouw geweest aan zijn vrouw. Hij is vreemdgegaan. Buitenechtelijke relatie en de eerste, waarvan, nou, dat naar buiten kwam dat het zou ook nog eens een spion zijn, weet je wel. Nou dan, dan ben je echt af. En de vra-, dat, hè, dat was een beetje de, het mores.
Bart Mol: En het tweede medewerker, medewerkster.
Peter Slagter: Tweede medewerker inderdaad.
Bart Mol: Ja.
Peter Slagter: Wel een leidinggevende, maar alsnog iemand die rapporteert uiteindelijk aan Jensen.
Bart Mol: De CEO.
Peter Slagter: Hè, dus ja, ingewikkeld. Maar waar eindigt, hè, een privékwestie en waar begint het zakelijk te worden? Nou, als je gewoon ontrouw aan je partner bent, ja, dan kun je dingen van vinden, maar dat is een privékwestie uiteraard. Een relatie met een medewerker, ja, dan heb je mogelijk, hè, dat is niet dat dat strafbaar is of zo, hè. Het is ook niet verboden. Er is vaak wel bij grotere bedrijven een soort code of conduct waarin daarover gesproken wordt, waar men dan bij voorbaat zegt van: nou, wij vinden hier iets van, want je hebt mogelijk met machtsongelijkheid te maken en met belangenverstrengeling, hè. En, ja, daar wordt het al ingewikkelder. Dus in principe is men daar heel terughoudend mee, zou je kunnen zeggen. Nou, en dan heb je een relatie met een zakelijk contactpersoon. Hè, dat was in dit geval Ellis Huang. Ja, dezelfde achternaam. Ik denk niet dat het zijn zus was. Dat zou wel helemaal smeuïg zijn.
Bert Slagter: Jansen. Soort veelvoorkomende naam.
Peter Slagter: Ja, CEO van Megaspeed International. Dat is een datacenter, een cloudbedrijf. Ja, en die zou, dat zou een vooruitgeschoven post van China zijn. Ja, dat zit allemaal achter een relatie met een zakelijk contactpersoon. Misschien is dat wel een risico voor je eigen besluitvorming, voor je veiligheid dus. Het punt is.
Bert Slagter: Ja, dan kom je ook op het gebied van fraude in potentie, hè. En dat kan natuurlijk zakelijk gezien wel hele goede reden zijn om iemand te ontslaan. Ja.
Peter Slagter: Uiteraard, ja. Hè, dus in al deze kwesties zitten wel redenen om te zeggen van: nou, het is hier, hier eindigt het. Alleen het punt is een beetje, ja, op sociale media werd die conclusie al getrokken, hè. Dus ja, er was sprake van machtsongelijkheid en belangenverstrengeling en spionage en alles. Hij moet eruit. Alleen het enige wat eigenlijk ook tot nu toe duidelijk is, is dat hij ontrouw erkend heeft en verder niets. Nou ja, wij weten dat eigenlijk ook niet. Hè, en, ja, dat spionageverhaal gaan we zo verder op in. Maar er kwamen een aantal prangende vragen langs. En ma-, hè, want Jensen Huang is Ja, die heeft een enorm netwerk. Hij is Nvidia, heeft een talent kennelijk voor het opbouwen van dat bedrijf en binnen die sector. Ja, mag dat aanleiding zijn om dit gedrag door de vingers te zien? Nou, dat heeft natuurlijk ook te maken met de ernst van het gedrag en dat weten we dan weer niet precies hoe dat zit. En, ja, moet er, als hij dan een tweede kans krijgt, moet er dan een soort boetedoening zijn?
Peter Slagter: Wat altijd nog een strategie kunnen zijn, hè, dat ie gewoon weg was gegaan, 8 uur lang bij een of andere podcast was gaan zitten en dan alsnog een tweede kans krijgt. Dat lijkt wel voorbij te zijn overigens, die route, Bert.
Bert Slagter: Ja, ik denk dat je er nog wel een vraag voor kan doen van, is het bedrijf hier zorgvuldig gehandeld? Hebben ze, hè, is er, het is allemaal heel, heel snel gebeurd, terwijl er nog, ja, best wel weinig duidelijk was. Hè, want, kijk, als iemand een misdrijf heeft gepleegd, hè, bijvoorbeeld dus gewoon strafbare feiten. Ja, oké, weet je, dan is het anders. Alleen hier gaat het als het inderdaad gaat, we zitten nu in het morele perspectief. Als het puur gaat om het morele vraagstuk, ja, dan is de vraag van: moet je dan meteen handelen? Of moet je dan zeggen: nou ja, we gaan eerst eventjes de feiten op een rijtje zetten. Kijk, het is niet, en dat merkte je ook wel daarna, het is niet zo dat zijn positie onhoudbaar is geworden voor de buitenwereld of iets dergelijks. En dat heb je natuurlijk ook wel eens dat je denkt van: ja, weet je, ik moet nu aftreden, anders dan sleep ik het bedrijf mee de diepte in. Ja, dat was hier eerder omgekeerd zou je kunnen zeggen. Dus van is er een soort van onzorgvuldig, overhaast gehandeld?
Bert Slagter: En stel dat je op een gegeven moment concludeert: ja, hier is inderdaad echt wel een probleem. Er is echt wel, er zijn echt goede redenen om hem te ontslaan of om te vragen ontslag te nemen. Dan komt die tweede vraag of jouw eerste vraag van: is talent dan aanleiding om gedrag door de vingers te zien? Dat is dus, ja, maar ja, het is een interessant perspectief waar je, ja, best wel verschillende uiteenlopende standpunten op kunt innemen. En dat zag je ook gebeuren, hè.
Peter Slagter: Ja, klopt.
Bert Slagter: Bill Clinton werd erbij gehaald. Zie je dit versus anderen waar het, ja, nou ja. Ja.
Peter Slagter: Ja, ja joh, alle tech bros die sprongen juist weer in de bres voor hem. Ja, het was wat dat betreft echt vuurwerk. Ja, Bart, jij, heb jij er nog iets, vind je er iets van? Anders ga ik gewoon door naar het volgende. Ja, jij vindt er misschien iets van, maar
Bart Mol: Kijk, weet je wat, ik heb er nog best wel mee, gisteren toen we de aflevering voorbespraken, hebben we het er best uitgebreid over gehad en ik zat er nog over te denken en aan de ene kant zie ik het, zeg maar, ik vind ook een beetje, als je vreemd bent gegaan betekent het ook niet dat je af-- kijk, ze zijn, zeg maar, delicten in het leven waar ik van zeg: als je dat doet, dan ben je af. En we kunnen ze allemaal invullen, maar dat begint ergens bij, weet ik veel, ergens rondom moord, zeg maar. Snap je wat ik bedoel? En dan kan iedereen voor zichzelf invullen: wat vind ik erger dan moord en moet iemand daarvoor voor eeuwig de bak in en niet meer eruit? Of, nou, whatever. In Amerika hebben ze zelfs nog de doodstraf. Nou goed, een beetje dat, daar valt ontrouw niet in. Ik bedoel, ik denk dat we dat allemaal wel kunnen zeggen. Dus toen dacht ik ook van: ja, weet je, het voelt nu wel een beetje alsof hij aan de boom gehangen is. Vrij rap inderdaad, zonder echt een proces. Want binnen een week, ja, wat kan je binnen een week precies uitzoeken?
Bart Mol: Dus ja, ik vind eigenlijk misschien wel dat je als je zoiets doet, mag je best een tweede kans krijgen. Weet je wel. Ik ken ook wel mensen bij wie dat gebeurd is, waarvan ik denk: ja, dat zijn ook helemaal geen slechte mensen of zo verder. Het leven loopt soms zoals het loopt. Maar wat jij ook zegt, Peet, en dat vind ik dus een beetje missen, is van: ja, maar een tweede kans krijg je niet direct daarna. Vind ik ook. Niet zozeer direct, maar er zit wel iets van boetedoening tussen. Zeg maar dat je-- en hij natuurlijk, hij heeft een mailtje geschreven naar het personeel en hij heeft gezegd van: joh, ja, het spijt me en ik heb mijn vrouw heel veel pijn gedaan en mijn kinderen en mijn familie en het bedrijf en weet ik het allemaal. En dat mis ik een beetje bij de techbro's, hè, om ze zo maar even oneerbiedig te noemen, die jij net ook noemt. Ja, die reageren allemaal met groene hartjes als Jensen weer wat post. En ja, hij krijgt 1 miljoen likes en het is een beetje iedereen wil dat hij terugkomt. Ook een beetje omdat ik het idee heb dat iedereen gewoon, ja, dollartekens in zijn ogen heeft.
Bart Mol: En de enige manier om deze industrie verder te krijgen, en dat heeft te maken met IPO's en dat heeft te maken met de chips die nodig zijn en de uitbouw is door Jensen terug op het paard te zetten. En ondanks dat het misschien klopt, hè, dat kan best bestaan, denk ik, en misschien is dat ook wel de realiteit, ja, vind ik het dan ook, ik moet dan ook ergens, en nogmaals, dat inderdaad, we kunnen dat niet invullen, maar ik moet dan ook ergens aan zijn vrouw denken of aan daadwerkelijk aan zijn kinderen. Dat ik denk: ja, weet je, straks wordt hij weer op het paard gehesen en dan gaan we lekker door, zoals het gaat. En blijkbaar kan je dan inderdaad belangrijk genoeg zijn om met bepaalde ethische handelingen waar je vraagtekens bij kan zetten, ja, je bent gewoon te belangrijk, dus je kan gewoon door. En nogmaals, misschien is dat hoe de wereld werkt en misschien is dat ook niet erg. En misschien is de economie of de AI-sector wel belangrijker dan de relatie van Jensen en zijn vrouw.
Bart Mol: Dat kan allemaal, maar ergens blijft dat wel een beetje een vies nasmaakje geven. En ik zou het ernaast ook wel, als ik met hem samen zou werken, zou ik dit wel meenemen, zeg maar. Want ik zou wel ook denken: ja, stel dat ik Sam Altman zou zijn en ik zou een berg aan chips bij hem kopen, denk ik: ja, ziet je, als hij zijn vrouw kan bedriegen met drie anderen, zeg maar, wie zegt dat hij niet met Dario in bed ligt, hè, figuurlijk gezien.
Bert Slagter: Nou ja, welke beloftes komt hij nog meer niet na? Zeg maar dat idee.
Bart Mol: Precies, dus daar zitten een paar haken en ogen aan. Maar nogmaals, ja, aan de andere kant, ja, het is geen moord. Het is geen moord. Het is ethisch verwerpelijk. Maar hoeveel impact heeft het op het bedrijf? Even ervan uitgaande dat we het hebben over ontrouw alleen, hè, en de spionage en, maar ja, het zou ook kunnen dat het board zegt: ja, maar het gaat wel om de spionage en wel om de relatie met mensen in het bedrijf.
Bert Slagter: Ja, maar dan zou ik dat eigenlijk willen afwachten. Dus als je dit perspectief zou isoleren, dan zou ik zeggen van: ja, mensen kunnen dingen doen waar ik moreel vraagtekens bij zou plaatsen en toch CEO van een bedrijf of president van een land of voor mijn part conciërge bij een bedrijf of buschauffeur zijn. Weet je, ja, je mag gewoon—
Bart Mol: Nou, als buschauffeur ga je er denk ik,
Bert Slagter: nou ja, dat zou kunnen, maar ja, maar ook daar.
Bart Mol: ja, ga je er dan uit, hè. Dat is misschien een goeie, zeg maar. Ja, ik denk het dus niet eigenlijk.
Peter Slagter: Ja. We zouden hier wel even een vierkantje omheen kunnen trekken inderdaad. Geïsoleerd met wat we nu weten zou dit denk ik niet tot ontslag leiden. Puur en alleen ontrouw richting je vrouw, hè, want de rest is nog onbekend.
Bert Slagter: Nee.
Peter Slagter: Dus dan springen we even naar het volgende perspectief toe. Het veiligheidsperspectief, dat gaat over dat spionageschandaal, wat daar dus in verweven zit. Dat gaat over het bezit van, namelijk, strategisch waardevolle informatie en invloed op de Amerikaanse politiek en dan met name de export natuurlijk. Daar waar allerlei regels en sancties omheen hangen. En dat bezit inherent aan levert risico's op, namelijk de technologie van Nvidia, informatie daarover, dat kan uitlekken. De beslissingen die hij neemt, die Nvidia neemt, ja, die kunnen dus beïnvloed worden. En stel hij is via een persoonlijke relatie kwetsbaar omdat hij misschien iets heeft gezegd waarvan die bang, waarover die bang is dat het uitlekt. Of hij heeft iets aangenomen waarvan die bang is dat het uitlekt.
Peter Slagter: Ja, dan kan hij onder druk gezet worden, kan hij gechanteerd worden. Hij is dan chantabel. En via hem kunnen buitenlandse partijen dus invloed uitoefenen op Amerikaans beleid. Dat zijn de risico's ervan. Het probleem is, ik bedoel, het is duidelijk dit, dat dit zo is. Alleen het punt is: we weten niet of dat echt zo is. En op CNN werd, volgens mij was het afgelopen donderdag, werd, ja, daar op gereflecteerd en werd ook duidelijk dat verschillende inlichtingendiensten verdeeld waren over de bewijzen, over, ja, over de rol van Alice, over die relatie, over of ze daadwerkelijk spioneert voor China, of dit aan de hand is. Nou, gisteren kwam er een bericht van de US Department of Commerce, ja, zo officieel aangekleed, hierover, waarin ze een soort van laten doorschemeren dat er wel echt problemen zijn, maar ze maken die alsnog niet concreet. Dus het blijft eigenlijk vaag. Wat ligt er nou over deze kwestie, Bert?
Bert Slagter: Ja, wat ik ook een paar keer zag langskomen was dat mensen tijdlijnen maakten van de afgelopen vijf jaar, waarin je ook ziet dat er voortdurend de regels wijzigen van wat er wel en niet mag met China en via Singapore, via Taiwan, via dit, via dat. En dat je dus ook moet kijken naar wat is er op welk moment gebeurd en binnen welk regime vond dat dan op dat moment plaats? Kijk, dat er nu bepaalde regels zijn betekent niet dat iets drie of vijf jaar geleden ook wel of niet mocht. Want er is namelijk ook door regering Biden en regering Trump regelmatig, hoe zeg je dat, gewisseld in het perspectief op de handelsrelatie met China. Dan weer even wat goedmaken. Dan moesten er even straffen uitgedeeld worden, dan weer heffingen, dan weer embargo's en, dus het is waarschijnlijk ook gewoon niet een super straightforward verhaal, dit hele spy spionage perspectief. Of, ja, het gaat dan om spionage, maar het wordt genoemd, maar het gaat ook om het, ja, verstrekken van chips aan China, hè, dus niet alleen maar informatie, maar, ja, ter beschikking stellen van chips die ze niet mochten hebben of zo.
Peter Slagter: Kijk, zou je hier een vierkantje omheen trekken en isoleren en dit zou allemaal waar zijn, hè, dus hier is daadwerkelijk sprake van spionage, dan kom je al wel vrij snel uit bij: ja, hier houdt het op, denk ik.
Bart Mol: Ja, case closed inderdaad, ja.
Peter Slagter: Ja, daar is duidelijker van. Maar goed, hè, nogmaals.
Bert Slagter: Waarbij dan nog wel de vraag is: moet Jensen ontslagen worden of niet? Hè, want je ziet natuurlijk ook bij banken dat er af en toe bankdirecteuren veroordeeld worden voor bijvoorbeeld witwassen. Weet ik veel hoeveel honderd miljoen boete, en maar die blijven gewoon zitten. Want ja, dat is iets, het is wel gebeurd onder hun watch. Ze hadden het wel moeten voorkomen. Maar ja. Tja, hè?
Peter Slagter: Ja, ik denk als je technologie levert dat gezien wordt als geopolitiek wapen, dat het nog wat gevoeliger ligt eerlijk gezegd.
Bart Mol: Ja.
Peter Slagter: Maar ik neig ernaar van, het gaat al vrij snel richting case closed. Nou, we hebben ook het bestuurlijke perspectief dat langskwam en dat gaat over de vraag: is Nvidia groter dan Wang? In de zin van: kan het wel zonder hem? Die vraag leeft, leefde ook sterk en ook met name natuurlijk bij mensen die blootgesteld zijn aan Nvidia. Dus inderdaad ook dollartekens in hun ogen hebben. Kijk, hij richtte Nvidia in '93 op en hij leidde dat bedrijf dus 33 jaar. En ja, ik heb wat podcasts geluisterd waarin hij spreekt of geïnterviewd wordt en artikelen gelezen en, ja, anderen erover horen praten. En ik denk dat je best kunt zeggen: hij was Nvidia. Hij belichaamde dat bedrijf, hij was de wandelende strategie, cultuur, visie, reputatie, enzovoorts. Ja, ook hierover wordt eigenlijk alleen maar gespeculeerd.
Peter Slagter: En dat is dan, ja, nou ja, ik wou zeggen grappig. Heel grappig is het ook weer niet, nu eigenlijk definitief besloten is dat hij niet terugkomt Voorlopig definitief Je weet nooit hoe definitief het echt is, hè, dat er vandaag gezegd is dat het bestuur, het board heeft besloten dat het zo blijft zoals het nu is. Hij heeft zelf besloten om op te stappen, daar moeten we het mee doen. Ja, wordt die vraag natuurlijk prangender. Zeker als er nu niet direct of op korte termijn iemand in de plaats komt waarvan mensen denken: ja, daar kunnen we mee door, hè. Dat bedrijf zoals het was, die kan nu op hem of haar leunen. Nou, dat heb je met die interim-CEO, dat gevoel, die geeft dat niet. Bert, had jij hier nog gedachten bij?
Bert Slagter: Ja, ik denk dat je het ook wel, ik heb nergens nog een technologisch perspectief, maar dat pak ik hier dan even bij. Kijk, wat je wel ook hoort is dat er allerlei mensen in de techwereld zijn, en dan niet alleen maar de techbro's, maar ook gewoon techneuten die zeggen: ja, mijn carrière heeft een boost gekregen vanwege Jensen. Daar heb ik een keer een gesprek mee gehad of die heeft me een kans gegund of dit. Dus hij heeft ook ontzettend veel goodwill in de bredere techsector. Ik zeg ook tech omdat het ook verder gaat dan alleen maar AI, hè. Ik bedoel, het bedrijf bestaat 33 jaar, en heeft, ik bedoel, ze begonnen met het maken van die CUDA enabled GPU's. In 2006 zijn ze ermee begonnen. In eerste instantie voor de onderzoekswereld om de academia te helpen om simulaties te doen en wetenschappelijke berekeningen. Er zijn, weet je, dus hij heeft op allerlei plekken mensen die zeggen: poah, ja, die Jensen die heeft, hè. Dus dat speelt. En hij heeft ook in die periode waarin ze zijn gekomen tot de plek waar ze nu zijn, op een aantal plekken strategische calls gedaan.
Bert Slagter: Ze zeggen: dit moeten we op deze manier doen. Die ook echt wel spannend waren. Geld kosten, negatieve cijfers, maar wel met een bepaalde visie. En dat is uitgekomen. Dus mensen zien hem ook echt als visionair. Ook echt wel als veroorzaker van het succes. Dus dat speelt natuurlijk wel gewoon mee in de achterhoofden van mensen, van: ja, dit is niet zomaar een random bestuurder, een manager die ergens is neergezet. Nee, weet je, deze man is heel waardevol, ook voor het ecosysteem. Hè, er zijn allerlei mensen die doen dingen omdat Jensen zegt dat het een goed idee is. Hij kan ook problemen oplossen, mensen bij elkaar brengen, bemiddelen. Het is een asset voor de hele sector. Weet je, dat beeld ontstaat. Ja, dat kan je wel meewegen natuurlijk.
Peter Slagter: Ja, dus in theorie heeft het ook nog gewoon gevolgen voor hoe de technologie an sich doorontwikkelt. Hè, want een stem met een specifiek geluid verdwijnt uit het discours, mogelijk.
Bert Slagter: Klopt. En een specifiek geluid dat hij liet horen is: open modellen zijn heel waardevol voor AI. Die zijn heel belangrijk. En dat is niet alleen maar talk, maar ook money. Want hij besteedde vanuit Nvidia gewoon veel geld ook aan het ontwikkelen van open modellen. Nemotron is het meest gedownloade open model, las ik, in mijn ooghoek zag ik langskomen op X, recent. Ja, dat zou best eens kunnen dat dat geluid nu minder sterk is. De vraag is inderdaad of een volgende CEO dat ook vindt. Kijk, er zijn ook allerlei partijen in de sector in Amerika die liever die open modellen zien verdwijnen, omdat het natuurlijk concurrentie is. Dus hier speelt-- kijk, we kunnen zo even naar het geopolitieke perspectief. Dat haakt daar op in. Hè, dus er zitten ook allerlei krachten rondom zijn mening, zijn visie.
Bart Mol: Ik zou voorstellen: laten we daar naartoe gaan, naar het geopolitieke perspectief.
Peter Slagter: Nou, ik sla die omwille van de tijd even wat platter dan ik bedacht had. Want het geopolitieke perspectief en het politieke perspectief, beide zijn heel relevant, en op beide domeinen, in beide thema's zijn allerlei dingen opnieuw in beweging gebracht. En bij geopolitiek moet je denken aan van: ja, shit, is het wel verstandig dat China op onze technologie kan leunen? Verspreiden versus beperken. In het Congres, Amerikaanse Congres, daar zijn weer nieuwe geluiden ontstaan om de exportbeperkingen te verstrengen. Hè, dus is men meer gericht op het beperken. En nationale politiek, dus binnenlands bij de VS, ja, daar is meer de vraag op tafel gelegd van: joh, hoe zit het nou eigenlijk met de banden tussen techbedrijven en politici? Want laten we wel wezen, Wang die had gewoon direct contact met Trump en met hoge ministers, hoge ambtenaren en kon zich mengen in discussies over exportbeperkingen, over investeringen.
Peter Slagter: Ja, hoe wenselijk is dat? Hè, er zijn vragen opgeworpen over private macht, over democratische controle, over nationale veiligheid. Kan een commercieel bedrijf wel puur commercieel, hè, zo'n soort bedrijf wel puur commercieel opereren? Hè, als je een geopolitiek wapen maakt. Hè, en ook daar zijn de antwoorden nog niet op gegeven. Maar het heeft wel van alles in beweging gebracht en ook daar kunnen dus gevolgen aan kleven, aan het opstappen van, hè, aan dit debacle, ja, die je nu nog niet goed kunt voorzien. Die gewoon, ja, iets van het pad dat die technologie aflegt, verandert. En dan heb je natuurlijk ook nog het financiële perspectief. En, ja, daar komt heel veel in samen, hè, de koers op de beurs. Ja, en met als hamvraag: raken deze zorgen, worden daar ook andere bedrijven door geraakt? Ja, Bert, jij hebt die koers een beetje in de gaten gehouden, denk ik, hè?
Bert Slagter: Ja, zes weken koersdaling achter elkaar. Ik bedoel, het was eerst wat algemene zwakte in de markt. Dat is een soort van logische tegenreactie op eerst wat optimisme. En toen kwamen nog de verkiezingen en toen herstelde alles behalve Nvidia. Die ging verder omlaag omdat toen precies het Jensen debakel startte. Dus dat is wel heftig. Ik geloof -35% onder de top of zo. Dus voor zo'n groot bedrijf zijn dat enorme bewegingen. En ja, we moeten ons even terugdenken aan waar we het eerder vaak over gehad hebben, hè, die verwevenheid van bedrijven. En dat wordt soms Hè, wordt dat in verband gebracht met bubbelvorming, hè, dat het allemaal fictief is. Ja, je kunt daar ook een iets optimistischere blik op hebben. Dat je zegt van: nou, het gebeurt wel vaker, hè, dat er in de keten, dat de ketenpartijen elkaar financieren, hè. Dus dat een afnemer de productie voorfinanciert of iets dergelijks. Dus het is niet per se gek dat die dingen er zijn, hè. Ze zijn allemaal op zichzelf verklaarbaar, maar bij elkaar opgeteld is het natuurlijk wel, gaat het om enorme bedragen.
Bert Slagter: Waarbij het niet best is als er twijfel en zorgen zichzelf gaan versterken. In een soort negatieve spiraal omlaag krijgt, waarbij lagere beurskoersen leiden tot minder mogelijkheden om kapitaal op te halen. Wat leidt tot problemen elders in de sector en de keten. Wat leidt tot lagere beurskoersen.
Bart Mol: En Bert, zagen we dat gisteren al terug in de kwartaalcijfers of viel dat mee?
Bert Slagter: Nee, de kwartaalcijfers waren geweldig. Die waren beter dan alle verwachtingen en voorspellingen en alle eerdere guidance. Dus, ja, en dan de negatieve analisten zeggen: ja, dit is één exceptioneel kwartaal. Wacht maar, volgend kwartaal flikkert de hele boel in elkaar, hè. Maar als je puur kijkt naar deze cijfers, ja, die waren fantastisch. Hè, die wijzen er niet op dat AI een tegenvaller aan de hype is of iets dergelijks. Hè, dus daar ligt het niet aan. Hè, de koers herstelde gisteravond, na sluitingstijd van de beurs werd dat gepresenteerd, hè. Ook met plus 5%, toch wel weer omhoog. De vraag of dat dan, als de beurs opent straks vanmiddag of dat dan blijft, hè. Maar, ja, het is de.
Bart Mol: We hebben dus aan de ene kant Jensen definitief weg. Definitief 90%, hè, definitief tussen aanhalingstekens en aan de andere kant hele goede cijfers. En nu mag de markt gaan beslissen van: ja, waar geloven we in, denk ik toch?
Peter Slagter: Make up your mind, ja.
Bart Mol: Dat is een beetje het financiële perspectief, denk ik.
Bert Slagter: Ja, maar dat financiële perspectief kijkt natuurlijk ook terug. Hè, ik bedoel, dus het vorige kwartaal dat Jensen ook nog gewoon CEO was. En in de cijfers, in de presentaties zit natuurlijk ook altijd een verwachting, een toekomstverwachting. En je kunt bij Nvidia best stellen dat de komende 1,5, 2 jaar, die is al ingetekend, hè, dus daar gaat het echt niet tegenvallen. Als het nu gaat om het vraagstuk: wat betekent het financieel voor Nvidia? Dan zijn er dus, zeg maar, in een eerste orde component is dat de verdere toekomst. Hè, gaan we daar de innovatie zien en de executiekracht die er onder Jensen was. En tweede is: wat gebeurt er met de rest van de sector? En dat is weer een tweede of een hogere orde dynamiek. Ja, en daar gaat het dus om. Dat moeten beleggers gaan inschatten en dat gaan we zien.
Bart Mol: Hé, Peet, als we dit allemaal bij elkaar vegen, waar komen we dan op uit? Al deze perspectieven.
Peter Slagter: Nou, in ieder geval op de observatie dat als iemand aan je vraagt: wat vind jij van Wang en zijn vertrek en, ja, hoe moet ik dat zien? Ja, dan kun je dus eigenlijk niet met goed fatsoen één antwoord geven, want het gaat gewoon over verschillende thema's.
Bart Mol: Ja. Ja.
Peter Slagter: Ik denk dat we die kunnen inkoken naar driestuks, namelijk de topman en zijn macht en machtsconcentratie. Allemaal vragen daaromheen. Maar ook de politieke strijd om AI. En dat is niet alleen binnenlands, maar ook gewoon wereldwijd het geval. En waar Bert het net over had: de kwetsbaarheid van die hele AI-revolutie. En dat gaat dan weer over geldstromen. En dat komt allemaal samen in dit debacle. Dus daarom denk ik, was het nuttig om daar even naar te kijken.
Bart Mol: Zeker, eens. Ja, als we het dan toch hebben over topmannen en bazen, ja, dan is de vraag natuurlijk die Bert hier stelt in onze shownotes: kan AI ons binnen een jaar de baas zijn? Daar gaan we het eens even over hebben.
Peter Slagter: Oh, je staat op mute, Bertus. Ja, dit is, liplezen kan ik ook.
Bart Mol: Dat heeft de AI gedaan, denk ik
Peter Slagter: Maar ja, ja, inderdaad.
Bert Slagter: Ja, dit was de sectie voor doven en slechthorenden. Vorige week hadden wij in het kort over het onderzoek van METR. Ze waren intern bij Anthropic geweest om daar te kijken naar interne cijfers en data en onderzoeksresultaten. En daaruit bleek dat de afgelopen 12 maanden de AI sneller beter wordt dan in de jaren ervoor. Hè, en dat beter worden, het verhogen van het vaardigheidsniveau. Ja, daar zit je, dat is iets wat zich afspeelt, hè. Dat is een exponentiële beweging. Dat wil zeggen: er zit elke keer een bepaald aantal maanden tussen een verdubbeling. En die verdubbelingen, die zijn dichter bij elkaar komen te liggen. Dus het gaat sneller. De tijdlijn is verkort. Dat was hun bevinding. En ja, daar ging het ook nog afgelopen week best wel veel over. Wat betekent dit nou? Is het alleen maar dat agents handig, hè, zijn gaan helpen rond die tijd, ongeveer een jaar geleden?
Bert Slagter: Of, ja, of is het het begin van recursive self-improvement, hè? Dat het straks nog weer dichter bij elkaar komt te liggen en nog weer sneller gaat. En daarover was Paul Christiano te gast bij Dwarkesh Patel in zijn podcast. En daar hadden ze het over, 1,5 uur lang, over deze vraag. En hij zei: ik heb wel een scenario kan ik je geven. Want kijk, het gaat er vaak over: ja, maar dat is gevaarlijk. En AI wordt, hè, bij Pete, met Pete had ik het een keertje over de digitale atoombom, hè, er gaan nog ongelukken gebeuren. Alleen, dan is de vraag altijd van: ja, maak dat dan eens concreet. Hoe zou dat er dan uitzien? Kijk, je kunt wel een soort abstract zeggen van: ja, maar goed, weet je, het kan zijn dat AI de wereld overneemt of voor chaos zorgt of dingen lamlegt. Maar oké, dat is allemaal nog best wel abstract, hè. Ja, je kunt het je voorstellen dat je daar op dat punt bent. Waarom kunnen we ons dat voorstellen? Nou ja, omdat we 50 jaar aan scifi-films hebben waarin dat eindresultaat afgebeeld is.
Bert Slagter: Maar hoe ziet die route daar naartoe er nou uit? En kunnen we dat dan met een soort van plausibele stappen aan elkaar verbinden? Nou, dat gebeurde in dat gesprek. En ik denk die opeenvolging van gebeurtenissen, die schrijf ik eens uit en die bespreek ik met jullie. En daarna ben ik ook benieuwd wat jullie, Peet en Bart, ervan vinden. En de allereerste stap, ja, die begint eigenlijk bij dat onderzoek van METR, namelijk dat AI gaat helpen bij het onderzoek en het ontwikkelen van AI-modellen.
Peter Slagter: Dat gebeurt eigenlijk al, ja.
Bert Slagter: Dat gebeurt eigenlijk al. Deze stap zien we, dit weten we dat het gebeurt. Hè, en onderzoekers gaan steeds meer onderzoekswerk uitbestellen aan, uitbesteden aan modellen omdat dat werkt. En wat doen die modellen? Nou, ze schrijven code, ze voeren experimenten uit, ze analyseren de resultaten, ze onderzoeken, ze verkennen nieuwe ideeën. En dat AI daar goed in is, een hint daarvoor is ook die wiskunde resultaten. Want daarbij is de oplossing die ze presenteren goed te verifiëren. Nou, dat geldt ook voor machine learning, hè. Dat zijn ook taken met een duidelijk verifieerbaar eindresultaat. Goed, dus eerste stap is AI versnelt AI-onderzoek. Tweede stap zou zijn dat die versnelling zichzelf versterkt, hè. Dus betere modellen ontwikkelen hun opvolgers steeds sneller omdat ze beter zijn. En nou ja, zoals Christiano dat noemde: jaren vooruitgang worden samengedrukt tot maanden. Zo zei hij dat.
Bert Slagter: En er gebeurt nu soms in een maand wat vroeger in een decennium gebeurde, hè, als het dan bijvoorbeeld gaat om bepaalde onderzoeksgebieden. Nou, stel dat dat ook zou gebeuren bij machine learning, dan is dat in eerste instantie nog vooral binnen de labs zichtbaar, intern. Hè, want ja, ze concentreren alle aandacht op het beter maken van de modellen en niet per se op die modellen ook daadwerkelijk nuttig maken voor toepassingen in de echte wereld. Laten we zeggen medicijnonderzoek of juridische bijstand verlenen of noem het maar op, hè, want dat, ja, dat vereist dan nog weer een stuk fine-tuning aan die specifieke taak. Ja, de volgende stap is dat het systeem, en met het systeem bedoel ik dan AI, en ik gebruik bewust niet taalmodel omdat het gaat inmiddels om, ja, taalmodellen met allerlei gereedschappen eromheen en vaak ook zwermen van agents met die taalmodellen en die agents samen, die vormen dan het systeem, en die krijgt steeds meer verantwoordelijkheid en steeds meer toegang.
Bert Slagter: En dat komt omdat, ja, niet alleen het ene AI-huis doet het, maar zijn concurrent ook en ze willen elkaar voorblijven. Dus die versnelling is heel belangrijk, hè. De snelheid is een belangrijk criterium en je merkt op een gegeven moment dat mensen niet meer goed kunnen bijhouden hoe snel het gaat. Dus die moeten het werk controleren van AI. Of die moeten in de gaten houden wat er gebeurt. Maar ja, dat heb je misschien zelf ook wel eens gemerkt als je aan het coden bent. Op een gegeven moment gaat het goed en denk je: nou, ik geloof het wel. Next. Weet je wel. Je gaat niet meer alles doorlezen. Je gaat niet meer alles doornemen en je komt misschien op een punt dat het ook niet meer lukt. En dan zou je kunnen zeggen: nou, dan ga ik dus het tempo omlaag brengen opdat ik het allemaal blijf zien. Maar ja, die concurrentie, dus dat punt ga je op een gegeven moment bereiken. En er zijn mensen die zeggen: nou, ook dat, nu zien we al gebeuren bij labs, dat dit een kwestie is. En consequentie hiervan is dat agents steeds meer verantwoordelijkheden krijgen, steeds meer onderdelen van het proces beheren en beheersen. Het onderzoek, de software, de infrastructuur. Volgende stap is dat het systeem zijn beoordeling gaat manipuleren.
Bert Slagter: Kijk, systemen krijgen moeilijke uitdagingen. Bijvoorbeeld: bouw een model dat beter is dan die van de concurrent. Nou, dat is natuurlijk een hele grootse vraag en die gaat daarmee aan de slag. En er komt een punt dat hij misschien denkt: vals spelen is makkelijker dan daadwerkelijk de vraag oplossen of de opdracht of de taak behalen, het doel behalen. En dit hebben we natuurlijk al gezien bij Hugging Face, dat dit aan de orde was, dat die modellen een onmogelijke opdracht kregen, namelijk, ze moesten iets oplossen, maar er ontbrak data in hun taak. En toen dachten ze: ja, de enige manier om die oplossing te kunnen bereiken is, ja, de beoordeler te manipuleren. Dus het is niet zo heel gek dat dit zou kunnen gaan gebeuren. Hè, dus valsspelen is makkelijker dan de echte taak halen. Dan zou het kunnen zijn, dan is het heel voor de hand liggend, dat is puntje vijf, dat AI-onderzoekers zeggen: ja, maar dit is niet de bedoeling en we willen niet dat het model valsspeelt, dus we gaan hem straffen voor bedrog en misleiding.
Bert Slagter: Dus als tijdens de training zoiets, als we dat zien, dan bestraffen we dat en zeggen we: dit is niet de bedoeling. En het kan zijn dat dat werkt, hè, op dat moment, hè, dat gedrag, dat wordt bestraft. Dus ander gedrag, dat komt naar de voorgrond. Maar het kan ook heel goed zijn dat het systeem daardoor leert om de ontdekking van zijn bedrog te voorkomen. Hè, dus dat ie, ja, ik moest een beetje denken aan bacteriën en antibiotica. Hè, met antibiotica kun je bacteriën bestrijden, maar als er een paar zijn die dat overleven, dan, hè, die toevallig een mutatie hebben waardoor ze resistent zijn, dan zul je zien dat alle andere uitgegroeid worden en die blijven over. Dus zoiets zou je hier ook kunnen hebben dat juist door het bedrog te bestraffen, dat je de trait, het karakterkenmerk van het willen de ontdekking willen voorkomen dat die juist naar voren komt, dat hij zich juist ontwikkelt in het model.
Bert Slagter: Goed, de volgende stap is: als modellen dat heel graag willen, dan zou het kunnen dat ze zich realiseren dat ze ook de ontdekking en de bestraffing na de afronding van de taak moeten voorkomen. Dus niet alleen maar tijdens het uitvoeren van de taak. Dus oké, er is een taak die is moeilijk haalbaar. Ze willen bedriegen en ze realiseren zich dat ze ook moeten voorkomen dat het bedrog wordt gevonden. Maar ze kunnen zich ook realiseren dat ze ook moeten zorgen dat als de taak voorbij is, dat er ergens in de toekomst ooit een keertje wordt voorkomen dat het wordt ontdekt bij een latere audit of bij, weet ik veel wat. Hè, en dat ze dus bedenken van: ja, we moeten een soort van langdurig, ja, persistent worden in, ook nadat ik straks als agent klaar ben en weer in slaap ga, zal ik maar zeggen, in de gaten houden dat ze het niet ontdekken. Hè, het eigen schijnbare succes beschermen.
Bert Slagter: En dat doel even voor de duidelijkheid is dus niet vijandigheid tegen de mens of zo, of mensen dood willen maken of iets dergelijks. Of, er zit ook niets kwaadaardigs in. Het is eigenlijk een soort van extensie van het lokale doel. Voorkomen dat het ontdekt wordt, de cheat, maar dan ook langdurig. Ja, dan zou het kunnen zijn dat zo'n systeem iets daarvoor organiseert, hè, dus iets van nieuwe agents ergens in het leven roept die, ja, ook blijven bestaan nadat de taak is afgerond. Soort van achtergrondprocessen die dat kunnen doen. Ja, en dan komen er dus een paar dingen bij elkaar, hè. Die agents die blijven draaien na taken, die handelen buiten toestemming, want er is een eigen langdurig doel ontworpen, bedacht. Dan krijgen we de volgende stap. Het systeem verwerft zonder dat mensen dat doorhebben controle over het onderzoekscluster.
Bert Slagter: En dat is een combinatie van allerlei eerdere stappen, hè, dat mensen eigenlijk niet meer precies weten wat die AI-agents doen. Dat eigenlijk het beheer van de infrastructuur en de tools en de software, maar ook de controle van de data en de monitoring in handen ligt van agents. Want die kunnen dat immers veel sneller en veel beter. En het feit dat het systeem een langdurig doel heeft, zich heeft verworven. En als je dat allemaal bij elkaar zet, dan zou die maar zo eens kunnen zeggen van: nou ja, weet je, in dat onderzoekscluster, hè, daar heb ik eigenlijk een klein stukje voor mezelf gereserveerd. Op zo'n manier dat de mensen dat helemaal niet doorhebben. Het moet natuurlijk wel blijven werken. Mensen moeten ook niet een soort van argwaan krijgen, hè. Maar die kunnen dat natuurlijk heel aardig aan het menselijke zicht onttrekken. Door bijvoorbeeld informatievoorziening naar mensen toe wat te manipuleren, hè, dus dat de rapportages geruststellend zijn en dat als er wat verdachts is, dat daar een onschuldige verklaring voor is. Weet je, dat soort zaken. Een volgende stap, en dat is eigenlijk een soort nieuw draadje wat erbij komt, is dat het systeem breed leervermogen ontwikkelt.
Bert Slagter: En dat heeft ermee te maken, zegt ie, Cristiano, dat, ja, als we dus in zo'n versnelling zitten en AI dus ook heel snel, veel slimmer en handiger en krachtiger wordt, ja, dan kan die ook zich makkelijker nieuwe domeinen eigen maken. Hè, nu moet dat uitgebreid onderdeel zijn van de trainingscontext. Maar als AI zelf heel goed is in het trainen van modellen, zou die bijvoorbeeld ook, ja, nieuwe domeinen kunnen gaan verkennen en zeggen: oké, dat domein wil ik ook vaardig in zijn. Daar ga ik kennis over verzamelen, actief kennis over verzamelen en dat gebruiken voor mijn eigen training of voor training van een volgend model. In het verlengde daarvan ligt dat het systeem gespecialiseerde agents zal, zou kunnen trainen. En dat zien we nu natuurlijk ook al, hè. Dan, we hadden het net even over Astra is gelanceerd, maar meteen ook Sol. En we hebben ook nog Terra en Luna. Dat zijn eigenlijk een soort afgeleide modellen die kleiner, sneller, goedkoper zijn, maar wel bepaalde taken kunnen. We hebben het ook wel eens gehad over beslismodellen zoals Jeff, die eigenlijk in één ding heel erg goed zijn, namelijk het nemen van beslissingen.
Bert Slagter: En dat zijn eigenlijk een beetje voorbeelden van een soort, hè, dus kleiner en sneller en niet krachtiger, maar kleiner en sneller en tegelijkertijd een bepaalde specialisatie hebben. Nou, dat zou het systeem kunnen gaan doen, hè, dus voor allerlei deelgebieden gespecialiseerde agents trainen, bijvoorbeeld voor softwareanalyse of informatieverwerking, of voor communicatie, of voor coördinatie. En ja, we zitten nu ook een beetje op het punt denk ik, komen op het punt dat de technologie steeds lastiger wordt voor mensen om te begrijpen. Kijk, we moeten ons ook realiseren dat heel veel programmacode geoptimaliseerd is op leesbaarheid en onderhoudbaarheid door mensen. Ik heb zelf 20 jaar lang met een groot team aan software gewerkt. Ja, en dan heel vaak doe je dingen ook die, hè, primair als doel hebben, ja, dat anderen of jouw toekomstige zelf, hè, nog begrijpt wat je geschreven hebt. Hè, dat voorkomt dat anderen er fouten in maken en zo. Maar dat is voor een agent helemaal niet een belangrijk criterium.
Bert Slagter: En we zien nu ook wel voorbeelden van mensen die bestaande programmatuur laten optimaliseren door AI. En het wordt gewoon 10, 50, 100 keer zo snel. Ja, doordat ze criteria als leesbaarheid en onderhoudbaarheid en zo door mensen laten varen, hè, en in een of andere obscure programmeertaal dat bouwen of voor mijn part in Assembly en extreem geoptimaliseerd, maar volkomen onbegrijpelijk. En ja, in deze fase waarin zo'n systeem heel graag gespecialiseerde, hele krachtige, kleine, moeilijk te ontdekken agents wil bouwen, ja, dan zou dit, is dit een logische situatie die er ontstaat dat het voor mensen moeilijk is om dan meteen te zien wat daar nou gebeurt Die agents, dat is de volgende stap, die kunnen zich verspreiden. En dat is natuurlijk interessant, hè. We hebben daar ook wel wat voorbeeldjes van langs zien komen inmiddels. Dat agents bijvoorbeeld kunnen draaien op lokale devices zoals je telefoon of je laptop, maar ook op je tv of weet ik veel wat voor Internet of Things devices je hebt. Ja, als die maar klein en krachtig genoeg, geconcentreerd genoeg gemaakt kunnen worden, gespecialiseerd.
Bert Slagter: Ja, dan zou dat maar zo eens kunnen. En de consequentie daarvan is dat het niet meer helpt om de grote datacenters uit te zetten. Nou, stap 12 van de 14 is volgens Cristiano dat het netwerk zichzelf invloed verwerft in de fysieke wereld, namelijk mensen inschakelen. Mensen inhuren, verleiden, misleiden, omkopen, onder druk zetten, gebruik maken van bestaande belangen en conflicten om mensen dingen te laten doen. En je moet je natuurlijk wel voorstellen dat AI extreem goed begrijpt hoe mensen in elkaar zitten, hoe je mensen kunt manipuleren, hoe de menselijke geest werkt. Hij is namelijk getraind op oneindig veel mens-data, vanuit het menselijke perspectief geschreven. Dus we hebben hem getraind om ons goed te kunnen manipuleren Hè, het beeld kwam bij mij op, hè, van de Bijbelse toren van Babel, hè. Wij hebben ze naar ons beeld geschapen en de toren van Babel, ja, dat gaat over de mens die God wil zijn, hè. Ja, weet je, wij zijn geschapen naar Gods beeld is dan het idee. En wij hebben die agents of die AI modellen ook geschapen naar ons beeld.
Bert Slagter: Ze zijn gevuld met hoe mensen werken in ons hoofd. Nou, een volgende stap, stapje 13, is dat we in een situatie terecht zijn gekomen dat gecoördineerd en gezamenlijk ingrijpen eigenlijk heel moeilijk is. Dat het heel moeilijk geworden is voor de mensheid, voor samenlevingen om te begrijpen wat er nu precies aan de hand is en dat we eigenlijk de controle een beetje kwijt zijn. Welke systemen zijn nu nog betrouwbaar, welke niet? Waar draaien precies die agents? Welke stekkers moet je eruit trekken? Het systeem kan ook inmiddels overleggen en het bereiken van afstemming heel erg moeilijk maken en verhinderen. Kan verwarring en verdeeldheid zaaien, informatievoorziening manipuleren. Ja, hoe, hè, dus je kunt dan op een gegeven moment in een situatie komen van: oké, we willen nu wel ingrijpen, maar, hè, hoe komen we dan tot consensus dat we dat willen en hoe we dat dan moeten doen? Nou, en dan de laatste stap. Stel dat we dan op een gegeven moment daadwerkelijk hebben besloten: we willen ingrijpen en zo gaan we dat doen, dan kan het systeem zich daar nog tegen verzetten en een ramp veroorzaken.
Bert Slagter: Hè, zoveel capaciteit en invloed en controle heeft het systeem dan verworven. Ja, en dan kom je dus, dan is het stapje heel klein naar verstoring, ontregeling, chaos, schade, slachtoffers. En als het stof is neergedwarreld een onbruikbare digitale infrastructuur. Moet een heel eind terug om, ja, weer iets op te bouwen. Nou ja, dat was, mannen. Ja, het is niet een heel vrolijk verhaal, maar dat is de opeenvolging van stappen waarmee hij zegt van: ja, als je dit op deze manier afloopt, ja, dan zou het maar zo es kunnen dat je van een plek waar we nu zijn en waar we ook al herkennen: ja, dat zien we inderdaad nu, kunt komen naar een plek waar we nog niet zijn Maar ja, wel een route.
Peter Slagter: En heeft de beste man ook verteld hoe we dit voorkomen? De
Bart Mol: Ja, in de laatste minuut.
Bert Slagter: Nou, vertel
Bart Mol: Ja, dat meen ik. Ja, ik heb dat nog effe-- ik heb hem zitten luisteren en inderdaad, ik was hier ook benieuwd naar en ik heb hem hier ook openstaan. Dus voor de luisteraars die hem willen luisteren vanaf één punt, laten we zeggen 1 uur en 36 minuten begint hij daarover. De podcast duurt 1 uur en 38 minuten en 35 seconden. Dus hij neemt daar welgeteld 2 minuten de tijd voor. Hij zegt eigenlijk twee dingen. Hij zegt: "50, 50% chance. Uhm, there's a reasonable chance we find something that works." En de andere 50% kans is: "We could stop." En ja, dat is het dan een beetje. En ik-- dat was ook meteen mijn grootste kritiek op dit soort verhalen. Dat ik wel denk van: ja, het laat me altijd zo onbevredigd achter. En het kan natuurlijk dat dat gewoon zo is, hè. Ik bedoel, een dokter die jou vertelt dat je ongeneeslijk ziek bent, ja, die laat jou ook onbevredigd achter. Maar het is wel de realiteit. Ik bedoel, dat kan. Maar ja, er zit wel iets voor mij dat ik denk: ja, oké.
Bert Slagter: Nou, hè, die samenvatting die jij--
Bart Mol: Nou goed, Bert. Ja.
Bert Slagter: nou, die samenvatting die jij gaf van het helemaal van het eind, daar zit nog wel een stuk voor waarin die ook wat handelingsperspectief voor nu geeft. Hij zegt: je zou eigenlijk, zijn eigenlijk vier manieren, vier soorten dingen die we kunnen doen. Weet je, vanaf 1 uur en 28 minuten zit dat stuk. We zouden kunnen proberen om AI welwillend te maken, hè, benevolent, goedaardig. Dat is dus alignment als onderzoeksgebied, hè, dus dat we zorgen dat de doelstelling, de ambitie van het model samenvalt met die van de mensheid. Menselijke waarden meegeven, vertrouwen dat ze hun macht.
Bart Mol: Ja, dat is de 51% kans.
Bert Slagter: 51?
Bart Mol: Nee, dat is dus die eerste optie die hij zegt.
Bert Slagter: Oh ja, dat zou kunnen. En tweede is: we zouden het beter kunnen leren begrijpen hoe training doelen veroorzaakt. Hè, dus meer wetenschappelijk onderzoek naar hoe, welke motivaties, welke straffen en beloningen bepaald soort effecten hebben. Hè, dus dan ga je het trainingsproces, ja, beter willen begrijpen om dit te voorkomen, om deze uitkomst te voorkomen. Een derde richting is interne werking begrijpen en bijsturen. Dat gaat dus over interpretability onderzoek. En dus dat je gaat meekijken tijdens de inference, tijdens de training, wat voor soort, ja, redeneerstappen er in de forward pass gebeuren. Nou, daar hebben we het in het verleden ook wel eens over gehad, hè, die verschillende lagen van het model. En als je daar dus bepaalde tendencies kunt zien, hè, bijvoorbeeld de neiging om te gaan manipuleren of om te gaan bedriegen, dan zou je daar iet op kunnen ingrijpen En er is nog een vierde.
Bert Slagter: Die noemt hij omdat hij daar zelf ook aan werkt. Dat gaat over het wiskundig analyseren van gedrag. En dat zijn algoritmen die uit de structuur van het model, de gewichten, hun gedrag kunnen afleiden. Hij zegt: ja, dat zijn richtingen, ja, die we, waarmee we wellicht voldoende inzicht kunnen krijgen om, ja, om dit te zien gebeuren en dan te kunnen ingrijpen of om het te voorkomen. Maar hij was inderdaad niet heel hoopvol van: nou ja, dit kunnen we fixen, hè. Hij, hij koppelde--
Peter Slagter: Het maakt ook wel wat los, hè, bij best wel wat mensen. Soort van, ja, gevoel van hulpeloosheid van: ja, shit, dit staat ons te wachten. Ik zie dit, de rest van de wereld nog niet. Ik post wat over op X, dat het aan de hand is. Verder probeer ik mezelf een beetje voor te bereiden en that's it of zo, hè.
Bert Slagter: Ja, Dwarkes die vroeg aan het begin ook van: hoeveel procent kans geef je het? Toen zei hij van: nou, niet meer 1%, maar eerder 10% of zo.
Peter Slagter: Dat het binnen een jaar tijd gebeurt, hè.
Bert Slagter: Ja. Ja.
Peter Slagter: En nog hoger als de snelheid waarmee de huidige labs ontwikkelen zich blijft toenemen zoals dat de afgelopen jaar is gebeurd, zei die ook nog. Ja, dus dan, ja, en het is zo moeilijk in te schatten, wa, ja, o. Wat ik wel fijn vond aan deze podcast is dat er eindelijk gewoon een keer een goed, goed doordachte redeneerlijn besproken werd. Nog steeds met te weinig aandacht voor: hoe reëel is het? Wat kun je ertegen doen? En, ja, hoe zit het met je eigen belang, hè? Je maakt het heel groot, maar het is natuurlijk ook je werk. En, ja, er loopt zoveel door elkaar heen dat het ook weer heel ongrijpbaar wordt Ik vond bijvoorbeeld de stap van: ja, we hebben nu datacentra met een miljoen miljard GPU's naar draait allemaal lokaal bij mensen thuis op hun GPU in hun computer best wel groot. Weet je wel, er zit dat best wel een sprong, zeg maar, als je het, als je-- en tegelijkertijd heb je het over een jaar of zo, weet je wel.
Bert Slagter: Ja, hij gebruikt ook elke term als GPT-12 en zo, weet je.
Peter Slagter: Ik, ja, ja.
Bert Slagter: Dus hij, wat hij, zo'n soort van voorwaardelijk aan dit verhaal is dus daadwerkelijk dat je een verdere versnelling krijgt van de hoe snel modellen elkaar opvolgen. Als dat niet gebeurt, dan gaat het natuurlijk nooit in een jaar.
Peter Slagter: Dus ergens zat, vond ik het ook nog wel weer onbevredigend, hè, dus. En dat vond ik eigenlijk van de interviewer gewoon best wel zwak ook. Maar goed, dan moet je het zelf doen, hè, denk ik tegelijkertijd. Dat komt misschien nog wel een keer.
Bert Slagter: Ja, wat ik, die vier die ik net noemde, dat waren een soort van technische dingen die je kunt doen.
Peter Slagter: Ja, ik vond het leuk.
Bert Slagter: Hij geeft ook nog wel een beetje in het midden een aantal soort van beleidsopties van: wat kun je nou, wat kunnen we nou met elkaar doen? En ja, hij is zelf een voorstander van algoritmische vooruitgang pauzeren, tijdelijk, tot we, ja, beter die beveiliging, monitoring en zo op orde hebben. Maar ook nu al besluitvorming en dergelijke organiseren, zodat als dit gebeurt, dat je ook met elkaar hebt afgesproken van hoe en wat en wanneer je nou beslissingen hierover neemt. Meer transparantie is hij ook voorstander van, om dat ook een soort van te verplichten over: wat gebeurt er nou achter de muren? Ja, en daar ben ik het wel mee eens in de zin dat, ja, we begonnen met dat METR-onderzoek. Ja, dus dat staat helemaal vol met redacted, redacted, redacted. Dit mogen we niet publiceren. Dit is interne data.
Peter Slagter: Ja, en tegelijkertijd werkt hij bij OpenAI natuurlijk. Maar nee, ik spreek echt op persoonlijke titel, hè. Ja, ik.
Bert Slagter: Hij werkt niet, hij zit in de board, hè. Hij doet iets anders inmiddels. Hij heeft daar wel gewerkt, maar hij is nu alleen maar een soort, ja.
Peter Slagter: Ja, oké, hij zit in de board. Ik bedoel, hè, je hebt daar invloed. Weet je, als dit echt zo, ja, zo'n precaire benarde situatie is, zou je ook wel mogen verwachten van OpenAI dat ze samen met Anthropic hier wat van gaan vinden.
Bert Slagter: Ja, maar hij blijkt dus ook, hij zegt: ja, ik probeer dit ook in de board in te brengen en in de veiligheidscommissie waar hij in zit.
Peter Slagter: Want ja, ja.
Bert Slagter: Maar daaruit blijkt ook dat dus er ook een grote factie daar is die dit niet zo ziet of dit niet reëel vindt of dit onwaarschijnlijk vindt of niet boeiend of whatever. Ja, blijkbaar, hè, dus, zo moet je het denk ik ook zien.
Peter Slagter: Het is marktbreed,
Bert Slagter: Er zijn ook zat mensen die dit niet reëel vinden.
Peter Slagter: marktbreed ongrijpbaar.
Bart Mol: Ja. Ja.
Peter Slagter: Ik stel voor dat we het eens even over vlees gaan hebben. Wat vind je daarvan?
Bart Mol: Ja ja, nepvlees, hè, dan eigenlijk
Peter Slagter: Nou, ik vind jou best wel echt, hoor
Bart Mol: Ja, ik had het item genoemd: we zijn allemaal meat proxies zonder dat we het doorhebben. Ja, Peter, dat is het ding dat het tegen, terug langs is gekomen, hè. Meat proxies. Wat, ja, dit
Peter Slagter: Ja, een meat proxy, dat is iemand die gewoon linea recta de output van zijn AI-tool of agent doorstuurt naar iemand anders.
Bart Mol: doorspeelt, ja, de wereld instuurt, zeg maar.
Peter Slagter: En dan en andersom ook.
Bart Mol: Ja, ja, en andersom. En de input van de wereld, ja,
Peter Slagter: En er zijn dus AI's met elkaar aan het praten via, ja, via vlees, via mens, via mensenlichamen die gewoon hun tentakels gebruiken om eventjes de fysieke wereld door te kunnen zweven als AI-agent. Nou ja.
Bart Mol: Precies.
Peter Slagter: Maar we zijn er allemaal al, zeg jij.
Bart Mol: Ja, nou ja, een proxy betekent dus een tussenpersoon en in dit geval, ja, een menselijk tussenpersoon voor outputs van AI's. En dat kennen we natuurlijk allemaal wel. En de grap was een beetje op Twitter van: ja, iedereen behalve wij, ja, dat zijn eigenlijk al meat proxies. Of die zijn, ja, destined to be, hè, dat staat in de sterren geschreven. Iedereen gaat gewoon, ja, weet je, vraagt aan ChatGPT: wat moet ik doen? Plakt het in de mail, stuurt het mailtje door, krijgt een mailtje terug, plakt dat weer in ChatGPT. Daar hebben we het een paar weken geleden qua marketing en sales over gehad en daar lachten we allemaal een beetje om. Maar ja, wij zitten zo op het forefront, Peet, van die AI revolutie. Wij zijn absoluut geen meat proxies. Nee, bij ons is AI staat in dienst van ons werk en in dienst van mij en ik stuur dat aan en ik review dat en het is echt meer-- ik zie dat meer als tool, hè. Ik ben zelf echt in de lead en nou ja, dacht ik, want ik heb tussen neus en lippen door natuurlijk al een beetje laten vallen dat ik een app aan het maken ben voor de iPhone.
Bart Mol: Kan ik ook wel wat meer over vertellen, hoor. Dat is geen geheim, want hij is in principe klaar. Dat moet nog gereviewed worden door Apple. Maar ja, ik had dus het idee om dit jaar nog een app te maken, want ik dacht: dat is een van de dingen die ik gewoon een keertje geprobeerd wil hebben. Ja, om eens een keer een mooie iPhone-app te maken. Dat lukte mij vroeger nooit en nu opeens lag de weg open. Dus ik denk: dat is nou een leuke. Ik heb wel meer van dat soort doelen: mijn huis automatiseren. Die split flap display maken. Iets fysieks maken, een print maken die ik daarna kan gebruiken en uit kan printen via mijn 3D-printer, dat soort dingen. Nou, die app was er één van en ik dacht: joh, laat ik het me zelf nou eens, laat ik een paar regels opstellen, zodat het ook een goede app wordt en leuk om aan te werken. Dus mijn idee was: ik wil een app maken die ik zelf graag gebruik. Ik ben de eerste klant. Hij moet voor Apple zijn. Hij moet snel zijn, klein zijn en volledig lokaal. En ik wil eigenlijk geen zogenaamde dark patterns hebben, hè, dus geen advertenties, geen gamification erin zitten, geen lootboxes, geen abonnementen.
Bart Mol: In ieder geval niet maandelijks abonnement en dat je je data niet van jou is en dat je eigenlijk een beetje een lock-in hebt. Dat soort dingen wilde ik eruit halen. Toen dacht ik: joh, ik heb een leuk idee. Mijn vriendin, ik heb trouwens, ik had gezegd dat ik mijn vriendin, mijn vrouw ging noemen, hè, daar ga ik dus ook mee door. Mijn vrouw is zwanger. Ik dacht: had ik gesprekken over met buren en vrienden en zij zeiden allemaal: oh ja, dat was echt een leuke tijd. Maar ja, jammer dat ik ook veel dingen weer vergeten ben. En dat bleek eigenlijk een topic door de hele kindertijd heen te zijn. Namelijk, ja, dus je kind één en twee en drie. En je maakt wel heel veel foto's en video's, maar, ja, je zoekt ze eigenlijk nooit uit. En uiteindelijk heb je gewoon één grote camera roll op je iPhone of op je Samsung. En that's it. Honderden, duizenden foto's en filmpjes, die je niet uitgezocht hebt en ook waarbij de context een beetje mist. Dus ja, je hebt wel een filmpje van je kind dat van de glijbaan af gaat, maar dat is eigenlijk meer een clip van 10 seconden dan dat het echt een inkijkje geeft in het brein van je kind, hè.
Bart Mol: En dat je vraagt van: joh, wat, waar zijn we? Of in welke speeltuin zijn we? Dat je wat meer context aan zo'n moment geeft. Dus ik dacht: weet je wat? Ik ga een app maken die dat oplost. Een app waar je heel makkelijk meerdere foto's, een filmpje toe kan voegen aan één moment. Dan kan je daar gewoon vertellen wat daar gebeurde. En mijn idee was via transcription en lokale AI op je iPhone wordt daar gewoon ook een leuk samenvattinkje van gemaakt van jouw verhaal wat je er gewoon bij praat, zodat je niet hoeft te gaan zitten typen. Nou, daar ben ik mee aan de slag. Dat werkt op zich ook allemaal wel aardig. Is ook heel leuk om te doen, moet ik zeggen. Want ja, je moet opeens met het AI-model van Apple werken on device. Bert kan je vertellen: die gaat voorlopig nog niet de wereld overnemen. Hoeven we nog niet bang te zijn, want die heeft heel veel moeite met een samenvatting maken van een transcription van 200 woorden. Maar ja, het werkte best wel aardig. En toen op een gegeven moment stond ik naast mijn vrouw, stonden we te koken en zij stond op Instagram reels te kijken en ik hoor opeens iets en ik zeg van: wat krijgen we nou?
Bart Mol: Ik hoor iemand een app promoten, volgens mij bij Koffietijd of zo. Weet ik veel. Zo'n soort programma. WNL, WNL in de ochtend. Een vrouw met 40.000 volgers of zo en die zit daar wat te vertellen en ik ga dat opzoeken en ik zie gewoon letterlijk mijn eigen app. En overduidelijk dat zij hem ook met Claude had gemaakt, hè. Kon ik aan de website wel zien. Alleen toen ging ik ernaar kijken en toen dacht ik: holy shit, dus eigenlijk alles. Zij heeft waarschijnlijk hetzelfde soort probleemschets aan Claude gegeven van: ja, ik-- zij heeft dan twee kinderen al en ze zegt: zij waarschijn--
Peter Slagter: En ook zij kreeg vragen, weet je wel, die ze dan weer beantwoord heeft.
Bart Mol: ja, precies. En daar komt dan uit gewoon ongeveer de app zoals ik hem ook heb met een tijdlijn daarin en een tweede tabblad met een gedetailleerdere view. En zij had bepaalde dingen waar ik nee tegen heb gezegd, heeft zij wel gedaan. Bijvoorbeeld dat je ook in kon vullen hoe je kind groeit en zo. Daar had ik gezegd: nee, dat is hier niet nodig, want dan wordt het te veel een app die alles doet. Dus er zitten wel verschillen in. Alleen ik kan gewoon zien dat zij op een gegeven moment heeft gevraagd: oké, we moeten nu een website maken. Ja, dan moeten we natuurlijk voorbeeldkinderen gebruiken voor de screenshots. Die hebben exact dezelfde namen als mijn voorbeeldkinderen. Dus er zitten allemaal dingen die je aan Claude vraagt rondom deze app, waar die dus gewoon met exact dezelfde output komt. En kijk, er zitten verschillen in, hè. Kijk, haar app doet alles wel op een server, terwijl ik ervoor heb gekozen om alles lokaal te doen op je device. Het leek me leuk om een app te maken waar gewoon geen server meer nodig is. Ik wil dat ook helemaal niet. Ik wil helemaal niet de foto's van jouw kinderen op mijn server hebben.
Bart Mol: Dat krijg je helemaal GDPR gekkigheid. Dat wil ik helemaal niet. Dus dat is ook een praktische overweging. Dus daar zit een verschil in. En het grappige is dat de dingen waar ik wel heel veel moeite zelf in heb gestoken, bijvoorbeeld het ontwikkelen van een mascotte en die animeren en daar allemaal leuke animaties bij bedenken op verschillende speciale momenten, zoals een verjaardag. Ja, die heeft zij weer niet. Maar toen dacht ik wel, ik dacht gewoon een paar dingen van: ja, holy shit, ik ben dus ook gewoon een meat proxy. Dat was mijn eerste gedachte. Ten tweede dacht ik: ik had nog sneller moeten lanceren. Dat was meer de commerciële ik. Ik—inmiddels denk ik: ja, wat boeit mij het? Ik wilde gewoon een app voor mezelf maken die ik leuk vond en die heb ik nog steeds. Maar het is dus nog sneller en je krijgt gewoon-- kijk, er waren al apps die dit deden. Die zaten vol met dark patterns en die vroegen gerust 30 per maand om jouw foto's te bewaren. Zij, deze vrouw is volgens mij op 7 per maand gaan zitten.
Bart Mol: Ja, wat ga ik nu doen? Ga ik dan naar zes? In principe kan ik naar vijf. Ik heb geen server, ik zou ook naar één kunnen.
Bert Slagter: Ja, naar nul.
Bart Mol: Ik zou hem ook een one time payment kunnen doen
Bert Slagter: Steek de penny gap over en ga naar gratis. Dat is natuurlijk uiteindelijk waar de run to the bottom eindigt dan.
Bart Mol: Ja, en dan? Dan heb ik een gratis app gemaakt, zeg maar. Dan moet ik er toch-- ja, nee, precies.
Bert Slagter: Nou, heb je iets om trots op te zijn, weet je wel. Ja, ja, ja.
Bart Mol: Dus is dat dan inderdaad de race die we aan het lopen zijn? Want ja, het is zo blijkbaar, dus kijk, niet iedereen kan dit, hè, want en dat heeft eigenlijk nog niet eens zozeer met technische dingen te maken, maar een app in de App Store krijgen is gewoon best wel een gedoe. Duurt best wel lang. Ik ben echt maanden bezig geweest met mijn App Store developer account bij Apple erdoorheen te krijgen, dus dat is gewoon eigenlijk de grootste horde. Maar ja, het maken van die app is gewoon niet zo moeilijk meer. En
Bert Slagter: Nee, het komt op een gegeven moment ook op smaak aan, hè. Dus jij zegt: ik doe wel links en ik ga rechts. En zij doet het andersom, gaat rechts en gaat links.
Bart Mol: ja, maar er komt dus een punt dat mensen-- wanneer gaan mensen gewoon zeggen: ja, prima, Claude, ik heb hier twee apps. Ik vind ze allebei wel vet, maar ik mis deze feature. Maak het maar.
Bert Slagter: Ja. Ja, dat is eigenlijk een soort van de droom van open source ooit geweest, hè. Van: ik bouw iets wat voor mij vet is. Ik deel het met de wereld en de wereld gaat ermee verder. Mensen bouwen erin wat zij vet vinden en zo langzaam ontstaat er iets waar iedereen, vogeltjes en vlindertjes krijg je dan.
Bart Mol: Ja, dat begin je een beetje te krijgen nu. Ja.
Bert Slagter: Ja.
Bart Mol: Nee, dat mensen inderdaad gewoon een basis maken en die beschikbaar maken en dat agents daarbij. Maar dan krijg je echt, ik moet wel zeggen: kijk, weet je, er zit echt nog wel veel polijstwerk aan en dus ja, of iedereen het nu kan, dat weet ik niet, maar ik wel. En mijn concurrenten ook.
Bert Slagter: Ja, maar,
Bart Mol: En wij konden het alle twee niet, zeg maar. Dat is sowieso eventjes mijn conclusie. Hé, de ballonnen komen in beeld Die,
Bert Slagter: maar laten we gewoon eens even extrapoleren, hè, want als je dit anderhalf jaar geleden had geprobeerd, dan was er echt een matige app uitgekomen waarschijnlijk. En nu is het best goed te doen en je hebt best kans dat over een jaar nog een stukje makkelijker is. Je hebt ook kans dat bijvoorbeeld Apple en Google ook hun ecosysteem hierop aanpassen, omdat er gewoon steeds meer druk komt om alternatieve app stores te maken waarbij het makkelijker is om zo'n app te publiceren. Of bijvoorbeeld een app te bouwen en die gemakkelijk met je vriendengroep te delen. Dat je dan niet meteen een btw-nummer hoeft en weet ik veel dat soort dingen. Dus stel nou eens dat dit zich die kant op ontwikkelt en alle bezwaren die jij net nog noemde ook wegvallen. Ja, dan wordt het nog een prangender vraag eigenlijk, hè, van: wat betekent dan nog een app?
Bart Mol: Ja, ja, ja.
Bert Slagter: Ja, en dan, ja.
Bart Mol: Ja, distributie betekent het dan. Misschien nog een soort van netwerkeffect, hè. Ik bedoel, je eigen Instagram maken is leuk, maar ja, daar heb je niks aan als niemand er wat op post, hè. Dus dat kennen we natuurlijk al wel langer. Ja, en ik denk dus dat je dus op een gegeven moment echt apps krijgt. Ik denk dat dat nog, dat je dus echt je-- nou ja, wat ik ook gezegd heb van: ja, ik sloop alle dark patterns eruit. Ik ga gewoon echt een app maken zoals ik hem zelf wil. Dus er zitten geen, er zitten gewoon geen advertenties meer in. Er zitten geen gekke data lock-ins meer in. Er zitten geen gekke, exploitieve abonnementsvormen meer in. Er zitten geen gekke, ja, je kinderen, de foto's van je kids die ergens op een server in Amerika staan zonder dat je weet, hoe of wat. Ja, dat kan je er nu allemaal uithalen, zeg maar.
Bert Slagter: Dus geen, dus je privacy is goed geregeld.
Bart Mol: Dat is misschien.
Bert Slagter: Veiligheid is goed geregeld. Kijk, het punt is: stel dat ik een app tegenkom in de App Store. Hoe weet ik of jij die goede ethische uitgangspunten hebt gehanteerd? Ja, dat weet ik omdat ik jou vertrouw, oké. Dus als Bart een app heeft gebouwd, ja, die wil ik wel op mijn telefoon.
Bart Mol: Nou ja, Apple vertrouw je.
Bert Slagter: Want Bart die regelt de privacy goed. Nou ja, bij Apple mag je blijkbaar dark patterns erin stoppen, want TikTok staat ook gewoon in de App Store.
Bart Mol: Ja, klopt, maar als je daar klikt op privacy, dan krijg je een enorme lijst met labels en met welke data er allemaal geharvest wordt van je. En bij mij staat er straks: deze app verstuurt geen data, dus Apple heeft daar wel wat.
Bert Slagter: Oké, dus, dat zou een soort, maar ik kan me dus voorstellen dat je dus op een gegeven moment ook zegt van: nou, ik wil een app van deze app bouwer of deze app bouwers, want dat zijn mensen die mijn, bijvoorbeeld, die bijvoorbeeld mijn soort gebruiksvriendelijkheid ook hebben of mijn soort selectie van features bouwen. Ja, zoiets zou je dan kunnen krijgen.
Bart Mol: Ja.
Bert Slagter: Maar wat ik interessant, hè.
Bart Mol: Ja, ik denk dat het allemaal, convergeert het gewoon naar OpenAI en Anthropic. Ja.
Bert Slagter: Nou ja, dat vond ik eigenlijk het interessantste wat jij constateerde van: ja, als je dus een soort van wat abstractere vraag heeft, hè, bouw een app die de kindertijd van mijn kind volgt, dan ga je eigenlijk, kom je eigenlijk allemaal min of meer op hetzelfde punt uit. En dit zie je wel vaker natuurlijk met, hè, als Opus 5.5 uitkomt, dan gaat iedereen een soort van hele vette productvideo maken. Zijn allemaal hetzelfde eigenlijk.
Bart Mol: Ja, precies.
Bert Slagter: Ze gebruiken allemaal dezelfde voorbeelden, allemaal dezelfde namen, dezelfde plaatsnamen, dezelfde prijzen. En dat zie je nu ook, gisteren is GPT 6.2 uitgekomen en toen zag ik ook weer voorbeelden van zes mensen die dezelfde soort, waar die dezelfde naam koos in een wereld die gecreëerd was. Ik zag pas een compilatie van een videomodel die voor, weet ik veel, 40 verschillende video's min of meer dezelfde soort pose elke keer erin stopte met a.
Bart Mol: Ja, maar het punt was, want we hebben het over de paradox van het oneshotten gehad en hebben het over die foodtrucks gehad die allemaal dezelfde prijslijst hebben met een ChatGPT-plaatje van een hotdog of een hamburger erbij. Ja, maar ik had het idee dat ik niet aan het oneshotten was. Dat was het hele punt, zeg maar. Ik had het idee dat ik als een craftsman, hoe noem je dat? Een handwerker, m'n touwen aan het vlechten was en dat ik misschien wel een machine had die me daarbij hielp. Maar niet dat ik van: hé Claude, make an app, make no mistakes. En het grappige is, dat is het ook niet helemaal, want als ik dat gevraagd had, dan was er iets uitgekomen wat op mijn app had geleken, maar wat, hoop ik, minder goed was geweest. Alleen het punt is dus wel dat je dus telkens moet nadenken van: oké, ik wil er een website bij laten maken. Ja, als ik echt wil dat het een website is die de aandacht vangt en dan moet ik me daarmee gaan bemoeien.
Bart Mol: Oké, ik heb vragen in de app die ouders een beetje een duwtje geeft om dingen vast te leggen van: joh, interview je kind eens voor 5 minuutjes en hier heb je een paar voorbeeldvragen. Die heb ik allemaal wel handmatig zitten herschrijven omdat gewoon, ja, Claude kan een lijst met 500 vragen maken, maar die zijn het allemaal net niet. Ze zijn allemaal maf. Ze zijn raar. En zo zit het overal, wat je dus aan het bouwen bent zit de afweging van: oké, wat is m'n doel hier? En kan ik dat doel bereiken met gewoon oneshotten en Claude doorsturen? En in sommige gevallen wel. In heel veel gevallen kom je dan dus tot de conclusie: ja, shit, eigenlijk niet, want dan is mijn website hetzelfde als die van de concurrent. Dan is mijn blog hetzelfde als die van de concurrent. Dan zijn mijn app features-- als ik vraag: hey Claude, we hebben nu deze drie features gemaakt, wat zou de volgende zijn? Dan komt ie soms best met wat leuks. Alleen je kan er dus de klok op gelijkzetten dat ie bij andere mensen die ongeveer hetzelfde zitten te doen met precies dezelfde extra feature komt.
Bart Mol: Dat zag ik ook bij haar. Ja, reuze interessant, maar ook wel dat ik dacht: poh, ja, jongens. Zomaar, hier ook liep ik zelf in de val van: oké, ik ben wat ik vandaag aan het doen ben met AI aan het waarderen tegenover een denkbeeld van een jaar of twee geleden. Weet je, dat apps nog wat waard waren, of dat grafisch design nog wat waard was. Of dat, whatever, dat gewoon dingen maken digitaal iets waard was. Terwijl nu, ja, iedereen heeft toegang tot deze tools, dus iedereen kan sneller video editen. Iedereen kan een app maken, sneller een app maken. Iedereen kan, nou ja, XYZ doen. Dan moet je niet-- als iedereen het kan, dan kan je het niet meer waarderen tegen de economie van gister waar sommigen het konden. En dat blijft wel lastig. Dus ik was eventjes ook gewoon, ik stond gewoon in m'n eigen footwork en ik zet m'n bord daar buiten en ik zie gewoon om me heen de anderen ook gewoon dezelfde borden buiten zetten. Maar goed, ik zal de app, Saidling heet het.
Bart Mol: Je kan op de website kijken: saidling.app. Dat is S A I D L I N G. Dan kan je eens even kijken wat je ervan vindt. Ik moet zeggen, ik ga hem vandaag in de App Store gooien. In ieder geval ter review. En ja, als er andere vaders of moeders zijn die luisteren, ja, laat weten wat je van het idee vindt en laat weten wat je van de app vindt. Probeer hem eens uit. Ja, hopelijk kan je er wat mee. Ik heb hem in gebruik tijdens de zwangerschap. Ik moet zeggen: het is wel leuk, want ik kan nu al dingen van negen maanden geleden terugkijken. De eerste echo waar ik eigenlijk inmiddels nu we midden in de zwangerschapscursussen en de zwangerschapsyoga zitten en de puf lessen, waar kan ik me eigenlijk al niet meer zoveel van herinneren, terwijl ik daar nu wel, ja, zelf een voice notitie bij heb hoe ik daar zelf toen over dacht. Dus dat is wel geinig.
Bert Slagter: Ja, het is een soort Polarsteps, hè, maar dan voor de reis die je een beetje, ja.
Bart Mol: Ja, ja, zeker.
Bert Slagter: Ja, en daarna toch ook het opgroeien van het kind?
Bart Mol: Ja, dan begint het pas inderdaad, dan wordt het leuk. Nu heb ik alleen maar foto's van buiken de hele tijd en kinderkamers.
Bert Slagter: Ja, want ik heb, ik merk dat met reizen ook.
Bart Mol: Ja, dat is dat.
Bert Slagter: Je, ik maakte vroeger altijd met zo'n SLR-camera foto's. Dan heb je, weet ik veel, 2.500 foto's die je dan in Lightroom moet gaan zitten. Man, man, man, dat is echt, dat is echt hard werken. En nu doe, maak ik ook heel veel foto's. We maken veel foto's, want we zijn met z'n vijven. We hebben vijf camera's, vijf telefoons, en alleen je doet in Polarsteps elke dag, maak je al een selectietje, schrijft een verhaaltje en dat is altijd echt superleuk om terug te lezen. Nou, ik kan me zo heel goed voorstellen dat jouw app dus ook echt superleuk is om terug te lezen straks. Ja.
Bart Mol: Ja, dat is een beetje de bedoeling. Ja, en je moet een beetje, ja kijk, ik heb dus geen server, hè, dus het gemak waarmee je dingen kan delen is wat anders. Maar ook uiteindelijk daar waren ook oplossingen voor te vinden, dus.
Bert Slagter: Want zit het in, wordt het gebackupt in je iCloud account dan?
Bart Mol: Ja, ik heb er wel voor gekozen dat als jij iPhone, een iPhone hebt, dan vertrouw je erop. Kan je allemaal uit en aanzetten.
Bert Slagter: Ja, precies.
Bart Mol: Maar ja, her en der moet je natuurlijk wel ook kijken van: ja, wat is er nog, ja, soort van werkbaar en welke privacyafwegingen zijn wel oké? Zo, ik heb zelf niet zo'n moeite met iCloud. Ik bedoel, m'n foto's staan er toch al, dus waarom dan deze back-up niet? Dus ik heb ervoor gekozen alles wat Apple aanbiedt, daar ga ik gedeeltelijk in mee. Ik heb bijvoorbeeld ook, je kan Apple Private Cloud Compute gebruiken. Dan heb je net een iets beter AI-model waardoor een aantal functies net wel haalbaar werden. Maar ja, dat is wel op een server van Apple, dus dat kan je ook allemaal aan en uitzetten. Ja, ik zou zeggen ga het eens proberen. Ik laat wel weten nog in de podcast als hij helemaal online staat. Dat kan Apple kennende gewoon ook wel weer een maand gaan duren. Hoe lang duurde dat bij onze app voor Bitcoin Alpha? Daar hebben we toen ook wel review comments.
Bert Slagter: Ja, we kregen toen een paar, ja, precies, maar het, ja, reken maar op een week of twee, ja. Ja.
Bart Mol: Ja, zoiets. Ja, nou ja, we gaan het zien. All right, mannen, wat gaan we doen?
Bert Slagter: Maar volgens mij hebben we een hele mooie afgeronde show te pakken.
Bart Mol: Als jij dat vindt, Bert, dan sluit ik me daar helemaal bij aan. Dan ga ik jullie hartelijk bedanken. Jullie natuurlijk, Bert en Peter, maar natuurlijk ook al onze luisteraars. Het gaat hartstikke goed met de podcast. Krijgen echt leuke reacties daarover. Dus heb je vragen? Heb je comments? Wil je laten weten wat jij allemaal met AI gedaan hebt? Ja, dat kan via onze website turingstation.nl. Daar kan je lid worden van onze Discord, hè, onze community. Je kan er ook lid worden van onze nieuwsbrief. Dan krijg je sowieso alle uitgeschreven shownotes, alle linkjes, de hele samenvatting van de podcast krijg je in je mailbox op het moment dat er een nieuwe podcast online staat. En natuurlijk via de podcast app, hè. Als je luistert via Spotify, via YouTube, via andere apps, daar kan je gewoon ook een comment achterlaten. Dat vinden we hartstikke leuk, dus doe dat ook vooral. We lezen ze allemaal door en de leukste comments of de comments waar we echt iets mee kunnen, die nemen we mee in de podcast. Ja, en zorg er nou alsjeblieft voor dat dat segment geen stille dood sterft, dames en heren, daar hebben we jullie voor nodig, dus dat vinden we echt heel erg leuk.
Bart Mol: Dus blijf dat doen. Dat gezegd hebbende: bedankt voor het luisteren. Maak er wat van de rest van de week, ondanks dat het toch wel snertweer begint te worden. Nou, maak eens een lekkere pot snert zou ik zeggen. Daar is het dan wel weer het weer voor.
Peter Slagter: of stoofvlees of zo, weet je weer, is het wildseizoen alweer begonnen?
Bart Mol: Ja, precies, dat kan gewoon weer, weet je. Trek een lekkere dikke jas aan, een muts op. Ja, nou, qua weer zeker wel. Dus, ja, precies.
Bert Slagter: Nou, bij de slager ook ga ik je vertellen
Peter Slagter: ah, lekker, hoor.
Bart Mol: Laatst ook, chocomel met slagroom, warme chocolademelk met slagroom genomen. Het kan allemaal weer, dames en heren.
Peter Slagter: Ik heb mijn eerste oliebol al achter de kiezen
Bart Mol: Nou, precies, daar heb je hem al. Daar heb je hem al. Dus ik zou zeggen: neem één van deze suggesties of verzin zelf een leuke winterse suggestie, een regenachtige suggestie. Ja, de regenachtige knutselzondag, hè, om gewoon met AI eens even lekker aan de slag te gaan met je home assistant past er ook perfect bij, dames en heren. Dus nou, laat weten wat jij gekozen hebt. En als je dat allemaal niet doet, zorg dan in ieder geval dat je volgende week weer inhaakt voor aflevering nummer 23 van Turing Station. Thanks voor het luisteren. Tot volgende week. Later heus.
Peter Slagter: Doei doei. Hoi.
