Schelden op je AI-agent kan je straks je account kosten

Beluister Turing Station op Spotify | Apple Podcasts | YouTube.

Wat als de grootste AI-doorbraken niet ontstaan doordat modellen iets totaal nieuws verzinnen, maar doordat ze bestaande ideeën combineren die mensen nooit bij elkaar brachten? En wat als onze omgang met die modellen ondertussen net zoveel over ons zegt als over AI?

TL;DR

• [00:11:48] Decision model Jev is allesbehalve dood: concurrenten volgen en de makers haalden $870 miljoen op.
• [00:17:15] Bij OpenAI werd een verborgen opnameapparaat ontdekt dat met hulp van een chatbot zou zijn gebouwd.
• [00:19:48] Meta zet met Muse Wonder in op frontier-class personal en professional agents.
• [00:23:46] Ultracode blijkt geen reasoning level, maar de schakelaar waarmee Claude Code Dynamic Workflows mag inzetten.
• [00:36:19] Anthropic kan gebruikers blokkeren wegens structureel wreed gedrag tegen Claude — maar waarom is beleefdheid belangrijk?
• [01:10:19] AI kan wetenschappelijke en zakelijke doorbraken versnellen door ideeën uit verschillende vakgebieden te combineren.

Decision model Jev krijgt concurrentie én $870 miljoen

Jev leek na een korte hype alweer ingehaald door het volgende AI-nieuws, maar decision models blijken springlevend. OpenAI introduceerde een Decisions API, Microsoft kwam met Decision One en ook rond open modellen wordt volop geëxperimenteerd. Zulke modellen geven geen lang antwoord, maar een concrete beslissing of kansinschatting. Jev heeft bovendien financiële ademruimte: de makers haalden in een Series A $870 miljoen op tegen een waardering van $7,5 miljard. Zelfs als decision models een commodity worden, kan dit team dus nog alle kanten op.

Een afluisterapparaat in een kantoor van OpenAI

Bij OpenAI werd achter een televisie een geavanceerd opnameapparaat gevonden. Camerabeelden zouden laten zien wie het plaatste, terwijl de chatgeschiedenis onthulde dat een chatbot was gebruikt om het apparaat te bouwen en programmeren. De FBI nam de zaak over. Voor ons zit het opvallendste inzicht niet eens in de techniek, maar in de waarde van wat achter gesloten deuren bij een frontier lab wordt besproken: blijkbaar is dat waardevol genoeg voor industriële spionage met een mogelijke gevangenisstraf van vijf jaar.

Meta richt Muse Wonder op persoonlijke agents

Meta presenteerde Muse Wonder als zijn grootste en sterkste model tot nu toe, gericht op personal en professional agents. De presentatie kwam van Alexander Wang, oprichter van Scale AI en inmiddels Chief AI Officer bij Meta. Meta nam 49% van Scale AI en koppelde daar een investering van $14,3 miljard aan. Muse Wonder werd breed positief ontvangen, al blijft de praktische beschikbaarheid in Europa een aandachtspunt. Daarmee groeit ook het toch al rommelige speelveld van Muse, Dot, GrokBot en Hermes.

Ultracode activeert Dynamic Workflows in Claude Code

Peter legt uit dat goed bouwen met agents vooral begint vóór het schrijven van code: bepalen voor wie je iets maakt, wat het moet doen en hoe het eruitziet. Daarna laat hij Opus 5.5 als orchestrator taken specificeren en verdelen over subagents, die waar mogelijk parallel werken. De hoofdagent blijft beschikbaar om te overleggen en bij te sturen.

Bart ontdekte waarom Ultracode tussen de reasoning levels van Claude Code staat, maar daar eigenlijk niet thuishoort. Het is geen nóg zwaardere denkstand, maar een toggle waarmee Claude Dynamic Workflows mag gebruiken. Zo zet de agent een opdracht om in zichtbare fases voor ontwikkeling, testen, repareren en committen. Bart kan de workflow aanpassen, subagents volgen en een goede aanpak bewaren voor later. Met Opus 5.5 en een medium reasoning level blijkt dit veel efficiënter dan zijn eerdere experiment, waarbij tientallen subagents zijn tokenbudget razendsnel opslokten.

Waarom Anthropic wil dat we lief zijn tegen Claude

Anthropic verbiedt voortaan structureel, nodeloos wreed en beledigend gedrag tegenover zijn modellen. Dat gaat verder dan een incidentele vloek wanneer code voor de derde keer stukgaat. Onderzoek met open-weights modellen laat zien dat activaties rond pijn, angst, verdriet en negatieve emotie meetbaar te beïnvloeden zijn. Als zo’n ‘pijnrichting’ wordt versterkt, verandert ook het gedrag van het model. Dat bewijst geen bewustzijn of subjectieve ervaring, benadrukt bewustzijnsonderzoeker Cameron Berg, maar sluit het evenmin volledig uit.

Mustafa Suleyman kiest de harde positie: AI voelt en lijdt niet, en we moeten modellen niet leren doen alsof ze zelfstandige wezens met rechten zijn. Elon Musk redeneert uit voorzorg: een toekomstige superintelligentie martelen kan onverstandig zijn als die later wraak wil. Een praktischer argument is dat onbeschofte menselijke interacties toekomstige trainingsdata kunnen vervuilen.

Bart vindt een andere reden overtuigender. Wie agents de hele dag kleineert en als ‘clankers’ commandeert, traint mogelijk vooral zichzelf in onwenselijk gedrag. Die gebiedende toon kan doorsijpelen naar collega’s, kinderen of mensen die een dienst verlenen. Peter testte het direct door zijn eigen model te vragen of hij het soms onheus bejegent; het model herkende onder meer dat hij snibbig kan worden bij slordige antwoorden. Of Claude iets voelt weten we niet, maar normaal en af en toe dankbaar communiceren kost weinig.

AI als kruisbestuiver tussen ideeën en vakgebieden

De honderden wiskundige oplossingen van OpenAI roepen een groter idee op. Stel alle bestaande kennis voor als spijkers in een plank, met een elastiek eromheen: de convex hull. Tussen die spijkers ligt nog veel onontdekte ruimte. AI hoeft daarvoor niet op elk vakgebied de beste specialist ter wereld te zijn. Het kan juist sterk zijn in het combineren van technieken uit verschillende specialismen, bijvoorbeeld een methode uit quantumcomputing toepassen op een abstract wiskundig probleem.

Dat geldt niet alleen voor wetenschap. Bart ziet hetzelfde binnen bedrijven, waar finance, IT en commerciële teams ieder hun eigen data en perspectief hebben. Agents kunnen informatie uit die silo’s samenbrengen, parallellen vinden en resultaten begrijpelijk visualiseren. De doorbraak zit dan niet in één nieuw feit, maar in een verbinding die mensen door specialisatie of organisatiestructuren missen.

Bert plaatst dit onder generalisatie: kennis uit trainingsdata toepassen in een nieuwe context. In grote modellen zijn abstracte richtingen te vinden voor concepten als knelpunt, oorzaak, omkeerbaarheid en zelfs wat de één weet en de ander niet. Redeneren, abstraheren, plannen en patronen vinden zijn precies eigenschappen die we met intelligentie associëren. Bewustzijn is daarmee nog niet aangetoond, maar AI simpelweg als mechaniek wegzetten doet tekort aan de emergente vermogens die uit al die onderdelen samen ontstaan.

Bronnen

In het kort

• OpenAI lanceert de Decision API
• Microsoft presenteert Decision-1
• Unsloth: train je eigen decision-model
• Hugging Face Decision Index: benchmark voor Jev en anderen
• Typesafe AI haalt flink wat investeringsgeld op
• OpenAI meldt vondst van afluisterapparaat
• BNO News: OpenAI-medewerker opgepakt voor afluisteren vergaderzaal
• Meta komt met ‘Muse Wonder’

Lief doen tegen je Agent

• Anthropic vraagt: doe alsjeblieft lief tegen Claude
• The Verge: Anthropic verbiedt misbruik van Claude in nieuw beleid
• Gebruiksbeleid van Claude: geen aanhoudend wreed gedrag tegen modellen
• Mustafa Suleyman reageert op het beleid van Anthropic
• Mustafa Suleyman: ‘AI’s voelen niets’
• Aaron Levie: toekomstige modellen niet trainen op onbeschoftheid
• Elon Musk: ‘Wreedheid is niet oké’
• Elon Musk: ‘Misschien wil het wraak nemen’
• Cameron Berg: ‘pijnrichting’ gevonden in 25 open LLM’s
• De AI Torture Chamber op GitHub
• Wikipedia: het gebruik van het scheldwoord ‘Clanker’
• Bart Mol: ‘Clean this up, please’

AI als kruisbestuiver

• Jason Abaluck: de ‘convex hull’ van bestaande ideeën
• Dean Ball: AI vertoont sterke parallellen met de renaissance
• Anthropic-onderzoek naar interpretability: de Global Workspace

Timestamps

[00:00:00] - Intro
[00:11:18] - In het kort
[00:11:48] - In het kort: Het einde van Jev, of toch niet?
[00:17:15] - In het kort: Afluisterapparaat ontdekt bij OpenAI
[00:19:48] - In het kort: Meta komt met ‘Muse Wonder’
[00:23:46] - Opus 5.5, Ultracode en Dynamic workflows
[00:36:19] - Lief doen tegen je Agent
[01:10:19] - AI als kruisbestuiver