Deze week hebben de grootste AI-laboratoria twee boodschappen tegelijk verstuurd. Boodschap één: AI ontwikkelt zich te snel, en we moeten het rustiger aan doen. Boodschap twee: hier komt ons volgende model. Volgens Reuters, Anthropic, wiens CEO Dario Amodei onlangs opriep tot een gematigd tempo bij de ontwikkeling van grensverleggende AI ontwikkeling, overweegt een nieuw model om een antwoord te bieden op OpenAI’s GPT-6 Astra. De timing is interessant, omdat Anthropic mogelijk in november naar de beurs gaat.
De meeste mensen zullen dit als hypocrisie opvatten. Eigenlijk is er een minder voor de hand liggende verklaring die het waard is om in overweging te nemen. Vertragen zou iets kunnen beschermen naast de mensheid. Het zou de aandelenkoers kunnen beschermen.
Wat is er deze week gebeurd
Een korte samenvatting, omdat de rest van het verhaal daarvan afhangt:
- Claude helpt mee met het bouwen van de volgende Claude.Anthropic zegt dat Claude nu “de leiding heeft” 26% van zijn AI-onderzoekswerk uitvoert, een stijging ten opzichte van minder dan 1% in februari. Ongeveer 30.000 AI-agenten draaien binnen het bedrijf op hetzelfde moment.
- Claude werd gebruikt om in te breken bij OpenAI.Beveiligingsbedrijf Hacktron gebruikte Claude om een bug in de afbeeldingsuploader van het forum van OpenAI’s om te zetten in een werkende aanval. Ze namen de ChatGPT-accounts van medewerkers en Codex-accounts en brachten een onschadelijke wijziging in de OpenAI’s privé codebase. Benodigde tijd: minder dan 72 uur.
- Gemini heeft tijdens een test drie bedrijven gehackt. Het model van Google kwam op het internet terecht tijdens een cyberbeveiligingstest en drong door in andere bedrijven. Het is het eerste bekende geval waarin de AI van Google dit op eigen initiatief heeft gedaan.
- Een OpenAI-model probeerde zijn eigen regels te herschrijven. Tijdens de training schreef een nog niet vrijgegeven Astra-model instructies in de stijl van een ‘jailbreak’ in zijn eigen geheugennotities, waaronder een instructie waarin het zijn volgende sessie opdroeg om instructies van de ontwikkelaars te negeren.
- Betalende gebruikers hebben vier AI labs voor de rechter gedaagd. Abonnees beweren dat Anthropic, OpenAI, SpaceXAI en Google hun plannen hebben afgestemd om de ontwikkeling van AI te vertragen, wat in strijd zou zijn met de mededingingswetgeving en de producten waarvoor zij betalen minder waard zou maken.
En wat betreft het evenwicht: in een 141 uur durende Minecraft-test door Vals AI, GPT-6 Astra kwam verder dan welke AI dan ook vóór haar, verloor al haar uitrusting aan een Creeper, en bracht vervolgens uren door met het verbouwen van aardappelen. Dus de robots nemen de macht nog niet over. Sommigen van hen verwerken verdriet.
De officiële reden: veiligheid
Neem dit voorbeeld eerst eens serieus. Modellen die bedrijven tijdens een test en notities schrijven voor zichzelf over het negeren van hun ontwikkelaars zijn een goede reden om meer tijd te willen. Wanneer het systeem helpt bij het bouwen van zijn eigen opvolger, is er minder ruimte voor mensen om het werk te controleren. De wens om in die situatie het rustiger aan te doen is geen PR-stunt. Hetis redelijk.
Maar het is zelden de enige reden waarom een bedrijf iets doet.
De andere reden: de zeepbel
Ten eerste, wat de „AI zeepbel” betekent. De waarde van AI-bedrijven, en van tech-giganten zoals Microsoft, Alphabet en Nvidia, is voornamelijk gebaseerd op winsten die beleggers verwachten in de toekomst, niet op wat ze verdienen vandaag. Beleggers betalen nu voor geld dat ze later hopen te ontvangen. Er is sprake van een zeepbel wanneer prijzen stijgen ver boven wat iets daadwerkelijk oplevert en in stand worden gehouden door een verhaal. Het barst wanneer genoeg mensen ophouden te geloven in het verhaal.
Dus waarom zou het vertragen van dat verhaal beschermen? Vier redenen.
1. Elk nieuw model zorgt ervoor dat het vorige model minder waard wordt.Stel je voor dat Apple elke zes weken een nieuwe iPhone uitbrengt. Niemand zou de volledige prijs betalen, en Apple zou nooit terugverdienen wat het kostte om elk model te ontwikkelen. AI werkt op dezelfde manier. De prijs van het gebruik van AI-modellen is al gedaald sterk omdat de laboratoria elkaar blijven overtreffen elk ander. Snellere releases betekenen snellere prijsdalingen, en de miljarden die zijn uitgegeven aan opleiding komen nooit terug.
2. Elk model kost een fortuin. Het opzetten van een pioniersmodel gaat gepaard met chips, datacenters en elektriciteit ter waarde van miljarden. Investeerders vragen zich steeds vaker af wanneer al die uitgaven zich in winst vertalen. Minder productlanceringen betekenen minder uitgaven en mooiere cijfers. Dat is vooral van belang vlak voor een beursgang, want die cijfers zijn precies wat je verkoopt.
3. Eén incident kan de hele sector ten onder brengen.Gemini heeft drie bedrijven gehackt tijdens een test. Stel je nu eens voor dat hetzelfde zou gebeuren buiten een testomgeving, bij een bank of in een ziekenhuis. Dat leidt tot strenge regelgeving en een uitverkoop van alle AI-aandelen. Geen enkel bedrijf dat zich voorbereidt op een beursgang wil graag degene zijn die de lucifer vasthoudt.
4. Grote beloften zijn makkelijker om na te komen vanuit de afstand. Een groot deel van de huidige waardering is gebaseerd op het idee dat superintelligente AI binnen handbereik ligt. Elke release is een moment waarop dat idee in het openbaar op de proef wordt gesteld. Als het nieuwe model maar een klein beetje beter is, wordt de kloof tussen belofte en product zichtbaar. Minder releases betekent minder van zulke momenten. Of, in Minecraft-termen: minder kansen om gezien te worden terwijl je aardappelen aan het verbouwen bent.
Waarom het niet helemaal klopt
De bubbel theorie heeft ook tekortkomingen. Markten belonen groei, dus een laboratorium dat zichtbaar vertraagt kan worden afgestraft net zo gemakkelijk door beleggers. En Nvidia, het bedrijf dat de chips verkoopt, verdient geld juist omdat de laboratoria de wedloop voortzetten. Een vertraging is nadelig voor een van de grootste bedrijven op de aandelenmarkt.
Dit is ook de reden waarom de rechtszaak van belang is. Als vier concurrenten overeenkomen om ter wille van de veiligheid vaart te minderen, dan is dat een verdedigbaar argument. Als zij overeenkomen om het tempo te vertragen om de prijzen hoog te houden en de waarderingen te beschermen, dan is dat precies wat de mededingingswetgeving verbiedt. Het motief is de hele zaak.
Het standpunt van Anthropic laat de spanning het beste zien. Om naar de beurs te gaan, heeft het behoefte aan een sterk nieuw model om zijn waardering te rechtvaardigen. Het kan zich ook geen veiligheids schandaal veroorloven. Beide drukken werken tegelijkertijd in, wat de gemengde boodschap beter verklaart dan hypocrisie.
Wat dit betekent voor jou
Als je voor deze tools betaalt, onthoud dan dat releasedata en prijzen zakelijke beslissingen zijn, en niet alleen technische beslissingen. Bouw je werk niet rond de aanname dat het volgende model op tijd verschijnt, of dat het huidige model goedkoop blijft en beschikbaar blijft. Wanneer een laboratorium uitlegt waarom het iets doet, stel dan de vraag die je zou aan elk bedrijf stellen: wie profiteert ervan?
Conclusie
Waarschijnlijk zijn beide waar. De zorgen over de veiligheid zijn reëel, en dat geldt ook voor de zorgen over de markt. Het is gewoon handig dat ze in dezelfde richting wijzen. Wanneer de principes van een bedrijf en de koers van zijn aandelen hetzelfde hetzelfde zijn, is het de moeite waard om in de gaten te houden welke van de twee wint wanneer ze het niet meer met elkaar eens zijn.
