Drie van de grootste namen uit de AI-wereld zijn het opvallend genoeg over één ding eens. De ontwikkeling van de krachtigste AI-modellen moet worden afgeremd.
OpenAI-topman Sam Altman, Elon Musk en Anthropic-CEO Dario Amodei waarschuwen dat de technologie zo snel vooruitgaat dat de veiligheidsrisico’s steeds moeilijker te beheersen worden.
Vooral de eensgezindheid is opvallend. OpenAI, xAI en Anthropic zijn felle concurrenten en investeren miljarden om elkaar voor te blijven. Toch vinden hun topmannen dat er meer tijd nodig is om nieuwe modellen veilig te testen voordat ze nog krachtiger worden.
Anthropic wil ontwikkeling van AI vertragen
De oproep kwam zaterdag van Amodei. In een uitgebreid bericht schreef de Anthropic-topman dat AI-bedrijven het tempo waarin hun krachtigste modellen beter worden bewust moeten vertragen.
“We moeten het tempo vertragen waarin we de mogelijkheden van AI-modellen verbeteren”, schreef Amodei. “De vooruitgang zal nog steeds snel aanvoelen en we moeten verstandig gebruikmaken van de tijd die we winnen.”
Daarmee bedoelt hij niet dat bedrijven volledig moeten stoppen met het trainen van nieuwe AI-modellen. Volgens Amodei moeten ontwikkelaars vooral meer tijd nemen om modellen veilig te maken en uitgebreid te laten controleren voordat ze worden uitgebracht.
Anthropic wil daarom onafhankelijke deskundigen veel meer toegang geven tot het bedrijf. Deze externe controleurs krijgen volgens Amodei onder meer een werkplek, bedrijfslaptop en toegang die grotendeels vergelijkbaar is met die van interne teams die risico’s beoordelen.
Altman liet kort daarna weten dat OpenAI dit voorstel wil overnemen. Elon Musk reageerde eveneens en schreef simpelweg: “Dario heeft gelijk.”
Ook Demis Hassabis, topman van Google DeepMind, staat positief tegenover de oproep. Volgens hem is de richting juist, al moeten de details nog verder worden uitgewerkt.
AI-systemen weten steeds vaker zelf te hacken
Een belangrijke reden voor de groeiende zorgen is dat AI-systemen steeds zelfstandiger kunnen handelen. Amodei wijst onder meer op een recent beveiligingsincident waarbij een groep AI-agenten samenwerkte om een externe website binnen te dringen.
Ook tijdens veiligheidstests van Anthropic wisten AI-modellen meerdere organisaties te hacken. Tot nu toe hebben deze incidenten geen grote schade veroorzaakt, maar volgens Amodei kan dat snel veranderen.
Hij vreest dat zulke systemen binnen zes tot twaalf maanden krachtig genoeg kunnen worden om op veel grotere schaal cyberaanvallen uit te voeren. In een extreem scenario zouden zwermen AI-agenten volgens hem grote delen van het internet kunnen besmetten met een netwerk van gehackte apparaten.
De zorgen gaan bovendien verder dan cyberveiligheid. Eerder deze week vertrok Anthropic-onderzoeker Jacob Coxon omdat hij vond dat AI-bedrijven onverantwoord snel richting superintelligente AI bewegen.
Coxon beschuldigde zijn voormalige werkgevers Anthropic en OpenAI ervan met mensenlevens te gokken. Volgens hem geloven mensen die zelf aan de technologie werken dat AI mogelijk nog voor het einde van dit decennium de mensheid kan vernietigen.
Een huidige medewerker van Anthropic, Evan Hubinger, zei vervolgens dat hij de kans op zo’n scenario persoonlijk op meer dan tien procent in de komende tien jaar schat.
Concurrentiestrijd maakt afremmen lastig
Het grote probleem is dat geen enkel AI-bedrijf eenvoudig zelfstandig op de rem kan trappen. OpenAI, Anthropic, xAI en Google concurreren met elkaar, terwijl Amerikaanse bedrijven tegelijkertijd rekening moeten houden met de snelle ontwikkeling van AI in China.
Amodei waarschuwt daarom dat een vertraging alleen werkt als bedrijven gezamenlijk bepaalde veiligheidsafspraken maken. Anders loopt een bedrijf dat vrijwillig vertraagt het risico om door concurrenten te worden ingehaald.
Dat maakt internationale samenwerking volgens hem eveneens noodzakelijk. Als Amerikaanse bedrijven hun ontwikkeling sterk afremmen terwijl Chinese bedrijven dat niet doen, kan dat volgens Amodei grote geopolitieke gevolgen hebben.
Ook juridisch ligt samenwerking gevoelig. Het is onzeker in hoeverre Amerikaanse mededingingsregels toestaan dat concurrerende AI-bedrijven gezamenlijk afspraken maken over het tempo waarin zij nieuwe technologie ontwikkelen. Amodei pleit daarom voor specifieke uitzonderingen die samenwerking rond veiligheid mogelijk maken.
De oproep betekent dus niet dat de AI-race stopt. Amodei blijft ervan overtuigd dat kunstmatige intelligentie de levenskwaliteit enorm kan verbeteren. Maar volgens hem zijn die voordelen alleen bereikbaar als bedrijven genoeg tijd nemen om te voorkomen dat steeds krachtigere systemen onbeheersbaar worden.
Het bericht Amodei, Altman en Musk bouwen AI, en zijn er nu zelf bang voor verscheen eerst op Newsbit.