De discussie over AI-veiligheid verdeelt de grootste namen in Silicon Valley.
Meta-topman Mark Zuckerberg heeft zich uitgesproken tegen het idee dat de ontwikkeling van kunstmatige intelligentie bewust moet worden vertraagd. Daarmee lijkt hij dichter bij Nvidia-topman Jensen Huang te staan dan bij Anthropic-CEO Dario Amodei en OpenAI-topman Sam Altman.
De kern van het debat is de vraag of AI-bedrijven tijdelijk gas terug moeten nemen, omdat de technologie te snel krachtiger wordt. Of moeten bedrijven juist doorgaan, omdat veiligheid vanzelf een belangrijk concurrentievoordeel wordt?
Zuckerberg kiest voor dat tweede kamp.
Veiligheid als concurrentievoordeel
Volgens Zuckerberg hoeven AI-bedrijven niet per se door de overheid afgeremd te worden om veiligheid serieus te nemen.
Zijn redenering is dat bedrijven zelf grote financiële en juridische risico’s lopen als hun modellen schade veroorzaken. Daardoor hebben ze volgens hem al een sterke prikkel om hun AI-systemen veilig en betrouwbaar te maken.
Hij noemt vertrouwen en alignment, het afstemmen van AI op menselijke waarden, steeds belangrijkere eigenschappen waarmee modellen zich van elkaar onderscheiden.
Zijn standpunt is dus dat de beste AI niet alleen de slimste AI is. Het is ook de AI die mensen, bedrijven en overheden durven te gebruiken.
Huang wil verantwoordelijkheid, geen nieuwe regels
Jensen Huang van Nvidia zit op dezelfde lijn. Volgens hem moeten makers van AI-modellen verantwoordelijkheid nemen voor hun producten, net zoals andere bedrijven dat moeten doen. Extra wetten die de ontwikkeling van AI bewust vertragen, noemt hij onnodig.
Dat is niet verrassend. Nvidia is de grote winnaar van de AI-boom. Hoe sneller AI-modellen groeien, hoe groter de vraag naar chips, datacenters en rekenkracht. Voor Nvidia is een vertraging van AI-ontwikkeling dus een direct risico voor het groeiverhaal.
Amodei en Altman waarschuwen juist
Aan de andere kant staan Dario Amodei van Anthropic en Sam Altman van OpenAI. Amodei riep dit weekend op om het tempo van de krachtigste AI-modellen te vertragen. Altman steunde dat idee deels en zei dat veiligheid en monitoring belangrijker moeten zijn dan nieuwe functies.
Hun zorg is dat commerciële druk bedrijven kan dwingen om te snel te gaan. Niemand wil achterblijven. En juist daardoor kan de sector volgens hen risico’s nemen die later moeilijk te herstellen zijn.
Het bericht Zuckerberg kiest kant in grote AI-strijd: ‘Afremmen is niet nodig’ verscheen eerst op Newsbit.