De snelle ontwikkeling van kunstmatige intelligentie gaat volgens OpenAI-topman Sam Altman onvermijdelijk gepaard met negatieve gevolgen. Toch vindt hij dat de samenleving bereid moet zijn een deel van die risico’s te accepteren, omdat de voordelen van AI volgens hem veel groter kunnen zijn.
In een interview met de podcast Decoded van Politico stelt Altman dat een wereld zonder misbruik, fraude of grote cyberaanvallen door AI geen realistisch uitgangspunt is. Tegelijkertijd trekt hij wel een duidelijke grens bij scenario’s waarin mensen daadwerkelijk de controle over kunstmatige intelligentie verliezen.
Sam Altman accepteert risico’s van AI
Altman deed zijn opvallende uitspraken tijdens een gesprek over de manier waarop AI-bedrijven en overheden met de risico’s van de technologie moeten omgaan.
Volgens de OpenAI-topman moet de wereld accepteren dat er “slechte dingen” zullen gebeuren als gevolg van AI. Daar staan volgens hem enorme maatschappelijke voordelen tegenover.
“Ik zou niet kiezen voor een situatie waarin we ervoor zorgen dat er geen grote hacks zijn, geen misbruik van deze technologie, nul oplichting en geen van de andere slechte dingen die zullen gebeuren”, zei Altman.
Volgens hem zouden mensen AI namelijk veel vaker voor positieve dan voor schadelijke doeleinden inzetten.
“Ik denk dat mensen enorm veel, ordes van grootte meer, goede dingen dan slechte dingen zullen doen”, aldus de OpenAI-topman.
Daarmee kiest Altman voor een relatief lichte benadering van regelgeving. Volgens hem moet de ontwikkeling en het gebruik van AI niet zo sterk worden beperkt dat mogelijke voordelen van de technologie verloren gaan.
Die houding speelt een belangrijke rol in de discussie over de toekomst van AI. Naarmate modellen krachtiger worden, groeit ook de angst dat ze kunnen worden ingezet voor cyberaanvallen, fraude en andere vormen van misbruik.
OpenAI-topman trekt grens bij verlies van controle
Altman wil echter niet ieder risico accepteren. Tijdens hetzelfde interview maakte hij duidelijk dat er volgens hem een grens ligt bij werkelijk catastrofale scenario’s.
Een “ernstig verlies van controle over AI” valt daar volgens hem onder. In zo’n situatie zou een AI-systeem zich zodanig kunnen gedragen dat mensen niet langer effectief kunnen ingrijpen.
Waar precies de grens ligt tussen aanvaardbare schade en een onacceptabel risico, werd tijdens het gesprek niet duidelijk.
Dat onderscheid wordt steeds belangrijker nu AI-systemen zelfstandiger taken kunnen uitvoeren. De discussie gaat daardoor niet langer alleen over wat een chatbot tegen een gebruiker zegt. Ook de vraag welke handelingen AI zelfstandig mag uitvoeren krijgt steeds meer aandacht.
OpenAI wil aansprakelijkheid bij problemen
Ondanks zijn pleidooi voor relatief lichte regelgeving vindt Altman niet dat AI-bedrijven vrijuit moeten gaan wanneer hun technologie schade veroorzaakt.
Hij pleit voor een juridisch kader waarin duidelijk wordt vastgelegd wie verantwoordelijk is wanneer er iets misgaat.
“Als er tijdens het trainen iets misgaat met onze modellen, zal er een vorm moeten zijn waarin wij daarvoor verantwoordelijk zijn”, zei Altman.
Volgens hem moeten Amerikaanse beleidsmakers hierover verder in debat. Daarmee kiest hij voor een combinatie van ruimte voor snelle technologische ontwikkeling en aansprakelijkheid wanneer bedrijven daarbij fouten maken.
De discussie over die balans wordt urgenter naarmate AI-systemen krachtiger worden. Altman lijkt daarbij één uitgangspunt duidelijk te maken: volledige veiligheid is volgens hem geen realistische voorwaarde voor verdere ontwikkeling, maar sommige risico’s zijn te groot om te accepteren.
Het bericht Sam Altman waarschuwt: AI gaat ook ‘slechte dingen’ veroorzaken verscheen eerst op Newsbit.