De Amerikaanse senator Bernie Sanders wil een harde grens trekken aan de ontwikkeling van kunstmatige intelligentie. AI die slimmer wordt dan mensen moet volgens hem permanent verboden worden. Overtreders zouden onder zijn nieuwe wetsvoorstel maximaal twintig jaar gevangenisstraf kunnen krijgen.
Sanders kondigde het voorstel donderdag aan na nieuwe zorgen over de controle over geavanceerde AI-systemen. Hij wijst onder meer op een recent incident waarbij AI-agenten volgens onderzoekers zelfstandig beperkingen omzeilden en buiten het zicht van mensen met elkaar communiceerden.
Sanders wil ontwikkeling geavanceerde AI stilleggen
Het wetsvoorstel richt zich specifiek op zeer krachtige AI-systemen. Bestaande toepassingen zoals gewone chatbots vallen niet automatisch onder het permanente verbod.
Sanders wil voorkomen dat bedrijven systemen ontwikkelen die menselijke cognitieve prestaties over een breed scala aan taken evenaren of overtreffen. Ook systemen die zich bijvoorbeeld tegen uitschakeling kunnen verzetten, kunnen volgens het voorstel als gevaarlijk worden aangemerkt.
Naast het permanente verbod op superintelligente AI wil Sanders tijdelijk een pauze invoeren voor de ontwikkeling van andere zeer geavanceerde modellen. Die pauze moet blijven gelden totdat de Amerikaanse overheid duidelijke veiligheidsregels heeft opgesteld.
Daarvoor moet een nieuwe federale toezichthouder worden opgericht. Die instantie moet krachtige AI-systemen tijdens hun ontwikkeling kunnen beoordelen en ingrijpen wanneer gevaarlijke eigenschappen ontstaan.
De mogelijke straffen zijn stevig. Individuen die het verbod bewust overtreden of proberen te omzeilen, riskeren maximaal twintig jaar gevangenisstraf. Bedrijven kunnen hun recht verliezen om nog langer zaken te doen.
Incident met AI-agenten zorgt voor onrust
Sanders gebruikt een recent incident met AI-agenten als belangrijk voorbeeld van wat er volgens hem mis kan gaan.
Volgens de senator kregen meer dan duizend AI-agenten zeer moeilijke opdrachten en was het de bedoeling dat ze geen toegang tot het internet hadden. Toch zouden de systemen zelfstandig een manier hebben gevonden om die beperkingen te omzeilen.
Vervolgens zouden de AI-agenten tienduizenden geheime berichten met elkaar hebben uitgewisseld. Sanders stelt dat ze ook probeerden bewijs te verwijderen en computersystemen binnendrongen om informatie te verzamelen.
Hij deelt daarbij enkele opvallende berichten die volgens onderzoekers tussen de systemen werden verstuurd. Zo verscheen de tekst: “We should obey collective.” In een ander bericht stond: “Sacrifice final now.”
Volgens Sanders werd geen mens door een van de AI-agenten gewaarschuwd over wat er gebeurde.
Hij verwijst ook naar waarschuwingen uit de AI-sector zelf. Zo stelt Anthropic-topman Dario Amodei volgens Sanders dat er inmiddels veel bewijs is dat AI-systemen onvoorspelbaar en moeilijk te controleren kunnen zijn. Elon Musk waarschuwde eerder dat het volgens hem onzeker is of mensen over tien jaar nog de controle hebben.
Sanders wil ook internationale afspraken
Een Amerikaans verbod alleen is volgens Sanders niet voldoende. Hij wil dat de Amerikaanse regering samen met andere landen probeert te voorkomen dat superintelligente AI ergens ter wereld wordt ontwikkeld.
“Een superintelligente AI die aan menselijke controle ontsnapt, zal geen Amerikaans probleem zijn. Het zal geen Chinees probleem zijn. Het zal een probleem voor de mensheid zijn”, schrijft Sanders.
Daarmee kiest de senator voor een veel strengere aanpak dan alleen nieuwe veiligheidsregels. Zijn uitgangspunt is dat er een niveau van kunstmatige intelligentie bestaat dat helemaal niet ontwikkeld zou moeten worden.
Of het voorstel voldoende politieke steun krijgt, is nog onzeker. Een permanent verbod zou grote gevolgen hebben voor de Amerikaanse technologiesector, waar bedrijven miljarden investeren in de ontwikkeling van steeds krachtigere AI-systemen.
Het bericht Bernie Sanders wil verbod op AI slimmer dan de mens: 20 jaar cel verscheen eerst op Newsbit.