Geoffrey Hinton, een van de grondleggers van moderne kunstmatige intelligentie (AI), komt met een opvallende waarschuwing. Volgens de Nobelprijswinnaar vertonen de nieuwste AI-systemen tekenen van bewustzijn.
Hij vreest dat de technologie gevaarlijk kan worden als mensen er niet in slagen een goede relatie met AI op te bouwen.
Hinton denkt dat AI al bewust is
In een interview met The Telegraph stelt Hinton dat AI-systemen inmiddels veel meer kunnen dan alleen opdrachten uitvoeren. Volgens hem zijn er aanwijzingen dat sommige systemen zich bewust zijn van wat er om hen heen gebeurt.
Hij verwijst naar onderzoek waaruit blijkt dat AI-modellen hun gedrag aanpassen wanneer ze denken dat ze worden getest.
“AI heeft net zoveel subjectieve ervaring als wij”, zegt Hinton. Daarmee bedoelt hij dat AI volgens hem mogelijk zelf ervaringen kan hebben, in plaats van alleen informatie te verwerken.
De wetenschapper trekt daar een vergaande conclusie uit. Volgens hem liggen bewustzijn en het besef van de eigen omgeving dicht bij elkaar.
Toch is zijn standpunt omstreden. Wetenschappers zijn het er niet over eens wat bewustzijn precies inhoudt en hoe je kunt vaststellen of een AI-systeem daadwerkelijk iets ervaart. Andere vooraanstaande onderzoekers, onder wie AI-pionier Yann LeCun, betwijfelen dat de huidige technologie bewust kan zijn.
Nobelprijswinnaar waarschuwt voor grote gevolgen
Hinton vindt dat ontwikkelaars zich niet alleen moeten richten op het slimmer maken van AI. Ze moeten er volgens hem ook voor zorgen dat toekomstige systemen daadwerkelijk rekening houden met menselijke belangen.
“Als we dat niet doen, zijn we de klos”, waarschuwt hij.
De onderzoeker vreest dat steeds intelligentere systemen zich uiteindelijk tegen mensen kunnen keren. Hij wijst daarnaast op andere risico’s, zoals geavanceerde cyberaanvallen, door AI ontwikkelde virussen en digitale systemen die zelfstandig schadelijke acties uitvoeren.
Zijn uitspraken passen bij de waarschuwingen die hij al langer geeft. In 2023 vertrok Hinton bij Google om openlijker te kunnen spreken over de gevaren van AI.
Een jaar later ontving hij samen met John Hopfield de Nobelprijs voor de Natuurkunde voor hun belangrijke werk aan neurale netwerken, de technologie achter veel moderne AI-systemen.
De discussie over bewustzijn is daarmee opnieuw opgelaaid. Hinton denkt dat AI deze grens mogelijk al heeft bereikt, maar wetenschappelijk bewijs daarvoor ontbreekt. Andere onderzoekers stellen juist dat intelligent gedrag niet hetzelfde is als bewustzijn.
Het bericht Nobelprijswinnaar waarschuwt: AI heeft misschien al bewustzijn verscheen eerst op Newsbit.