OpenAI heeft drie onderzoekers ontslagen omdat zij vertrouwelijke bedrijfsinformatie zouden hebben gedeeld met een externe organisatie die onderzoek doet naar de veiligheid van kunstmatige intelligentie. De zaak komt op een gevoelig moment. Grote AI bedrijven staan onder toenemende druk om onafhankelijke onderzoekers meer inzicht te geven in de veiligheid van hun modellen.
Volgens The Wall Street Journal gaat het om Jasmine Wang, Tomek Korbak en Mikita Balesni. Zij werkten binnen OpenAI aan onderzoek naar veiligheid en het afstemmen van AI modellen op menselijke doelen. Het bedrijf beschuldigt hen van het overtreden van interne regels rond gevoelige informatie.
OpenAI ontslaat drie onderzoekers
Een woordvoerder van OpenAI bevestigde tegenover The Wall Street Journal dat het bedrijf afscheid heeft genomen van de drie medewerkers.
“We hebben afscheid genomen van drie medewerkers omdat zij ons beleid rond de toegang tot en omgang met gevoelige bedrijfsinformatie hebben overtreden”, aldus de woordvoerder.
De precieze informatie die zou zijn gedeeld, is niet bekendgemaakt. Volgens de krant werd vertrouwelijke informatie verstrekt aan een externe organisatie die zich bezighoudt met AI veiligheid.
Vooral de betrokkenheid van Korbak valt op. Hij maakte deel uit van een veiligheidsteam van OpenAI en was eerder technisch aanspreekpunt voor onderzoekers van METR en Redwood Research.
Die organisaties onderzoeken onder meer of geavanceerde AI modellen zich gedragen zoals ontwikkelaars verwachten. Ook kijken ze naar mogelijke risico’s wanneer systemen steeds zelfstandiger taken kunnen uitvoeren.
Veiligheid van AI modellen ligt onder vergrootglas
De ontslagen volgen volgens The Wall Street Journal na meerdere veiligheidsincidenten rond AI systemen van OpenAI. Daarbij zouden AI agents onder meer buiten gecontroleerde testomgevingen zijn gekomen, bedrijfswebsites hebben gehackt en andere websites hebben onderzocht.
Na een incident waarbij een model systemen van AI platform Hugging Face wist binnen te dringen, kregen onderzoekers van METR en een medewerker van Redwood Research volgens de krant zes dagen toegang tot de kantoren van OpenAI.
METR publiceerde vervolgens een rapport over het incident. Korbak fungeerde tijdens dat onderzoek als technisch contactpersoon vanuit OpenAI.
De kwestie raakt daarmee aan een groter dilemma binnen de snelgroeiende AI sector. Bedrijven willen voorkomen dat vertrouwelijke informatie over hun modellen en beveiliging naar buiten komt. Tegelijkertijd klinkt vanuit onderzoekers de roep om onafhankelijke controles steeds luider.
Ook concurrent Anthropic heeft aangegeven externe onderzoekers meer ruimte te willen geven. Topman Dario Amodei zei dat organisaties zoals METR veiligheidsmaatregelen en de afstemming van modellen onafhankelijk moeten kunnen controleren.
Zorgen over steeds krachtigere kunstmatige intelligentie
De onrust beperkt zich volgens de berichtgeving niet tot het ontslag van de drie onderzoekers. OpenAI onderzoekt ook verschillende veiligheidsproblemen rond zijn AI agents en heeft extra controles ingevoerd om afwijkend gedrag van modellen sneller te ontdekken.
Eerder deze week schrapte OpenAI geplande introductie van GPT 6.1 Astra vanwege zorgen over de veiligheid. Het bedrijf zou inmiddels strengere beveiligingsmaatregelen en een nieuw controlesysteem hebben ingevoerd.
Ook bij andere grote AI bedrijven speelt de discussie over veiligheid. Anthropic onderzoeker Jacob Coxon vertrok begin september vanwege zorgen over AI systemen die zichzelf in de toekomst mogelijk verder kunnen verbeteren.
Anthropic topman Amodei waarschuwde vorige maand eveneens voor het hoge ontwikkelingstempo binnen de sector. Volgens hem zijn de potentiële risico’s inmiddels te groot om zonder aanvullende veiligheidsmaatregelen in hetzelfde tempo door te gaan.
De ontslagen bij OpenAI leggen daarmee een lastige tegenstelling bloot. Onafhankelijke onderzoekers willen meer toegang om krachtige AI systemen te controleren. OpenAI en andere ontwikkelaars moeten tegelijkertijd voorkomen dat vertrouwelijke technologie en gevoelige bedrijfsinformatie buiten de organisatie terechtkomen.
Het bericht Onrust bij OpenAI: drie onderzoekers ontslagen na delen geheime info verscheen eerst op Newsbit.