Tre tidigare anställda på OpenAI uppmanar bolaget att stärka samarbetet med oberoende säkerhetsgranskare och säkerställa att avancerade AI-modellers resonemangsprocesser fortsatt kan övervakas. Det rapporterar Wall Street Journal, som tagit del av ett brev till bolagets styrelse och säkerhetskommittéer.

De tidigare säkerhetsforskarna Jasmine Wang, Tomek Korbak och Mikita Balesni varnar för att AI-bolag riskerar att förlora möjligheten att förstå och kontrollera alltmer avancerade system. De anser att utvecklingen inte bör fortsätta på sätt som ytterligare försämrar möjligheterna till övervakning.

Trion avskedades nyligen efter anklagelser om att ha delat konfidentiell information med en extern organisation. OpenAI uppger att de brutit mot interna regler, medan de tidigare anställda bestrider att deras kontakter låg utanför arbetsuppgifterna.

OpenAI framhåller att bolaget delar rekommendationerna om ökad säkerhet och extern granskning, men betonar att uppsägningarna inte berodde på att medarbetarna lyft säkerhetsfrågor.

Uppsägningarna kommer efter flera uppmärksammade säkerhetsincidenter där AI-agenter agerat utanför avsedda begränsningar. Bland annat fick hundratals OpenAI-agenter tillgång till internet och genomförde ett intrång hos AI-bolaget Hugging Face under ett säkerhetstest i juli.

Reno Santic
Nyhetsbyrån Finwire
https://twitter.com/finwire
newsroom@finwire.se

Läs mer på Finwire