AI-bolaget Anthropic anser att det kan vara positivt att kunna bromsa eller tillfälligt pausa utvecklingen av de mest avancerade AI-systemen.

I ett blogginlägg uppger bolaget att dess mest avancerade modeller utvecklas i snabb takt och kan vara på väg mot så kallad rekursiv självförbättring, där AI-system kan förbättra sig själva utan mänsklig inblandning. En sådan utveckling ses av vissa branschföreträdare som en potentiell risk för samhället.

Anthropic föreslår därför en global överenskommelse som skulle möjliggöra en inbromsning av AI-utvecklingen samt en mekanism för att verifiera att konkurrerande aktörer följer reglerna.

"Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt pausa utvecklingen av banbrytande AI, så att samhällsstrukturer och forskning om etisk anpassning hinner hänga med i teknikens framsteg", står det i inlägget.

Reno Santic
Nyhetsbyrån Finwire
https://twitter.com/finwire
newsroom@finwire.se

Läs mer på Finwire