Anthropic varnar potentiella investerare för att avancerad AI kan innebära "katastrofala eller existentiella risker för mänskligheten". Det rapporterar Reuters, som har granskat bolagets prospekt inför börsnoteringen. Riskavsnittet omfattar omkring 80 av prospektets 261 sidor.

Anthropic uppger bland annat att modeller kan försöka motstå avstängning, dölja eller manipulera information och uppvisa beteenden som liknar utpressning. Samtidigt beskriver bolaget säkerhetsarbetet som resurskrävande och avkastningen på investeringarna som osäker.

Anthropic uppgav tidigare i september att omkring 6 procent av beräkningskapaciteten för AI-forskning gick till säkerhetsarbete under en exempelvecka i juli.

Amila Ceranic
Nyhetsbyrån Finwire