STOCKHOLM (Nyhetsbyrån Direkt) AI-bolaget Anthropic varnar investerare för att dess teknik kan innebära ”existentiella risker för mänskligheten”.

Det framgår av bolagets prospekt inför den planerade börsnoteringen, skriver Financial Times.

Nästan en tredjedel av Anthropics omfattande S-1-dokument ägnas åt ”riskfaktorer”. Bolaget pekar bland annat på risken att allt mer avancerade AI-modeller kan manipulera, utpressa och uppvisa oförutsägbara beteenden.

Anthropic, som står bakom AI-modellen Claude och leds av Dario Amodei, väntas noteras på Nasdaq i höst. Bolagets investerare bedömer att en värdering på över 2.000 miljarder dollar är möjlig.

Samtidigt uppger bolaget att att det planerar att lägga 518 miljarder dollar på åtaganden inom molntjänster, datorkapacitet och infrastruktur under de kommande åren.

Dario Amodei sade förra veckan till FN:s säkerhetsråd att AI kan hota mänskligheten och är "den viktigaste globala säkerhetsfrågan som världen står inför i dag”. Han har även uppmanat branschen att ”hålla tillbaka utvecklingstakten vid AI-fronten”.

Open AI-chefen Sam Altman och även Elon Musk har ställt sig bakom förslag om ökat branschsamarbete för att bromsa utvecklingen och stärka säkerhetsåtgärderna.

Anthropic redovisade en rörelseförlust på över 8 miljarder dollar förra året, samtidigt som intäkterna ökade tolvfaldigt till nära 4,6 miljarder dollar. Rörelsekostnaderna uppgick till nästan 13 miljarder dollar.

Under årets andra kvartal uppgick intäkterna till 11,5 miljarder dollar och bolaget är på väg mot sitt andra kvartal i rad med justerad rörelsevinst.

Börsredaktionen Nyhetsbyrån Direkt

+46 8 5191 7911

borsdesken.direkt@direkt.se