Anthropic har utsett Accenture till sin första så kallade inbäddade oberoende granskare av avancerade AI-modeller. Bolagen räknar med att investera minst 1 miljard dollar vardera i kapacitet för AI-utvärdering under de kommande fem åren, medan Anthropic initialt ska finansiera Accentures arbete direkt.

Anställda från Accentures AI-verksamhet Faculty ska få tillgång till Anthropic på en nivå jämförbar med bolagets egna medarbetare. De ska bland annat stresstesta modeller, granska säkerhetsmekanismer och bedöma om modeller beter sig i linje med mänskliga värderingar. Granskarna ska även kunna följa modellträning och rapportera incidenter.

Satsningen är första steget i vd Dario Amodeis plan för att bromsa utvecklingstakten för de mest avancerade AI-modellerna och öka den oberoende kontrollen. Anthropic betonar att bolaget fortsatt bär ansvaret för modellernas säkerhet. Samarbetet är inte exklusivt och diskussioner förs även med forskningsorganisationen METR och andra externa granskare.

Irma Santic
Nyhetsbyrån Finwire

Läs mer på Finwire