OpenAI anlitar fyra oberoende aktörer för säkerhetsgranskning
Idag, 06:23
Idag, 06:23
OpenAI har tecknat avtal med Apollo Research, METR, Transluce och Goodfire om oberoende granskningar av bolagets AI-modeller och säkerhetssystem.
Aktörerna får tillgång till interna modeller, träningsdata och övervakningssystem för att undersöka risker, brister i säkerhetsåtgärder och oönskat modellbeteende, uppger OpenAi.
Apollo Research ska bland annat undersöka om modeller kan agera i strid med utvecklarnas avsikter utan att upptäckas. Goodfire fokuserar på modellernas interna funktioner, medan METR och Transluce ska utvärdera modellbeteende respektive säkerhetstester.
Granskningarna ska delvis offentliggöras och väntas följas av mer omfattande utvärderingar under 2027.
Amila Ceranic
Nyhetsbyrån Finwire
Idag, 06:23
OpenAI har tecknat avtal med Apollo Research, METR, Transluce och Goodfire om oberoende granskningar av bolagets AI-modeller och säkerhetssystem.
Aktörerna får tillgång till interna modeller, träningsdata och övervakningssystem för att undersöka risker, brister i säkerhetsåtgärder och oönskat modellbeteende, uppger OpenAi.
Apollo Research ska bland annat undersöka om modeller kan agera i strid med utvecklarnas avsikter utan att upptäckas. Goodfire fokuserar på modellernas interna funktioner, medan METR och Transluce ska utvärdera modellbeteende respektive säkerhetstester.
Granskningarna ska delvis offentliggöras och väntas följas av mer omfattande utvärderingar under 2027.
Amila Ceranic
Nyhetsbyrån Finwire


1 DAG %
Senast
OMX Stockholm 30
−0,44%
(vid stängning)
SCA
Igår, 16:14
Pensionsjätten säljer SCA för miljarder
OMX Stockholm 30
1 DAG %
Senast
3 341,95