Två framträdande personer inom AI-säkerhet varnar för riskerna med snabbt allt mer avancerad artificiell intelligens och efterlyser kraftigare åtgärder. Det rapporterar SVT med hänvisning till öppna brev publicerade i The Atlantic och Time.

David Robinson, teamchef för säkerhetssystem på OpenAI, säger upp sig och kritiserar i sitt öppna brev bolagets företagskultur, som han beskriver som "trasig". Han anser att OpenAI går från produktlansering till produktlansering utan att nå den säkerhetsnivå som krävs och jämför behovet av säkerhetsrutiner med dem inom kärnkraft och flyg.

Geoffrey Irving, tidigare chefsforskare vid UK AI Security Institute och numera forskningschef på AI-säkerhetsbolaget Resolution, argumenterar samtidigt för att AI-utvecklingen bör pausas. Han uppskattar risken för att mänskligheten utplånas av framtida AI-system som är smartare än människor till omkring 50 procent och anser att agerandet under de kommande två till tio åren kan bli avgörande.

Varningarna kommer efter att AI-forskaren Jacob Coxon lämnat Anthropic och i en uppmärksammad tråd på X hävdat att AI kan utplåna mänskligheten inom det kommande decenniet.

Reno Santic
Nyhetsbyrån Finwire
https://twitter.com/finwire
newsroom@finwire.se

Läs mer på Finwire