STOCKHOLM (Nyhetsbyrån Direkt) AI-utvecklaren Anthropics experiment tyder på att det kan dröja bara några månader innan små AI-modeller blir tillräckligt kapabla för att kopiera sig själva mellan internetanslutna enheter i hemmet, såsom smarta ugnar och Android TV-boxar från mindre kända tillverkare.

Det skrev bolaget i ett blogginlägg på måndagen, vilket är den senaste i raden av Anthropics varningar kring säkerhetsrisker med AI. Bolaget har genomfört olika tester för att undersöka om AI kan replikera sig självt.

Den så kallade AI-replikatorn skulle vara ”svår att stänga av”, skrev Anthropic, eftersom det inte finns någon central punkt där den kan stängas av.

"Till skillnad från traditionell skadlig kod utan AI skulle den också kunna identifiera och hantera okända enheter på egen hand. I våra utvärderingar lyckades en modell med 9 miljarder parametrar få inferens att fungera på 8 av de 9 hårdvarutyper vi testade", fortsätter blogginlägget.

Samtidigt uppgav Anthropic att det inte finns någon "fullständigt okontrollerbar" replikator ännu.

Chefer och forskare på Anthropic har vid upprepade tillfällen uppmärksammat de potentiella riskerna med allt kraftfullare AI. Vissa har efterlyst striktare skyddsåtgärder och åtgärder för att kontrollera takten i teknikens utveckling.

Börsredaktionen Nyhetsbyrån Direkt

+46 8 5191 7911

borsdesken.direkt@direkt.se