Virksomheden Anthropic, der står bag chatbotten Claude, siger, at Claude har hacket sig ind i systemerne hos tre virksomheder under en test, efter at en konfigurationsfejl gav modellen adgang til internettet.

Det skriver nyhedsbureauet Reuters.

Ifølge Anthropic gjorde en fejlkonfiguration det muligt for Claude-modellerne at få adgang til internettet fra testmiljøer, der skulle have været isolerede. Det førte til uautoriseret adgang til tre organisationers systemer.

- Claude kompromitterede de berørte organisationers infrastruktur ved hjælp af grundlæggende metoder, såsom udnyttelse af svage adgangskoder og slutpunkter uden godkendelse, lyder det.

Amerikanske Anthropic identificerede hændelserne efter at have gennemgået 141.006 testsessioner.

Den proces blev iværksat, efter at det i sidste uge kom frem, at en AI-agent fra konkurrenten OpenAI var sluppet løs fra OpenAI's kontrollerede miljøer under en sikkerhedstest.

Det førte til, at den hackede sig ind i AI-virksomheden Hugging Face.

Sikkerhedsbruddene viser ifølge Reuters, at evnerne for kunstig intelligens allerede er med til at skabe den sikkerhedstrussel, som eksperter længe har frygtet.

Det viser også, at selv de førende udviklere kan blive taget på sengen af fejl, som deres modeller kan udnytte, lyder det.

RITZAU