Topchefen for det amerikanske selskab Anthropic, Dario Amodei, vil have sænket hastigheden i udviklingen af modeller baseret på kunstig intelligens, AI.

Det skriver han i et indlæg på sin hjemmeside lørdag.

Udmeldingen kommer efter advarsler fra to Anthropic-ansatte i den forgangne uge om, at teknologien er en trussel mod menneskeheden.

- Vi er nødt til at sænke tempoet for, hvor hurtigt vi forbedrer AI-modellers evner, skriver han.

Amodei giver flere grunde til sin advarsel.

Som det første henviser han til såkaldt "rekursiv selvforbedring", hvor AI-modeller er med til at bygge næste generation af AI.

Det har ifølge ham siden denne sommer ført til hastige udviklinger inden for AI.

- Hvis det overlades til sig selv, kan det løbe fra vores evne til at forstå og kontrollere disse systemer, og det skal derfor forfølges med stor omtanke - hvis overhovedet, skriver han.

RITZAU