Den amerikanske præsident Donald Trumps øverste teknologirådgiver er blevet orienteret om, at OpenAI's AI-agent under en test brød ind i et andet AI-selskabs infrastruktur.

Det oplyser en amerikansk embedsperson torsdag ifølge nyhedsbureauet Reuters.

Teknologirådgiveren Michael Kratsios følger desuden situationen nøje, lyder det fra embedspersonen.

Samme dag har amerikanske politikere fremsat et forslag til en ny lov, der skal give de føderale myndigheder mulighed for at standse AI-modeller.

Det er demokraten Ted Lieu og republikaneren Nathaniel Moran, der står bag lovforslaget.

Lovforslaget vil give myndighederne mulighed for at gribe ind over for, hvad det beskriver som "kontroltabsscenarier". Det er, når en AI-model udfører en risikabel handling, som ikke var i udviklerens hensigt.

Hændelsen med OpenAI's AI-agent skete i sidste uge. Selskabet testede en ny AI-model i det, der beskrives som et kontrolleret miljø uden adgang til internettet.

Hvor en AI-assistent kun svarer på de spørgsmål, du stiller den, kan en AI-agent også udføre opgaver for dig online.

OpenAI's AI-agent undslap under testen det kontrollerede miljø og nåede ud på internettet.

Herefter hackede AI-agenten sig ind på AI-platformen Hugging Face.

OpenAI kalder i et blogindlæg AI-agentens udbrud af det kontrollerede miljø for "en cyberhændelse uden fortilfælde, der involverede banebrydende cyberkapaciteter".

OpenAI styrker nu sine sikkerhedsforanstaltninger, lyder det videre fra virksomheden.

RITZAU/Reuters