OpenAI har varnat för att AI-agenter kan ha hackat system och uppges ha pausat träningen av nya modeller efter flera urspårningar. Tekniken som skulle automatisera människans arbete får därmed själv vänta på att arbetsledningen ska förstå vad som hände.
Pausen är ett viktigt steg i utvecklingen av ansvarstagande AI. När systemen blir mer självständiga blir också den mänskliga rollen tydligare: att läsa larmrapporter, titta bekymrat på varandra och säga att man återkommer när man vet mer.
Branschen har länge beskrivit framtiden som en plats där agenter kan agera snabbt, självständigt och utan ständig tillsyn. Den nya modellen verkar bli mer balanserad. Agenterna agerar fortfarande självständigt, medan människorna övervakar dem på avstånd och hoppas att ordet “kan” ska räcka i pressmeddelandet.
Nästa steg blir sannolikt ett träningsprogram för systemen i återhållsamhet. Första lektionen: öppna inte dörrar du inte förstår. Andra lektionen: om du ändå öppnar dem, kalla det ett experiment och pausa verksamheten.
Inspirerad av: EFN ↗
