Så kör ni AI-agenter på ett säkert sätt

Grundprinciper

• Minsta möjliga behörighet för varje agent
• Skilj data från instruktioner
• Gränser för steg, tid och kostnad
• Godkännande av oåterkalleliga åtgärder
• Fullständigt spår med beställarens identitet

Instruktionsinjektion

Externt innehåll – mejl, webbsidor, dokument – kan innehålla instruktioner riktade till agenten. Behandla det som data, begränsa vilka verktyg som finns tillgängliga i uppgifter som bygger på sådant innehåll och kräv godkännande för åtgärder som kan röja data eller ändra något.

Tester före driftsättning

Testmängden ska omfatta vanliga ärenden, gränsfall och försök till missbruk. Testerna upprepas vid varje byte av modell, instruktioner eller verktyg, och resultaten sparas så att förändringar kan jämföras över tid.

Incidenthantering

Det ska gå att omedelbart stänga av en agent eller ett verktyg. Därefter säkras loggarna, påverkan bedöms och vid en personuppgiftsincident görs anmälan till IMY inom den tid dataskyddsförordningen kräver. Först efter åtgärd och nya tester startas agenten igen.

Granskning av behörigheter

Kontrollera varje kvartal att agenterna fortfarande behöver sina behörigheter, att de har en ägare och att agenter som inte används har stängts av.

Krav på leverantörer

Fråga leverantörer av agentplattformar var data och loggar behandlas, hur behörigheter från källsystemen bevaras, om verktygsanrop kan begränsas per agent och hur snabbt en agent kan stängas av vid en incident.