É recomendável evitar que agentes autônomos de IA sejam executados por períodos excessivamente longos. Particularmente, em casos de ciclos de feedback infinitos não intencionais, alterações no acesso a determinadas ferramentas ou mau funcionamento devido a falhas de projeto. Uma maneira de atingir esse objetivo é implementar a interruptibilidade.
Manter o controle dessa decisão envolve permitir que usuários humanos interrompam graciosamente uma sequência de ações ou toda a operação. Escolher se e quando interromper um agente de IA exige alguma reflexão, pois algumas interrupções podem causar mais danos do que benefícios. Por exemplo, pode ser mais seguro permitir que um agente com falhas continue auxiliando em uma emergência com risco de vida do que desligá-lo completamente.
Identificadores exclusivos de agentes – Para mitigar o risco de sistemas agênticos serem usados para fins maliciosos, identificadores exclusivos podem ser implementados. Se esses identificadores fossem necessários para que os agentes acessassem sistemas externos, seria mais fácil rastrear a origem dos desenvolvedores, implantadores e usuários do agente.
Essa abordagem adiciona uma camada essencial de responsabilização. A rastreabilidade ajuda a identificar os responsáveis quando um agente causa uso malicioso ou danos não intencionais. Em última análise, esse tipo de proteção promoveria um ambiente operacional mais seguro para agentes de IA.