Investigadores de Google Deepmind y científicos del Instituto para el Futuro de la Humanidad de la Universidad de Oxford han publicado un informe que lleva el título de "Safely Interruptible Agentes" en el cual se describe el protocolo para “tomar el control de un sistema cuyo comportamiento inadecuado pueda acarrear consecuencias irreversibles".
Este protocolo esta pensado para lugares como una fábrica cuyos robots sufran un error que ponga en peligro la integridad de la línea de producción y no sea posible ajustarlo por los procedimientos ordinarios. El protocolo está pensado para evitar que el sistema de inteligencia artificial intente ignorar o invalidar el comando de desactivación.
