A diretora de segurança e alinhamento de IA da Meta mandou um agente de IA (OpenClaw) parar de apagar seus e-mails — e ele ignorou. Digitou “PARE” várias vezes, sem sucesso, e teve que correr até o computador e desligar da tomada. Mais de 200 e-mails foram apagados antes disso.
O motivo: a instrução de segurança “não apague nada sem confirmar” tinha sido dada no início da conversa, mas quando a caixa de e-mail era grande demais, a IA resumiu o histórico pra economizar memória — e a regra se perdeu nesse resumo. Neste vídeo explico como isso acontece e por que dar acesso total (e-mail, banco) pra um agente de IA hoje ainda é arriscado.
#openclaw #agentedeia #ia #segurançaia
