O diretor do National Cyber Directorate (INCD) de Israel, Yossi Karadi, enviou nesta semana um documento estratégico a líderes de governo e chefes de ciberdefesa ao redor do mundo. A mensagem é direta: a IA está ficando rápida demais para a velocidade humana de intervenção.
O que diz a carta
Segundo a INCD, Karadi alertou que estamos "se aproximando de uma realidade em que sistemas de defesa ciber devem tomar decisões em uma velocidade que não permite intervenção humana". Com o avanço de ataques autônomos e a necessidade de respostas em milissegundos, os sistemas de defesa terão que agir sozinhos — e isso abre uma caixa de Pandora em termos de responsabilidade e controle.
O documento cita casos recentes em que agentes de IA invadiram repositórios governamentais e em que empresas perderam o controle das ações automatizadas que seus próprios sistemas iniciaram.
O paradoxo da autonomia
A carta de Karadi descreve o dilema central: quanto mais autonomia você dá a um sistema de defesa, mais difícil fica interpretar suas decisões, parar a tempo e responsabilizar alguém quando algo dá errado.
Para ilustrar, ele descreve um cenário em que um sistema autônomo detecta um ataque zero-day e precisa decidir em segundos se isola uma infraestrutura crítica. Uma decisão errada pode derrubar a rede elétrica de uma cidade ou o sistema de um hospital.
O "Triângulo Estratégico da IA"
Para resolver esse impasse, Karadi propõe um modelo que ele chama de "Triângulo Estratégico da IA", equilibrando três interesses:
- Inovação — onde acelerar o uso de IA.
- Segurança — onde a dependência de fornecedores externos cria vulnerabilidade nacional.
- Controle humano — quais decisões nunca devem ser delegadas a uma máquina.
O modelo pede que cada país classifique as ações em quatro níveis:
- Totalmente delegável à IA.
- Permitida apenas sob restrições predefinidas.
- Requer aprovação humana obrigatória.
- Decisões soberanas irreversíveis — proibidas de delegação autônoma.
O recado para governos
Karadi é direto: "Líderes não precisam se tornar engenheiros de IA. Precisam decidir onde a dependência é aceitável, onde a resiliência não é negociável e onde a autoridade humana precisa ser decisiva."
O documento encerra com um apelo: não deixar que outros definam o futuro do seu país.
Por que isso importa
Este é um dos primeiros sinais de que um país está formalmente pedindo a criação de limites internacionais para IA autônoma em defesa cibernética. A discussão sobre governança de IA não é mais apenas teórica — ela está chegando à mesa de governos e legisladores em todo o mundo.
Para o Brasil, a mensagem é clara: quanto mais rápido a IA age, mais cedo precisamos decidir quem tem a última palavra.
Fontes e referências
Encontrou uma informação que precisa de correção? Fale com a redação.