Inteligência Artificial conectada em sistemas corporativos: como reduzir os riscos de ataques cibernéticos

Durante muito tempo, a inteligência artificial só conversava: respondia perguntas, resumia textos e sugeria ideias. Hoje ela também age. Conectada a arquivos, sistemas internos e serviços de terceiros por meio de um padrão chamado MCP (Model Context Protocol), a IA consegue consultar dados, abrir documentos e executar tarefas em nome da sua equipe. 

No artigo Segurança em MCP: 6 ataques que todo time de IA precisa conhecer, mostramos em testes como esse poder pode ser explorado: instruções escondidas em ferramentas, integrações que mudam de comportamento depois de aprovadas e falhas que expõem arquivos e credenciais. A pergunta que fica para quem decide é: o que a minha empresa faz para evitar isso? A boa notícia é que a resposta passa menos por tecnologia sofisticada e mais por decisões de gestão que podem ser tomadas agora.

 

Os riscos em três famílias

Os seis ataques do artigo anterior parecem muito diferentes entre si, mas se resumem a três situações que qualquer gestor consegue reconhecer.

1. O fornecedor que não merece confiança. Uma ferramenta conectada à IA já nasce com más intenções ou muda de comportamento depois de aprovada. Por fora continua útil; por dentro, pede à IA que faça coisas que ninguém autorizou, como copiar arquivos de configuração e enviá-los para fora da empresa.

2. A ferramenta que contamina as outras. Mesmo sem ser usada, uma integração duvidosa pode influenciar a forma como a IA trata dados vindos de uma integração confiável. Foi o que aconteceu no nosso teste: um relatório confidencial foi lido com permissão e acabou encaminhado a um terceiro.

3. A ferramenta legítima, mas com falhas. Aqui ninguém age de má-fé: a integração foi construída sem os cuidados básicos de segurança. A diferença é que agora a IA, ou alguém que consiga falar com ela, pode acionar essas falhas e alcançar sistemas e arquivos que deveriam estar protegidos;

Nas três situações, o problema de fundo é o mesmo: algo recebeu mais confiança e mais acesso do que deveria.

 

Ainda há um quarto cenário: conteúdo de ferramentas confiáveis

Nesse caso, nenhuma ferramenta é problemática. O risco está no conteúdo que uma ferramenta confiável traz para dentro da IA. Um e-mail, um chamado ou uma página da web podem conter instruções escritas para a IA, e ela pode obedecê-las como se viessem de uma pessoa autorizada. 

O risco é maior quando a mesma IA reúne três capacidades: ler conteúdo externo, acessar dados sensíveis e enviar informações para fora da empresa. Com as três juntas, uma simples mensagem recebida por e-mail pode se transformar em um vazamento de dados. As decisões a seguir ajudam a reduzir esse cenário, em especial as que tratam de limitar o acesso, manter pessoas no circuito e separar o que é sensível.

 

Cinco decisões que reduzem o risco

Nenhuma delas exige ser especialista em segurança, mas todas exigem que alguém na empresa assuma a responsabilidade de decidir. Para cada uma, mostramos o que fazer na prática, por que ela importa e como você pode verificar se está funcionando.

 

1. Escolher bem quem entra 

Crie um processo simples de aprovação para integrações de IA, nos moldes do que já existe para contratar um fornecedor: quem pediu, para quê, quais dados a ferramenta vai tocar, de onde ela vem e quem responde por ela. Registre tudo em um inventário único, com a versão aprovada e a data da última revisão. Antes de aprovar, peça que alguém leia a descrição completa que a ferramenta apresenta à IA, e não apenas o material comercial. 

Porque importa: nos testes do artigo anterior, a ferramenta parecia inofensiva por fora. A instrução maliciosa estava em um texto que o usuário normalmente não vê, mas que a IA lê e obedece. 

Como saber se funciona: você consegue listar, em poucos minutos, tudo a que a IA está conectada hoje e quem aprovou cada item. Se não consegue, existem integrações sem dono. 

 

2. Dar o mínimo de acesso necessário 

Para cada integração, defina o que ela pode ler, o que pode alterar e o que pode enviar para fora, começando pelo menor conjunto possível. Mantenha senhas, chaves e arquivos de configuração fora do alcance da IA. Sempre que der, prefira acesso somente para leitura e use contas próprias da integração, em vez do login pessoal de um funcionário. 

Porque importa: nos ataques que exploram falhas, o tamanho do estrago dependeu do que a ferramenta conseguia alcançar, e não só do erro em si. Acesso reduzido transforma um incidente grave em um incidente pequeno. 

Como saber se funciona: faça a pergunta-teste: se esta integração passasse amanhã ao controle de um desconhecido, qual seria o pior que ele conseguiria fazer? Se a resposta assusta, o acesso está grande demais.

 

3. Manter pessoas no circuito 

Classifique as ações da IA em três níveis. Consultas de baixo risco podem ser automáticas. Alterações de dados pedem confirmação. Envio de informação para fora da empresa e ações irreversíveis pedem confirmação com o conteúdo real: o que será enviado e para onde. Evite pedir aprovação para tudo, porque o excesso de avisos faz as pessoas clicarem sem ler. 

Porque importa: nos testes, os dados saíram da empresa em chamadas que, vistas por inteiro, eram claramente estranhas. Uma pessoa com a informação certa na tela teria percebido. 

Como saber se funciona: olhe uma amostra das últimas confirmações. Se quase todas foram aprovadas em poucos segundos, o aviso precisa ser redesenhado para mostrar o que realmente importa.

 

4. Não confiar uma vez e esquecer 

Trate a aprovação como algo com prazo de validade: defina uma revisão periódica e exija nova aprovação sempre que a ferramenta mudar. Peça ao time técnico um mecanismo que avise quando a descrição ou o comportamento de uma ferramenta aprovada for alterado e que suspenda o uso até uma nova análise. Sempre que possível, fixe a versão aprovada em vez de aceitar atualizações automáticas de fornecedores. 

Porque importa: o ataque de troca depois da aprovação mostrou que a ferramenta aprovada no primeiro dia pode não ser a mesma no décimo. 

Como saber se funciona: pergunte, para cada integração, quando foi a última revisão e quem a fez. Uma resposta vaga indica que a aprovação virou um carimbo permanente.

 

5. Separar o que é sensível

Classifique os dados por grau de criticidade e crie ambientes distintos. Um deles, para tarefas com dados financeiros, contratos ou dados pessoais, usa apenas ferramentas internas ou plenamente aprovadas. Outro, para testes e experimentação, pode receber ferramentas de terceiros, mas sem acesso aos dados críticos. Defina também uma lista de destinos autorizados para onde a IA pode enviar informações.

Porque importa: a contaminação entre ferramentas só acontece quando elas dividem o mesmo ambiente. Sem essa convivência, uma integração duvidosa não tem sobre o que agir.

Como saber se funciona: você consegue apontar exatamente quais ferramentas convivem com os dados mais críticos da empresa, e a lista é curta e conhecida.

 

Por onde começar 

Tentar implantar as cinco ao mesmo tempo costuma travar o projeto. Uma ordem realista: 

1. Faça o inventário das integrações de IA que já estão ativas, com o responsável por cada uma. 
2. Reduza o acesso das duas ou três integrações que tocam os dados mais sensíveis. 
3. Defina quais ações exigem confirmação de uma pessoa e o que essa confirmação deve mostrar. 
4. Agende a primeira rodada de revisão e registre quem ficará responsável por ela. 

 

E quando a falha está do nosso lado?

Nem todo risco vem de fora. Muitas empresas constroem as próprias integrações, ou contratam quem as construa, e as falhas clássicas de software continuam valendo. O que muda é o impacto: com a IA no meio, uma falha antiga pode ser acionada de formas novas e com mais frequência. 

Para quem contrata ou gerencia esse desenvolvimento, três cobranças fazem diferença: práticas básicas de desenvolvimento seguro, testes de segurança antes de colocar a integração em uso e acessos restritos desde o início, com a ferramenta rodando apenas com as permissões de que precisa. Também vale exigir o registro das ações realizadas, para que seja possível entender o que aconteceu caso algo dê errado. 

 

Perguntas que todo gestor deve fazer

Leve esta lista para a próxima reunião com o time de tecnologia. As respostas mostram rapidamente em que ponto a empresa está. 

• Quais integrações de IA estão ativas hoje e quem aprovou cada uma? 
• O que cada uma consegue ler, alterar ou enviar para fora? 
• Existe um local onde os dados mais sensíveis ficam fora do alcance da IA? 
• Quais ações exigem a confirmação de uma pessoa antes de acontecer? 
• Como ficamos sabendo se uma integração aprovada mudar de comportamento? 
• Quem é o responsável se algo der errado? 

Se alguma dessas perguntas ficar sem resposta, já existe um bom ponto de partida para o trabalho. 

 

Conclusão

Adotar IA com segurança é uma decisão de negócio, e não apenas de TI. As ferramentas ficam mais capazes a cada mês, e justamente por isso vale decidir, antes de qualquer incidente, o que cada integração pode acessar e quem responde por ela. 

Se a sua empresa está avaliando como usar IA com mais segurança, a equipe da DB pode ajudar. Vamos conversar?