# Beephish – Gestão de Risco Humano

> Eduque, teste e monitore seus colaboradores contra phishing. +100.000 usuários treinados na plataforma brasileira de Gestão de Risco Humano.

Canonical: https://beephish.com/blog/shadow-ai-nas-empresas

A inteligência artificial generativa entrou no ambiente corporativo em uma velocidade muito maior do que a capacidade de muitas organizações criarem processos formais para governar sua utilização. Em pouco tempo, ferramentas de geração de texto, código, imagens, apresentações, análise de documentos e automação passaram a fazer parte da rotina de profissionais de praticamente todas as áreas.

O problema é que nem sempre essas ferramentas foram avaliadas ou aprovadas pelas áreas de Tecnologia, Segurança da Informação, Privacidade ou Compliance.

Um colaborador pode utilizar uma aplicação de IA para resumir um contrato, analisar uma planilha, revisar um código-fonte ou preparar uma apresentação sem perceber que está enviando informações corporativas para um serviço externo sobre o qual sua empresa possui pouca ou nenhuma visibilidade.

Esse fenômeno passou a ser conhecido como **Shadow AI** e representa uma evolução natural de um problema que as equipes de tecnologia conhecem há décadas: o Shadow IT.

A diferença é que, com inteligência artificial, não estamos falando apenas sobre a utilização de um software não autorizado. Estamos falando também sobre quais informações estão sendo enviadas, como elas serão processadas, quais integrações a ferramenta possui e, cada vez mais, quais ações sistemas baseados em IA podem executar em nome dos usuários.

## **O que é Shadow AI?**

Shadow AI pode ser definido como o uso de aplicações, modelos, APIs ou recursos de inteligência artificial sem conhecimento, avaliação ou aprovação formal da organização.

A própria Microsoft define Shadow AI como o uso de aplicações e ferramentas de IA generativa sem aprovação da área de TI e aponta riscos relacionados a vazamento de dados, violações de compliance e atividades não supervisionadas. A documentação atual já considera não apenas chatbots, mas também APIs de modelos, ferramentas de geração de código e servidores SaaS baseados em Model Context Protocol, o MCP. ([Microsoft Learn](https://learn.microsoft.com/en-us/entra/global-secure-access/concept-shadow-ai-discovery?utm_source=chatgpt.com))

O conceito, portanto, é mais amplo do que um colaborador acessando uma ferramenta de IA pública pelo navegador.

Uma extensão instalada no navegador pode incorporar IA. Uma plataforma SaaS já utilizada pela empresa pode adicionar funcionalidades generativas. Desenvolvedores podem consumir diretamente APIs de diferentes modelos. Aplicações podem conectar modelos de IA aos dados corporativos e novos agentes podem receber capacidade para consultar informações ou executar ações.

Essa diversidade torna o problema muito mais difícil de resolver apenas por meio de listas de sites permitidos e bloqueados.

## **Por que o Shadow AI representa um risco?**

O primeiro risco é provavelmente o mais evidente: **vazamento de informações**. Imagine um profissional que precisa analisar rapidamente um contrato de 80 páginas. Para economizar tempo, ele envia o documento para uma ferramenta pública de IA e solicita um resumo.

Do ponto de vista do usuário, aquela ação parece simples e produtiva. Para a área de segurança, porém, várias perguntas surgem imediatamente.

Que informações existiam naquele documento? O fornecedor está autorizado a processá-las? Onde esses dados serão armazenados? Por quanto tempo? Eles podem ser utilizados para algum outro propósito? Existem dados pessoais? Informações confidenciais? Propriedade intelectual?

O [NIST Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence) destaca justamente riscos relacionados a privacidade, segurança da informação, propriedade intelectual e utilização de terceiros e recomenda que organizações mantenham inventários de terceiros com acesso a conteúdos corporativos, listas de tecnologias aprovadas e processos de avaliação de fornecedores de IA. ([NIST](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence?utm_source=chatgpt.com))

Mas o risco não termina no conteúdo enviado.

Aplicações de IA podem receber permissões para acessar arquivos, calendários, repositórios de código, sistemas corporativos ou outros serviços SaaS. Em arquiteturas mais recentes, agentes podem até executar determinadas ações utilizando as permissões concedidas pelo usuário.

Nesse cenário, Shadow AI começa a se aproximar de problemas tradicionais de identidade, privilégios e segurança de aplicações.

[![](https://kvlbuwxkkllobkgvzsam.supabase.co/storage/v1/object/public/blog-content/inline/1780320814605-15vsqx.png)](#fale-com-especialista)

## **O primeiro desafio é descobrir o que já está sendo utilizado**

Antes de bloquear qualquer coisa, a organização precisa responder a uma pergunta básica:

**Quais ferramentas de IA estão realmente sendo utilizadas pelos nossos colaboradores?**

Essa resposta provavelmente será diferente da relação de ferramentas oficialmente aprovadas.

A descoberta pode começar pela análise de tráfego de rede, Secure Web Gateways, proxies, DNS, CASB e plataformas de descoberta de aplicações SaaS.

Soluções modernas já conseguem classificar especificamente aplicações de inteligência artificial. O Microsoft Entra Global Secure Access, por exemplo, possui funcionalidades de Shadow AI Discovery capazes de analisar tráfego para identificar aplicações generativas, APIs de provedores de modelos e servidores SaaS MCP. A plataforma também consegue apresentar usuários, volume de utilização, transferência de dados e indicadores de risco associados às aplicações encontradas. ([Microsoft Learn](https://learn.microsoft.com/en-us/entra/global-secure-access/concept-shadow-ai-discovery?utm_source=chatgpt.com))

Essa visibilidade é fundamental porque transforma uma discussão baseada em percepção em uma análise baseada em evidências.

Em vez de perguntar se alguém está utilizando IA sem autorização, a organização começa a entender quais aplicações são utilizadas, por quantas pessoas, com que frequência e qual volume de dados está sendo transferido.

## **Descobrir a aplicação não é suficiente**

Identificar que um usuário acessou uma ferramenta de IA representa apenas uma parte do problema.

Existe uma diferença significativa entre acessar um chatbot para perguntar como criar uma fórmula no Excel e enviar uma planilha contendo informações financeiras confidenciais.

Por isso, programas mais maduros precisam evoluir da **descoberta da aplicação** para a **compreensão da interação**.

Isso pode envolver ferramentas de Data Loss Prevention, classificação de informações, inspeção de conteúdo e mecanismos capazes de identificar quando informações sensíveis estão sendo copiadas, enviadas ou carregadas para aplicações externas.

A Microsoft, por exemplo, recomenda uma estratégia em etapas para proteção contra vazamento para Shadow AI: descobrir aplicações, bloquear ferramentas não autorizadas, impedir que informações sensíveis sejam enviadas mesmo para aplicações autorizadas e, posteriormente, governar e auditar as interações com IA. ([Microsoft Learn](https://learn.microsoft.com/en-us/purview/deploymentmodels/depmod-data-leak-shadow-ai-intro?utm_source=chatgpt.com))

Essa última parte é particularmente importante.

**Uma aplicação aprovada não significa que qualquer informação possa ser enviada para ela.**

Mesmo ferramentas oficialmente homologadas precisam estar sujeitas às políticas de classificação e proteção de dados da organização. A documentação do Microsoft Purview reforça esse princípio ao recomendar controles capazes de impedir que informações sensíveis sejam copiadas ou enviadas inclusive para aplicações de IA sancionadas. ([Microsoft Learn](https://learn.microsoft.com/en-us/purview/deploymentmodels/depmod-data-leak-shadow-ai-step3?utm_source=chatgpt.com))

## **Bloquear tudo dificilmente será uma estratégia sustentável**

Diante do crescimento do Shadow AI, uma reação compreensível das áreas de segurança é bloquear todas as ferramentas que não estejam formalmente aprovadas.

Em alguns ambientes ou para determinadas aplicações, isso pode ser necessário. Mas transformar o bloqueio em estratégia única cria outro problema.

Os usuários estão procurando ferramentas de inteligência artificial porque elas resolvem problemas reais. Ajudam a produzir textos, analisar informações, desenvolver software, pesquisar conteúdos e automatizar atividades que antes consumiam horas.

Se a organização simplesmente remover essas possibilidades sem oferecer alternativas, parte dos usuários procurará outros caminhos. O comportamento pode migrar para dispositivos pessoais, conexões externas ou novas aplicações ainda desconhecidas pela área de segurança.

Por isso, o processo deveria seguir uma lógica mais ampla:

**Descobrir → Avaliar → Autorizar → Proteger → Capacitar → Monitorar.**

A própria documentação técnica da Microsoft recomenda compreender o uso e os riscos antes das decisões de bloqueio e, quando determinadas aplicações forem permitidas, aplicar restrições de conteúdo compatíveis com o risco. ([Microsoft Learn](https://learn.microsoft.com/th-th/entra/global-secure-access/tutorial-internet-access-application-discovery?utm_source=chatgpt.com))

## **Aplicações, APIs, extensões e MCP ampliam o desafio**

Outro aspecto importante é que a próxima fase do Shadow AI será muito mais complexa do que simplesmente descobrir chatbots.

Desenvolvedores podem acessar modelos diretamente por APIs. Aplicações corporativas podem incorporar funcionalidades de IA sem que o usuário perceba. Extensões de navegador podem analisar páginas e documentos. Agentes podem interagir com diferentes serviços.

E o crescimento do **Model Context Protocol (MCP)** adiciona uma nova dimensão ao problema.

Servidores MCP permitem conectar modelos e agentes a diferentes ferramentas e fontes de dados. Isso cria possibilidades extremamente interessantes de automação, mas também amplia a necessidade de compreender quais servidores estão sendo utilizados, quais informações podem acessar e quais ações podem executar.

É significativo que soluções atuais de descoberta de Shadow AI já tenham começado a incluir servidores SaaS MCP entre os recursos monitorados. ([Microsoft Learn](https://learn.microsoft.com/en-us/entra/global-secure-access/concept-shadow-ai-discovery?utm_source=chatgpt.com))

Isso demonstra como rapidamente a discussão está deixando de ser apenas “qual chatbot meus funcionários utilizam?” para se transformar em “quais sistemas de IA estão conectados ao meu ambiente e o que eles conseguem fazer?”.

## **O papel da identidade**

Shadow AI também precisa ser analisado sob a perspectiva de identidade. Saber que determinada aplicação foi acessada é importante. Saber **quem acessou** muda completamente a análise de risco.

Um usuário com acesso limitado a informações públicas representa um cenário. Um administrador de sistemas, desenvolvedor com acesso ao código-fonte ou executivo com documentos estratégicos representa outro.

Por isso, a descoberta de Shadow AI ganha muito mais valor quando pode ser correlacionada com identidade, função, privilégios e contexto. Essa correlação permite que a organização priorize o tratamento com base em risco, em vez de simplesmente tratar todas as ocorrências da mesma maneira.

## **Tecnologia resolve apenas parte do problema**

Mesmo depois de implementar descoberta de aplicações, DLP, controles de acesso, classificação de dados e políticas de navegação, existe um elemento que continua sendo decisivo: a pessoa que utiliza a tecnologia.

Nem toda situação pode ou deve ser bloqueada automaticamente. Em algum momento, o colaborador precisará decidir se determinado documento pode ser utilizado, se uma informação é confidencial, se uma ferramenta é adequada para aquela atividade ou se determinada integração deve ser solicitada à área de TI.

É por isso que controles técnicos precisam estar conectados a uma política clara de utilização de IA e a um programa contínuo de capacitação.

O NIST AI RMF e seu perfil para IA generativa tratam governança de terceiros, tecnologias aprovadas, políticas de uso e gestão contínua de riscos como componentes importantes de uma estratégia de IA responsável. ([NIST AI Resource Center](https://airc.nist.gov/airmf-resources/playbook/govern/?utm_source=chatgpt.com))

A tecnologia consegue identificar e bloquear muitos comportamentos. Mas ela não substitui completamente a capacidade das pessoas de compreender o contexto e tomar decisões.

## **Shadow AI precisa ser tratado como um processo contínuo**

Criar uma lista de ferramentas autorizadas e realizar uma varredura uma vez por ano não será suficiente.

O ecossistema de inteligência artificial muda rapidamente. Novas aplicações surgem, plataformas existentes incorporam recursos generativos, novos modelos são disponibilizados e integrações que antes não existiam passam a fazer parte da rotina dos usuários.

Isso exige monitoramento contínuo.

As organizações precisam conhecer quais aplicações estão sendo utilizadas, avaliar seus riscos, observar mudanças no comportamento dos usuários e revisar periodicamente seus controles.

Mais importante ainda, precisam compreender por que determinadas ferramentas estão sendo procuradas.

Em muitos casos, o Shadow AI não é apenas um problema de segurança. Ele também é um sinal de que existe uma necessidade de negócio que as ferramentas oficialmente disponíveis ainda não conseguem atender.

## **Da descoberta para a gestão do risco**

Shadow AI demonstra muito bem por que segurança de IA não pode ser tratada exclusivamente como um problema tecnológico.

Descobrir quais ferramentas estão sendo utilizadas é um desafio técnico. Avaliar fornecedores e proteger informações exige controles técnicos. Monitorar aplicações e identidades também depende de tecnologia.

Mas compreender por que as pessoas utilizam essas ferramentas, oferecer alternativas adequadas e ajudá-las a tomar decisões seguras exige algo além. Exige governança, comunicação e capacitação.

A organização que simplesmente bloqueia Shadow AI pode reduzir temporariamente sua superfície de ataque. A organização que consegue descobrir, compreender, governar e influenciar esses comportamentos começa a tratar o problema como aquilo que ele realmente é: uma combinação entre risco tecnológico e risco humano.

E essa talvez seja uma das principais lições da segurança na era da inteligência artificial. Quanto mais poderosa a tecnologia se torna, mais importante passa a ser compreender como as pessoas escolhem utilizá-la.

## **Referências:**

[https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

[https://learn.microsoft.com/en-us/purview/deploymentmodels/depmod-data-leak-shadow-ai-intro](https://learn.microsoft.com/en-us/purview/deploymentmodels/depmod-data-leak-shadow-ai-intro)

[https://learn.microsoft.com/en-us/entra/global-secure-access/concept-shadow-ai-discovery](https://learn.microsoft.com/en-us/entra/global-secure-access/concept-shadow-ai-discovery)

---
Fonte: BeePhish — https://beephish.com