Passo a passo do produto: Como a Reco Descobre a Shadow AI em SaaS

À medida que os provedores de SaaS correm para integrar a IA em suas ofertas de produtos para se manterem competitivos e relevantes, um novo desafio surgiu no mundo da IA: a IA sombra.

Shadow AI refere-se ao uso não autorizado de ferramentas de IA e copilotos em organizações. Por exemplo, um programador que utilize o ChatGPT para ajudar a escrever código, um vendedor que descarregue uma ferramenta de transcrição de reuniões com tecnologia AI ou uma pessoa de apoio ao cliente que utilize a Agentic AI para automatizar tarefas – sem passar pelos canais adequados. Quando essas ferramentas são usadas sem o conhecimento da TI ou da equipe de segurança, elas geralmente não possuem controles de segurança suficientes, colocando os dados da empresa em risco.

Desafios de Detecção de IA de Sombra

Como as ferramentas de IA de sombra geralmente se incorporam a aplicativos de negócios aprovados por meio de assistentes, copilotos e agentes de IA, elas são ainda mais difíceis de descobrir do que a TI de sombra tradicional. Embora os aplicativos de sombra tradicionais possam ser identificados por meio de metodologias de monitoramento de rede que examinam conexões não autorizadas com base em endereços IP e nomes de domínio, as ferramentas de monitoramento de sombra tradicionais podem ser usadas para identificar e gerenciar o uso de aplicativos de nuvem esses assistentes de IA podem voar sob o radar porque compartilham um endereço IP ou domínio com aplicativos aprovados.

Além disso, alguns funcionários utilizam ferramentas autônomas de IA vinculadas a contas pessoais, como instâncias pessoais do ChatGPT, para ajudar com tarefas relacionadas ao trabalho. Embora esses aplicativos de IA não estejam conectados à infraestrutura corporativa, ainda há o risco de que os funcionários insiram dados confidenciais neles, aumentando a chance de vazamentos de dados.

Riscos de segurança da Shadow AI

Como qualquer aplicativo de sombra, os aplicativos de IA de sombra expandem a superfície de ataque por meio de integrações e APIs não monitoradas.Eles geralmente são configurados com configurações fracas, como permissões excessivas, senhas duplicadas e sem identificação multifator (MFA), aumentando o risco de exploração e movimento lateral dentro da rede.

No entanto, as ferramentas de IA de sombra são ainda mais perigosas do que os aplicativos de sombra tradicionais devido à sua capacidade de ingerir e compartilhar informações. Um estudo descobriu-se que até 15% dos funcionários publicam dados da empresa em ferramentas de IA. Como os modelos GenAI aprendem com cada interação, há o risco de expor informações confidenciais a usuários não autorizados ou espalhar desinformação.

Como a Reco descobre a Shadow AI em SaaS

Reco, uma solução de segurança SaaS, usa a tecnologia de gráficos baseada em IA para descobrir e catalogar a IA de sombra. Veja como o Reco funciona:

Integração com o Active Directory: O Reco começa integrando-se ao Active Directory da sua organização, como o Microsoft Azure AD ou o Okta, para reunir uma lista de aplicativos e ferramentas de IA aprovados e conhecidos.
Análise de Metadados de Email: O Reco analisa metadados de e-mail de plataformas como Gmail e Outlook para detectar comunicações com ferramentas não autorizadas. Ele filtra aplicativos internos e e-mails de marketing e se concentra em indicadores de uso, como confirmações de conta e solicitações de download.
GenAI Módulo Correspondência: Usando um modelo proprietário e ajustado com base em interações e PNL, o Reco consolida e limpa a lista, combinando identidades com aplicativos e ferramentas de IA correspondentes. Em seguida, ele cria uma lista de todos os aplicativos SaaS e ferramentas de IA que estão sendo usados, quem os está usando e quais mecanismos de autenticação estão sendo usados.
Detecção de Aplicação de Sombra: Ao comparar essa lista com uma lista de aplicativos conhecidos e ferramentas de IA, o Reco produz uma lista de aplicativos não autorizados e ferramentas de IA sombra.

O que o Reco Pode Dizer Sobre as Ferramentas de IA da Sombra

Depois que o Reco produz a lista de ferramentas e aplicativos de IA sombra, o Reco pode responder a perguntas como:

Quais aplicativos SaaS estão atualmente em uso em toda a sua organização? Destes aplicativos, que estão utilizando assistentes de IA e copilotos?

O Reco inventaria todos os aplicativos em execução em seu ambiente que estão associados ao seu e-mail comercial. Ele cria uma lista de quem está usando o quê, como eles estão autenticando e produz registros de atividades para entender seu comportamento. Dessa forma, ele pode alertar para atividades suspeitas, como downloads excessivos, compartilhamento de arquivos externos ou alterações de permissão. Ele também fornece uma Pontuação de Risco do Fornecedor para que as equipes de segurança possam priorizar aplicativos mais arriscados.

Quais conexões app-to-app existem?

As aplicações SaaS não funcionam como ilhas. Você precisa entender como eles estão interagindo com outros aplicativos para gerenciar efetivamente o risco. O Reco mostra todas as integrações app-to-app descobertas em seu ambiente. Por exemplo, você pode ver se uma ferramenta de IA foi conectada a um aplicativo crítico para os negócios, como o Gmail ou o Snowflake, e quais permissões cada aplicativo de IA tem.

Quais identidades estão usando cada ferramenta de IA? Quais permissões eles têm e como eles estão autenticando?

Um dos principais desafios na segurança SaaS é a falta de centralização O gerenciamento de identidade – está espalhado por vários aplicativos. O Reco consolida identidades em todos os aplicativos SaaS para que você possa gerenciá-las a partir de um único console. Você pode investigar quais permissões cada identidade tem, como elas estão sendo autenticadas e se elas têm ou não privilégios de administrador. Quem não tem o MFA ativado? Quem tem permissões excessivas? Você pode criar funções e impor políticas que abrangem vários aplicativos.

Quais ações cada identidade tomou em aplicativos SaaS e AI e quando isso aconteceu?

A tecnologia de gráficos de conhecimento baseada em IA da Reco mapeia todas as aplicações SaaS descobertas–incluindo as identidades associadas a aplicações sancionadas e de sombra– de humanos e máquinas, seus níveis de permissão e ações. O gráfico de conhecimento, em seguida, procura mudanças nesses vetores ao longo do tempo. Se o gráfico indicar uma mudança dramática, o Reco alerta sobre uma anomalia. Por exemplo, se houver uma diminuição no engajamento do usuário, o Reco pode prever que o funcionário está planejando deixar a organização.

Descubra quais aplicativos de IA estão acessando dados confidenciais e quem os está usando. Em seguida, implemente políticas de governança e gerenciamento de acesso por meio da plataforma Reco.

O que o Reco não pode fazer para o Shadow AI Security

Como o Reco opera em uma capacidade sem agente e somente leitura, há certas limitações em seus recursos de segurança de IA sombra. Aqui está o que Reco não pode fazer:

Impedir a Entrada de Dados: O Reco não pode impedir que os usuários insiram dados confidenciais em ferramentas ou aplicativos de IA não autorizados.
Ferramentas de IA Block Shadow: O Reco não bloqueia ou desativa diretamente as ferramentas ou integrações do shadow AI, pois não interfere na funcionalidade do aplicativo.
Restringir o Comportamento do Usuário: Reco não pode impor políticas ou impedir que os usuários acessem ferramentas não aprovadas—it só pode detectar e alertar sobre a atividade.
Modificar Permissões: O Reco não pode alterar as permissões do usuário ou revogar o acesso às ferramentas de IA de sombra, pois ele só tem acesso somente leitura aos dados e não tem acesso de gravação a aplicativos SaaS.
Stop Integrações API: O Reco não pode impedir que ferramentas de IA sombra de terceiros se conectem por meio de APIs, mas pode identificar e alertar essas conexões.

Em última análise, o Reco é uma ferramenta de visibilidade e detecção. Ele não pode agir por si só, mas pode capacitar as equipes de segurança com o conhecimento necessário para tomar as medidas apropriadas no momento certo para reduzir os riscos.

Como o Reco Protege Continuamente Aplicativos SaaS e Ferramentas de IA

Depois que o Reco descobre todos os seus aplicativos de sombra e ferramentas de IA, faz inventário e os classifica, o Reco fornece segurança contínua para todo o ciclo de vida do SaaS. Reco entrega:

Gestão de postura e conformidade: O Reco identifica configurações incorretas que podem colocar seus dados em risco, como usuários com permissão excessiva, arquivos expostos publicamente, contas obsoletas e mecanismos de autenticação fracos. O recurso ‘Como corrigir’ fornece instruções sobre como limpar os riscos. Ele monitora continuamente as alterações de configuração que podem levar à exposição de dados via SaaS Security Posture Management (SSPM).
Identidades e Governança de Acesso: O Reco unifica identidades em seus aplicativos SaaS, permitindo o gerenciamento centralizado de permissões e funções. Ao analisar os níveis de permissão do usuário e os comportamentos dentro do seu ecossistema SaaS, o Reco fornece visibilidade das lacunas críticas de exposição que podem levar a uma violação.
Detecção e Resposta de Ameaças: O Reco fornece alertas em tempo real para atividades incomuns que podem indicar intenção maliciosa, como viagens impossíveis, downloads incomuns, alterações de permissão suspeitas ou tentativas repetidas de login com falha. Ele se integra ao seu SIEM ou SOAR para que as organizações possam remediar os riscos de SaaS de forma eficiente nos fluxos de trabalho existentes.

Fonte: https://thehackernews.com/