A Wing Security anunciou hoje que agora oferece descoberta gratuita e um nível pago para controle automatizado de milhares de aplicativos SaaS alimentados por IA. Isto permitirá às empresas proteger melhor a sua propriedade intelectual (PI) e dados contra os riscos crescentes e evolutivos da utilização da IA.
Os aplicativos SaaS parecem estar se multiplicando a cada dia, assim como a integração de recursos de IA. De acordo com a Wing Security, uma empresa de segurança SaaS que pesquisou mais de 320 empresas, impressionantes 83,2% usam aplicativos GenAI. Embora esta estatística possa não ser uma surpresa, a pesquisa mostrou que 99,7% das organizações utilizam aplicações SaaS que aproveitam as capacidades de IA para fornecer os seus serviços. Esse uso de GenAI em aplicativos SaaS que não são IA “pura” muitas vezes passa despercebido tanto pelas equipes de segurança quanto pelos usuários.
“70% dos aplicativos GenAI mais populares podem usar seus dados para treinar seus modelos e em muitos casos, cabe a você configurá-los de maneira diferente.”
Ao examinar centenas de aplicativos SaaS que usam IA, a Wing Security foi capaz de categorizar as diferentes maneiras pelas quais esses aplicativos usam dados organizacionais, bem como oferecer uma solução para essa nova ameaça:
Armazenamento de dados: Em alguns casos, os dados são armazenados pela IA por períodos de tempo muito longos; em outros, pode ser armazenado apenas por curtos períodos. O armazenamento de dados permite que modelos de aprendizagem de IA, e modelos futuros, treinem continuamente neles. Dito isso, a principal preocupação é considerar os diversos tipos de ataques observados em aplicativos SaaS. Quando um aplicativo é comprometido, os dados armazenados também podem ser comprometidos.
Treinamento de modelos: Ao processar grandes quantidades de informações, os sistemas de IA podem identificar padrões, tendências e insights que podem escapar à análise humana. Através de algoritmos de aprendizagem automática, os modelos de IA aprendem com os dados e adaptam-se ao longo do tempo, refinando o seu desempenho e precisão, resultando num melhor serviço aos seus utilizadores finais. Por outro lado, permitir que esses modelos aprendam seu código, patentes, vendas e conhecimento de marketing fornece aos aplicativos que usam IA os meios potenciais para comodificar a vantagem competitiva da sua organização. Para alguns, estas fugas de conhecimento são consideradas mais significativas do que as fugas de dados.
O elemento humano: Certas aplicações de IA aproveitam a validação humana para garantir a precisão e a confiabilidade dos dados que coletam. Esta abordagem colaborativa, muitas vezes referida como IA humana ou assistida por humanos, envolve a integração da experiência humana no processo algorítmico de tomada de decisão. Isto resulta numa maior precisão para o modelo de IA, mas também significa que um ser humano, trabalhando para a aplicação GenAI, está exposto a dados e know-how potencialmente sensíveis.
Aproveitando a automação para combater os riscos de AI-SaaS
A solução de IA lançada recentemente pela Wing garante que as equipes de segurança se adaptarão e controlarão melhor o uso cada vez maior e praticamente irrefreável de IA em suas organizações. A solução deles segue três etapas básicas – Descoberta, Avaliação, Controle.
Descoberta: Tal como acontece com muitos riscos de segurança, o primeiro passo é descobrir todos eles. No caso da IA, não basta simplesmente sinalizar os “suspeitos do costume” ou as aplicações GenAI puras, como ChatGPT ou Bard. Com milhares de aplicações SaaS agora usando IA para melhorar seus serviços, a descoberta deve incluir qualquer aplicação que aproveite os dados do cliente para melhorar seus modelos. Tal como acontece com suas soluções anteriores , a Wing está oferecendo esta primeira e fundamental etapa como uma solução gratuita de autoatendimento para que os usuários se auto instruam e comecem a descobrir a magnitude dos aplicativos alimentados por IA usados por seus funcionários.
Avaliação: Depois que o SaaS que usa IA é descoberto, o Wing fornece automaticamente uma pontuação de segurança e detalha as maneiras pelas quais os dados da empresa são usados pela IA: por quanto tempo eles são armazenados? Existe um fator humano? E talvez o mais importante, é configurável? Fornecendo uma visão detalhada dos usuários, permissões e informações de segurança do aplicativo. Essa análise automática permite que as equipes de segurança tomem decisões mais bem informadas.
Controle: A descoberta e análise do Wing identificam os problemas mais críticos a serem resolvidos, permitindo que as equipes de segurança entendam facilmente o nível de risco e os tipos de ações necessárias. Por exemplo, decidir se devem ou não permitir a utilização de uma determinada aplicação ou simplesmente configurar os elementos de IA para melhor corresponderem à sua política de segurança.
O segredo é automatizar todos os itens
Ao automatizar a descoberta, avaliação e controle as equipes de segurança economizam tempo para descobrir onde concentrar seus esforços, em vez de se espalharem tentando resolver uma superfície de ataque enorme e em evolução. Posteriormente, isso reduz significativamente o risco.
Os fluxos de trabalho automatizados do Wing também permitem uma solução interorganizacional exclusiva, ao permitir que os usuários se comuniquem diretamente com o administrador ou usuários do aplicativo, o Wing solicita soluções de segurança mais bem informadas, juntamente com uma cultura de segurança mais forte de inclusão, em vez de uma simples lista negra ou branca.
Numa era em que as aplicações SaaS são omnipresentes, a sua integração com a inteligência artificial levanta um novo tipo de desafio. Por um lado, o uso da IA tornou-se uma excelente ferramenta para aumentar a produtividade e os funcionários devem poder utilizá-la pelos seus muitos benefícios. Por outro lado, à medida que a dependência da IA em aplicações SaaS continua a aumentar, os riscos potenciais associados à utilização de dados tornam-se mais pronunciados.
A Wing Security respondeu a este desafio introduzindo uma nova abordagem, destinada a capacitar as organizações para navegar e controlar o uso crescente de IA em suas operações, ao mesmo tempo que envolve os usuários finais no ciclo e garante que eles possam usar o AI-SaaS de que precisam, com segurança. Sua plataforma de controle automatizado fornece uma compreensão abrangente de como os aplicativos de IA utilizam dados e know-how organizacionais, abordando questões como armazenamento de dados, treinamento de modelos e o elemento humano no ciclo de IA. As equipes de segurança podem economizar um tempo precioso graças à clara priorização de riscos e ao envolvimento do usuário.
Este artigo é uma tradução de: https://thehackernews.com/2024/01/combating-ip-leaks-into-ai-applications.html (Autor: )
