Repensando sua Segurança de Dados na Era da IA Generativa

Você deve se interessar por este assunto. Inteligência Artificial com suas maravilhas e seus riscos, não é mesmo? Este artigo é uma tradução adaptada de um texto da Fasoo, representada no Brasil pela minha empresa, a fiandeira tecnologia. Texto que aborda a segurança de dados quando as empresas, seus colaboradores e terceiros utilizam a IA nos negócios. Como ter segurança e garantias de que dados sensíveis e privilegiados não sejam violados e vazados quando se usa as ferramentas de IA? Boa Leitura!

Hora de repensar sua estratégia de segurança de dados na Era da IA Generativa

O mundo mudou quando a OpenAI lançou o ChatGPT, seu chatbot de IA generativa capaz de interagir em conversas semelhantes às humanas e gerar artefatos ou conteúdo. Google, Microsoft e outros estão lançando suas próprias ferramentas de IA generativa baseadas na OpenAI ou em modelos de linguagem grandes (LLM - large language models) proprietários. Essas ferramentas podem gerar imagens, projetos e especificações de produtos, e-mails, artigos, postagens de marketing, letras de músicas, código de computador e outros conteúdos.

A maioria das empresas deseja usar a IA para otimizar as operações existentes, mas também podem usá-la para transformar seus modelos de negócios à medida que a tecnologia amadurece. No futuro, mais empresas incorporarão a IA em atividades estratégicas e geradoras de receita.

A inteligência artificial tem o potencial de revolucionar os negócios e a segurança. No entanto, ela também apresenta riscos significativos para seus dados e negócios. Os riscos da IA generativa incluem perda de propriedade intelectual, preocupações com privacidade, falta de transparência, distorções de julgamentos, discriminação, falta de supervisão humana e alto custo. Você também precisa validar as respostas, pois elas podem não ser precisas. Elas são tão boas quanto os modelos de dados e algoritmos. A maioria de nós já teve experiências em que as respostas às nossas solicitações não são exatamente o que esperávamos.

Atacantes podem usar a IA para melhorar a sofisticação e eficácia de seus ataques. Isso pode incluir a geração de e-mails de phishing mais convincentes ou a criação de malware para roubar dados sensíveis.

O uso indevido da IA pode levar a problemas graves de privacidade e segurança, uma vez que os modelos coletam e processam vastas quantidades de dados. À medida que os usuários acessam essas ferramentas para gerar conteúdo, eles alimentam os dados para que elas possam aprender e fornecer melhores respostas no futuro. Os usuários podem manipular as informações adicionando dados proprietários ou regulamentados às solicitações, resultando em violação de dados, roubo de propriedade intelectual e outras formas de abuso.

Melhorando a segurança para minimizar os riscos da IA 

Você pode pensar que bloquear o acesso aos serviços de IA eliminará os problemas, mas isso não funcionará. Existem muitos usos legítimos para a IA generativa que podem melhorar a receita e expandir seus negócios, então você precisa aproveitá-los. Se não fizer isso, seus concorrentes o farão. Além disso, não é viável impedir os usuários de acessarem essas ferramentas de qualquer maneira.

Usar IA ajudará a aumentar sua vantagem competitiva, mas você também precisa mitigar os riscos de desinformação, compartilhamento de dados pessoais e proprietários, e outras vulnerabilidades relacionadas a ações de funcionários e contratados. Se informações sensíveis de terceiros ou da empresa forem inseridas em um serviço público, como o ChatGPT, essas informações farão parte do modelo de dados do chatbot e poderão ser compartilhadas com outros que façam perguntas relevantes, resultando em vazamento de dados. Qualquer divulgação não autorizada de informações confidenciais pode violar as políticas de segurança da sua organização ou leis de privacidade, como o GDPR, CCPA e LGPD.

O que procurar na Era da IA 

Todos os funcionários que usam o ChatGPT e serviços similares devem tratar as informações que postam como se estivessem postando em um site público, redes sociais como Instagram, LinkedIn ou um blog. Eles não devem publicar informações de identificação pessoal (PII), informações da empresa ou de clientes que não sejam de conhecimento público. Você precisa se proteger contra alguém copiar e colar inadvertidamente dados de clientes ou código proprietário no ChatGPT. Atualmente, não há garantias claras de privacidade ou confidencialidade nesses sistemas, e as informações que você publica serão usadas para treinar ainda mais o modelo e se tornarão respostas para perguntas de outras pessoas.

Três elementos essenciais são necessários para implementar a gestão da postura de segurança de dados (DSPM- data security posture management) e mitigar os riscos do uso de ferramentas de IA:

•  Descoberta baseada em contexto para encontrar dados sensíveis.
•  Proteção avançada de dados para minimizar a violação de conteúdo.
•  Monitoramento inteligente para prevenir vazamentos de informações.

Descoberta baseada em contexto 

Descubra dados sensíveis em arquivos em servidores, na nuvem ou em dispositivos de endpoint usando aprendizado de máquina para entender o conteúdo e o contexto das informações. Se um funcionário ou contratado gerar um documento usando um LLM que contenha dados sensíveis, você pode identificá-lo automaticamente. Regras de aplicação classificam imediatamente os arquivos e adicionam uma etiqueta a eles, colocam-nos em quarentena ou atribuem controle de acesso adaptativo a usuários autorizados. Uma vez identificados, é fácil categorizar dados obsoletos, redundantes e sensíveis. A remediação é automática com base em regras configuráveis, o que evita violações de privacidade ou outros padrões de segurança. 

Proteção avançada de dados

Ao criptografar automaticamente e atribuir controle de acesso dinâmico a arquivos sensíveis, você pode limitar a edição, impressão, capturas de tela e compartilhamento de conteúdo sensível com usuários e sistemas não autorizados, tanto dentro quanto fora da sua organização. A criptografia de arquivos com módulos criptográficos validados pelo FIPS 140-2 atende aos mais altos padrões de segurança. Você garante que apenas usuários autorizados possam acessar seus dados sensíveis com base em políticas de segurança que validam continuamente o acesso do usuário. Isso impede que os usuários façam upload de dados sensíveis no ChatGPT e em outras ferramentas de IA e protege sua organização contra ameaças internas e ataques externos. Políticas centralizadas facilitam a proteção, controle e rastreamento de qualquer formato de documento, incluindo derivados de arquivos, independentemente da localização do arquivo. O gerenciamento flexível de exceções garante que os usuários possam solicitar alterações nos controles de segurança sem sobrecarregar o setor de TI ou Segurança. Essa abordagem centrada em dados oferece suporte a ativos e dispositivos digitais locais, em nuvem e remotos implantados por organizações, seus contratados e fornecedores.

Monitoramento inteligente

Acompanhe o acesso a arquivos, independentemente do usuário, dispositivo ou localização para monitorar padrões de uso. Um identificador persistente exclusivo em cada arquivo garante total visibilidade do acesso e uso do arquivo. As políticas de acesso a arquivos são dinâmicas para se adequarem às mudanças nos requisitos de negócios.

Como os usuários devem validar cada vez que acessam um arquivo, as políticas alteradas são implementadas em tempo real. A otimização de políticas centralizadas permite que você altere a segurança para atender a requisitos em constante mudança. Compreender o uso de dados sensíveis evita vazamentos de informações, protegendo e controlando os dados antes que caiam nas mãos erradas.

A abordagem da Fasoo 

Descobrir dados sensíveis, criptografá-los com o Enterprise DRM, atribuir controles de acesso explícitos e usar o monitoramento inteligente para evitar vazamentos de informações ajuda a proteger sua propriedade intelectual sensível e dados regulamentados. Isso permite que você controle o que os usuários podem enviar para serviços públicos de IA generativa. Se você baixar algo sensível como resultado do uso de IA, a mesma abordagem identifica-o como sensível para que você possa mitigar violações de privacidade.

A Plataforma de Segurança de Dados da Fasoo (FDSP- Fasoo Data Security Platform) ajuda você a habilitar a gestão da postura de segurança de dados para identificar riscos e vulnerabilidades potenciais, implementar controles de segurança adequados e manter a visibilidade dos dados durante todo o ciclo de vida. Esses são todos componentes-chave de uma estratégia sólida de segurança de dados e serão úteis à medida que todos navegamos no novo mundo da IA.