Por Fábio Mucci* – A adoção de Inteligência Artificial por empresas dobrou nos últimos cinco anos globalmente, com CEOs afirmando que enfrentam pressão significativa de investidores, credores e mercado, para acelerar a adoção da IA generativa. Isso se deve em grande parte à percepção de que cruzamos um novo limiar em relação à maturidade da tecnologia, introduzindo um novo espectro de possibilidades e benefícios econômicos para a sociedade.
Muitas empresas têm sido desafiadas em apostar tudo na IA, devido a incógnitas específicas dentro da tecnologia que corroem a confiança de implementá-la. E a segurança é geralmente vista como uma dessas incertezas. Como garantir que essa tecnologia transformadora esteja protegida contra ciberataques, seja na forma de roubo, manipulação e vazamento de dados, ou ataques de evasão, extração e inferência? A corrida global para estabelecer uma liderança em IA, seja entre governos, mercados ou setores empresariais, tem gerado pressão e urgência para responder a essa pergunta. Por isso, trago abaixo alguns insights que podem auxiliar neste novo desafio.
Muito além da proteção de modelos e dados
É importante entender que a segurança da IA vai além de proteger a tecnologia em si. Em outras palavras, para garantir a segurança neste caso, não estamos limitados apenas aos modelos e dados. Também devemos considerar o conjunto de aplicativos e processos empresariais na qual a IA está incorporada como um mecanismo defensivo, estendendo as proteções dentro dela. Da mesma forma, como a infraestrutura de uma organização pode atuar como um vetor de ameaça capaz de fornecer acesso aos modelos de IA, devemos garantir que todo o ambiente também esteja protegido.
Infraestrutura – uma camada de defesa fundamental
A infraestrutura de uma organização é a primeira camada de defesa contra ameaças aos modelos de IA. Garantir que controles adequados de segurança e privacidade estejam incorporados à toda infraestrutura de TI que envolve a IA é fundamental. Esta é uma área em que a indústria já possui uma vantagem significativa: temos o know-how e a experiência necessários para estabelecer padrões ideais de segurança, privacidade e conformidade nos ambientes complexos e distribuídos de hoje, mas é importante reconhecermos essa missão diária, como um habilitador para a tecnologia segura.
Jornada da tecnologia com diretrizes
Embora os requisitos de gerenciamento do ciclo de vida da IA ainda estejam em evolução, as organizações podem aproveitar as diretrizes existentes para ajudar a garantir a segurança da jornada de IA. Por exemplo, a transparência e a explicabilidade são essenciais para evitar preconceitos, viés e uso de dados maliciosos ou que foram violados, motivos pelos quais os adotantes de IA devem estabelecer protocolos para auditar os fluxos de trabalho, os dados de treinamento e os resultados para precisão e desempenho dos modelos.
Governança ao longo do ciclo de vida da IA
Garantir a segurança da IA requer uma abordagem integrada para construir, implantar e governar projetos. Isso significa construir a tecnologia com governança, transparência e ética que atendam às demandas regulatórias também. À medida que as organizações exploram a tecnologia, elas devem avaliar as políticas e práticas de fornecedores de código aberto em relação aos seus modelos e conjuntos de dados de treinamento, bem como o estado de maturidade das plataformas de IA.
Dicas para uma implementação segura
À medida que a adoção da IA se expande e as inovações evoluem, as orientações de segurança também amadurecerão. Abaixo, compartilhamos melhores práticas para ajudar as organizações a se prepararem para a implantação segura da IA em seus ambientes:
1. Alavanque a IA confiável avaliando as políticas e práticas dos seus fornecedores;
2. Habilite o controle de acesso seguro a usuários, modelos e dados;
3. Proteja modelos de IA, de dados e infraestrutura contra ataques e violações;
4. Implemente proteção de privacidade de dados, já nas primeiras fases de treinamento, teste e operações;
5. Incorpore a modelagem de ameaças e violação de dados, nas práticas de codificação segura do ciclo de vida da IA;
6. Realize detecção e resposta a ameaças para aplicações e infraestrutura que se utilizam da IA;
Tais práticas fornecerão uma estrutura sólida para abordar os desafios de segurança da IA e protegerão os modelos e dados valiosos em um mundo cada vez mais orientado por essa tecnologia.
*Fábio Mucci é líder de IBM Security Technology Brasil
