A IA fortalece ou compromete a segurança digital?

Só no primeiro semestre desse ano, o Brasil foi o país mais visado em ataques cibernéticos da América Latina. Os criminosos não pouparam usuários comuns e nem empresas, chegando a marca de 23 bilhões de incidentes, de acordo com a empresa de cibersegurança Fortinet.

Imagem: Deemerwha studio/Shutterstock

O levantamento mostra que mais de 10 mil vulnerabilidades exclusivas apareceram nesse período, 68% a mais na comparação com 2018. No entanto, houve baixa de 75% no total de tentativas de ataque por organização, indicando que os bandidos estão se tornando mais seletivos e certeiros do que antes.

Isso acontece devido a vários fatores. Um deles é que estamos caminhando de maneira veloz e desbravando o mundo da tecnologia. Ao entrar em um território novo e até então não conhecido, precisamos de um tempo até entender o que nos deixa vulneráveis. Além disso, embora a Inteligência Artificial, do qual temos falando tanto, principalmente, sobre seus benefícios para a sociedade, também pode ser usada de maneira indevida dependendo de quem a controla.

Ou seja, do mesmo modo que conseguimos treinar as máquinas para automatizar diferentes área e deixá-las mais eficientes, os cibercriminosos também a usam para conseguir realizar seus crimes de maneira certeira.

Já observamos criminosos usando a IA para criar ameaças mais sofisticadas e personalizadas. Isso inclui ataques de engenharia social aprimorados, nos quais utilizam a tecnologia para criar mensagens convincentes e enganosas. Ou ainda os algoritmos podem ser treinados com viés humano, o que pode levar a discriminação em sistemas de segurança. Por exemplo, sistemas de reconhecimento facial com viés podem levar a erros e identificações incorretas.

E não para por aí. Se um invasor conseguir explorar uma vulnerabilidade em um sistema de IA de segurança, isso poderá comprometer a integridade de tudo. É possível também criar deepfakes e outras formas de falsificação de identidade, comprometendo a segurança ao enganar sistemas de autenticação.

Imagem: Сергей Катышкин/Pexels

Portanto, vale destacar que apesar de estarmos avançando com a tecnologia, isso não quer dizer que estamos pisando em solo seguro. É necessário lidar ainda com diversos desafios que, ironicamente, é a IA que nos ajudará em enfrentá-los.

Aqui precisamos fazer um contraponto, já que a inteligência artificial também é a responsável por fazer com que a cibersegurança aconteça de maneira eficaz. Afinal, é ela que tem a capacidade de analisar enormes volumes de dados em tempo real e identificar padrões de atividade suspeita. Isso a torna uma ferramenta poderosa na detecção de ameaças cibernéticas avançadas que podem escapar dos sistemas tradicionais de segurança.

Outro ponto é que ela pode ser extremamente necessária na hora de identificar e bloquear e-mails de spam e ataques de phishing, o que ajuda a proteger os usuários contra fraudes e tentativas de roubo de dados. Além de monitorar o comportamento dos usuários para detectar atividades anormais, ajudando a prevenir acesso não autorizado a contas e sistemas.

Portanto, quando me perguntam se a IA compromete ou protege contra ameaças cibernéticas, preciso dizer que a resposta não é tão simples assim. No entanto, ficar longe da inteligência artificial e viver como se ela nunca tivesse existido pode ser ainda muito pior.

Afinal, a IA tem o potencial de fortalecer significativamente a segurança digital quando usada de maneira responsável. Mas a falta de supervisão adequada e a má utilização podem comprometer a segurança. Olhando para esse cenário, fica claro que para a IA ser uma aliada confiável na proteção de nossos sistemas e dados digitais é preciso de um esforço global.

—

Alessandra Montini é diretora do LabData da FIA – Laboratório de Análise de Dados; consultora em Projetos de Big Data e Inteligência Artificial, Professora de Big Data; Inteligência Artificial e Analytics; professora da Área de Métodos Quantitativos e Informática da FEA; Coordenadora do Grupo de Pesquisa do CNPQ: Núcleo de Estudo de Modelos Econométricos e Núcleo de Estudo de Big Data; e parecerista do CNPQ e da Fapesp.