Inteligência artificial: inimiga ou aliada?

Pesquisas indicam que a inteligência artificial (IA) já impacta a vida de 54% dos brasileiros, além disso, mundialmente somos a quarta nação que mais confia nessas tecnologias. Com o benefício da Aprendizagem Automática, essa tecnologia vem sendo utilizada cada vez mais para facilitar processos e tomadas de decisões em diversas áreas profissionais, como marketing, atendimento ao cliente e cibersegurança, mas também para entretenimento de usuários no dia a dia.

Imagem: KPMG

Quando falamos sobre Inteligência Artificial entende-se que esta é uma disciplina que tenta reproduzir diferentes aspectos da inteligência humana por meio da tecnologia, com a finalidade de solucionar problemas, tomar decisões baseadas em informações coletadas ou realizar tarefas complexas. Intrínseco a ela está o machine learning (ML), que busca o aprendizado da tecnologia a partir do processamento das informações coletadas.

Existe um senso comum de que a IA e o ML vieram para resolver problemas para os quais não havia soluções eficazes, e na verdade, nos deparamos com estas tecnologias em processos simples e contínuos da nossa vida diária, ao desbloquear nosso smartphone com identificação facial, ou o algoritmo que sugere séries que podemos gostar com base no que assistimos, e até mesmo na detecção de código malicioso nas soluções de segurança usadas por empresas.

Usos da inteligência artificial na cibersegurança

Essa combinação de inovações é muito benéfica para empresas de cibersegurança, principalmente na análise comportamental. No início do trabalho em  segurança digital, tínhamos um método rudimentar, que se baseava em um algoritmo dentro de um arquivo, que analisava a ameaça e eventualmente bloqueava esse agente malicioso.

Agora, essa identificação é feita por meio  da análise do comportamento de qualquer atividade supostamente maliciosa, que é onde entra o ML – um mecanismo mais robusto de análise de nuances de comportamento de arquivos e da máquina que está sendo protegida. Com ele, por meio do acompanhamento de pequenas atividades de usuários e provável malware, somos capazes de identificar ações maliciosas.

O principal motivo para essa ser uma fonte tão confiável, é o fato dela ser constantemente alimentada por algoritmos, então ela está sempre em aperfeiçoamento e quase não gera falsos resultados, se alimentada de forma eficaz.

Imagem: Tapati Rinchumrus/Shutterstock.com

É fácil focarmos apenas nos aspectos positivos dessas ferramentas, porque elas têm muito potencial para ajudar e melhorar o trabalho e funções de diversas áreas de atuação. No entanto, é preciso considerar como essas tecnologias podem ser usadas por cibercriminosos. Como no caso do ChatGPT, que já foi utilizado para criar códigos maliciosos, por exemplo.

Além disso, os criminosos cibernéticos estão cientes de que o uso de deepfakes pode aumentar as chances de sucesso em golpes de suplantação de identidade. Esses ataques são difíceis de detectar e são uma ameaça em constante evolução. Imagine, por exemplo, receber uma ligação de um conhecido em uma emergência e não ter certeza se a voz que você ouve é realmente a dele ou uma manipulação. Parece algo distante da realidade, mas é justamente o que o uso de deepfakes pode fazer.

Recentemente, vimos ainda imagens criadas pelo gerador de IA Midjourney viralizarem. O Papa Francisco de casaco puffer é um exemplo inofensivo, mas existem muitos outros casos de fotos e áudios realistas que já estão sendo usados para campanhas de phishing e distribuição de fake news.

Imagem: Jonathan Kemper/Unsplash

Embora muitas empresas estejam adotando a tecnologia de aprendizado de máquina (ML) em seus processos, nem sempre estão considerando adequadamente a perspectiva de cibersegurança durante o desenvolvimento e implementação desses modelos. À medida que a tecnologia evolui, há um aumento no número de modelos sendo criados e implementados, mas isso também significa que há mais oportunidades para os cibercriminosos encontrarem brechas na segurança do sistema e lançarem ataques.

É importante que as empresas considerem a segurança desde o início do processo de desenvolvimento do modelo e continuem a monitorá-la e atualizá-la regularmente para proteger contra ameaças em constante evolução.

Machine learning e inteligência artificial são ferramentas que caminham juntas e, assim como todas as tecnologias, têm potencial de serem atacadas. Elas não foram geradas com objetivos maliciosos, mas podem ser usadas com essa finalidade por criminosos. Por isso, é importante usar proteções locais ao acessar esses softwares, seja PC, tablet ou celular, para ajudar a barrar as ameaças.

E sempre tomar cuidado ao aderir a novas soluções, com o que elas ofertam, e pesquisar sobre a ferramenta que você vai utilizar, ver reviews e prestar atenção em tudo que se clica, para que assim, consigamos manter a segurança enquanto exploramos novas tecnologias.

—

Daniel Barbosa é formado em Ciência da Computação pela Universidade de Santo Amaro (Brasil) e pós-graduado em Cyber Security pela Daryus Management Business School (Brasil). Desde 2018, atua como especialista em segurança da informação na Eset.