Inteligência artificial com viés afeta mais da metade das empresas brasileiras, aponta estudo

Uma das maiores preocupações em relação à inteligência artificial (IA) está relacionada a vieses e preconceitos herdados dos conjuntos de dados usados no treinamento da tecnologia, sem mencionar a possibilidade de envenenamento da IA que pode exacerbar ainda mais a característica tendenciosa. Com casos bem documentados, a dimensão do problema começa a tomar forma quando suposições incorretas vão sendo incorporadas à decisão de centenas de empresas pelo mundo.

Um estudo “Data Bias: The Hidden Risk of AI” (“Viés de dados: o risco escondido da IA”, em tradução livre) apontou que o cenário no Brasil é preocupante: 57% dos entrevistados afirmam sofrer com o viés de dados, 75% afirmam que precisam fazer mais para lidar com esse problema, e 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões.

Imagem: rawpixel.com/Freepik

Para a pesquisa, foram ouvidos mais de 640 profissionais de negócios e TI em todo o mundo, incluindo executivos brasileiros, que usam de dados para tomar decisões ou planejam usar IA e machine learning (ML) para apoiar tomadas de decisões.

Fora do Brasil, o viés representa uma consideração importante para 78% dos responsáveis pelas decisões corporativas — eles acreditam que isso se tornará uma preocupação ainda maior à medida que o uso de IA e ML se intensifica —, por outro lado, apenas 13% deles estão encarando esse problema com processo de avaliação contínuo.

Já para os líderes brasileiros de TI e negócios, a empolgação com a tecnologia praticamente anula qualquer tipo de preocupação relacionada a ela: para 96% deles, o uso de recursos de IA e ML tem potencial aumento das oportunidades de mercado; enquanto 92% acreditam que isso trará mais atratividade para o cliente e uma tomada de decisão mais eficaz; contra os casos bem documentados, 90% pensam que o uso de IA e ML ajudará a melhorar a diversidade e a inclusão.

Uso de inteligência artificial e machine learning: como tomadores de decisões encaram o viés de dados

Entre os principais riscos destacados pelos executivos brasileiros, caso o viés de dados não seja abordado adequadamente:

• 61% citaram possíveis danos à reputação e à credibilidade;
• 57% disseram estar preocupados com problemas de segurança e governança.

Outros problemas relacionados à questão também foram abordados pelos líderes:

• 47% disseram enfrentar escassez de ferramentas para identificar e mitigar o fenômeno;
• 45% sentem que não têm compreensão ou informação sobre práticas que poderiam evitar o viés de dados;
• 43% mencionaram a falta conscientização de possíveis enviesamentos.

Imagem: Mojahid Mottakin/Unsplash

Além disso, 80% dos executivos no Brasil acreditam que o papel da ética na automação de decisões se tornará mais importante e urgente nos próximos dois anos; enquanto 78% das organizações preveem se tornar ainda mais dependentes dessas tecnologias para a tomada de decisão nos próximos anos; e 71% disseram estar trabalhando para garantir a integridade dos conjuntos de dados com objetivo de evitar problemas viés de dados.

A pesquisa foi conduzida pela Insight Avenue e patrocinada pela empresa de software para desenvolvimento de aplicações Progress.

Via Convergência Digital