A era da IA ‘On-Device’: 2024 será o ano da inteligência artificial no dispositivo

Ao longo de 2023, a inteligência artificial (IA) ganhou crescente destaque na imprensa, nas redes sociais e na sociedade, consolidando seu papel como uma das principais tecnologias impulsionadoras da inovação.

A IA será a área mais importante da tecnologia em 2024, de acordo com levantamento recente do Institute of Electrical and Electronic Engineers (IEEE), que entrevistou 350 CIOs, CTOs, diretores de TI e líderes de tecnologia nos EUA, China, Reino Unido, Índia e Brasil em organizações com mais de 1.000 funcionários em vários setores.

A IA generativa tem sido a grande responsável por esse movimento, ao permitir o desenvolvimento de ferramentas como o ChatGPT e o Stable Diffusion, trazendo um novo patamar de personalização para a tecnologia. No entanto, as empresas já perceberam que a inteligência artificial generativa na nuvem, como ocorre em sua maioria hoje, é um modelo que traz desafios de custo, sustentabilidade e privacidade, que desafiam a popularização dessa tecnologia.

Imagem: Shutterstock.com

Inteligência artificial nativa no dispositivo

Nesse contexto, a IA generativa que roda no dispositivo (On-Device), ou seja, sem o uso da nuvem, tem despontado como a solução para escalonar a tecnologia. Entre os benefícios da IA On-Device estão a proteção da privacidade dos usuários, uma vez que as consultas e informações pessoais permanecem exclusivamente no dispositivo e não há a transferência de dados em várias plataformas e serviços em nuvem.

Outro ponto é a redução de custos, visto que o uso de nuvem demanda gastos operacionais cada vez maiores com provedores de serviços de nuvem e serviços de rede. Além disso, dispositivos de borda com processamento eficiente de IA conseguem oferecer um desempenho líder por watt, especialmente quando comparados com a nuvem, contribuindo com a questão da sustentabilidade.

Desta forma, as empresas de tecnologia já estão focadas no desenvolvimento de plataformas e tecnologias baseadas no processamento de IA no dispositivo. Um indicativo claro dessa tendência foram os anúncios da Qualcomm durante seu evento Snapdragon Summit, que trouxeram a IA On-Device em plataformas para PCs e smartphones, com avanços significativos de desempenho. A plataforma móvel, por exemplo, oferece suporte a modelos generativos de IA com até 10 bilhões de parâmetros no dispositivo. Outras empresas de tecnologia também fizeram anúncios com foco em IA On-Device, demonstrando a força da tendência para 2024.

Cada vez mais, os desenvolvedores poderão utilizar essas novidades para otimizar seus modelos de IA, criando inovações que levarão essa tecnologia a praticamente todos os dispositivos que utilizamos. Essas tecnologias avançadas farão parte de nosso cotidiano muito em breve, com alguns lançamentos de dispositivos esperados para meados de 2024. Para os apaixonados por inovação, a era da IA On-Device é uma fase animadora do avanço tecnológico que tornará a experiência dos usuários mais intuitiva e personalizada.

Allan Giangrossi é líder de marketing para América Latina da Qualcomm. O executivo possui mais de 20 anos de experiência em marketing no mercado de tecnologia, acumulando passagens por empresas do ramo de varejo, operadora de telefonia e OEMs.