Lensa: o que você precisa saber antes de usar o aplicativo de IA

Nos últimos dois meses, aplicativos de fotos alimentadas por inteligência artificial (IA) têm se tornado virais nas redes sociais. Com uma variedade deles disponíveis nos repositórios oficiais da Apple e Google, alguns já conhecidos do público como FaceApp e FaceTune, notaram a fama de outro concorrente: o Lensa AI. Na AppStore, ele foi responsável por 22,2 milhões de downloads e um ganho de US$ 29 milhões desde o lançamento, em 2018, segundo informações da SensorTower. Embora seguir o hype seja um comportamento comum, inclusive nas mídias sociais, é sabido que imagens geradas por IA sempre levantaram preocupações relacionadas a questões de segurança e privacidade.

Tão rápido quanto à fama, uma análise da Apptopia aponta que tais aplicativos e seus respectivos recursos como avatares mágicos já não ocupa o topo da lista dos interesses dos usuários, no entanto, a exemplo do FaceApp, eles costumam retornar de tempos em tempos ressuscitados pelas redes sociais. Portanto, considerar algumas dicas de especialistas antes de subir fotos e gastar com recursos in-app (ainda) têm o seu valor.

• Política de Privacidade: leia sempre

Antes de começar a usar, reserve um minuto para consultar a política de privacidade e os termos de uso para compreender melhor o que o aplicativo faz com seus dados. “Temos que estar sempre atentos quando nossos dados biométricos estão sendo utilizados para qualquer finalidade. Estes são dados sensíveis. Devemos ter cuidado extra com a forma como esses dados estão sendo utilizados”, diz David Leslie, diretor de ética e pesquisa responsável em inovação do The Alan Turing Institute e professor da Queen Mary University of London.

Andrey Usoltsev, CEO e cofundador do Prisma Labs, afirmou que a empresa está trabalhando para atualizar a política de privacidade em um e-mail ao Wired. “O Lensa usa uma cópia do modelo Stable Diffusion e a ensina a reconhecer o rosto nas imagens carregadas em cada caso particular. Isso significa que existe um modelo separado para cada usuário individual”, escreve Usoltsev. “As fotos do usuário são apagadas de nossos servidores assim que os avatares são gerados. Os servidores estão localizados nos EUA”.

Embora seja impossível saber exatamente como uma empresa está usando e armazenando seus dados sem uma avaliação independente, esta afirmação é um movimento na direção certa. Com isso em mente, porém, os uploads são apenas uma pequena parte da equação maior.

• Implicações de segurança além das fotos carregadas no Lensa

Embora a biometria possa ser sua preocupação inicial, também é crucial compreender a quantidade de dados adicionais que são coletados automaticamente de seu smartphone. A Lensa pode usar análises de terceiros, informações de arquivos de log, identificadores de dispositivos e informações de usuários registrados para coletar dados sobre você. Vá para a seção 3 da política de privacidade para verificá-la em detalhes.

Qualquer usuário pode optar por não participar dessa coleta de dados entrando em contato com a empresa em privacy@lensa-ai.com. Se você usar um dispositivo iOS, você tem a opção de não participar, entrando em suas configurações de privacidade. Para ser justo, não se trata apenas da Lensa: Cada aplicativo em seu telefone provavelmente está coletando mais dados do que você imagina. Mesmo se decidir confiar seus dados pessoais ao Lensa, é bem possível que os dados mudem de mãos se a empresa for adquirida no futuro. “Isso acontece especialmente quando se trata de empresas maiores, que são muito mais adeptas a besteiras sobre como falam sobre isso”, diz Ben Winters, um líder em projetos de IA e direitos humanos no Centro de Informações de Privacidade Eletrônica.

• Não importe fotos de crianças ou nudes

Vai contra os termos de uso inserir imagens de crianças ou nudez para gerar imagens no Lensa. E mesmo que você não insira nus, as mulheres podem ver resultados hipersexualizados das fotos: “o aplicativo não só gera nus, mas também atribui características caricatas sexualizadas, como poses quentes e seios gigantescos”. Eu, por exemplo, recebi vários resultados totalmente nus apesar de carregar apenas fotos de cabeça”, escreveu a colaboradora do Wired Olivia Snow. O aplicativo gerou imagens perturbadoras quando ela carregou suas fotos de infância, mudando o que teria sido mementos estilizados em imagens desumanizantes. “Já que o recurso não foi projetado para menores, desaconselhamos o uso de quaisquer imagens de crianças”, escreve Usoltsev.

O Lensa também pode produzir imagens sexuais de adultos sem seu consentimento. “É um exemplo em potencial onde não se pensou o suficiente para proteger a dignidade dos indivíduos”, diz Leslie. “Quando as tecnologias podem prejudicar, somos as iscas para fazer tudo o que pudermos para antecipar esses impactos”.

• Prepare-se para resultados estranhos ou ofensivos

Não são apenas os dedos e as segundas cabeças que se divertem, você também pode receber resultados que são racistas ou sexistas quando você interage com a IA generativa. “A internet está repleta de muitas imagens que empurrarão os geradores de imagens de IA para tópicos que podem não ser os mais confortáveis, sejam imagens sexualmente explícitas ou imagens que possam mudar os retratos de IA das pessoas para caricaturas raciais”, diz Grant Fergusson, fellow do EPIC “Equal Justice Works”.

• Considere o maior impacto sobre artistas reais

Alguns artistas estão abraçando o potencial da IA generativa para produzir resultados fascinantes. Outros estão muito mais hesitantes sobre as repercussões potenciais da tecnologia. “A comercialização destes geradores de imagem terá um impacto na capacidade dos artistas de se sustentarem a longo prazo”, diz Leslie.

Embora seja uma forma mais cara, aqueles que são capazes encomendar de artistas menores para criar peças digitais para sua nova foto de perfil, papel de parede do celular ou avatar conseguem apoiá-los verdadeiramente. Instagram e Twitter estão cheios de artistas que trabalham em uma variedade de estilos que você nunca poderia obter da IA generativa, e muitos deles estão ansiosos por comissões. Por uma taxa nominal, é possível obter algo verdadeiramente único e pessoal.

• Repense sobre a utilidade do aplicativo depois

Digamos que você considerou tudo acima e ainda decidiu gastar algumas moedas para conseguir um pacote de “avatares mágicos”. Depois de salvar as criações coloridas, confira os recursos de edição de fotos e vídeos no Lensa e se pergunte: é algo que quer usar com frequência ou é apenas mais um aplicativo que juntar poeira digital em seu smartphone? “Controle as configurações, apague após o uso e exerça todos e quaisquer direitos que eles oferecem”, recomenda Winters a qualquer pessoa preocupada com a coleta de dados.

Com informações Wired e TechCrunch