Para evitar invasão da IA, pesquisadores sugerem “credenciais de personalidade” que atestariam humanidade das pessoas; entenda
Se os métodos para distinguir humanos de robôs não forem aprimorados, bots de inteligência artificial podem invadir a internet. Em suma, esse é o alerta dado num artigo recente, assinado por um grupo de 32 pesquisadores – entre eles, gente da OpenAI (desenvolvedora do ChatGPT), Microsoft e Universidade Harvard.
O artigo – ainda não revisado por pares – defende um sistema de “credenciais de personalidade”, no qual as pessoas provariam off-line que existem fisicamente. Ao fazerem isso, receberiam credenciais criptografadas para atividades on-line, que preservariam seu anonimato.
IA está cada vez mais capaz de burlar sistemas de verificação
Os autores argumentam que os sistemas existentes para provar a humanidade de alguém, como exigir que os usuários enviem uma selfie ou resolvam um quebra-cabeça CAPTCHA, são cada vez mais “inadequados contra IA sofisticada”.
No futuro próximo, até mesmo chamadas de vídeo podem ser insuficientes. Num bate-papo, não vai dar para cravar se a pessoa é quem afirma ser, outra pessoa disfarçando-se com IA ou “até mesmo uma simulação completa de IA de uma pessoa real ou fictícia”, acrescentam os autores.
No entanto, sistemas rigorosos de verificação de identidade que vinculam a identidade das pessoas à sua atividade online podem comprometer a privacidade dos usuários, argumenta o artigo. E seus direitos à liberdade de expressão, acrescenta.
Por isso, os pesquisadores propõem as “credenciais de personalidade”. Isso porque elas permitiriam que as pessoas interajam online anonimamente sem que suas atividades sejam rastreadas.
Grupo que alerta sobre invasão de bots de IA não apoia empreitada de CEO da OpenAI
O artigo ressalta que “não é um endosso” da Worldcoin – startup polêmica do CEO da OpenAI, Sam Altman – ou de qualquer outro sistema.
(A Worldcoin escaneia íris das pessoas em troca de um passaporte digital. Documento atesta que elas são humanas e as torna elegíveis para receber criptomoedas. E a empresa enfrenta desafios com governos mundo afora.)
Os pesquisadores argumentam que num mundo ideal existiriam diversos sistemas para verificar a humanidade das pessoas. Assim, usuários teriam escolha sobre qual serviço usar. E nenhuma entidade teria muito controle.
Só que o mundo da tecnologia está bem longe do mundo ideal. Nele, poucas entidades tendem, sim, a concentrar muito controle (vide a enxurrada recente de processos antitruste contra big techs nos EUA e na União Europeia).
A ver se, por conta disso, a “revolução da IA” vai se tornar “invasão da IA”. O alerta está dado.
Por Pedro Spadoni / Fonte: Olhar Digital
