Os desafios da IA: máquinas cada vez mais loucas e nós cada vez mais estúpidos?

Como se fosse o famoso duelo entre Garry Kasparov e Deep Blue , há algum tempo o escritor Patricio Pron enfrentou o Gpt 4. O experimento, chamado Pron vs. Prompt — era fácil fazer isso — consistia em descobrir quem era mais criativo e melhor em contar histórias, o humano ou a máquina. Cada equipe recebeu 30 títulos e, a partir daí, teve que escrever um conto. Eles foram então avaliados por 5.400 pessoas, entre críticos e acadêmicos. O vencedor esmagador foi... o humano. "O Pron derrotou o Gpt 4 até a morte. Em alguns casos, foi até 400% melhor. Então, por enquanto, nossa honra está segura."

Esta história foi contada nesta quinta-feira por Julio Gonzalo , professor e diretor do grupo de pesquisa em Processamento de Linguagem Natural e Recuperação de Informação da UNED , no 7º encontro organizado por Arquia e El Confidencial, liderado por Rubén Amón. Desta vez, o encontro focou na Inteligência Artificial: seus desafios, seus criadores, os medos que ela provoca e as consequências fatais (ou floridas) que ela já nos traz.

“O Chatgpt comete muitos erros”, declarou a jornalista, escritora e colaboradora do El Confidencial Marta García Aller , que lembrou com humor como, em uma viagem a Pozoblanco, o aplicativo lhe disse que Paquirri nasceu lá . “O Chatgpt não tem pretensão de ser verdadeiro, e não estamos acostumados a conviver com isso. Estamos atribuindo a ele qualidades quase religiosas, e estamos esquecendo que ele nos mente, assim como os humanos”, enfatizou a jornalista, aludindo a todos os múltiplos erros que podem aparecer em inúmeros textos que fizeram uso da IA. Ela também se referiu às escandalosas explosões de narcisismo que isso provoca em nós: “Como acontece com essas tecnologias, eles querem que fiquemos por muito tempo, então concordam constantemente conosco. E quem não quer que concordem conosco em vez de que nos digam a verdade?”. Bajulação constante, uma questão que vai diretamente para a saúde mental de tantas pessoas “e é muito perigosa para adolescentes e jovens”.

"Eles querem que fiquemos muito tempo, então sempre concordam conosco."

Do ponto de vista jurídico, a IA também pode ser um absurdo. Isso foi apontado por Violeta Arnáiz, diretora de Propriedade Intelectual, IA e Software da PONS IP, que defendeu a hiperregulamentação, por vezes criticada, da União Europeia sobre o assunto em comparação com outros países, como os EUA ou a China, que são muito mais liberais no uso da IA. "A UE já possui regulamentações que exigem uma série de coisas. Por exemplo, se uma imagem for criada com IA, será necessário divulgar que ela foi gerada dessa forma. O mesmo se aplica à possibilidade de ter sido usada para criar um texto", explicou.

Mas ele foi ainda mais longe com aplicativos que são diretamente proibidos na UE, mas não em outros países. Por exemplo, na UE, a IA não pode emitir um veredito para decidir se um prisioneiro será libertado com base em parâmetros comportamentais. Uma máquina não pode sentenciar isso. Nos EUA, pode. A avaliação social por meio desses aplicativos também é proibida aqui (Arnáiz relembrou um episódio de Black Mirror que aborda esse assunto). Ou seja, dependendo de quão gentil ou azedo você for, você pode ou não receber uma bolsa ou um empréstimo. Isso já está acontecendo na China.

“O mal está sempre presente, mas a IA amplifica a capacidade da humanidade para o mal. Na UE, somos mais protecionistas e mais comprometidos com a salvaguarda dos direitos dos cidadãos. É claro que, geopoliticamente, isso é pior para a Europa, porque desenvolvemos menos ferramentas de IA , mas estamos mais protegidos”, argumentou Arnaiz sobre essas regulamentações europeias.

Partes responsáveis

O encontro também discutiu o papel dos responsáveis ​​por essas ferramentas, que não são governos. De fato, já existem empresas gerando essa tecnologia com um faturamento superior ao PIB de muitos países. E essas empresas têm proprietários que podem ser mais poderosos do que qualquer líder governamental. “O dono da Oracle, Larry Ellison , é quem assumiu o TikTok nos EUA… e ele poderá decidir quem ganha as eleições americanas. Quando as pessoas dizem que a tecnologia é neutra… não é o caso. Em última análise, quem a controla são seres humanos”, enfatizou García Aller.

E, além disso, algo já está acontecendo com essa IA generativa. Se quando os primeiros modelos surgiram, eles não eram tão inteligentes quanto deveriam ser, agora, como afirmou Gonzalo, estão cada vez mais iludidos. "Na realidade, ninguém está no controle... Porque você está alimentando a máquina... e agora eles estão cada vez mais iludidos... não é que sejam menos inteligentes, mas alucinam melhor ", ressaltou. "Então, não é que eles nos pareçam mais burros, mas sim que são feitos de cópias, cópias, cópias de todas as informações que estamos alimentando", comentou. E aqui está um fato: neste momento, metade dos documentos que circulam na internet já foram gerados por IA. É algo que já está sendo discutido e que qualquer usuário normal da internet pode perceber: encontrar boas informações está cada vez mais difícil . "Sim, tudo está cada vez mais cheio de lixo, então aqueles de nós que nos dedicamos a esse negócio da informação teremos cada vez mais dificuldades", acrescentou García Aller.

Outra consequência já observada é que a IA está reduzindo os parâmetros de aprendizagem, memorização e habilidades linguísticas , de acordo com diversos estudos realizados na área educacional, observaram os palestrantes. Existem inúmeros trabalhos acadêmicos e de ensino médio feitos com ferramentas de IA. E em empresas. Claro, eles são óbvios. "Se você vir um texto com muitos travessões em vez de parênteses, isso é IA ", destacou García Aller. Portanto, as avaliações orais estão retornando como o único método para prevenir a fraude artificial.

Mas há outros aspectos que podem ter uma solução pior: certos empregos. Arnáiz se referiu à sua própria profissão, o Direito: "A contratação de juniores em escritórios de advocacia já caiu 15% . Trabalhos mais rotineiros estão sendo substituídos, mas não tanto quanto os de pessoas mais experientes." E é provável que isso aconteça em várias outras profissões.

"A contratação de juniores em escritórios de advocacia já caiu 15%. Mais trabalhos rotineiros estão sendo substituídos."

Contratos de publicação com cláusulas que proíbem o uso de ferramentas de IA, novas regulamentações de direitos autorais para IA... Há múltiplos aspectos que a inteligência artificial está interrompendo, de uma perspectiva comercial, jurídica e, claro, política. E ainda há muito a ser feito, por exemplo, em relação à responsabilidade. Se a IA causar um acidente fatal, quem é o responsável?

Mas os palestrantes também quiseram concluir com as consequências positivas de ter essas ferramentas , como os avanços médicos. "A IA dominou a estrutura proteica do mundo animal e vegetal. Isso oferece um potencial tremendo para medicamentos novos e mais baratos", afirmou Gonzalo. Agora, não nos esqueçamos de algo, acrescentou García Aller: "As IAs não são inteligentes porque os humanos também não gostam de pessoas inteligentes; nós não gostamos delas... então elas podem nunca se tornar completamente inteligentes." E nós provavelmente também não seremos.