Sponsor

AD BANNER

Últimas Postagens

GEOFFREY HINTON, O 'PADRINHO' DA IA, DEIXA O GOOGLE E ALERTA PARA OS PERIGOS DESSA TECNOLOGIA

maio 03, 2023 , , ,
Geoffrey Hinton, em imagem de 2017, quando recebeu o Prêmio Fronteiras do Conhecimento da Fundação BBVA.

Geoffrey Hinton, o 'padrinho' da IA, deixa o Google e alerta para os perigos dessa tecnologia

Este especialista teme acima de tudo que a internet seja inundada com textos, fotos e vídeos falsos e que as novas ferramentas substituam muitos trabalhadores.
________________________

O britânico Geoffrey Hinton , um dos grandes pioneiros no desenvolvimento da inteligência artificial (IA), deixou o cargo na Google para poder alertar com mais liberdade sobre os perigos que estas novas tecnologias representam, afirmou numa entrevista publicada esta segunda-feira .por The New York Times . Frequentemente chamado de padrinho da IA, Hinton disse que, aos 75 anos, agora se arrepende de ter passado sua carreira nessa área. "Eu me consolo com a desculpa normal: se não fosse eu, outra pessoa teria feito isso", disse ele ao jornal de Nova York. A voz de alarme se soma aos alertas que outros especialistas fizeram nos últimos meses, sobretudo fruto do lançamento de inteligência artificial generativa como o popular ChatGPT e das grandes apostas que os gigantes tecnológicos estão a fazer nesta área. Hinton foi vice-presidente de engenharia do Google.

“É difícil ver como você pode impedir que maus atores o usem para coisas ruins”, disse Hinton na entrevista, alertando sobre a velocidade excessiva com que o progresso está sendo feito. "Veja como era há cinco anos e como é agora", disse ele. “Pegue a diferença e espalhe para frente. Isso é assustador", disse Hinton, que no ano passado recebeu o Prêmio Princesa das Astúrias de Pesquisa Científica e Técnica junto com outros três pioneiros da IA ​​por seu trabalho .

A curto prazo, este especialista teme sobretudo que a internet seja inundada de textos, fotos e vídeos falsos, e que os cidadãos não consigam distinguir o que é real, mas também acredita que estas tecnologias podem substituir muitos trabalhadores e, mais tarde, até representam uma ameaça para a humanidade. "Alguns compraram a ideia de que essas coisas poderiam realmente se tornar mais inteligentes do que as pessoas", explicou ele. “Mas a maioria das pessoas achava que era muito longe. Eu mesmo pensei que era muito longe. Eu pensei que era entre 30 e 50 anos de distância ou até mais. Obviamente, não penso mais nisso", acrescentou.

Em sua opinião, os trabalhos nessa área devem ser interrompidos até que se entenda bem se será possível controlar a IA, ideia que vai ao encontro de outras chamadas públicas de personalidades do setor de tecnologia que pediram a suspensão temporária dos experimentos . Há algumas semanas, sabia-se que mais de mil empresários, intelectuais e pesquisadores de alto nível relacionados a essa tecnologia haviam assinado uma carta aberta solicitando uma moratória em seu desenvolvimento para refletir sobre suas consequências.

Mais especificamente, esses especialistas pediram uma pausa de "pelo menos seis meses no desenvolvimento e teste de sistemas de IA mais poderosos que o GPT4", a última versão do grande modelo de linguagem usado pelo ChatGPT. A carta adverte que este último modelo já é capaz de competir com os humanos em um número cada vez maior de tarefas, podendo ser usado para destruir empregos e espalhar desinformação. Por isso, exigem um desenvolvimento seguro e somente quando têm certeza de que seus efeitos serão positivos. “Infelizmente”, afirma a carta, “esse nível de planejamento e gerenciamento não está acontecendo, apesar do fato de que, nos últimos meses, os laboratórios de IA entraram em uma corrida desenfreada para desenvolver e implantar mentes digitais cada vez mais poderosas do que qualquer outra pessoa, até mesmo seus criadores, não podem compreender, prever ou controlar de forma confiável”.

Por meio do Twitter, Hinton quis ressaltar posteriormente que não está saindo do Google para poder criticar a empresa , mas para poder falar sobre os perigos da inteligência artificial sem ter que se preocupar com o impacto que essas opiniões causariam na empresa. onde trabalhou, empresa que segundo ele "tem agido com muita responsabilidade".

Geoffrey Hinton , professor da Universidade de Toronto (Canadá) e vencedor do prêmio BBVA Foundation Frontiers of Knowledge 2017 , desenvolveu em 2004 os conceitos trabalhados por meio século e os orientou para o aprendizado mecânico e o reconhecimento de tais elementos complexos como fala ou imagem. Hinton criou uma comunidade de pesquisa à qual se juntaram Yann LeCun , da New York University, e Yoshua Bengio, de Montreal (Canadá). Em 1986, Hinton inventou algoritmos de retropropagação, essenciais para o treinamento de redes neurais. Com eles, em 2012, ele conseguiu criar uma rede neural convolucional chamada AlexNet, composta por 650 mil neurônios e treinada com 1,2 milhão de imagens, que registrou apenas 26% de erros no reconhecimento de objetos e reduziu pela metade o percentual de erros. LeCun adicionou uma tecnologia de reconhecimento óptico de caracteres.

“Não gostei das primeiras teorias de inteligência artificial (IA) porque se baseavam muito na lógica e isso é algo que o ser humano demorou a desenvolver”, explicou Hinton ao EL PAÍS após receber o prêmio. O pesquisador explicou que estava mais interessado em saber como funciona o cérebro humano, quais são os fundamentos do aprendizado e em encontrar uma forma de aplicar esses princípios às máquinas. “O cérebro humano é a melhor máquina. Meu objetivo era entender como as pessoas funcionam e simulam esse sistema, e acho que a melhor maneira de fazer isso é construir modelos de redes neurais artificiais”, explicou.




______________________


Nenhum comentário

Postar um comentário

Assinar: Postar comentários ( Atom )