Berliner Tageblatt - Ganhadores do Nobel de Física alertam para avanços recentes da IA

O americano Hopfield, professor emérito da Universidade de Princeton, pediu uma maior compreensão sobre o funcionamento destes sistemas para evitar que se tornem incontroláveis.

Em um vídeo gravado na Grã-Bretanha para uma reunião da Universidade de Nova Jersey, o pesquisador de 91 anos lembrou que durante sua vida testemunhou o surgimento de duas tecnologias poderosas, mas potencialmente perigosas: a engenharia biológica e a física nuclear.

"Estamos acostumados a tecnologias que não são boas ou más, podendo funcionar nos dois sentidos", afirmou.

"Como físico, me preocupa muito algo que não está controlado, algo que não entendo o suficiente para saber quais limites poderiam ser impostos a esta tecnologia", acrescentou.

Os sistemas modernos de IA parecem "maravilhas absolutas", mas ainda não se compreende bem como funcionam, o que é "muito, muito preocupante", enfatizou.

"É por isso que, assim como Geoffrey Hinton (co-ganhador do Nobel), defendo firmemente uma melhor compreensão", disse, reconhecendo que a IA "desenvolveria capacidades que vão além das que se podem imaginar agora".

- A IA assumirá o controle? -

Com a ascensão vertiginosa da inteligência artificial e a corrida feroz entre empresas, alguns cientistas apontam que esta tecnologia está evoluindo mais rapidamente do que os cientistas são capazes de compreender.

Hopfield e o britânico-canadense Hinton, conhecido como "o padrinho da IA", ganharam, nesta terça, o prêmio Nobel de Física por seu trabalho pioneiro sobre as bases da inteligência artificial, e ambos alertaram sobre a tecnologia que ajudaram a criar.

As pesquisas dos dois sobre as redes neurais que remontam à década de 1980 abriram o caminho para os sistemas de aprendizagem profunda de hoje, que prometem revolucionar a sociedade, mas geram temor por seus alcances.

O próprio Hinton, de 76 anos, conhecido como um pessimista da IA, voltou a alertar para os riscos, nesta terça, durante uma coletiva de imprensa na Universidade de Toronto, da qual é professor emérito.

"Se você olhar ao redor, há muito poucos exemplos de coisas mais inteligentes que são controladas por coisas menos inteligentes, o que faz com que você se pergunte se, quando a IA for mais inteligente que nós, assumirá o controle...", disse ele aos jornalistas.

Ele também admitiu que atualmente é impossível saber como escapar dos cenários catastróficos, e "por isso precisamos de mais pesquisas urgentemente".

"Nossos melhores pesquisadores jovens, ou muitos deles, deveriam trabalhar na segurança da IA, e os governos deveriam obrigar as grandes empresas a proporcionar as instalações necessárias para fazê-lo", acrescentou.

Nesta quarta-feira será atribuído o Nobel de Química, e na quinta e na sexta serão anunciados os ganhadores dos prêmios de Literatura e da Paz.

Em 14 de outubro, o anúncio do ganhador do Nobel de Economia encerrará a temporada de 2024.

K.Thomson--BTB