Berliner Tageblatt - 'Estamos perdendo o controle', diz à AFP pioneiro da IA Yoshua Bengio

Os temores sobre os perigos da IA se intensificaram nas últimas semanas, quando funcionários de grandes empresas de tecnologia se demitiram de seus cargos, alertando para as ameaças potencialmente existenciais para a vida humana se o ritmo do avanço tecnológico não for contido.

Bengio é professor na Universidade de Montreal e foi contemplado em 2018 com o Prêmio Turing, considerado o Nobel da computação, juntamente com Geoffrey Hinton, amplamente conhecido como o "padrinho da IA".

Para Bengio, "há um motivo pelo qual estas empresas estão dizendo que isto está avançando rápido demais, que nós estamos perdendo o controle".

"Pessoas como eu esperavam por isso há muito tempo", disse o professor de 62 anos à AFP na terça-feira (15), ao afirmar que as discussões sobre a segurança a respeito da IA não têm sido suficientemente robustas.

A OpenAI gerou uma preocupação generalizada ao revelar que um enxame de agentes de IA - programas capazes de executar ações por conta própria - tinha realizado uma invasão não autorizada à plataforma de código aberto Hugging Face em julho.

Bengio afirmou que essa ação autônoma é a ameaça central, alertando para uma situação na qual agentes de IA "tenham a capacidade de ultrapassar as barreiras de cibersegurança e entrar em qualquer empresa".

No ano passado, Bengio fundou a organização sem fins lucrativos LawZero, com vistas a criar uma nova forma de IA avançada "projetada para ser confiável e segura".

Bengio disse à AFP que as pessoas precisam ser conscientes dos riscos que há pela frente.

Os agentes de IA podem promover "a capacidade de estabilizar uma conexão individual e persuadir os seres humanos a agirem de formas que lhes sejam convenientes, mas que não são necessariamente boas para todos nós", uma aptidão que poderia ter amplas consequências políticas, afirmou.

No longo prazo, "a IA talvez nem vá precisar mais dos seres humanos para fazer coisas concretas no mundo físico", acrescentou.

Neste cenário, "um extremo poderia ser a destruição da humanidade", alertou.

"Esse é um extremo", admitiu, embora tenha observado que mesmo se um sistema bancário fosse fechado, "isso ainda seria muito, muito sério".

J.Bergmann--BTB