Berliner Tageblatt - Chefe da ONU pede governança da IA para não ditar 'futuro da humanidade'

"A IA já está transformando nosso mundo. A questão é se moldaremos essa transformação juntos ou se deixaremos que ela nos molde", disse António Guterres na abertura do primeiro Diálogo Global sobre Governança da IA, em Genebra.

Esse novo fórum intergovernamental, coordenado pelas Nações Unidas, tem como objetivo permitir que todos os Estados-membros e a sociedade civil coordenem o desenvolvimento e o uso da IA.

O chefe da ONU advertiu que esses sistemas, agora capazes de escrever códigos, atuar online e tomar decisões com cada vez menos supervisão humana, evoluem "a uma velocidade vertiginosa", mais rápido do que as instituições encarregadas de controlá-los.

"Nossas instituições foram concebidas para enquadrar máquinas que executam ordens. Elas não estão preparadas para governar máquinas que tomam decisões. E certos limites, uma vez ultrapassados, não podem ser restabelecidos", explicou.

A escolha não é "entre a confiança cega na IA e o medo dela", mas "entre uma governança pensada e organizada, ou uma deriva deixada ao acaso", alertou Guterres.

Para ele, o vibe-coding (quando a IA cria códigos a partir do que os usuários ditam em linguagem simples) "pode fazer maravilhas, mas (...) não se pode 'vibe-code' o futuro da humanidade".

Ele destaca três riscos: a rapidez do desenvolvimento da IA, a concentração das capacidades nas mãos de um pequeno número de empresas e países e a ameaça que os conteúdos gerados por IA representam para a informação e a credibilidade dos fatos.

- Crianças "enganadas" -

Essas tecnologias têm o potencial de acelerar o desenvolvimento, melhorar a assistência à saúde ou o acesso à educação, mas Guterres pede que sejam respeitadas quatro prioridades: a segurança, os direitos humanos, as capacidades dos países em desenvolvimento e a transparência.

Ele propõe submeter os países a um compromisso pela segurança das crianças diante da inteligência artificial.

O objetivo: impor testes de segurança antes que a IA esteja acessível a elas, proibir a geração de imagens sexuais de menores e garantir que, se uma criança estiver angustiada, seja encaminhada para ajuda humana.

"As crianças são enganadas por máquinas que se fazem passar por amigas (...) Nenhuma criança deveria ser usada como cobaia para uma IA não regulada", insistiu Guterres.

O secretário-geral da ONU também anunciou que apresentará à Assembleia Geral recomendações a favor de um Fundo Mundial para a IA destinado a fortalecer as capacidades dos países em desenvolvimento.

- "Moralmente repugnante" -

Guterres também instou as grandes empresas do setor a divulgar a pegada ambiental de seus sistemas e a abastecer todos os seus centros de dados com energias renováveis até 2030.

E enfatizou o perigo do uso militar da IA, em particular o recurso a sistemas de armas letais autônomas. "Máquinas que selecionam seu alvo, o atacam e tiram vidas sem qualquer controle ou julgamento humano são moralmente repugnantes. São politicamente inaceitáveis. E o direito internacional deve proibi-las", acrescentou.

O Diálogo Mundial sobre a Governança da IA, que acontece nesta segunda e terça-feira, será seguido em Genebra pela cúpula "AI for Good", dedicada às aplicações da inteligência artificial a serviço do desenvolvimento.

L.Dubois--BTB