O chefe de direitos humanos da Organização das Nações Unidas (ONU), Volker Türk, alertou nesta segunda-feira que a inteligência artificial (IA) pode representar uma ameaça à humanidade. Em discurso em Genebra, ele pediu a criação de “garantias irrefutáveis” para ampliar a segurança dos sistemas de IA antes que os riscos se tornem mais difíceis de controlar.
Türk afirmou que compartilha da preocupação de especialistas do setor sobre a possibilidade de sistemas avançados representarem um risco existencial para a humanidade. Por isso, defendeu um esforço internacional para estabelecer limites e mecanismos de proteção para a tecnologia.
“Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais”, afirmou.
ONU aponta riscos da inteligência artificial
Türk não detalhou quais riscos considera mais graves. No entanto, uma porta-voz de seu gabinete afirmou que falhas em sistemas avançados de IA podem afetar infraestruturas críticas, serviços, comunicações e instituições democráticas.
Além disso, o escritório citou comportamentos considerados perigosos durante o treinamento de agentes de inteligência artificial. O chamado incidente Hugging Face, ocorrido em julho, também entrou no debate.
Segundo a equipe de Türk, o episódio indicaria que as capacidades dos sistemas mais avançados estão evoluindo mais rapidamente do que os mecanismos criados para garantir sua segurança.
Nesse contexto, Türk criticou a concentração de poder no setor. Segundo ele, apenas um pequeno grupo de empresários possui hoje influência extremamente ampla sobre o desenvolvimento da IA.
Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google.
Países precisam estabelecer limites para IA
Diante desse cenário, o chefe de direitos humanos da ONU defendeu uma articulação internacional para estabelecer regras comuns.
“No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados”, afirmou.
A declaração ocorre durante a reunião do Conselho de Direitos Humanos da ONU, formado por 47 países e reunido até 7 de outubro para discutir conflitos e outras crises internacionais.
Türk também cobra responsabilização nos EUA
Além da inteligência artificial, Türk abordou outros temas durante o discurso. O chefe de direitos humanos da ONU cobrou, por exemplo, a responsabilização por cerca de 23 mortes que, segundo ele, ocorreram sob custódia de autoridades de imigração dos Estados Unidos neste ano.
Ele também demonstrou preocupação com planos de equipar agentes de imigração com luvas de choque elétrico.
O Departamento de Segurança Interna dos EUA afirmou que mantém o compromisso de garantir condições seguras, protegidas e humanas nas instalações de detenção. Enquanto isso, o inspetor-geral do órgão investiga mortes ocorridas sob custódia desde outubro de 2021.
ONU condena uso de drones autônomos
Por fim, Türk condenou a intensificação dos ataques russos contra a Ucrânia e o aumento das execuções no Irã.
O chefe da ONU também manifestou preocupação com relatos de que a Rússia teria utilizado drones totalmente autônomos na Ucrânia. Segundo as informações citadas por ele, três pessoas teriam morrido em agosto.
“Junto-me aos apelos pela proibição urgente de armas capazes de tirar vidas sem intervenção humana”, disse Türk durante as negociações em Genebra.
A Reuters informou que não verificou de forma independente os relatos sobre o uso dos drones. A missão diplomática da Rússia também não respondeu imediatamente a um pedido de comentário.
ONU amplia pressão sobre empresas
Türk afirmou ainda que pretende ampliar o escrutínio sobre empresas e interesses econômicos ligados aos conflitos internacionais.
“Não hesitaremos em expor os atores ocultos e exigir que prestem contas”, declarou.
Mais adiante neste mês, o escritório de direitos humanos da ONU deve publicar uma lista de empresas que atuam em assentamentos israelenses na Cisjordânia. O órgão considera esses assentamentos ilegais, acusação rejeitada por Israel.