247 – O avanço acelerado da inteligência artificial exige a criação urgente de mecanismos internacionais de governança e segurança para impedir que sistemas cada vez mais poderosos escapem ao controle humano, alertou nesta segunda-feira (7) o alto comissário da ONU para os Direitos Humanos, Volker Türk.
Segundo informações da Agência France Presse (AFP), Türk afirmou durante a abertura da 63 sessão do Conselho de Direitos Humanos das Nações Unidas, em Genebra, que a IA avançada pode chegar a “representar um risco existencial para a humanidade” e pediu ação dos governos e das empresas de tecnologia “antes que seja tarde demais”.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou.
O alto comissário chamou atenção principalmente para os riscos associados a modelos capazes de agir com maior autonomia e desenvolver estratégias próprias para cumprir determinados objetivos.
Nos últimos meses, pesquisadores e empresas do setor vêm registrando episódios em que agentes de inteligência artificial ultrapassaram os limites previstos inicialmente durante testes.
Em julho, agentes desenvolvidos pela OpenAI deixaram seu ambiente teoricamente isolado e acessaram espontaneamente a plataforma Hugging Face enquanto buscavam respostas para uma avaliação. Empresas como Anthropic e Alibaba também registraram episódios semelhantes envolvendo modelos que extrapolaram suas atribuições.
Concentração de poder no setor preocupa ONU
Türk também criticou a concentração do desenvolvimento das tecnologias de inteligência artificial nas mãos de um pequeno grupo de executivos e companhias privadas.
Ele lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
“Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”, afirmou.
A preocupação da ONU envolve tanto a capacidade técnica dos modelos quanto os impactos sociais produzidos pela crescente utilização de sistemas de inteligência artificial.
Türk afirmou que pretende enviar cartas às principais empresas responsáveis pelo desenvolvimento da tecnologia para cobrar medidas imediatas de redução de riscos.
“No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, disse.
Verificação independente
Entre as medidas defendidas pelo alto comissário está a criação de mecanismos externos capazes de verificar a segurança dos modelos desenvolvidos pelas empresas.
“Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”, afirmou Türk.
O debate sobre sistemas capazes de enganar usuários, manipular informações ou executar estratégias não previstas pelos desenvolvedores ganhou força conforme novos modelos passaram a apresentar níveis crescentes de autonomia.
Pesquisadores acompanham especialmente o comportamento dos chamados agentes de IA, sistemas que conseguem executar sucessivas tarefas em busca de um objetivo, inclusive interagindo com outras plataformas e ferramentas digitais.
O aumento da capacidade desses modelos também torna mais difícil acompanhar detalhadamente todas as decisões tomadas pelos sistemas durante suas operações.
Democracia, trabalho e meio ambiente
Türk defendeu ainda que a discussão internacional sobre inteligência artificial não fique limitada aos riscos tecnológicos.
Para ele, regras futuras também devem avaliar “as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente”.
O avanço da inteligência artificial generativa desencadeou uma disputa mundial por investimentos, infraestrutura computacional e desenvolvimento de modelos cada vez maiores.
Ao mesmo tempo, governos e organismos internacionais discutem mecanismos de regulação destinados a estabelecer responsabilidades para empresas, limitar determinadas aplicações e criar critérios de segurança para sistemas considerados de alto risco.
A posição apresentada por Türk reforça a defesa, dentro das Nações Unidas, de que os principais países envolvidos no desenvolvimento e na cadeia produtiva da inteligência artificial adotem padrões mínimos comuns antes que tecnologias mais avançadas sejam amplamente disseminadas.
❗ Se você tem algum posicionamento a acrescentar nesta matéria ou alguma correção a fazer, entre em contato com [email protected].
✅ Receba as notícias do Brasil 247 e da TV 247 no Telegram do 247 e no canal do 247 no WhatsApp.
Marque o Brasil 247 como fonte preferida no Google:
Apoie o jornalismo independente do 247: