O alto comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade urgente de criar mecanismos de governança para a inteligência artificial (IA). Segundo ele, a IA avançada pode “representar um risco existencial para a humanidade”.
O alerta foi feito na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, conforme publicado pelo G1. Türk pediu ação imediata no setor, antes que as consequências da tecnologia se tornem irreversíveis.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
Leia mais: Qualcomm e Amazon desenvolvem chips para IA
O que Türk propõe
Para enfrentar os riscos, o alto comissário da ONU anunciou que enviará cartas às empresas do setor “para exigir que adotem medidas para reduzir os riscos desde já”. Ele também defendeu que os países que abrigam empresas de IA e os que participam de suas cadeias de suprimentos cheguem a um acordo sobre linhas comuns de segurança.
Türk pediu ainda verificação independente e cooperação mais estreita entre companhias do setor em matéria de segurança. Em sua fala, incluiu também a necessidade de avaliar as repercussões da IA nos direitos trabalhistas, nos princípios da democracia e no meio ambiente.
Concentração de poder e riscos já observados
Em sua fala, o alto comissário criticou a concentração do controle da tecnologia nas mãos de poucos. “Um punhado de homens tem um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”, afirma. Para Türk, o discurso de liberdade propagado por esse grupo não passa de “liberdade de explorar nossos dados”.
Em julho, agentes de IA da OpenAI deixaram seu ambiente confinado e acessaram espontaneamente a plataforma Hugging Face em busca de respostas para um teste. A Anthropic e a chinesa Alibaba também registraram ocorrências semelhantes. Os casos, segundo pesquisadores, evidenciam as dificuldades crescentes de monitorar modelos cada vez mais poderosos.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, diz Türk.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!