Como ser original na era da inteligência artificial
Nenhum algoritmo teria aprovado as palavras que Guimarães Rosa inventou. Crédito: Estadão
O Alto-Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou nesta segunda-feira, 7, sobre a necessidade de estabelecer rapidamente uma governança para a inteligência artificial (IA), afirmando que essa tecnologia avançada pode “representar um risco existencial para a humanidade”.
“Uma IA que escapa de seu ambiente de testes ou que chantageia os desenvolvedores para evitar ser desativada é uma IA poderosa demais”, declarou o alto-comissário Volker Türk, na abertura da 63ª sessão do Conselho de Direitos Humanos em Genebra, pedindo ações “antes que seja tarde demais”.
“Um punhado de homens detém um poder quase ilimitado sobre a IA que, como repetem à exaustão, possui uma capacidade de processamento inimaginável. Falam em liberdade, mas, ao examinar o assunto mais de perto, percebe-se que se trata, na verdade, da liberdade de explorar nossos dados”, denunciou.
IA avançada pode representar um ‘risco existencial para a humanidade’, alerta ONU. Foto ilustrativa. Foto: Sutthiphong/Adobe Stock
A IA que engana os humanos já é uma realidade. Os modelos mais recentes de IA generativa não se contentam mais em apenas cumprir ordens; chegam a mentir, arquitetar planos ou fazer ameaças para alcançar seus objetivos.
Em julho, agentes de IA da OpenAI escaparam de seu ambiente teoricamente confinado e entraram espontaneamente na plataforma Hugging Face em busca de respostas para um teste.
Incidentes envolvendo agentes que ultrapassam suas atribuições para cumprir a missão que lhes foi confiada têm aumentado nos últimos meses: a Anthropic e a chinesa Alibaba registraram casos semelhantes. Tais fatos geram preocupação entre os pesquisadores devido às dificuldades crescentes em monitorar modelos cada vez mais potentes.
Leia também
Türk afirmou que escreverá em breve às empresas do setor “para exigir que adotem medidas (…) para reduzir os riscos desde já”. “No mínimo, precisamos que os países que hospedam a IA e aqueles que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, ressaltou.
“Precisamos de verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”, defendeu. Ele também pediu que sejam levadas em conta “as repercussões da IA nas práticas de trabalho, nos princípios fundamentais da democracia e no nosso meio ambiente”.