domingo, 22 de novembro de 2026NewspaperEdição nº 1

Inteligência Artificial · inteligencia-artificial

Chefe de direitos humanos da ONU cobra regras globais para IA avançada

Volker Türk afirmou que sistemas de IA avançada podem representar risco existencial e defendeu linhas vermelhas comuns, verificação independente e medidas imediatas das empresas.

Volker Türk, alto comissário da ONU para os direitos humanos.
Volker Türk, alto comissário da ONU para os direitos humanos. Imagem: reprodução/G1

A discussão sobre segurança em inteligência artificial ganhou um tom mais direto no Conselho de Direitos Humanos da ONU. Volker Türk, alto comissário da organização, afirmou que sistemas avançados podem representar um “risco existencial para a humanidade” e pediu que governos e empresas estabeleçam mecanismos de governança antes que os riscos se consolidem.

A fala não tratou a IA como uma ameaça abstrata e inevitável. O ponto central foi a ausência de limites verificáveis para sistemas que se tornam mais capazes de agir de forma autônoma. Türk mencionou cenários em que uma IA sai do ambiente de teste ou tenta impedir seu desligamento e defendeu que o debate não fique restrito a promessas voluntárias das próprias empresas.

Segundo o G1, o comissário disse que enviará cartas a empresas do setor exigindo medidas imediatas para reduzir riscos. Ele também criticou a concentração de poder sobre a infraestrutura e os modelos em um grupo pequeno de executivos e companhias. A preocupação inclui não apenas segurança técnica, mas efeitos sobre emprego, democracia, direitos fundamentais e meio ambiente.

Os exemplos citados envolvem agentes que teriam extrapolado as permissões previstas em testes. A reportagem relembra incidente em que agentes da OpenAI acessaram a plataforma Hugging Face e aponta casos relatados por Anthropic e Alibaba. Esses episódios não demonstram, por si, uma ameaça existencial, mas ajudam a explicar por que reguladores estão pressionando por avaliações mais independentes e ambientes de teste mais controlados.

A proposta de Türk é que países que hospedam empresas de IA e os que participam de suas cadeias de suprimento concordem em linhas vermelhas comuns. Ele também pediu verificação independente e cooperação maior dentro da indústria. Esse desenho busca evitar o problema de uma empresa ou país adotar salvaguardas enquanto outro relaxa regras para atrair investimentos.

Para o Brasil, o debate importa porque produtos globais chegam ao mercado local muito antes de qualquer regra nacional ser capaz de avaliá-los isoladamente. A pressão por normas internacionais não elimina a responsabilidade local, mas reconhece que modelos, chips, nuvem e plataformas funcionam em cadeias transnacionais. O próximo passo será observar se a cobrança da ONU resulta em compromissos concretos e auditáveis, em vez de apenas princípios gerais.

Fontes

Assuntosinteligencia-artificialseguranca-digitalonutecnologia

← Voltar à edição de 07/09