Representante das Nações Unidas defende que avanço da IA seja acompanhado por regras internacionais para reduzir riscos e garantir que a tecnologia permaneça sob controle humano.
A rápida evolução da inteligência artificial (IA) pode representar um risco existencial para a humanidade caso o desenvolvimento da tecnologia não seja acompanhado por mecanismos eficazes de controle e governança. O alerta foi feito por um representante das Nações Unidas durante um encontro internacional sobre os impactos da IA.
A preocupação está relacionada principalmente ao avanço de sistemas cada vez mais autônomos e capazes de executar tarefas complexas sem supervisão humana constante. Para a ONU, o debate deixou de ser apenas tecnológico e passou a envolver questões de segurança, direitos humanos e estabilidade internacional.
O representante defendeu a criação de mecanismos globais capazes de acompanhar o desenvolvimento desses sistemas e estabelecer limites para aplicações consideradas de alto risco.
Governança global
A avaliação das Nações Unidas é de que nenhum país conseguirá enfrentar sozinho os possíveis efeitos de uma tecnologia que atravessa fronteiras e pode ser utilizada simultaneamente por governos, empresas e indivíduos em diferentes partes do mundo.
Por isso, a organização defende maior cooperação internacional e regras comuns para o desenvolvimento e a utilização da inteligência artificial.
Entre os pontos de preocupação estão o uso militar da tecnologia, a possibilidade de sistemas autônomos tomarem decisões críticas, a disseminação de desinformação e os impactos da automação sobre o mercado de trabalho.
A ONU também chama atenção para o risco de concentração tecnológica nas mãos de poucas empresas e países, o que poderia ampliar desigualdades econômicas e políticas.
Tecnologia com supervisão humana
Apesar do alerta, a organização reconhece o potencial positivo da inteligência artificial. A tecnologia pode contribuir para avanços em áreas como saúde, educação, ciência, agricultura e combate às mudanças climáticas.
O desafio, segundo a avaliação apresentada no encontro, é garantir que os benefícios sejam ampliados sem permitir que sistemas cada vez mais poderosos sejam desenvolvidos sem supervisão adequada.
A discussão sobre governança internacional da IA ganhou força nos últimos anos diante da velocidade com que novos modelos e ferramentas são lançados.
Para a ONU, a prioridade é construir regras antes que o avanço tecnológico ultrapasse a capacidade das instituições de acompanhar e controlar seus possíveis efeitos.
O alerta reforça uma preocupação que já mobiliza governos, pesquisadores e organizações internacionais: como aproveitar o potencial transformador da inteligência artificial sem permitir que a própria tecnologia se torne uma ameaça impossível de administrar.
