O Secretário-Geral da ONU, António Guterres, pediu menos empolgação e menos medo em relação à inteligência artificial.
As Nações Unidas planejam consolidar um Painel Científico Internacional sobre IA para responsabilizar empresas e indivíduos por falhas futuras.
Resumo em 3 bullets
- ONU admite necessidade de responsabilizar empresas por falhas de IAs
- Painel Internacional terá 40 membros, incluindo ganhadora do Nobel e pioneiro da IA
- Velocidade de expansão da IA supera capacidade humana de governá-la
Contexto
A Assembleia Geral da ONU confirmou 40 membros propostos para um grupo de trabalho sobre IAs, que deve funcionar de maneira similar ao IPCC (Painel Intergovernamental sobre Mudanças Climáticas).
O painel sobre IAs já havia sido inaugurado em agosto do ano passado, mas só agora parece ganhar corpo e deve ter o primeiro relatório publicado em julho.
Entre os nomes propostos está Maria Ressa, jornalista ganhadora do Prêmio Nobel da Paz, e Yoshua Bengio, pioneiro de inteligência artificial.
Insights e implicacoes
A ONU reconhece que a velocidade de expansão da inteligência artificial avança na 'velocidade da luz' e supera a capacidade humana de compreendê-la e governá-la.
O secretário-geral enfatiza a necessidade de supervisão humana significativa em todas as decisões de alto risco e clara responsabilização, para que a responsabilidade nunca seja terceirizada ao algoritmo.
O que fazer agora
- Acompanhar os desenvolvimentos do Painel Científico Internacional sobre IA da ONU
- Analisar as implicações da descentralização do poder das IAs
- Avaliar os riscos da desigualdade na utilização e desenvolvimento de IAs
- Monitorar as avaliações de impacto sobre direitos humanos exigidas pela ONU
O que vale acompanhar
- Primeiro relatório do Painel Científico Internacional sobre IA da ONU (julho)
- Implementação de avaliações de impacto sobre direitos humanos por empresas
- Desenvolvimentos em descentralização do poder das IAs
- Progresso em supervisão humana significativa em decisões de alto risco
Fonte e transparencia
- Fonte primaria: https://www.tecmundo.com.br/mercado/410983-guerras-nao-controladas-por-humanos-onu-criara-painel-para-controlar-ias.htm
- Conteudo gerado com apoio de IA e revisado automaticamente.
Por que isso importa
A criação do Painel Científico Internacional sobre IA pela ONU é um passo crucial para estabelecer governança global sobre inteligência artificial.
Com o alerta do comissário Türk sobre o risco de guerras não controladas por humanos, a iniciativa visa prevenir o uso desenfreado de IAs e promover o desenvolvimento responsável e equitativo dessas tecnologias, que estão avançando mais rápido do que nossa capacidade de governá-las.