Em nota oficial, do dia 15 de setembro de 2021, a Alta Comissária das Organizações das Nações Unidas (ONU) para os Direitos Humanos, Michelle Bachelet, enfatizou a necessidade urgente de uma moratória sobre a venda e uso de sistemas de Inteligência Artificial (IA) que representam um sério risco para os direitos humanos até que as salvaguardas adequadas sejam implementadas. Ela também pediu que os aplicativos de IA que não estejam em conformidade com as leis internacionais de direitos humanos sejam banidos.

“A inteligência artificial pode ser uma força para o bem, ajudando as sociedades a superar alguns dos grandes desafios de nossos tempos. Mas as tecnologias de IA podem ter efeitos negativos, até mesmo catastróficos, se forem usadas sem as considerações necessárias e suficientes sobre como afetam os direitos humanos das pessoas ”, disse Bachelet.

Como parte de seu trabalho * sobre tecnologia e direitos humanos, o Escritório de Direitos Humanos da ONU publicou um relatório que analisa como a IA – incluindo criação de perfis, tomada de decisão automatizada e outras tecnologias de aprendizado de máquina – afeta o direito das pessoas à privacidade e outros direitos, incluindo os direitos à saúde, educação, liberdade de movimento, liberdade de reunião e associação pacíficas e liberdade de expressão.

“A Inteligência Artificial agora alcança quase todos os cantos de nossas vidas físicas e mentais e até mesmo estados emocionais. Os sistemas de IA são usados ​​para determinar quem obtém os serviços públicos, decidir quem tem a chance de ser recrutado para um emprego e, é claro, eles afetam as informações que as pessoas veem e podem compartilhar online ”, disse a Alta Comissária.

O relatório analisa como os Estados e as empresas muitas vezes correram para incorporar aplicativos de IA, deixando de realizar a devida diligência. Já houve vários casos de pessoas sendo tratadas injustamente por causa da IA, como não receberem benefícios da previdência social por causa de ferramentas de IA defeituosas ou até sendo presas por causa de reconhecimento facial defeituoso.

O relatório detalha como os sistemas de IA dependem de grandes conjuntos de dados, com informações sobre indivíduos coletadas, compartilhadas, mescladas e analisadas de maneiras múltiplas e muitas vezes opacas. Os dados usados ​​para informar e orientar os sistemas de IA podem ser falhos, discriminatórios, desatualizados ou irrelevantes. O armazenamento de dados a longo prazo também apresenta riscos específicos, uma vez que os dados podem, no futuro, ser explorados de maneiras ainda desconhecidas.

“Dado o crescimento rápido e contínuo da IA, preencher a imensa lacuna de responsabilidade em como os dados são coletados, armazenados, compartilhados e usados ​​é uma das questões de direitos humanos mais urgentes que enfrentamos”, disse Bachelet.

As inferências, previsões e monitoramento realizados por ferramentas de IA, incluindo a busca de insights sobre padrões de comportamento humano, também levantam sérias questões. Os conjuntos de dados podem ser tendenciosos nos sistemas de IA e levarem a decisões discriminatórias, e esses riscos são mais graves para grupos já marginalizados.

“O risco de discriminação associado às decisões baseadas em IA – decisões que podem mudar, definir ou causar danos a vidas humanas – é muito real. É por isso que é preciso haver avaliação e monitoramento sistemáticos dos efeitos dos sistemas de IA para identificar e mitigar os riscos aos direitos humanos ”, disse Bachelet.

“A complexidade do ambiente de dados, algoritmos e modelos subjacentes ao desenvolvimento e operação de sistemas de IA, bem como o sigilo intencional do governo e atores privados, são fatores que minam as formas significativas para o público entender os efeitos dos sistemas de IA nos direitos humanos e na sociedade , ”Diz o relatório.

Desta forma é preciso haver muito mais transparência por parte das empresas e dos Estados em como estão desenvolvendo e usando IA.

Sobre o Relatório

O relatório destacou os impactos inegáveis ​​e cada vez maiores das tecnologias de IA no exercício do direito à privacidade e a outros direitos humanos, tanto para o bem como para o mal. Ele apontou para desenvolvimentos preocupantes, incluindo um amplo ecossistema de coleta e trocas de dados pessoais em grande parte não transparentes que sustentam partes dos sistemas de IA que são amplamente usados.
Esses sistemas afetam as abordagens do governo para o policiamento e a administração da justiça, determinam a acessibilidade dos serviços públicos, decidem quem tem a chance de ser recrutado para um emprego e afetam as informações que as pessoas veem e podem compartilhar online.
Além disso, o risco de discriminação associado a decisões baseadas em IA é muito real. O relatório descreve uma série de maneiras de abordar os problemas fundamentais associados à IA, ressaltando que apenas uma abordagem abrangente baseada nos direitos humanos pode garantir soluções sustentáveis ​​para o benefício de todos.

Ao final, propõe soluções para empresas e Estados atuarem de forma imediata para minimizar os riscos contra os Direitos Humanos.

Para conferir o relatório na íntegra clique aqui.

Fonte: www.ohchr.org

Posts relacionados: Desafios da segurança cibernética na adoção de inteligência artificial na direção autônoma / ISC elabora documento sobre os riscos da Computação em Nuvem / OWASP Top 10 Liberadas as Vulnerabilidades principais de 2021