Audrey Azoulay, a diretora geral da UNESCO, apresentou no dia 24 de outubro o primeiro instrumento normativo mundial sobre ética da inteligência artificial (IA) aprovado pelos Estados-membros da UNESCO em sua Conferência Geral.
Esse texto histórico define os valores e os princípios comuns que nortearão a construção do marco jurídico necessário para garantir o desenvolvimento saudável da IA.
A IA é abrangente e possibilita muitas de nossas rotinas diárias, como reservar voos, dirigir carros sem motorista e personalizar nossos feeds de notícias matinais. A IA também ajuda na tomada de decisões de governos e do setor privado.
As tecnologias de IA têm proporcionado resultados notáveis em campos altamente especializados, como em tratamentos oncológicos e construção de ambientes inclusivos para pessoas com deficiência. Eles também ajudam a combater problemas mundiais, como mudança climática e fome no mundo, e ajudam a reduzir a pobreza ao otimizar a ajuda econômica.
Entretanto, a tecnologia também tem acarretado novos desafios sem precedentes. Para citar alguns, temos visto aumento do preconceito de gênero e de etnia, ameaças significativas à privacidade, à dignidade e à capacidade de ação, perigos de vigilância em massa e aumento do uso de tecnologias de IA não confiáveis na aplicação da lei. Até a atualidade, não havia padrões universais para fornecer uma resposta a essas questões.
Em 2018, Audrey Azoulay, a diretora-geral da UNESCO, lançou um projeto ambicioso: oferecer ao mundo uma estrutura ética para o uso da inteligência artificial. Três anos depois, graças à mobilização de centenas de especialistas de todo o mundo e intensas negociações internacionais, os 193 Estados-membros da UNESCO acabam de aprovar oficialmente esse marco de ação ético.
O mundo necessita de regras de inteligência artificial para o benefício da humanidade. A Recomendação sobre a Ética da IA é uma resposta importante. Estabelece o primeiro instrumento normativo global, ao mesmo tempo que atribui aos Estados a responsabilidade de aplicá-lo em seu âmbito nacional. A UNESCO apoiará seus 193 Estados-membros em sua implementação e pedirá que relatem seu progresso e suas práticas com regularidade.
O conteúdo da Recomendação
A Recomendação visa a identificar as vantagens e que a IA proporciona para a sociedade e a reduzir os riscos que ela acarreta. Essa Recomendação garante que as transformações digitais promovam os direitos humanos e contribua para o alcance dos Objetivos de Desenvolvimento Sustentável, ao tratar de questões sobre transparência, responsabilização e privacidade, com capítulos sobre políticas orientadas para a ação sobre governança de dados, educação, cultura, trabalho, saúde e economia.
- Proteção de dados
A Recomendação exige ação além do que as empresas de tecnologia e governos estão fazendo para garantir aos indivíduos mais proteção, e garantir transparência, capacidade de ação e controle sobre seus dados pessoais. Afirma que todos os indivíduos devem ser capazes de acessar ou mesmo apagar registros de seus dados pessoais. Também inclui ações para melhorar a proteção de dados e o conhecimento de um indivíduo e o direito de controlar seus próprios dados. Também aumenta a capacidade de órgãos reguladores em todo o mundo para fazer cumprir esta norma.
- Proibição de pontuação social e vigilância em massa
A Recomendação proíbe de forma explícita o uso de sistemas de IA para pontuação social e vigilância em massa. Esses tipos de tecnologias são muito invasivos, violam os direitos humanos e as liberdades fundamentais e são usados de forma ampla. A Recomendação enfatiza que, ao desenvolver marcos regulatórios, os Estados-membros devem considerar que a responsabilização final e a prestação de contas devem sempre caber aos seres humanos e que as tecnologias de IA não devem assumir personalidade jurídica.
- Ajuda no monitoramento e na avaliação
A Recomendação também estabelece as bases para ferramentas que auxiliarão em sua implementação. A Avaliação de Impacto Ético visa a ajudar os países e as empresas a desenvolver e implantar sistemas de IA para avaliar o impacto desses sistemas nos indivíduos, na sociedade e no meio ambiente. A Metodologia de Avaliação da Prontidão ajuda os Estados-membros a avaliar o quanto estão preparados em termos de infraestrutura jurídica e técnica. Essa ferramenta ajudará a fortalecer a capacidade institucional dos países e recomendará medidas apropriadas a serem tomadas para garantir que a ética seja implementada na prática. Além disso, a Recomendação incentiva os Estados-membros a considerarem a adição da função independente de um Oficial de Ética de IA ou algum outro mecanismo para supervisionar os esforços de auditoria e monitoramento contínuo.
- Proteção do meio ambiente
A Recomendação enfatiza que os atores de IA devem favorecer dados, energia e métodos de IA eficientes em recursos que ajudem a garantir que a IA se torne uma ferramenta mais proeminente na luta contra a mudança climática e no tratamento de questões ambientais. A Recomendação pede aos governos que avaliem o impacto ambiental direto e indireto ao longo do ciclo de vida do sistema de IA. Isso inclui sua captação de carbono, consumo de energia e impacto ambiental da extração de matéria-prima para a fabricação de tecnologias de IA. Também visa a reduzir o impacto ambiental dos sistemas de IA e infraestruturas de dados. Incentiva os governos a investirem em tecnologia verde e, se houver um impacto negativo desproporcional dos sistemas de IA no meio ambiente, a Recomendação orienta que eles não devem ser utilizados.
As decisões que afetam milhões de pessoas devem ser justas, transparentes e contestáveis. Essas novas tecnologias devem nos ajudar a enfrentar os principais desafios do nosso mundo atual, assim como o aumento das desigualdades e a crise ambiental, e não o seu aprofundamento.
Tecnologias emergentes, como a IA, provaram sua imensa capacidade de oferecer resultados positivos. No entanto, seus impactos negativos, que agravam um mundo já dividido e desigual, devem ser controlados. Os desenvolvimentos de IA devem obedecer ao estado de direito, evitar danos e garantir que, quando o dano acontecer, mecanismos de responsabilização e reparação estejam disponíveis para as pessoas afetadas.
- Leia a texto completo da Recomendação* (em inglês)
- Mais sobre ética da inteligência artificial (em inglês)
- Mais sobre os 24 especialisttas que escreveram o texto da Recomendação (em inglês)
* No início de 2022, a Recomendação da UNESCO sobre Ética da Inteligência Artificial estará disponível em português.
Contato de mídia: Clare O’Hagan, c.o-hagan@unesco.org, +33(0)145681729