No início deste ano, a Comissão de Segurança Nacional de Inteligência Artificial (NSCAI) dos EUA divulgou seu relatório final, submetendo-o à análise do Congresso. Sem surpresas, o relatório recomenda uma estratégia nacional integrada. Sugere medidas de segurança nacional e preparação para a forte competição internacional no desenvolvimento e uso expansivo das tecnologias de IA.
O relatório mostra preocupação em proteger a privacidade, os direitos e as liberdades civis no curso da implantação das tecnologias de IA e faz algumas recomendações. Entre elas, que os EUA se preparem para enfrentar um amplo espectro de ameaças relacionadas à IA de atores estatais e não estatais. E indica como o governo pode se responsabilizar relativamente ao uso dessas tecnologias inovadoras para proteger a população e os interesses do país.
O relatório descreve o papel da IA em um cenário de competição tecnológica ampliado. E destaca que a confiança da população dependerá da garantia de que o uso da IA pelo governo respeitará a privacidade, as liberdades e os direitos civis.
E para assegurar essa confiança, a Comissão sugere:
Desenvolver ferramentas de IA para aprimorar a supervisão e a auditoria;
Aumentar a transparência pública sobre o uso de IA;
Construir sistemas de IA que promovam os objetivos de preservação da privacidade e da justiça;
Garantir que as pessoas impactadas por ações governamentais envolvendo IA possam buscar reparação, assegurado o devido processo legal.
Além disso, a Comissão julga importante a transparência pública sobre o uso de IA, concretizada por meio de Relatórios de Avaliação de Risco e Avaliação de Impacto de IA na privacidade, liberdade e direitos civis. E que esses relatórios sejam exigidos pelo Congresso. E, diante da inércia do Congresso, que o próprio presidente se encarregue de exigí-los.
A Comissão indica a necessidade de as agências governamentais se encarregarem de implementar ações que viabilizem o teste dos sistemas de IA com o objetivo de preservar a privacidade, as liberdades, os direitos civis e a justiça.
A ênfase em garantir o devido processo legal para assegurar a reparação para os cidadãos que se sentirem prejudicados é um ponto importante.
A preocupação da Comissão com o nível de confiança expresso pela percepção popular em relação à IA é nítida. Isso porque é inexorável a predominância futura das tecnologias de IA em todas as áreas da atividade humana. E, com todos os impactos previsíveis e imprevisíveis, é prudente ter em mente o princípio da precaução.
E quanto ao Brasil? Veremos isso em outro texto.
Quer saber mais sobre os impactos dessa tecnologia? Sugiro a leitura do meu livro BIOCHIPAGEM HUMANA E DIREITO À PRIVACIDADE, onde analiso, por meio da metodologia de prospecção de cenários, algumas de suas consequências boas e ruins.
Fonte:
Pozza, Duane. Key Commission on AI Recommends Privacy and Civil Liberties Protections in Domestic AI Uses. Acesso em 18 de agosto de 2021. Disponível em: https://www.jdsupra.com/legalnews/key-commission-on-ai-recommends-privacy-3479774/
FAIS GILSON FAIS ADVOGADO. São Paulo. 2021.