Projeto: Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância

Autor: Carla Vieira

Tema: Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância no Brasil

Contexto

Ao mesmo tempo em que os algoritmos de Inteligência Artificial trazem possibilidades magníficas de otimização do trabalho e outras transformações positivas, também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção.

Parece haver uma expectativa geral de que o desenvolvimento de Inteligência Artificial irá trazer soluções para vários dos problemas da humanidade. O problema é que no geral o desenvolvimento dessas tecnologias não é acompanhado de uma reflexão sobre as dinâmicas que estruturam a nossa sociedade: como o racismo e o colonialismo.

Nesse ponto, entram as teorias decoloniais que utilizam uma visão histórica para explicar os padrões de poder que moldam os aspectos políticos, econômicos e sociais da nossa sociedade. Ao incorporar uma abordagem crítica decolonial no desenvolvimento de IA, podemos pesquisar/desenvolver tecnologias estabelecendo princípios éticos e centralizando as soluções nas comunidades mais impactadas e pouco representadas nesses sistemas.

Precisamos ampliar o nosso conhecimento e interesse sobre o funcionamento dessas novas tecnologias, assim como criarmos mecanismos e regras para seu uso, de modo a ter controle sobre o aumento de seu poder de influência sobre os usuários e não dependermos de caixas pretas sobre as quais não temos nenhum controle.

Notícias sobre reconhecimento facial no Brasil para segurança pública

Questão de pesquisa:

  • O que são os conceitos de colonização e decolonização?

  • Como esses conceitos podem ser aplicados na análise do uso de tecnologias como Reconhecimento Facial na segurança pública?

Objetivo do Projeto

Incentivar a inovação e pesquisa de IA através de uma visão decolonial e sociotécnica que considera o impacto das tecnologias na sociedade.

Método

  1. Conceitualizar colonização e decolonização do IA: Identificar um referencial teórico a partir do qual você deseja estudar esta questão (decolonização?)

  2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo.

  3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa

Produtos e resultados esperados

A principal meta deste projeto da disciplina é entender a importância de uma abordagem científica crítica, e em particular do pensamento decolonial, na compreensão e modelagem de algoritmos de Inteligência Artificial. Acredita-se que, a partir dela, será possível apoiar estudos futuros que buscam aplicar esse pensamento no desenvolvimento de tecnologias e pesquisas na área de computação.

Espero que as teorias decoloniais expandam a capacidade de pesquisadoras de IA, incluindo eu mesma, de fazer pesquisas críticas e questões de design de tecnologia, imaginar realidades alternativas, questionar quem está desenvolvendo IA e onde, e examinar o papéis de cultura e poder embutidos em sistemas de IA.

Contribuições

Em termos de publicações científicas, é esperado que os resultados desse projeto sejam inseridos em veículos de disseminação na área de Inteligência Artificial, Aprendizado de Máquina e Sistemas de Informação.

Referências

Trabalhos relacionados

  • Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8

  • Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: https://arxiv.org/abs/2009.14258

  • Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011

  • Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). http://repositorio.utfpr.edu.br:8080/jspui/handle/1/492

Próximas leituras

Last updated