# Projeto: Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância ### **Tema:** Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância no Brasil ### **Contexto** Ao mesmo tempo em que os algoritmos de Inteligência Artificial trazem possibilidades magníficas de otimização do trabalho e outras transformações positivas, também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção. Parece haver uma expectativa geral de que o desenvolvimento de Inteligência Artificial irá trazer soluções para vários dos problemas da humanidade. O problema é que no geral o desenvolvimento dessas tecnologias não é acompanhado de uma reflexão sobre as dinâmicas que estruturam a nossa sociedade: como o racismo e o colonialismo. Nesse ponto, entram as teorias decoloniais que utilizam uma visão histórica para explicar os padrões de poder que moldam os aspectos políticos, econômicos e sociais da nossa sociedade. Ao incorporar uma abordagem crítica decolonial no desenvolvimento de IA, podemos pesquisar/desenvolver tecnologias estabelecendo princípios éticos e centralizando as soluções nas comunidades mais impactadas e pouco representadas nesses sistemas. Precisamos ampliar o nosso conhecimento e interesse sobre o funcionamento dessas novas tecnologias, assim como criarmos mecanismos e regras para seu uso, de modo a ter controle sobre o aumento de seu poder de influência sobre os usuários e não dependermos de caixas pretas sobre as quais não temos nenhum controle. **Notícias sobre reconhecimento facial no Brasil para segurança pública** * [99 vai oferecer câmera que grava imagens dentro e fora dos carros a motoristas](https://link.estadao.com.br/noticias/empresas,99-vai-oferecer-camera-que-grava-imagens-dentro-e-fora-dos-carros-a-motoristas,70003452598) * [SDS vai usar câmeras que reconhecem criminosos e carros roubados em Pernambuco](https://jc.ne10.uol.com.br/colunas/ronda-jc/2020/09/11975353-sds-preve-cameras-que-reconhecem-criminosos-e-carros-roubados-em-pernambuco.html) * [Rede lança relatório com dados inéditos sobre Rio de Janeiro, Bahia, Ceará, Pernambuco e São Paulo](http://observatorioseguranca.com.br/rede-lanca-relatorio-com-dados-ineditos-sobre-rio-de-janeiro-bahia-ceara-pernambuco-e-sao-paulo/) * [Sistema de reconhecimento facial será implantado em Sergipe](http://fanf1.com.br/sistema-de-reconhecimento-facial-sera-implantado-em-sergipe/) * [Reconhecimento facial: tecnologia ganha relevância na pandemia e passa a ser comum](https://t.co/aDU2UOBDGm?amp=1) ### **Questão de pesquisa:** * O que são os conceitos de colonização e decolonização? * Como esses conceitos podem ser aplicados na análise do uso de tecnologias como Reconhecimento Facial na segurança pública? ### **Objetivo do Projeto** Incentivar a inovação e pesquisa de IA através de uma visão decolonial e sociotécnica que considera o impacto das tecnologias na sociedade. ### **Método** 1. Conceitualizar colonização e decolonização do IA: Identificar um referencial teórico a partir do qual você deseja estudar esta questão (decolonização?) 2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo. 3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa ### Produtos e resultados esperados A principal meta deste projeto da disciplina é entender a importância de uma abordagem científica crítica, e em particular do pensamento decolonial, na compreensão e modelagem de algoritmos de Inteligência Artificial. Acredita-se que, a partir dela, será possível apoiar estudos futuros que buscam aplicar esse pensamento no desenvolvimento de tecnologias e pesquisas na área de computação. Espero que as teorias decoloniais expandam a capacidade de pesquisadoras de IA, incluindo eu mesma, de fazer pesquisas críticas e questões de design de tecnologia, imaginar realidades alternativas, questionar quem está desenvolvendo IA e onde, e examinar o papéis de cultura e poder embutidos em sistemas de IA. ### **Contribuições** Em termos de publicações científicas, é esperado que os resultados desse projeto sejam inseridos em veículos de disseminação na área de Inteligência Artificial, Aprendizado de Máquina e Sistemas de Informação. ## **Referências** ### **Trabalhos relacionados** * Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8 * Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em: * Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011 * Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013). ### **Próximas leituras** * [Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal Seletivo Brasileiro](https://www.ufsm.br/cursos/pos-graduacao/santa-maria/ppgd/wp-content/uploads/sites/563/2019/09/5.23.pdf) (2019) * [Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina](https://www.researchgate.net/publication/334263119_Visao_Computacional_e_Vieses_Racializados_branquitude_como_padrao_no_aprendizado_de_maquina) (2019) * [Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade](https://run.unl.pt/handle/10362/97545) (2020) * [Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital](https://revistas2.uepg.br/index.php/emancipacao/article/view/14258) (2020) * [Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos](https://periodicos.ufrn.br/transgressoes/article/view/19909) (2020) --- # Agent Instructions: Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter: ``` GET https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial.md?ask= ``` The question should be specific, self-contained, and written in natural language. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.