> For the complete documentation index, see [llms.txt](https://carlaprv.gitbook.io/ciberdemocracia/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://carlaprv.gitbook.io/ciberdemocracia/projeto-decolonizacao-da-inteligencia-artificial.md).
# Projeto: Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância
### **Tema:** Decolonização da Inteligência Artificial e uso de reconhecimento facial para vigilância no Brasil
### **Contexto**
Ao mesmo tempo em que os algoritmos de Inteligência Artificial trazem possibilidades magníficas de otimização do trabalho e outras transformações positivas, também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção.
Parece haver uma expectativa geral de que o desenvolvimento de Inteligência Artificial irá trazer soluções para vários dos problemas da humanidade. O problema é que no geral o desenvolvimento dessas tecnologias não é acompanhado de uma reflexão sobre as dinâmicas que estruturam a nossa sociedade: como o racismo e o colonialismo.
Nesse ponto, entram as teorias decoloniais que utilizam uma visão histórica para explicar os padrões de poder que moldam os aspectos políticos, econômicos e sociais da nossa sociedade. Ao incorporar uma abordagem crítica decolonial no desenvolvimento de IA, podemos pesquisar/desenvolver tecnologias estabelecendo princípios éticos e centralizando as soluções nas comunidades mais impactadas e pouco representadas nesses sistemas.
Precisamos ampliar o nosso conhecimento e interesse sobre o funcionamento dessas novas tecnologias, assim como criarmos mecanismos e regras para seu uso, de modo a ter controle sobre o aumento de seu poder de influência sobre os usuários e não dependermos de caixas pretas sobre as quais não temos nenhum controle.
**Notícias sobre reconhecimento facial no Brasil para segurança pública**
* [99 vai oferecer câmera que grava imagens dentro e fora dos carros a motoristas](https://link.estadao.com.br/noticias/empresas,99-vai-oferecer-camera-que-grava-imagens-dentro-e-fora-dos-carros-a-motoristas,70003452598)
* [SDS vai usar câmeras que reconhecem criminosos e carros roubados em Pernambuco](https://jc.ne10.uol.com.br/colunas/ronda-jc/2020/09/11975353-sds-preve-cameras-que-reconhecem-criminosos-e-carros-roubados-em-pernambuco.html)
* [Rede lança relatório com dados inéditos sobre Rio de Janeiro, Bahia, Ceará, Pernambuco e São Paulo](http://observatorioseguranca.com.br/rede-lanca-relatorio-com-dados-ineditos-sobre-rio-de-janeiro-bahia-ceara-pernambuco-e-sao-paulo/)
* [Sistema de reconhecimento facial será implantado em Sergipe](http://fanf1.com.br/sistema-de-reconhecimento-facial-sera-implantado-em-sergipe/)
* [Reconhecimento facial: tecnologia ganha relevância na pandemia e passa a ser comum](https://t.co/aDU2UOBDGm?amp=1)
### **Questão de pesquisa:**
* O que são os conceitos de colonização e decolonização?
* Como esses conceitos podem ser aplicados na análise do uso de tecnologias como Reconhecimento Facial na segurança pública?
### **Objetivo do Projeto**
Incentivar a inovação e pesquisa de IA através de uma visão decolonial e sociotécnica que considera o impacto das tecnologias na sociedade.
### **Método**
1. Conceitualizar colonização e decolonização do IA: Identificar um referencial teórico a partir do qual você deseja estudar esta questão (decolonização?)
2. Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo.
3. Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
### Produtos e resultados esperados
A principal meta deste projeto da disciplina é entender a importância de uma abordagem científica crítica, e em particular do pensamento decolonial, na compreensão e modelagem de algoritmos de Inteligência Artificial. Acredita-se que, a partir dela, será possível apoiar estudos futuros que buscam aplicar esse pensamento no desenvolvimento de tecnologias e pesquisas na área de computação.
Espero que as teorias decoloniais expandam a capacidade de pesquisadoras de IA, incluindo eu mesma, de fazer pesquisas críticas e questões de design de tecnologia, imaginar realidades alternativas, questionar quem está desenvolvendo IA e onde, e examinar o papéis de cultura e poder embutidos em sistemas de IA.
### **Contribuições**
Em termos de publicações científicas, é esperado que os resultados desse projeto sejam inseridos em veículos de disseminação na área de Inteligência Artificial, Aprendizado de Máquina e Sistemas de Informação.
## **Referências**
### **Trabalhos relacionados**
* Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8
* Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em:
* Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011
* Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013).
### **Próximas leituras**
* [Reconhecimento Facial e Segurança Pública: Os Perigos do uso da Tecnologia no Sistema Penal Seletivo Brasileiro](https://www.ufsm.br/cursos/pos-graduacao/santa-maria/ppgd/wp-content/uploads/sites/563/2019/09/5.23.pdf) (2019)
* [Visão Computacional e Vieses Racializados: branquitude como padrão no aprendizado de máquina](https://www.researchgate.net/publication/334263119_Visao_Computacional_e_Vieses_Racializados_branquitude_como_padrao_no_aprendizado_de_maquina) (2019)
* [Vigilância das forças de segurança através de câmeras de reconhecimento facial e o conflito com o direito à privacidade](https://run.unl.pt/handle/10362/97545) (2020)
* [Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital](https://revistas2.uepg.br/index.php/emancipacao/article/view/14258) (2020)
* [Utilização do reconhecimento Facial eletrônico por empresas para identificação de suspeitos](https://periodicos.ufrn.br/transgressoes/article/view/19909) (2020)