Last updated
Last updated
Ao mesmo tempo em que os algoritmos de Inteligência Artificial trazem possibilidades magníficas de otimização do trabalho e outras transformações positivas, também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção.
Parece haver uma expectativa geral de que o desenvolvimento de Inteligência Artificial irá trazer soluções para vários dos problemas da humanidade. O problema é que no geral o desenvolvimento dessas tecnologias não é acompanhado de uma reflexão sobre as dinâmicas que estruturam a nossa sociedade: como o racismo e o colonialismo.
Nesse ponto, entram as teorias decoloniais que utilizam uma visão histórica para explicar os padrões de poder que moldam os aspectos políticos, econômicos e sociais da nossa sociedade. Ao incorporar uma abordagem crítica decolonial no desenvolvimento de IA, podemos pesquisar/desenvolver tecnologias estabelecendo princípios éticos e centralizando as soluções nas comunidades mais impactadas e pouco representadas nesses sistemas.
Precisamos ampliar o nosso conhecimento e interesse sobre o funcionamento dessas novas tecnologias, assim como criarmos mecanismos e regras para seu uso, de modo a ter controle sobre o aumento de seu poder de influência sobre os usuários e não dependermos de caixas pretas sobre as quais não temos nenhum controle.
Notícias sobre reconhecimento facial no Brasil para segurança pública
O que são os conceitos de colonização e decolonização?
Como esses conceitos podem ser aplicados na análise do uso de tecnologias como Reconhecimento Facial na segurança pública?
Incentivar a inovação e pesquisa de IA através de uma visão decolonial e sociotécnica que considera o impacto das tecnologias na sociedade.
Conceitualizar colonização e decolonização do IA: Identificar um referencial teórico a partir do qual você deseja estudar esta questão (decolonização?)
Realizar um levantamento de literatura com trabalhos que problematizam esta questão (IA, reconhecimento facial, segurança pública) no Brasil e no mundo.
Analisar estes trabalhos a partir deste referencial teórico, apresentando oportunidades de pesquisa
A principal meta deste projeto da disciplina é entender a importância de uma abordagem científica crítica, e em particular do pensamento decolonial, na compreensão e modelagem de algoritmos de Inteligência Artificial. Acredita-se que, a partir dela, será possível apoiar estudos futuros que buscam aplicar esse pensamento no desenvolvimento de tecnologias e pesquisas na área de computação.
Espero que as teorias decoloniais expandam a capacidade de pesquisadoras de IA, incluindo eu mesma, de fazer pesquisas críticas e questões de design de tecnologia, imaginar realidades alternativas, questionar quem está desenvolvendo IA e onde, e examinar o papéis de cultura e poder embutidos em sistemas de IA.
Em termos de publicações científicas, é esperado que os resultados desse projeto sejam inseridos em veículos de disseminação na área de Inteligência Artificial, Aprendizado de Máquina e Sistemas de Informação.
Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. doi:10.1007/s13347-020-00405-8
Assis, W. F. T. (2014). Do colonialismo à colonialidade: expropriação territorial na periferia do capitalismo. Caderno CRH, 27(72), 613–627. doi:10.1590/s0103-49792014000300011
Birhane A. & Guest O. Towards decolonising computational sciences. (2020). Disponível em:
Queiroz, P. Ivo. Fanon, O Reconhecimento o Negro e o Novo Humanismo: Horizontes Descoloniais Da Tecnologia. (2013).
(2019)
(2019)
(2020)
(2020)
(2020)
Autor: Carla Vieira