Atividade 5: Pilares Governo Aberto

Discussão dos pilares de Governo Aberto (transparência, accountability, participação/colaboração) nos projetos desenhados na disciplina.

Pilares governo aberto

A opressão algorítmica e decolonização que falamos trata da subordinação de um grupo social e o privilégio de outro - mantido por uma "rede complexa de restrições sociais" que vão desde normas sociais, leis, regras institucionais, preconceitos implícitos e estereótipos - por meio de dados e sistemas de Inteligência Artificial.

Uma visão decolonial ajuda a entender essas opressões algorítmicas dentro de contextos sociopolíticos e culturais mais amplos, permitindo uma análise geográfica, histórica e interseccional dos riscos e oportunidades de sistemas de IA.

Transparência e Accountability

Governos devem ativamente prestar contas de todos seus atos e assumir a responsabilidade pública de suas ações e decisões. Fonte: Open Government Partnership

Iniciativas como a Diversity.ai e OpenAI defendem que os algoritmos de Inteligência Artificial devem ser auditáveis. Concordo com essa ideia e acredito que é preciso conhecer quais bases de dados foram utilizadas para seu treinamento e quais são os critérios utilizados para processá-las, pois só assim a sociedade estará segura para poder ter controle sobre as decisões que afetam suas vidas.

Participação

A participação é incentivada e inclui informar, consultar, envolver e empoderar cidadãos e organizações sociais. Fonte: Open Government Partnership

Acho que um ponto quando pensamos em Inteligência Artificial é sobre como apresenta muitos riscos aos grupos historicamente marginalizados na nossa sociedade. Por conta disso, eu acredito que seja de grande importância a participação desses grupos nesses temas e reflexões.

Penso que a sociedade precisa entender culturalmente como grupos marginalizados estão sendo oprimidos agora e qual o papel da tecnologia e Inteligência Artificial nisso, e, claro, como a ciência é política.