guIA
guIA v2
Aprender IA
Pensar a IA a partir do Sul Global

Pensar a IA a partir do Sul Global: um percurso crítico

O mapa de recursos e sua extensão montam um percurso técnico produzido quase inteiramente num punhado de universidades e empresas do Norte global. Isso não as invalida —é, com enorme diferença, o melhor material gratuito disponível—, mas determina o que se ensina como “o problema”: como melhorar a acurácia, como escalar o treinamento, como implantar em produção. Quase nunca: com quais dados, extraídos de quem, com que energia e que água, sob que regime de trabalho, e quem fica em condições de decidir sobre isso.

Esta entrada monta a outra metade do percurso. Não é “a parte de ética” no fim do curso: é um conjunto de ferramentas conceituais que mudam o que se vê ao olhar para um modelo. E está organizada com um viés explícito —América Latina e Sul Global— não como categoria de vítima nem como público a consultar, mas como lugar onde já se produzem alternativas institucionais concretas.

Marcos para ver a IA como infraestrutura, não como algoritmo

  • Crawford, K. (2021). Atlas da IA — Segue a IA de trás para frente, da interface ao lítio, à água, ao trabalho de rotulagem e aos arquivos de dados: a melhor porta de entrada para deixar de pensar em “algoritmos” e começar a pensar em cadeias de suprimento planetárias.
  • Calculating Empires (Kate Crawford e Vladan Joler) — Uma genealogia visual, navegável e gratuita, de cinco séculos de tecnologias de cálculo, comunicação, classificação e controle. Serve tanto para estudar quanto para dar aula: uma única imagem enorme onde se vê que nada disso começou em 2022.
  • Couldry, N. e Mejias, U. (2019). The Costs of Connection — A formulação mais influente da tese do colonialismo de dados: não uma metáfora sobre o colonialismo, mas a afirmação de que há uma nova apropriação —a da vida social convertida em dado— com estrutura análoga à apropriação colonial de terra e trabalho. Sua rede de pesquisa, Tierra Común, publica e organiza sobretudo a partir da América Latina.
  • Birhane, A. (2020). Algorithmic Colonization of Africa Acesso aberto — Curto, contundente e em acesso aberto. Mostra como as promessas de “resolver problemas africanos com IA” reproduzem dependência infraestrutural e um modelo em que o continente entra com dados e mercado e recebe soluções desenhadas fora. É provavelmente o melhor texto único para entender do que se fala quando se diz “colonialismo algorítmico”.
  • Mohamed, S., Png, M.-T. e Isaac, W. (2020). Decolonial AI Acesso aberto — Escrito de dentro da indústria, traduz a teoria decolonial em táticas concretas para a prática de pesquisa em IA: design reverso, cautela com o “beta-testing” em populações vulneráveis, solidariedade crítica.
  • Ricaurte, P. (2019). Data Epistemologies, The Coloniality of Power, and Resistance — Do México, articula a extração de dados com a colonialidade do poder e do saber e —o mais interessante— com as práticas de resistência que já existem na região.
  • Mhlambi, S. (2020). From Rationality to Relationality: Ubuntu as an Ethical and Human Rights Framework for AI Governance — Propõe substituir o sujeito racional individual que sustenta quase toda a ética da IA por uma ontologia relacional (ubuntu). É o exemplo mais nítido de que “epistemologias do Sul” não significa aplicar os mesmos marcos com outros exemplos, e sim mudar os marcos.
  • AI Decolonial Manyfesto — Um texto breve, coletivo e multilíngue. Útil para abrir uma discussão em aula ou numa equipe.

Justiça algorítmica, viés e seus limites

  • Algorithmic Justice League — Fundada por Joy Buolamwini. Além da pesquisa, tem material pensado para a ação: não perca sua palestra TED e o documentário Coded Bias, disponível em várias plataformas.
  • DAIR Institute — O instituto de pesquisa independente fundado por Timnit Gebru depois de sua saída do Google. Pesquisa em IA feita explicitamente fora da agenda das grandes empresas, com equipes distribuídas por vários continentes.
  • Fairness and Machine Learning — O livro aberto de Barocas, Hardt e Narayanan. Rigor técnico sobre o que se pode e o que não se pode medir como “viés”; seu capítulo final é uma boa vacina contra a ideia de que equidade é um problema de otimização.
  • Practical Data Ethics (Rachel Thomas, fast.ai) — O curso de ética escrito por alguém que também ensina a parte técnica; especialmente bom em desinformação e nos mecanismos de retroalimentação dos sistemas de recomendação.
  • Tech Ethics Curricula: A Collection of Syllabi (Casey Fiesler) — Centenas de programas de disciplinas de ética da tecnologia, numa planilha aberta. Se você precisa montar um curso, comece por aqui.

Economia política e filosofia da tecnologia

  • Zuboff, S. (2019). A era do capitalismo de vigilância — A referência obrigatória, ainda que discutida: o excedente comportamental como matéria-prima. Para uma entrada rápida, serve a síntese de Nick Rabb e sua versão em vídeo.
  • Frenken, K. — The rise of the platform economy — Uma conferência anterior ao ciclo de entusiasmo de 2022 em diante, e justamente por isso útil: a análise da economia de plataformas se sustenta sem o ruído do presente.
  • Floridi, L. (2023). The Ethics of Artificial Intelligence — O melhor resumo (e tomada de posição) da literatura acumulada desde cerca de 2014, quando boa parte da problemática social da IA começou a decantar em torno da pergunta pela ética e pelas boas práticas. Útil precisamente para entender o marco que os textos da seção anterior discutem.
  • Coeckelbergh, M. (2020). AI Ethics (MIT Press, série Essential Knowledge) — Breve, ordenado e bom mapa do debate filosófico.
  • Frischmann, B. e Selinger, E. (2018). Re-Engineering Humanity — A pergunta invertida: não se as máquinas se tornam humanas, mas em que medida o design de ambientes técnicos nos torna mais maquinais.
  • Sobre tecno-otimismo e tecno-pessimismo — O manifesto tecno-otimista de Marc Andreessen vale como documento: não pela qualidade do argumento, mas porque expõe com uma franqueza incomum a ideologia de boa parte do capital de risco que financia esse campo. Ler junto com Gómez, R. J. (1997), Progreso, determinismo y pesimismo tecnológico (Redes, 4(10)), que desmonta o falso dilema desde a filosofia da ciência argentina.

Vídeos para pensar (e para dar aula)

Zeynep Tufekci sobre por que a inteligência de máquina torna a moral humana mais importante, não menos:

Sasha Luccioni sobre os danos concretos e presentes —custo ambiental, viés, trabalho invisível— frente aos riscos especulativos:

Onde isso está sendo pensado na América Latina

Grupos de pesquisa e organizações

  • Grupo GIFT — Grupo de pesquisa em filosofia da técnica; organiza oficinas anuais sobre IA, várias delas na Sociedade Argentina de Análise Filosófica (SADAF).
  • Laia — Laboratorio Abierto de Inteligencia Artificial — Espaço argentino de trabalho aberto sobre IA.
  • Fundación Vía Libre — Trabalho sustentado desde Córdoba sobre direitos digitais, software livre e, nos últimos anos, vieses e discriminação em modelos de linguagem, com ferramentas pensadas para que comunidades não técnicas possam auditar estereótipos em modelos.
  • Derechos Digitales — Organização regional (com base no Chile) que produz algumas das melhores pesquisas em espanhol sobre IA no Estado, vigilância e direitos humanos na América Latina.
  • Coding Rights — Do Brasil, cruza tecnologia, gênero e direitos com um enfoque de design e de intervenção pública.
  • LAVITS — Rede Latino-Americana de Estudos sobre Vigilância, Tecnologia e Sociedade: congressos, dossiês e uma comunidade acadêmica regional consolidada.
  • CENIA — Centro Nacional de Inteligência Artificial do Chile; entre outras coisas, coordena o Índice Latino-Americano de Inteligência Artificial (ILIA) e o esforço de treinar modelos de linguagem regionais com dados e participação latino-americanos.
  • Masakhane — Não é latino-americana, mas é o exemplo mais citado do que este capítulo discute: uma comunidade pan-africana, distribuída e de base, que constrói PLN para línguas africanas sem esperar que uma empresa do Norte decida que vale a pena.

Espaços curriculares

Comunidade técnica regional

  • Khipu — O encontro latino-americano de inteligência artificial: uma escola intensiva de pesquisa que circula por diferentes cidades da região.
  • LatinX in AI — Rede e programa de mentorias; organiza oficinas nas grandes conferências do campo.
  • SciELO e AmeliCA — A infraestrutura de publicação em acesso aberto construída na região, sem taxas de processamento de artigos. Cabem aqui por algo preciso: são a prova de que a América Latina já construiu comuns epistêmicos em escala continental e, portanto, de que a pergunta por uma infraestrutura de IA pública e regional não é utópica, e sim orçamentária e política.

Eventos: 2as Jornadas de IA na Universidad Nacional de Córdoba (dezembro de 2024)

Programação completa no site das jornadas (em espanhol).

Dia 1

Dia 2

A Rota D, em ordem

Se você quiser um percurso e não um catálogo:

  1. Ver o terreno: Atlas da IA, de Crawford, com o Calculating Empires aberto ao lado.
  2. Nomear a estrutura: Birhane, Algorithmic Colonization of Africa → Mohamed, Png e Isaac, Decolonial AI → Couldry e Mejias.
  3. Mudar o marco, não só os exemplos: Mhlambi (ubuntu), Ricaurte, Santos.
  4. Aterrissar no mensurável: fairmlbook e Practical Data Ethics, para não ficar na crítica sem ferramentas.
  5. Procurar onde já se faz: Vía Libre, Derechos Digitales, Masakhane, SciELO/AmeliCA. Este passo importa: sem ele, a crítica vira uma descrição elegante de uma derrota.

E se você vem do lado técnico, a ordem inversa funciona igualmente bem: começar pelo passo 5 —por uma organização concreta que esteja fazendo algo— e subir até os marcos.

Até aqui o capítulo trabalhou sobre a IA em geral: o que é, como aprendê-la, quem a produz e a que custo. Mas a mesma tecnologia muda de forma conforme onde aterrissa, e as perguntas viram outras quando do outro lado há uma sala de aula, um hospital ou uma repartição pública. Esse é o capítulo que vem a seguir.

Sugestões de leitura

Birhane, A. (2020). Algorithmic colonization of Africa. SCRIPTed, 17(2), 389–409. https://doi.org/10.2966/scrip.170220.389 Acesso aberto

Couldry, N., & Mejias, U. A. (2019). The costs of connection: How data is colonizing human life and appropriating it for capitalism. Stanford University Press.

Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

Mhlambi, S. (2020). From rationality to relationality: Ubuntu as an ethical and human rights framework for artificial intelligence governance (Carr Center Discussion Paper 2020-009). Harvard Kennedy School.

Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy & Technology, 33, 659–684. https://doi.org/10.1007/s13347-020-00405-8 Acesso aberto

Ricaurte, P. (2019). Data epistemologies, the coloniality of power, and resistance. Television & New Media, 20(4), 350–365.

Santos, B. de S. (2010). A gramática do tempo: Para uma nova cultura política. Cortez Editora.

Nota: os links podem mudar com o tempo; se algum não abrir, procure o nome do recurso no buscador.

Continuar em Contextos
docs