Epistemologia? Como sabemos que uma máquina sabe

Esta é a entrada que parece mais longe do assunto e está mais perto. A inteligência artificial é, em sentido estrito, uma tecnologia de conhecimento: produz afirmações sobre o mundo a partir de evidência, e nós decidimos quando aceitá-las. A epistemologia é a disciplina que se ocupa dessa decisão há vinte e cinco séculos, e não tem o problema resolvido. Convém saber isso antes de delegá-lo.

Repare no que acabou de acontecer no parágrafo anterior. Pedi que você aceite que o tema é importante apoiando-me em nada além da minha palavra. Se agora eu perguntar como você sabe o que sabe, várias respostas possíveis são “ouvi falar”, “confio na fonte”, “procurei”. Aí está o problema inteiro.

Observação

Tendemos a pensar que a melhor fonte de conhecimento é a experiência direta, a dos sentidos, e a tratá-la como o mais objetivo a que podemos aspirar. Custou consolidar essa ideia: durante séculos primou a posição contrária, a de que os sentidos enganam e de que é melhor raciocinar do que ir olhar.

A história convencional situa a mudança no século XVII, quando os fatos observacionais passam a ser a base da ciência e a autoridade de Aristóteles e da Bíblia deixa de bastar. O emblema é Galileu jogando objetos da torre de Pisa. (Esse experimento provavelmente nunca aconteceu —a fonte é uma biografia escrita décadas depois por um discípulo— e mesmo assim segue fazendo o trabalho pedagógico, o que não deixa de ser um dado epistemológico interessante sobre como circula o conhecimento.)

Isso importa para pensar a IA porque estamos diante de uma forma nova de observação: a que começa na geração de um dado. E há tantos dados disponíveis que é fácil chegar a acreditar que os dados são o mundo.

Com a observação mediada por sensores acontece o mesmo que com a observação sem mais, só que mais: vemos o que vemos conforme o que buscamos ver. Observar não é receber estímulos. Para formular e aceitar um enunciado observacional é preciso um marco conceitual e conhecimento prévio. O exemplo clássico é o de uma criança aprendendo a reconhecer maçãs: sem as correções de alguém que já sabe o que faz de algo uma maçã, vai chamar de maçã coisas que não são.

A um sistema de aprendizado de máquina acontece exatamente isso, com duas diferenças. As correções vêm de um conjunto de dados rotulado por pessoas cujo marco conceitual fica incorporado sem ficar declarado. E não há ninguém ali para perguntar por quê.

Indução

Derivar uma regularidade geral a partir de enunciados de observação chama-se indução. Observa-se que os metais A, B e C se dilatam ao serem aquecidos e se induz que todos os metais o fazem.

O indutivismo sustenta que basta fazer boas induções para ter bom conhecimento. O problema é que, diferentemente da dedução, a indução não garante a verdade da conclusão mesmo que as premissas sejam verdadeiras. Os requisitos propostos para uma boa inferência indutiva se desmancham quando olhados de perto:

• Muitas observações que respaldem a generalização. Não está claro quantas.
• Muita variedade de condições. Não há critério para decidir que variações são relevantes.
• Nenhuma exceção conhecida. A maioria das leis científicas tem exceções.

Não há uma caracterização satisfatória da indução, e tampouco se pode justificá-la apelando à lógica dedutiva nem a mais indução sem cair em circularidade. Há versões mais sofisticadas baseadas em probabilidade e estatística, mas herdam os mesmos problemas, com o agravante de ficarem disfarçados entre os supostos que se fazem para que o cálculo funcione.

A conclusão não é cética: é que os fatos e as teorias se sustentam mutuamente. É preciso a teoria existente sobre aquilo que se quer conhecer para julgar que generalizações indutivas são aceitáveis. Isso só parece um problema para quem esperava uma verdade última.

E descreve com precisão incômoda o que faz um modelo treinado: generalizar a partir de casos, sem teoria do domínio, com critérios de suficiência fixados por quem montou o conjunto de dados.

Dedução e falseamento

O falsificacionismo parte de que o conhecimento muda com o tempo e com os recursos disponíveis, e por isso coloca no centro o problema do progresso: explicar por que uma teoria é melhor que outra sem que nenhuma seja verdadeira em sentido último, porque sempre pode chegar uma melhor.

O exemplo canônico é a física de Aristóteles a Newton a Einstein. A física aristotélica explicava um monte de fenômenos e ainda assim foi falseada em vários aspectos. A de Newton foi um progresso tão grande que durante dois séculos pareceu definitiva. A relatividade acabou sendo melhor ainda.

O que importa aqui é o deslocamento: o que está em jogo não é a verdade mas o processo —formular hipóteses, pô-las à prova, falseá-las. A observação e a experiência são fundamentais, mas também o são a imaginação e a criatividade para produzir as hipóteses que se põem à prova, e esse segue sendo o desafio aberto para qualquer sistema artificial. Na inteligência humana há bem mais imaginação do que as teorias centradas na racionalidade plena queriam admitir.

Conhecimento tecnológico

Convém desmontar de passagem uma ideia muito instalada: a de que a tecnologia é ciência aplicada. O modelo linear que vai da descoberta científica à aplicação prática ficou associado ao relatório de Vannevar Bush de 1945, Science, the endless frontier, e à política científica que organizou durante décadas.

Foi criticado por duas razões. Primeiro, porque ignora os fatores sociais, políticos e econômicos que moldam o desenvolvimento. Segundo, porque o processo não é linear nem unidirecional: a tecnologia tem uma lógica própria, responde a necessidades práticas e a forças de mercado, e muitas vezes vai à frente da explicação científica de por que funciona.

O aprendizado profundo é um caso de manual. Funciona muito melhor do que a teoria disponível consegue explicar, e boa parte da pesquisa consiste em descobrir depois por que deu certo.

Epistemologia social: em quem confiamos

Epistemologia é o estudo de como sabemos o que sabemos. A epistemologia social ocupa-se de como o sabemos através de outros, que é de longe a forma mais habitual de saber, inclusive na ciência.

Uma situação: alguém lhe conta um boato. Você acredita? Pode avaliar quão confiável é essa pessoa, ou pode buscar mais informação. Qualquer uma das duas coisas implica tomar posição sobre a natureza social do conhecimento.

Defender uma crença pelo que sabemos da confiabilidade de sua fonte é uma posição chamada confiabilismo. A confiança funciona como um atalho: em vez de verificar cada detalhe, confia-se em fontes que se mostraram confiáveis. É eficiente e é perigoso pela mesma razão.

Duas coisas complicam o panorama:

• Os mecanismos sociais de verificação foram montados quando publicar era caro. Imprimir um jornal ou manter um canal de televisão implicava uma estrutura, e essa estrutura era o que se estava avaliando ao confiar. As tecnologias digitais baixaram esse custo a zero sem substituir o mecanismo.
• Os vieses cognitivos são atalhos. Se uma amiga costuma me dar informação precisa, ganhou minha confiança. Mas o que a torna confiável? De onde ela tira o que diz? Poderia estar dizendo o que lhe parece e, como ninguém a questiona, aparentar ter razão?

Com a IA generativa isso fica agudo. Quando interagimos com um modelo de linguagem, o resultado pode ser tão polido quanto o de um especialista, e vem sem nenhum dos sinais que usamos para calibrar confiança: sem fonte, sem histórico de acertos, sem ninguém que responda. Se você está acostumado a checar algo com uma busca, vale perguntar em que ou em quem está confiando exatamente.

E não é só um problema individual. Quando o texto gerado começa a circular como fonte de outros textos gerados, o que se degrada não é uma crença particular mas o sistema pelo qual uma comunidade decide o que dá por estabelecido. Esse é o assunto de fundo dos comuns epistêmicos, um dos eixos que atravessa o blog e boa parte de Filosofia da IA.

Com isto fecha o piso conceitual do capítulo. O que vem a seguir é a parte prática —onde aprender tudo isso, em que ordem e com que critério—, e convém entrar ali com a pergunta na mão. Nenhum dos cursos que vêm a faz, e é ela que torna úteis todos os demais.

Para seguir pensando

Chalmers, A. F. (1993). O que é ciência afinal? Brasiliense.

Cutcliffe, S. H. (2003). Ideas, máquinas y valores: Los estudios de ciencia, tecnología y sociedad. Anthropos.

Lawler, D. (2020). Los estándares como artefactos. Filosofia Unisinos, 21(1), 24-35. https://doi.org/10.4013/fsu.2020.211.03

Parente, D., Berti, A. e Celis Bueno, C. (Eds.). (2022). Glosario de filosofía de la técnica. La Cebra.

Esta entrada revisa e atualiza Epistemologia? da v1, disponível em espanhol.