¿Epistemología? Cómo sabemos que una máquina sabe

Esta es la entrada que más lejos parece del asunto y más cerca está. La inteligencia artificial es, en sentido estricto, una tecnología de conocimiento: produce afirmaciones sobre el mundo a partir de evidencia, y nosotros decidimos cuándo aceptarlas. La epistemología es la disciplina que se ocupa de esa decisión desde hace veinticinco siglos, y no tiene el problema resuelto. Conviene saber eso antes de delegarlo.

Fijate lo que acaba de pasar en el párrafo anterior. Te pedí que aceptes que el tema es importante apoyándome en nada más que en mi palabra. Si ahora te pregunto cómo sabés lo que sabés, varias respuestas posibles son “lo escuché”, “confío en la fuente”, “lo busqué”. Ahí está el problema entero.

Observación

Tendemos a pensar que la mejor fuente de conocimiento es la experiencia directa, la de los sentidos, y a tratarla como lo más objetivo a lo que podemos aspirar. Costó consolidar esa idea: durante siglos primó la posición contraria, que los sentidos engañan y que es mejor razonar que ir a mirar.

La historia convencional ubica el cambio en el siglo XVII, cuando los hechos observacionales pasan a ser la base de la ciencia y la autoridad de Aristóteles y de la Biblia deja de alcanzar. El emblema es Galileo tirando objetos desde la torre de Pisa. (Ese experimento probablemente nunca ocurrió —la fuente es una biografía escrita décadas después por un discípulo— y sin embargo sigue haciendo el trabajo pedagógico, lo cual no deja de ser un dato epistemológico interesante sobre cómo circula el conocimiento.)

Esto importa para pensar la IA porque estamos ante una forma nueva de observación: la que arranca en la generación de un dato. Y hay tantos datos disponibles que es fácil llegar a creer que los datos son el mundo.

Con la observación mediada por sensores pasa lo mismo que con la observación a secas, sólo que más: vemos lo que vemos según lo que buscamos ver. Observar no es recibir estímulos. Para formular y aceptar un enunciado observacional hace falta un marco conceptual y conocimiento previo. El ejemplo clásico es el de una criatura aprendiendo a reconocer manzanas: sin las correcciones de alguien que ya sabe qué hace que algo sea una manzana, va a llamar manzana a cosas que no lo son.

A un sistema de aprendizaje automático le pasa exactamente eso, con dos diferencias. Las correcciones vienen de un conjunto de datos etiquetados por personas cuyo marco conceptual queda incorporado sin quedar declarado. Y no hay nadie ahí para preguntar por qué.

Inducción

Derivar una regularidad general a partir de enunciados de observación se llama inducción. Se observa que los metales A, B y C se dilatan al calentarse y se induce que todos los metales lo hacen.

El inductivismo sostiene que basta con hacer buenas inducciones para tener buen conocimiento. El problema es que, a diferencia de la deducción, la inducción no garantiza la verdad de la conclusión aunque las premisas sean verdaderas. Los requisitos que se han propuesto para una buena inferencia inductiva se desarman al mirarlos de cerca:

• Muchas observaciones que respalden la generalización. No está claro cuántas.
• Mucha variedad de condiciones. No hay criterio para decidir qué variaciones son relevantes.
• Ninguna excepción conocida. La mayoría de las leyes científicas tiene excepciones.

No hay una caracterización satisfactoria de la inducción, y tampoco se la puede justificar apelando a la lógica deductiva ni a más inducción sin caer en circularidad. Hay versiones más sofisticadas basadas en probabilidad y estadística, pero heredan los mismos problemas, con el agravante de que quedan disimulados entre los supuestos que se hacen para que el cálculo funcione.

La conclusión no es escéptica: es que los hechos y las teorías se sostienen mutuamente. Hace falta la teoría existente sobre aquello que se quiere conocer para juzgar qué generalizaciones inductivas son aceptables. Eso sólo parece un problema si uno esperaba una verdad última.

Y describe con precisión incómoda lo que hace un modelo entrenado: generalizar a partir de casos, sin teoría del dominio, con criterios de suficiencia fijados por quien armó el conjunto de datos.

Deducción y falsación

El falsacionismo parte de que el conocimiento cambia con el tiempo y con los recursos disponibles, y por eso pone en el centro el problema del progreso: explicar por qué una teoría es mejor que otra sin que ninguna sea verdadera en sentido último, porque siempre puede llegar una mejor.

El ejemplo canónico es la física de Aristóteles a Newton a Einstein. La física aristotélica explicaba un montón de fenómenos y aun así fue falsada en varios aspectos. La de Newton fue un progreso tan grande que durante dos siglos pareció definitiva. La relatividad resultó mejor todavía.

Lo que importa acá es el desplazamiento: lo que está en juego no es la verdad sino el proceso —formular hipótesis, ponerlas a prueba, falsarlas. La observación y la experiencia son fundamentales, pero también lo son la imaginación y la creatividad para producir las hipótesis que se ponen a prueba, y ese sigue siendo el desafío abierto para cualquier sistema artificial. En la inteligencia humana hay bastante más imaginación de lo que las teorías centradas en la racionalidad plena querían admitir.

Conocimiento tecnológico

Conviene desarmar de paso una idea muy instalada: que la tecnología es ciencia aplicada. El modelo lineal que va del descubrimiento científico a la aplicación práctica quedó asociado al informe de Vannevar Bush de 1945, Science, the endless frontier, y a la política científica que organizó durante décadas.

Se lo criticó por dos razones. Primero, porque ignora los factores sociales, políticos y económicos que moldean el desarrollo. Segundo, porque el proceso no es lineal ni unidireccional: la tecnología tiene una lógica propia, responde a necesidades prácticas y a fuerzas de mercado, y muy seguido va adelante de la explicación científica de por qué funciona.

El aprendizaje profundo es un caso de manual. Funciona mucho mejor de lo que la teoría disponible puede explicar, y buena parte de la investigación consiste en averiguar después por qué anduvo.

Epistemología social: en quién confiamos

Epistemología es el estudio de cómo sabemos lo que sabemos. La epistemología social se ocupa de cómo lo sabemos a través de otros, que es de lejos la forma más habitual de saber, incluso en la ciencia.

Una situación: alguien te cuenta un rumor. ¿Le creés? Podés evaluar cuán confiable es esa persona, o podés buscar más información. Cualquiera de las dos cosas implica tomar posición sobre la naturaleza social del conocimiento.

Defender una creencia por lo que sabemos de la confiabilidad de su fuente es una posición que se llama confiabilismo. La confianza funciona como un atajo: en lugar de verificar cada detalle, se confía en fuentes que demostraron ser fiables. Es eficiente y es peligroso por la misma razón.

Dos cosas complican el panorama:

• Los mecanismos sociales de verificación se armaron cuando publicar era caro. Imprimir un diario o sostener un canal de televisión implicaba una estructura, y esa estructura era lo que uno estaba evaluando al confiar. Las tecnologías digitales bajaron ese costo a cero sin reemplazar el mecanismo.
• Los sesgos cognitivos son atajos. Si una amiga suele darme información precisa, se ganó mi confianza. Pero ¿qué la hace confiable? ¿De dónde saca lo que dice? ¿Podría estar diciendo lo que le parece y, como nadie la cuestiona, aparentar tener razón?

Con la IA generativa esto se vuelve agudo. Cuando interactuamos con un modelo de lenguaje, el resultado puede ser tan pulido como el de un experto, y viene sin ninguna de las señales que usamos para calibrar confianza: sin fuente, sin historial de aciertos, sin nadie que responda. Si estás acostumbrado a chequear algo con una búsqueda, vale la pena preguntarse en qué o en quién estás confiando exactamente.

Y no es sólo un problema individual. Cuando el texto generado empieza a circular como fuente de otros textos generados, lo que se degrada no es una creencia particular sino el sistema por el cual una comunidad decide qué da por establecido. Ese es el asunto de fondo de los comunes epistémicos, uno de los ejes que atraviesa el blog y buena parte de Filosofía de la IA.

Con esto cierra el piso conceptual del capítulo. Lo que sigue es la parte práctica —dónde aprender todo esto, en qué orden y con qué criterio—, y conviene entrar ahí con la pregunta puesta. Ninguno de los cursos que vienen la hace, y es la que vuelve útil a todos los demás.

Para seguir pensando

Chalmers, A. F. (2010). ¿Qué es esa cosa llamada ciencia? (3.ª ed.). Siglo XXI. (Obra original publicada en 1999)

Cutcliffe, S. H. (2003). Ideas, máquinas y valores: Los estudios de ciencia, tecnología y sociedad. Anthropos.

Lawler, D. (2020). Los estándares como artefactos. Filosofia Unisinos, 21(1), 24-35. https://doi.org/10.4013/fsu.2020.211.03

Parente, D., Berti, A. y Celis Bueno, C. (Eds.). (2022). Glosario de filosofía de la técnica. La Cebra.

Esta entrada revisa y actualiza ¿Epistemología? de la v1.