4. Contextos particulares de investigación y aplicación de IA | guIA

Medicina

Sun, 05 May 2019 00:00:00 +0100

Panoramas generales

LLMs adaptados a clínica

Ver también

Literatura científica

Baumgartner C. (2023). The potential impact of ChatGPT in clinical and translational medicine. Clinical and translational medicine, 13(3), e1206.
Will ChatGPT transform healthcare?. Nat Med 29, 505–506 (2023).
Truhn, D., Reis-Filho, J.S. & Kather, J.N. Large language models should be used as scientific reasoning engines, not knowledge databases. Nat Med (2023).

Presentaciones

XXIV Jornadas de Investigación Científica

Facultad de Ciencias Médicas, Universidad Nacional de Córdoba

Artículos en la web

Sugerencias de uso

Software

Patología análisis imágenes

Centrados en educación

Videos

Excelente entrevista a Geof Hinton

Contextos educativos

Sun, 05 May 2019 00:00:00 +0100

Educación

¿Cómo pensar la IA en la Educación Superior?

La emergencia de la inteligencia artificial configura lo que podríamos denominar un momento de redescripción y realinamiento de muchos proyectos y formas de pensar la integración e impacto en las prácticas académicas, siendo tanto una puesta en jaque de muchas costumbres en la enseñanza como una oportunidad para retomar algunas utopías, en el sentido liberador y posibilitador de más justicia social como planteaba Paulo Freire. Es en esa línea que, para empezar, nos conviene aquí apartarnos de la pregunta metafísica sobre qué “es” la IA en educación, para interrogarnos más bien sobre qué vocabularios nos permite articular y qué conversaciones hace posibles o imposibles.

Podríamos decir que las tecnologías de IA amenazan con intensificar aquello que Freire llamó el modelo bancario, pero esta formulación reproduce precisamente el tipo de esencialismo que deberíamos evitar. Más productivo resulta observar cómo ciertos usos de la IA reinscriben prácticas de pasividad epistémica: los estudiantes desarrollan una dependencia conversacional con sistemas que producen respuestas, y la educación se redescribe a sí misma en el vocabulario de la automatización instruccional. Esto no revela una “naturaleza” opresiva de la tecnología, sino más bien la persistencia de ciertos hábitos lingüísticos y prácticos que Freire identificó como obstáculos para la transformación social.

El pánico moral respecto al “fraude” estudiantil con IA constituye, de hecho, un síntoma revelador. No nos dice nada sobre una supuesta esencia corrupta de la juventud contemporánea, sino que ilumina las contradicciones internas de nuestros actuales juegos de lenguaje educativos. En un sistema que se autodescribe mediante metáforas bancarias (por ejemplo donde el conocimiento se “deposita” y posteriormente se “retira” o se “pone en práctica”) resulta perfectamente coherente que los estudiantes busquen instrumentos que cortocircuiten tareas que niegan su propia agencia interpretativa. De hecho cabe esperar que docentes e investigadores también hagan uso de ella para cumplir con algunas de las demandas del medio o la sobrecarga laboral en estos tiempos de crisis.

La dificultad no radica en que los estudiantes utilicen IA, sino en que la educación formal ha operado históricamente mediante una reducción del aprendizaje a transacción mecánica. Si pretendieramos usar herramientas de software de detección de IA (que ya sabemos que son muy poco confiables, diga el marketing lo que diga) no hace sino profundizar esta cosificación de la relación pedagógica. El desafío genuino consiste en rearticular la educación como una práctica que reconoce a los estudiantes como participantes en conversaciones abiertas, como coautores de descripciones provisionales del mundo, antes que como recipientes de representaciones correctas.

Sin embargo —y aquí reside la posibilidad de una redescripción liberadora— la IA podría funcionar como recurso para lo que Freire denominó liberación, dependiendo enteramente de las prácticas conversacionales en las que se inscribe. Utilizada dialógicamente, la IA puede operar como interlocutora en una pedagogía problematizadora: un instrumento para la exploración colaborativa, el cuestionamiento sostenido y la cocreación interpretativa. Un estudiante, por ejemplo, podría emplear IA para generar hipótesis preliminares o trazar mapas conceptuales vinculados a un proyecto comunitario, abriendo espacios conversacionales antes que simplemente delegando la producción textual. La IA se convertiría así en algo más próximo a una brújula orientativa en el campo educativo que a un informe conclusivo. Esto se suma a que una forma de entender nuestra tarea de educadores es formar ciudadanos que puedan hacer una apropiación crítica de tecnologías que de otra manera ya están siendo usadas con líneas más instrumentales o colonialismos extractivistas.

La diferencia crucial no reside en propiedades intrínsecas de la tecnología, sino en si su uso refuerza la consumición pasiva o estimula el compromiso activo con aquello que Dewey habría llamado “situaciones problemáticas”. Los estudiantes pueden emplear IA no meramente para “recibir” información, como si esta fuera una entidad preexistente esperando ser transmitida, sino para ensayar interpretaciones, desafiar presuposiciones heredadas e imaginar redescriciones alternativas. Antes que reemplazar el diálogo humano, la IA podría enriquecerlo, habilitando a los aprendices para formular mejores preguntas y abordar problemas desde ángulos conceptuales novedosos.

En este sentido, la pedagogía freiriana ofrece lo que podríamos llamar un vocabulario evaluativo para educadores que navegan la emergencia de la IA. La pregunta crucial no es si la IA es “buena” o “mala” en algún sentido metafísico, sino si sus modalidades de uso contribuyen a la humanización o deshumanización, entendiendo estos términos no como esencias fijas sino como nombres para constelaciones de prácticas sociales preferibles o rechazables. ¿Puede la IA profundizar la conciencia crítica del discente en lugar de embotarla? ¿Puede fomentar conversaciones abiertas en lugar de reforzar estándares autorizados por prácticas epistémicas que no podemos poner en cuestión? Si los educadores abordamos la IA dentro de un marco freiriano que prioric la reflexión situada, la praxis transformadora y aquello a lo que Freire llamó síntesis cultural, la tecnología puede incorporarse a las luchas por redescripciones más democráticas de nuestra vida común, antes que convertirse en otro instrumento para la perpetuación de jerarquías epistémicas heredadas

Artículos académicos

Dossier sobre IA en la Revista Trayectorias Universitarias: Vol. 10 Núm. 19 (2024):

En inglés

Fütterer, T., Fischer, C., Alekseeva, A., Chen, X., Tate, T., Warschauer, M., & Gerjets, P. (2023). ChatGPT in education: Global reactions to AI innovations. Scientific Reports, 13(1), Article 1.

Destaco del final:

When investigating new tools such as ChatGPT, communicating with peers can open our eyes to their challenges and opportunities. Hopefully, these conversations will continue into more differentiated and educationally relevant discussions as we gain more experience with generative AI tools.

Selección de artículos académicos sobre IA y educación en JSTOR: (a medida en que los pueda leer iré haciendo una breve reseña de cada uno)

Cuarsos

Presentaciones

UTN-FRC | Inteligencia Artificial: Alcances y oportunidades en las prácticas educativas

Links interesantes

Padlet/mural que mantiene , repositorio de recursos, experiencias e ideas para el aula.
[de la Oficina de Tecnología Educativa del Departamento de Educación de los EEUU; contiene algunos puntos interesantes para pensar los lineamientos de políticas educativas de distintos alcances y niveles de apliación en torno a la incorporación de herramientas de IA en contextos educativos.]
[recopoliación de noticias de sobre IA en contextos educativos] [también una oportunidad para ver cómo se presenta una empresa que ofrece servicios de software con IA para instituciones educativas]

Tutoriales

(varios idiomas)

Videos

Dr. sobre integridad académica en tiempos de chatGPT

Dr. sobre por qué la IA no puede ser inconsistente ni irracional (por tanto, nunca terraplanista)

En inglés

Esta es quizás una de las mejores presentaciones generales del punto de vista optimista de la inclusión de / reconversión por IA en educación.

Otra presentación similar de Ethan Mollick:

Y una más reciente

Distintas formas de uso de las IA como/en Tecnología Educativa

Para destacar de la descripción del video, especialmente en cuanto al rol que deben asumir los tecnólogos educativos como mediadores:

Este panel examina la intersección entre la enseñanza y las tecnologías de IA en las humanidades. Su objetivo es ir más allá de las narrativas de pánico y exageración y, en su lugar, comprometerse críticamente con las conversaciones en torno a la IA y la educación hoy en día como parte de una práctica profesional en curso. Se trata de una conversación que, con demasiada frecuencia, da la sensación de que se desarrolla en dos mundos diferentes: los académicos de humanidades y los desarrolladores de IA hablan lenguajes completamente distintos, y los tecnólogos del aprendizaje a menudo se quedan en medio para mediar. La brecha entre estas comunidades ya se está dejando sentir, pues los académicos de humanidades luchan por adaptarse a estas nuevas tecnologías sin el tiempo o los conocimientos necesarios para evaluarlas críticamente y los desarrolladores de IA lanzan nuevas herramientas que a menudo no se han creado pensando en las humanidades.

para seguir viendo (algunas cosas más nuevas)

Charlas TED(x)

Esta charla de Bernhard Schindlholzer ya tiene unos años, pero puede servir de contraste interesante para pensar la velocidad del progreso tecnológico actual con respecto a IA y lo difícil que es predecir el impacto y la forma que tendrá una tecnología. Hay algo muy interesante al final acerca de cómo entender el espacio educativo como “una simulación”, en donde el error sea una parte activa del encuentro pedagógico.

Links, inglés

Temas específicos

Integridad académica

Economía

Sun, 05 May 2019 00:00:00 +0100

Economía

Innovación

Remplazo/cambios profundos del trabajo

Esta presentación de Cassie Kozyrkov en la DSC Europe 23 presenta el problema del impacto de la automatización de puestos de trabajo desde el punto de vista de las limitaciones actuales de la estructura presente de las comunidades de desarrollo de IA, especialmente el desafío de la construcción y revisión de la calidad de los datos de entrenamiento (ver ca. 17:00)

Trabajo fantasma

Este documental pone el énfasis en el trabajo fantasma (y demasiado humano) que está detrás de muchas de las automatizaciones, ya sea directamente en productos o plataformas, o bien para el entrenamiento de futuras herramientas de IA.

Copyright / derechos de autor

(ver tambíen )

Programación ‘clásica’ asistida

(algo que se puede pensar incluso como un caso puntual de la tesis acerca de la IA como una nueva forma de programar)

Aplicaciones a gran escala / casos particulares

BloombergGPT

Tendencias económicas y el mundo tecnológico

IA en/para el séctor público

Sun, 05 May 2019 00:00:00 +0100

Temas generales

Políticas públicas

Gobernanza por/con IA

Justicia

Interacción entre empresas y gobiernos (para uso de IA en gobernanza)

El uso por parte de Naciones Unidas aparece en minuto [22:40]](https://youtu.be/Ln8aZI2Lkhs?si=kyPEYwWlrRU9sBeM&t=1359), sigue charla con Frederic Werner, lider de AIforGood de NU.

Humanidades

Sun, 05 May 2019 00:00:00 +0100

economía de la atención

Desafíos

Desafío 1. Pone en jaque formas establecidas de trabajo, reporte de investigaciones y evaluaciones y cuando nos damos cuenta…

El dilema de Collingridge indica que con las tecnologías emergentes, es fácil regular al inicio, pero difícil cuando están integradas. La inteligencia artificial en Humanidades y Ciencias Sociales enfrenta este dilema. Los riesgos identificados incluyen:

alucinaciones y errores de información
sesgos en los resultados
pérdida de habilidades investigativas
debilitamiento de la autoría y responsabilidad académica

A pesar de estos riesgos, la IA ya se utiliza en:

formación de investigadores escritura académica evaluación por pares redacción de proyectos y solicitudes de financiamiento.

Innovación responsable

Frente a este escenario, el enfoque de “innovación responsable” propone que las instituciones desarrollen políticas basadas en cuatro principios:

Anticipación: Evaluar posibles impactos y riesgos futuros.
Reflexividad: Revisar críticamente cómo se usa la IA y qué supuestos incorpora.
Inclusión: Incorporar múltiples actores y perspectivas en las decisiones.
Capacidad de respuesta: Adaptar políticas y prácticas a medida que aparecen nuevos problemas.

No es posible predecir completamente los efectos de la IA.

Por eso, las universidades y centros de investigación necesitan construir procesos permanentes de evaluación, regulación y aprendizaje institucional.

Desafío 2: Nueva “mirada desde ningún lugar” (objetividad 4.0)

Estamos frente a un nuevo regimen de objetividad (que recapitula y complejiza los anteriores). Daston y Galilson (1997) mostraban cómo cambió históricamente la idea de objetividad científica:

“Verdad según la naturaleza” → representar el tipo ideal.
“Objetividad mecánica” → confiar en el instrumento.
“Juicio entrenado” → la experiencia del especialista interpreta y corrige los datos.

Los modelos de lenguaje (LLM) introducen una posible cuarta etapa:

“Verosimilitud probabilística” → las respuestas parecen correctas porque son estadísticamente plausibles, no porque el razonamiento haya sido auditado o verificado.

La investigación asistida por IA no elimina la necesidad de expertos; al contrario, aumenta la importancia del juicio crítico y disciplinar. Paradojicamente, lo hace mucho más difícil y valioso, pero es necesario que institucionalmente le demos el lugar. Cualquier política que trate el uso de modelos de lenguaje (LLM) en Humanidades y Ciencias Sociales como equivalente a su uso en programación (como completadores de código o creadores de programas) subestima el tipo de margen de error epistemológico en el que estamos operando.

Oportunidades

Nuevas formas de investigar: hacia una «hermeneútica computacional»

La hermenéutica digital utiliza herramientas computacionales e inteligencia artificial para analizar, interpretar y comparar grandes volúmenes de textos, imágenes y datos culturales a una escala imposible para la lectura humana tradicional.

Gracias a la IA, es posible:

detectar patrones temáticos y discursivos,
analizar miles de documentos simultáneamente,
reconstruir redes intelectuales y culturales,
estudiar cambios históricos en conceptos y lenguajes.

Esto no reemplaza la interpretación humana, sino que amplía las capacidades de investigación, combinando análisis automatizado con lectura crítica y contextual propia de las Humanidades.

Financiamiento y posicionamiento estratégico de centros de IA en Humanidades

Los organismos de financiamiento están apoyando cada vez más centros de investigación liderados por Humanidades que estudian los impactos sociales, culturales, legales y éticos de la inteligencia artificial. En Estados Unidos, la National Endowment for the Humanities creó el programa Humanities Research Centers on Artificial Intelligence, que financia centros interdisciplinarios dirigidos por especialistas en Humanidades. Estos programas priorizan temas como:equidad, privacidad, derechos civiles, democracia, nnovación curricular, infraestructura digital y actividades académicas.

Esta tendencia reposiciona a las Humanidades como actores centrales en el debate público sobre la IA, y no solo como usuarias de tecnología. Para las instituciones del Sur Global, persisten desafíos importantes: desigualdad en acceso a financiamiento, brechas de infraestructura, dependencia de agendas externas. Por ello, resulta estratégico que los sistemas nacionales y regionales de financiamiento desarrollen programas propios orientados a perspectivas locales sobre los impactos sociales de la IA.

Desafío máximo

Tenemos que repensar nuestras instituciones en términos de aceptar a la investigación y la educación como partes moduladoras de un ecosistema de culturas digitales en el que debemos gestionar y proteger al conocimiento como un bien común. Esto requiere ver a la IA como una tecnología cultural, muy lejos de cualquier neutralidad.

Cf. Kevin Kelly y el dilema de agregar valor a la ‘gratuidad’ informacional:

Algunas ideas

Algunos videos

Este evento, la Cumbre sobre IA Centrada en el Ser Humano del Colegio de Humanidades y Ciencias Sociales (CHSS) (0:13), reúne a docentes y autoridades universitarias para explorar cómo las humanidades y las ciencias sociales pueden orientar el desarrollo de la inteligencia artificial para garantizar que siga siendo ética, responsable y justa.

Presentaciones principales y conclusiones:

Mind Meets Machine (Eileen Rosler, 6:20): Analiza el desafío de lograr una sinergia entre humanos e IA. Destaca el término alemán Verschlimmbesserung —empeorar las cosas con buenas intenciones— y enfatiza la necesidad de transparencia y verificabilidad en el diseño de sistemas. Making Moral Machines (Elizabeth Phillips, 9:37): Explora cómo pueden diseñarse robots capaces de comprender normas sociales y morales. Sostiene que las máquinas deben tomar decisiones justificables, de modo que puedan explicar por qué actuaron de determinada manera, fomentando así la confianza. Reboot Your Career (Steve Glades, 13:49): Ofrece consejos prácticos sobre cómo usar la IA para ayudar en la búsqueda laboral (por ejemplo, reescribir currículums y hacer networking en LinkedIn), al tiempo que subraya la importancia del componente humano, como las entrevistas informativas y las notas de agradecimiento escritas a mano. Critical Literacies of AI (Douglas Eyman, 21:27): Defiende la enseñanza de un pensamiento crítico sobre la IA. Señala que, aunque los modelos de lenguaje grandes (LLM) pueden servir para generar ideas o actuar como tutores, carecen de la capacidad de verificar la verdad, por lo que la experiencia humana sigue siendo necesaria para evaluar sus resultados. Historical Records to Data Sets (Lincoln Mullen y Deepthi Murali, 28:00): Muestra cómo la IA puede digitalizar y procesar enormes archivos históricos —como registros textiles y censos religiosos— permitiendo a los investigadores pasar de la transcripción mecánica a una interpretación histórica más profunda guiada por humanos. Robot Deception (Andreas Roso, 39:50): Examina la ética del engaño en robots, sugiriendo que, aunque los robots podrían necesitar “mentir” para seguir normas sociales (como mantener la comodidad de un usuario), la intención detrás del engaño es lo que finalmente determina si la acción resulta perjudicial.

4. Contextos particulares de investigación y aplicación de IA | guIA

Medicina

Panoramas generales

LLMs adaptados a clínica

Ver también

Literatura científica

Presentaciones

XXIV Jornadas de Investigación Científica

Artículos en la web

Sugerencias de uso

Software

Patología análisis imágenes

Centrados en educación

Videos

Contextos educativos

Educación

¿Cómo pensar la IA en la Educación Superior?

Artículos académicos

En inglés

Cuarsos

Presentaciones

UTN-FRC | Inteligencia Artificial: Alcances y oportunidades en las prácticas educativas

Links interesantes

Tutoriales

Videos

Dr. sobre integridad académica en tiempos de chatGPT

Dr. sobre por qué la IA no puede ser inconsistente ni irracional (por tanto, nunca terraplanista)

En inglés

Distintas formas de uso de las IA como/en Tecnología Educativa

para seguir viendo (algunas cosas más nuevas)

Charlas TED(x)

Links, inglés

Temas específicos

Integridad académica

Economía

Economía

Innovación

Remplazo/cambios profundos del trabajo

Trabajo fantasma

Copyright / derechos de autor

Programación ‘clásica’ asistida

Aplicaciones a gran escala / casos particulares

BloombergGPT

Tendencias económicas y el mundo tecnológico

IA en/para el séctor público

Temas generales

Políticas públicas

Gobernanza por/con IA

Justicia

Interacción entre empresas y gobiernos (para uso de IA en gobernanza)

Humanidades

Desafíos

Desafío 1. Pone en jaque formas establecidas de trabajo, reporte de investigaciones y evaluaciones y cuando nos damos cuenta…

Innovación responsable

No es posible predecir completamente los efectos de la IA.

Desafío 2: Nueva “mirada desde ningún lugar” (objetividad 4.0)

Oportunidades

Nuevas formas de investigar: hacia una «hermeneútica computacional»

Financiamiento y posicionamiento estratégico de centros de IA en Humanidades

Desafío máximo

Algunas ideas

Algunos videos

Algunas referencias