2. Referencias esenciales | guIA

Etica de la Inteligencia Artificial

Sun, 05 May 2019 00:00:00 +0100

Pequeños / breves

Ética de la IA se dice de varias maneras…

Referencias esenciales

Floridi, L. (2023). The ethics of artificial intelligence: Principles, challenges, and opportunities. Oxford University Press.

Este libro de Luciano Floridi es un excelente resumen (y toma de posición) de buena parte de la literatura (no limitado a la filosófica) que ha surgido desde aproximadamente 2014, año en el que mucha de la problemática social sobre IA empieza a decantar alrededor de la pregunta por la ética y las buenas prácticas. Debajo incluyo algunas presentaciones de Floridi para ver/escuchar.

Boylan, M., & Teays, W. (2022). Ethics in the AI, Technology, and Information Age. Rowman & Littlefield.

Coeckelbergh, M. (2020). AI ethics. The MIT Press.

“Mapas”

: (aunque jugaría con “calculando imperios”) Representación visual de buena parte de la historia social de las tecnologías de cálculo. De la mano de Cate Krawford y Matteo Pasquinelli.

Esfuerzos colaborativos

Alianzas ‘operativas’ de empresas

. El título de la nota dice «AI Alliance se lanza como una comunidad internacional de desarrolladores, investigadores y adoptadores de tecnología líderes que colaboran juntos para hacer avanzar una IA abierta, segura y responsable.» Quizás de momento lo más importante a notar es que en el listado de las empresas que componen la alianza no figuran Microsoft, OpenAI, Apple, Anthropic, Amazon, X, entre otras…

Fundaciones y grupos

, fundada por Joy Buolamwini. No perderse su , y está en Netflix y otros lados. Consultar también la

Algunas fuentes

si bien también una empresa, creo que es una muestra interesante de cómo se puede llevar a cabo el desafío de la innovación responsable en el campo de la IA y sus contextos de aplicación. Comparar sus con otras empresas.

Selección de videos

Seminar with Professor Geoffrey Hinton, at the Royal Swedish Academy of Engineering Sciences (IVA)

Esta discusión es muy interesante y la recomiendo en su totalidad, aunque al final aparecen una serie de argumentos a considerar incluyendo la importancia de considerar el tipo de confiabilismo en el que estamos acostumbrados a vivir y cómo debe mejor articularse para tiempos en los que la generación de contenido es más simple.

Panorama general sobre seguridad.

Esta playlist es imperdible, acompaña al libro sugerido sobre seguridad en la

Regulación y auditación

Un punto interesante sobre el que es necesario trabajar es las maneras en las cuales un modelo o sistema general que recurra a herramientas de inteligencia artificial se adaptan a los distintos marcos regulativos que se están desarrollando para direccionar y controlar los usos de estas herramientas con respecto a los valores sociales, políticos y culturales de la comunidad que decide regularlos.

Companías que ofrecen servicios de auditoría

Innovación responsable & IA

Algunas críticas al ecosistema / signos de advertencia

Cursos sobre (ética | sociedad | privacidad | responsabilidad) & (computación | tecnología)

por Rachel Thomas

Filosofía de la tecnología

Tecno-optimismo ‘vs.’ tecno-pesimismo

Claramente se trata de una posición extrema, pero el tecno optimismo se puede volver un recurso interesante para comprender una buena parte de la ideología presente en muchos sectores de la estructura económico-política, especialmente aquella ligada al emprendurismo tecnológico y el venture capitalism (o ‘capitalismo de riesgo’, que es la traducción usual aunque creo que un tanto ‘poco arriesgada’ if you know what I mean).

Traducción al español del manifiesto tecno optimista:

Más referencias

Frischmann, B., & Selinger, E. (2018). Re-Engineering Humanity. Cambridge University Press.

Gómez, R. J. (1997). Progreso, determinismo y pesimismo tecnológico. Redes, 4(10), 59-94.

Corporaciones & Países

Sun, 05 May 2019 00:00:00 +0100

ver también

📜

Impacto global (aka IA en relaciones internacionales)

Por país/“bloque”

EEUU

Unión Europea

📰

China

Latinoamérica

Elecciones y democracias

Impacto ambiental

Empresas / Corporaciones con fines de lucro

Meta (aka Facebook)

Destaco desde el minuto Why care about open source?, sigue transcripción traducida:

¿Por qué preocuparse por el código abierto?

Bueno, creo que hay dos partes. Es decir, ¿qué significa código abierto? Significa que la gente puede construir muchas cosas diferentes. A un alto nivel, observo la visión que tienen varias empresas. OpenAI, Google, están construyendo una IA, como una única IA que creo que en general piensan que vas a usar - ellos creen que vas a usar Gemini o ChatGPT para todas las diferentes cosas con las que quieras interactuar. Y a alto nivel, simplemente no creo que así es como va a ir el mundo. Creo que vamos a tener muchos sistemas de IA diferentes, así como tenemos muchas aplicaciones diferentes. Creo que en el futuro cada negocio, así como tiene un sitio web, un número de teléfono, un correo electrónico y una cuenta de redes sociales, también tendrá una IA que pueda interactuar con sus clientes para ayudarles a vender cosas, para ayudarles con el soporte. Creo que muchos creadores tendrán sus propias IAs. Creo que mucha gente interactuará con muchas cosas diferentes. Hay una pregunta: ¿quieres un futuro que sea fundamentalmente muy concentrado donde interactúas con un solo sistema para todo, o quieres uno donde mucha gente diferente está construyendo muchas IAs y sistemas diferentes? Es como que probablemente no querías que hubiera solo una aplicación o solo un sitio web. Es un mundo más rico cuando hay una diversidad de cosas diferentes. Esa es una parte: dar a la gente la capacidad de construir por sí mismos, y lo que hace el código abierto es permitir que todos puedan tomar y modificar el modelo y construir cosas sobre él, lo cual es diferente del enfoque cerrado y centralizado. El debate sobre la seguridad es una parte específica de esto, que es: en un mundo donde la IA se vuelve más y más inteligente, ¿cuál es la manera en que tenemos la mayor probabilidad de tener un futuro positivo y no tener muchas preocupaciones de seguridad? Y creo que algunas personas piensan que si mantenemos el modelo cerrado y no se lo damos a muchos desarrolladores, eso debería hacerlo más seguro porque entonces no tienes desarrolladores malos haciendo cosas malas con el modelo. Históricamente, creo que lo que hemos visto con el código abierto es realmente lo opuesto. Este no es el primer proyecto de código abierto, obviamente esto ha sido algo en la industria durante décadas, y creo que lo que tradicionalmente hemos visto es que el software de código abierto es más seguro principalmente porque lo pones ahí fuera, más personas pueden examinarlo porque pueden ver todas las partes del sistema. Y luego inevitablemente hay problemas con cualquier software, hay errores, hay problemas de seguridad, y inicialmente con el código abierto la gente pensaba: “hey, si estás poniendo el software ahí fuera y hay agujeros en él, ¿no va todo el mundo a explotar esos agujeros, especialmente los malos?” Pero resultó que, de una manera contraintuitiva, al agregar más escrutinio a los sistemas, los agujeros se hicieron aparentes más rápido y luego se arreglaron, y luego la gente lanza una nueva versión, así como lanzamos una nueva versión de nuestros modelos - Llama 3, Llama 3.1, Llama 3.2, todos se actualizan. Así que creo que lo mismo va a pasar aquí. Creo que es algo contraintuitivo donde, aunque creo que hay alguna preocupación sobre si los malos van a hacer cosas malas con estos modelos, en realidad creo que obtienes un modelo más inteligente y seguro para todos cuanto más se implementa y cuanto más escrutinio hay sobre él, y parte de eso es que recibimos retroalimentación y hacemos el modelo más seguro para que cuando lo implementamos a más personas, sea más seguro para que más personas lo usen. Así que creo que la historia del código abierto en la industria del software generalmente sugeriría que el código abierto va a conducir a un futuro más próspero y seguro.

Nvidia

Google

Identidad “personal”…

¿Worldcoin?

Economía &/de la IA

Capitalismo de plataformas

📺

la presentación tiene un tiempo ya y se nota (más que nada porque es previo al hype de AI de 2022+), pero el análisis que propone Frenken es interesante.

Capitalismo de vigilancia

- La también es buena

Colonialismo de datos

Inteligencia Artificial Generativa

Sun, 05 May 2019 00:00:00 +0100

Introducciones / vistas panorámicas a IA Generativa

Uno del los mejores que he visto hasta ahora, cubre mucho de los puntos que deben ser atendidos en cualquier introducción a los modos y las capacidades de esta tecnología

Para ir pensando los LLMs

“Alucinaciones”

Listas de modelos LLMs

Aprender IAG en serio / casi desde cero

esta es la lista de reproducción del curso entero de Stanford CS236 (2023)

Regulación

Sun, 05 May 2019 00:00:00 +0100

Para empezar, “cortitos”

Unión Europea (EU AI Act)

Panoramas generales

USA/Estados Unidos

Diagnósticos de situación en testimonios de comités por el congreso de EEUU

China

Gobernanza de la IA

Panoramas generales

🔉

Presentación de libro recientemente públicado: Ding, J. (2024). _Technology and the Rise of Great Powers: How Diffusion Shapes Economic Competition_. Princeton University Press.
> Un punto central del libro es la reevaluación de la teoría del sector líder. Ding critica la predominante «teoría del sector líder», que postula que la primera nación que adopte tecnologías disruptivas en industrias clave logrará el dominio económico. Afirma que esta perspectiva pasa por alto la importancia de una amplia difusión de la tecnología en diversos sectores.

Posturas desde compañías

Desde disciplinas

Gobernanza de IA y políticas públicas

(ver también )

Gobernanza Global de la IA

Gobernanza en América Latina

Control de la IA en sentido estricto y directo

Estándares

Inteligencia Artificial Generativa

Sun, 05 May 2019 00:00:00 +0100

Cosas encontradas que considero/consideré importantes, todavía por clasificar en la guIA.

Export The best AI tools for research papers and academic research (Literature review, grants, PDFs and more) – Academia Insider A New Machine Learning Research from MIT Shows How Large Language Models (LLMs) Comprehend and Represent the Concepts of Space and Time - MarkTechPost ¿Cuándo la inteligencia artificial hará todas las tareas humanas? La predicción se acorta cada vez más - Infobae Thought Propagation: Teaching LLMs to Solve Complex Reasoning Tasks with Analogies Genios de la matemática pronosticaron cómo será la vida con la inteligencia artificial - LA NACION ChatGPT y otras IAs ya son capaces de crear e-mails para estafas que nos convencen para hacer clic 8 de cada 10 veces Anti-Piracy Group Takes AI Training Dataset 'Books3′ Offline Inteligencia Artificial: los trabajadores que ya han sido sustituidos por la IA - BBC News Mundo How Large Language Models Mimic the Human Translation Process - Slator AI Chatbots Can Diagnose Medical Conditions at Home. How Good Are They? DreamGPT turns a weakness of large language models into a strength Este profesor ha analizado un libro con ChatGPT y GPT-4: ha conseguido desde crear una clase hasta captar la atención de sus alumnos Qué es la misteriosa “caja negra” de la inteligencia artificial que desconcierta a los expertos - LA NACION The worst of both worlds: A comparative analysis of errors in learning from data in psychology and machine learning

Videos para pensar la IA

Sun, 05 May 2019 00:00:00 +0100

Inteligencia Artificial en la

3er Workshop sobre IA del grupo GIFT (2024)

2do Workshop (2023)

Otros recursos en español para pensar IA (y otras tecnologías)

En inglés

Levemente desactualizado, pero la explicación que da Stuart al principio sobre cómo funcionan los modelos de transformer como chatGPT puede ser iluminadora. También hay un punto interesante acerca de cómo un sistema artificial puede simular tener objetivos de acuerdo a lo que solemos proyectar o interpretar como «tener objetivos» en el lenguaje natural.

Gran charla de Fei-Fei Lee, con un pequeño recorrido de la historia de la visión computacional y la aplicación en áreas críticas como la medicina. Notar al final la reflexión sobre el problema de la corporalidad para cerrare el loop entre acción y visión/percepción.

2. Referencias esenciales | guIA

Etica de la Inteligencia Artificial

Pequeños / breves

Ética de la IA se dice de varias maneras…

Referencias esenciales

“Mapas”

Esfuerzos colaborativos

Alianzas ‘operativas’ de empresas

Fundaciones y grupos

Algunas fuentes

Selección de videos

Seminar with Professor Geoffrey Hinton, at the Royal Swedish Academy of Engineering Sciences (IVA)

Impacto social de la IA

Panorama general sobre seguridad.

Regulación y auditación

Companías que ofrecen servicios de auditoría

Innovación responsable & IA

Algunas críticas al ecosistema / signos de advertencia

Cursos sobre (ética | sociedad | privacidad | responsabilidad) & (computación | tecnología)

por Rachel Thomas

Filosofía de la tecnología

Tecno-optimismo ‘vs.’ tecno-pesimismo

Más referencias

Corporaciones & Países

ver también

Impacto global (aka IA en relaciones internacionales)

Por país/“bloque”

EEUU

Unión Europea

China

Latinoamérica

Elecciones y democracias

Impacto ambiental

Empresas / Corporaciones con fines de lucro

Meta (aka Facebook)

¿Por qué preocuparse por el código abierto?

Nvidia

Google

Identidad “personal”…

¿Worldcoin?

Economía &/de la IA

Capitalismo de plataformas

Capitalismo de vigilancia

Colonialismo de datos

Inteligencia Artificial Generativa

Introducciones / vistas panorámicas a IA Generativa

Para ir pensando los LLMs

“Alucinaciones”

Listas de modelos LLMs

Aprender IAG en serio / casi desde cero

Regulación

Para empezar, “cortitos”

Unión Europea (EU AI Act)

Panoramas generales

USA/Estados Unidos

Diagnósticos de situación en testimonios de comités por el congreso de EEUU

China

Gobernanza de la IA

Panoramas generales

Posturas desde compañías

Desde disciplinas

Gobernanza de IA y políticas públicas

Gobernanza Global de la IA

Gobernanza en América Latina

Control de la IA en sentido estricto y directo

Estándares

Inteligencia Artificial Generativa

Export

Videos para pensar la IA

Inteligencia Artificial en la

3er Workshop sobre IA del grupo GIFT (2024)

2do Workshop (2023)

Otros recursos en español para pensar IA (y otras tecnologías)

En inglés

Algunos problemas avanzados y específicos

¿Progreso? ¿Hasta cuándo?

“Predicciones”

Antropomorfizaciones y otros humanismos

Ciberseguridad

Ciberseguridad se dice de muchas formas…