LocationsUn nuevo ciclo de aprendizaje del Laboratorio de Aceleración para impulsar tecnologías con foco en derechos e inclusión
Por una inteligencia artificial generativa con y para las personas
2 de Abril de 2024
El despliegue de la inteligencia artificial (IA) y, en particular, la denominada inteligencia artificial generativa ha tenido un profundo impacto en las personas y el planeta. También se ha convertido en una tecnología que trae consigo riesgos, y de la cual todavía desconocemos la magnitud de las transformaciones que traerá debido a su avance y adopción. Derivado de estas y más interrogantes que están en el aire, el equipo del Laboratorio de Aceleración del Programa de las Naciones Unidas para el Desarrollo (PNUD) en México decidió embarcarse en un nuevo camino de aprendizaje sobre la IA generativa, por lo que te invitamos a acompañarnos y aprender conjuntamente.
El auge de la inteligencia artificial generativa
En 2023, la inteligencia artificial se convirtió en un tema común entre las personas, sin embargo, en el medio tecnológico estuvo enfocada en noticias sobre la inteligencia artificial generativa: desde promesas sobre lo que puede lograr (mejorar el desarrollo y la investigación, apoyar la investigación, medición y reporte de esfuerzos medioambientales) y reflexiones sobre el potencial y riesgos de esta tecnología (promesas y peligros de la IA generativa en la educación, clonación de voz con IA para ‘secuestros falsos’); pasando por reflexiones sobre el impacto medioambiental (¿Cómo hacer que la IA generativa sea más ecológica?) y laboral (cómo la IA generativa está cambiando el trabajo creativo); hasta reflexiones sobre territorios menos explorados de las afectaciones de la IA generativa en nuestras vidas (¿Las aplicaciones de IA promueven expectativas poco saludables para las relaciones humanas?).
- La inteligencia artificial generativa es “un término amplio que se puede utilizar para cualquier sistema de IA cuya función principal sea generar contenido. Esto contrasta con los sistemas de inteligencia artificial que realizan otras funciones, como clasificar datos (p. ej., asignar etiquetas a imágenes), agrupar datos (p. ej., identificar segmentos de clientes con comportamiento de compra similar) o elegir acciones (p. ej., conducir un vehículo autónomo)” (Toner, H., 2023) [1].
Una particularidad de los sistemas de inteligencia artificial generativa es su función para crear contenido que parece ser generado por personas. Esta tecnología está cambiando diversos ámbitos de nuestras vidas, por ejemplo, cómo trabajamos, aprendemos, enseñamos y nos comunicamos, ya que las herramientas disponibles en el mercado nos permiten desarrollar contenidos de imagen (como con Midjourney), texto (como con ChatGPT, Gemini), código (como con GitHub Copilot) o audio (como con resemble.ai) [2].
Si bien, la definición anterior de inteligencia artificial generativa pone el acento en las funcionalidades tecnológicas, la aplicación y regulación de sistemas de IA deben incluir un diálogo continuo que coloque en el centro a las personas y al planeta para evitar consecuencias negativas. El Secretario General de la ONU exhortó a estudiar cuidadosamente las implicaciones de esta tecnología en áreas tan importantes como el desarrolllo, los derechos humanos y la paz y seguridad. Mientras que esfuerzos provenientes de academia y sociedad civil llaman a descolonizar la IA y tomar en cuenta las visiones y preocupaciones del Sur global, o a reflexionar sobre la creación de un marco feminista para el desarrollo de IA en América Latina de manera que no se reproduzcan lógicas de opresión.
Más allá de explorar las bondades y el potencial de la IA generativa, las conversaciones públicas sobre esta tecnología deben estar encaminadas a impulsar rutas de acción para la aplicación ética y responsable de la misma.
Nuestro nuevo ciclo de aprendizaje: inteligencia artificial generativa para el desarrollo sostenible
El diseño y uso de tecnologías como la inteligencia artificial generativa no ocurre en el vacío; aunque ésta promete traer consigo grandes beneficios, también puede llegar a exacerbar las desigualdades y vulnerabilidades que están presentes en los sistemas y sociedades de los que emana. Algunas de sus consecuencias, tanto positivas como negativas, ya se perciben claramente, mientras que otras se ven más desdibujadas en el horizonte.
Por el profundo impacto que el despliegue de esta tecnología puede tener en las personas y el planeta, los riesgos que representa, la magnitud de las transformaciones que se desprenderán de su avance y adopción, y por todas las interrogantes que están en el aire, el Laboratorio de Aceleración del PNUD en México se embarcará en un nuevo camino de aprendizaje sobre la IA generativa.
Con este nuevo ciclo de aprendizaje, buscamos promover sistemas de inteligencia artificial generativa como motor del desarrollo sostenible en México, mitigando riesgos e impactos negativos, y aprovechando oportunidades a lo largo de todo el ciclo de vida de la inteligencia artificial generativa (desde su diseño y desarrollo hasta su aplicación).
En consonancia con nuestra Estrategia Digital, desde el PNUD creemos que la inteligencia artificial puede ser un acelerador del desarrollo sostenible si se toma de manera ética y responsable; y pensamos que la IA puede y debe estar al servicio de la humanidad. Algunas oficinas del PNUD en varios países han incorporado la inteligencia artificial a las herramientas que generan para abordar diversos retos de desarrollo. Por ejemplo, en Uruguay se utiliza en la lucha contra la violencia digital de género y, en Brasil, se aprovecha para promover el acceso a la justicia.
También tomamos esta tecnología con cautela y reconocemos que es imperativo actuar para enfrentar las dificultades y riesgos que conlleva. El Laboratorio de Aceleración del PNUD en Serbia condujo un experimento que demostró que los generadores de imágenes refuerzan estereotipos de género; mientras que un informe del PNUD en India reveló las repercusiones del sesgo de los algoritmos en áreas como servicios financieros, atención médica y empleo temporal (conoce más sobre el trabajo del PNUD en inteligencia artificial).
En el PNUD en México iniciamos este ciclo de aprendizaje porque esperamos contribuir a la diversidad de experiencias, ideas y conocimientos que abonen a crear caminos de acción para poner a la inteligencia artificial al servicio de las personas y el planeta.
Nuestros primeros pasos consistieron en responder: ¿Cuáles son las oportunidades y los riesgos que conllevan el uso y el desarrollo de la inteligencia artificial generativa (IAg) para el desarrollo sostenible?
En nuestro siguiente blog compartiremos nuestro proceso de trabajo y primeros aprendizajes. Mientras tanto, nos embarcamos en este camino de descubrimiento y exploración con cautela y pensamiento crítico, para abordar los riesgos de la IA generativa; curiosidad, para mantenernos receptivos y generar mejores preguntas que nos lleven a imaginar más allá de lo obvio; y recordando que, si bien abordaremos una tecnología, el foco debe recaer en el bienestar de todas las personas y el planeta.
Si estás trabajando para impulsar la IA generativa para el desarrollo sostenible y deseas contactarnos, escríbenos a acclabmx@undp.org.
[1] Toner, H. (2023). What Are Generative AI, Large Language Models, and Foundation Models? Center for Security and Emerging Technology; CSET. https://cset.georgetown.edu/article/what-are-generative-ai-large-language-models-and-foundation-models/
[2] La mención de empresas específicas no implica que el PNUD las apoye o recomiende prioritariamente frente a otras de naturaleza similar que no se mencionan.
