MARÍA LÁZARO ÁVILA. GENERACIÓN IA
Continuando con la serie que en estos días de septiembre, coincidentes con el inicio del curso en todos los niveles de enseñanza, Todos los libros un libro está dedicando a ese interesante universo, hoy quiero presentar un libro, de título Generación IA, también centrado, como el anterior del ciclo, en el impacto educativo del hoy omnipresente algoritmo y en el que, sin renunciar a la solidez argumentativa, su autora elige un enfoque divulgativo y práctico que facilite la lectura por parte de los adolescentes y jóvenes, a quienes se dirige fundamentalmente el libro (sin excluir, antes al contrario, a padres, docentes y educadores, ni, en general, a cualquiera interesado en los efectos disruptivos que con vertiginosa aceleración está introduciendo en nuestras vidas la IA) y les permita informarse sobre el uso responsable, creativo y seguro de la inteligencia artificial.
El sustrato teórico de base, las ideas principales, los asuntos sobre los que se pone el acento, las alarmas, los avisos, las llamadas de atención, las sugerencias, muchas de las propuestas, el espíritu en suma, la atmósfera que ya estaban presentes en IA y Educación, mi anterior propuesta sobre el asunto, son también notorios en este Generación IA (de hecho, en la sección de “Agradecimientos” de este segundo libro se menciona, entre otros muchos expertos en la materia, a Carlos Magro, uno de los autores del primero y ya reseñado; prueba palpable, a mi juicio, de la evidente confluencia de intereses, inquietudes y premisas de partida). Hay entre ambos, sin embargo, diferencias notables en el propósito, el enfoque, la intención y el planteamiento, mucho más prácticos y guiados por la aplicabilidad y el uso directo de sus postulados por parte del lector en esta segunda obra, escrita por María Lázaro Ávila y publicada en mayo de este mismo año por el grupo editorial Anaya, incluida en su sello Anaya Multimedia dentro de la línea de textos englobados bajo la rúbrica Social Business, una colección de libros especializados en temas relacionados con la transformación digital, el uso estratégico de las redes sociales, el marketing digital y la gestión empresarial en un mundo conectado.
El ensayo se abre con un prólogo de Alberto Gago, Director General de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) dependiente del Ministerio para la Transformación Digital y de la Función Pública, que desde su posición institucional subraya la importancia del libro para desarrollar en quien lo lea -singularmente los jóvenes, insisto- el espíritu crítico, la capacidad de adaptación, el conocimiento, las habilidades -no solo estrictamente digitales-, los valores y la responsabilidad para aprovechar las muchas potencialidades de una tecnología que está transformando -y a velocidad creciente- la manera en la que trabajamos, aprendemos, nos informamos y hasta gestionamos nuestra vida cotidiana; una herramienta capaz de descubrir fármacos, de hacer frente a retos sociales, de dar respuesta a las emergencias climáticas, entre otras muchas, y fecundas, virtualidades, pero que también entraña indudables -y en algunos casos enormes- peligros. Invitar a entrenar esa mirada crítica es, a juicio del prologuista, la intención última, y en mi criterio el mayor logro, de un libro que se inscribe en el horizonte de una inteligencia artificial que, bien comprendida y gobernada, puede ser una herramienta extraordinaria para el progreso humano.
María Lázaro plantea las premisas de su trabajo y avanza la estructura bajo la que se va a organizar en un texto introductorio en el que inicialmente examina los antecedentes inmediatos del auge de la inteligencia artificial generativa entre el ciudadano común. Todo empieza el 30 de noviembre de 2022, el día que todo cambió (yo hubiera escrito “el día en que todo cambió”, aunque mi objeción es discutible, pues ambas opciones son válidas. Hay, no obstante, más allá de algún despiste de esta índole (alguno sangrante: las grandes “alaracas” de la página 165), una cierta ligereza expresiva, un tono un punto coloquial, una retórica en exceso informal, un estilo algo conversacional, pues se tutea al lector (“te traigo malas noticias”), se le interpela (“spoiler: si pensabas que siguiendo a tu retoño en redes, lo tenías controlado, te has equivocado”; aquí falla también la disposición de alguna coma, un yerro común en el libro), se le plantean de continuo preguntas retóricas (“¿estás preparado?”, “¿conocías todas las herramientas de IA mencionadas hasta ahora? No te inquietes: de ellas, y otras más, hablaremos con profundidad a lo largo de este libro”); recursos, todos ellos, explicables por esa condición didáctica que sin duda se postula de un texto que, dados sus previsibles destinatarios, es en el fondo divulgativo, pero que, desde mis quizás desmesurados rigor y seriedad, debieran evitarse por su infantil ligereza). En esa importante fecha, el ChatGPT, continuando el trabajo de décadas en ese campo de conocimiento, acabó por dar un impulso decisivo a la investigación -y a su plasmación práctica- que permitía poner al alcance de cualquiera -democratizar, pues- las posibilidades de interactuar, de conversar con un dispositivo de inteligencia artificial. De la aceleración con la que produjo ese proceso que facilita el acceso generalizado de cualquier usuario del mundo entero a una herramienta de esas colosales potencialidades, da cuenta la magnitud de las cifras que, a este respecto, aporta la autora (el libro está plagado de datos, cifras, porcentajes, resultados estadísticos, etc., todos ellos acompañados de su correspondiente fuente de referencia): En cinco días, [el ChatGPT] logró un millón de usuarios. En solo 60 días había sumado ya 100 millones, una cifra que Facebook tardó en conseguir cuatro años y medio, Instagram no alcanzó hasta pasados dos años y medio y a TikTok le costó nueve meses. En solo 17 meses, el chatbot de IA generativa de OpenAI registró 800 millones de usuarios, más rápido que cualquier tecnología anterior. El ritmo frenético con el que se han multiplicado las empresas, modelos, plataformas y ofertas comerciales relacionadas con la IA y, en paralelo, la enfebrecida velocidad con la que se ha disparado el consumo de sus aplicaciones, son fenómenos bien conocidos -y percibidos en su cotidianidad- por cualquiera que no sea un ermitaño. En su prólogo Lázaro se detiene en la Generación Alfa, la “Generación de la IA generativa”, que, habituada ya a los móviles y las redes sociales, convive ahora también, y con relativa familiaridad, con esta realidad emergente, hasta hace un lustro conocida solo por expertos. De esos jóvenes, avanza la autora sustanciosos datos sobre su uso y consumo de la IA que, siendo masivos, no se compadecen con el escaso conocimiento que en la mayoría de los casos tienen acerca de cómo funciona ni de qué impacto está teniendo en sus propias vidas. En ese desconocimiento y en los riesgos que de él derivan -copia y plagio en trabajos escolares, afectación en su carga cognitiva, existencia de sesgos en la información recibida, manipulación subliminal, amenazas debidas al tratamiento “realista” de voces, imágenes y textos falsos, incidencia de delitos sexuales, consultas de dudosa eficacia y peligro probable sobre salud mental, equilibrio emocional o relaciones afectivas, problemas psicológicos, suicidios, etc.- se fundamenta el propósito confesado del libro: permitir que las nuevas generaciones aprendan a comprender, cuestionar, utilizar y diseñar la inteligencia artificial de forma responsable, creativa y segura. En consecuencia, en esa declaración de intenciones prologal, se específica quiénes son los destinatarios principales del libro, un universo de una multiplicidad tal que, en realidad, es casi indiscernible de la totalidad de la población: aquellos que se preguntan cómo abordar la facilidad y, en general, la inconsciencia con la que los jóvenes están accediendo a la inteligencia artificial generativa, cuando aún se desconocen sus peligros; quienes necesitan comprender qué hay en la “caja negra” de la IA (un concepto al que también se aludía de manera relevante en IA y Educación y que podría definirse como el sistema de funcionamiento interno del algoritmo, cómo se construyen los modelos de lenguaje de IA, qué información procesa, cuáles son las pautas con las que se lo entrena, con qué criterios se elige todo ello); los que deben, quieren o tienen que inculcar desde edades tempranas su uso responsable, seguro y creativo; aquellos que consideran que es esencial la educación digital de los menores para que puedan adquirir las competencias necesarias que les permitan aprovechar las oportunidades que ofrece la IA, conociendo sus riesgos y protegiéndose de ellos. En definitiva, un libro para adolescentes, jóvenes, padres, familias, docentes, educadores y profesionales de la enseñanza en general. Para todos, como se ve.
Lo muy variado de este potencial público lector del estudio condiciona, como es natural, el enfoque que en él se sigue. No estamos, pues, ya se ha dicho, ante un libro técnico, un ensayo teórico o una profunda reflexión filosófica, para uso y consulta por especialistas, aunque algo de todo ello hay en una obra fundamentalmente divulgativa que pretende hacer reflexionar sobre los asuntos mencionados y aportar pistas prácticas (no he señalado aún, y hubiera sido oportuno hacerlo con anterioridad, que el libro se presenta con un elocuente subtítulo: Guía para un uso responsable, creativo y seguro de la inteligencia artificial). Para ello, y con la indispensable inclusión de ciertas informaciones sobre los sistemas y modelos de IA y de algunos datos de índole histórica con los que se ilustra el modo en que “hemos llegado hasta aquí”, esto es, cómo se ha desarrollado la investigación sobre inteligencia artificial en los últimos ochenta años, se recogen las opiniones de expertos en diversas áreas (pedagogía, psicología, salud, tecnología, derecho, educación, entre otras) que completan el muy pedagógico discurrir de la autora. Además, y en una doble pauta altamente significativa del libro, que reafirma ese didactismo que lo inspira, al final de cada capítulo hay siempre una sección, Para recordar: Diez ideas clave, en las que se recapitula, se resume y sintetiza lo esencial de lo tratado en cada sección. Igualmente, y como a continuación comentaré de modo breve, en bastantes de los apartados examinados se incluyen gráficos, imágenes, capturas de pantalla, infografías, presentaciones y figuras varias que ilustran, de manera práctica -casi al modo en que lo haría un tutorial-, diversos pasos de la interacción con distintas “plataformas” de IA: preguntas, diálogos, prompts, resultados, menús de herramientas, procesos, ejemplos de creaciones falsas, exploradores, paneles de configuración, ventanas, ilustraciones, diseños de pantalla, cuadros y numerosas muestras más de esa conversación casi infinita y de las utilidades que hoy permite esta tecnología desbordante.
De este modo, y en un repaso a vuelapluma, en el capítulo primero, ¿Crecer con o sin tecnología?, se exponen los dilemas que surgen a la hora de definir el papel que debería desempeñar la tecnología durante la infancia, la adolescencia y la primera juventud. Con un planteamiento a mi juicio demasiado equidistante -pero ella es la experta- la autora menciona diversas publicaciones, análisis y estudios que discrepan entre sí a la hora de contestar a las preguntas que preocupan en relación con ese asunto principal (¿Perjudican el uso de la tecnología y la inmersión digital las habilidades socioemocionales y la salud mental de los menores?; ¿Afecta el tiempo que pasan delante de una pantalla a la existencia de problemas de atención, peor calidad de sueño, menor rendimiento académico y aumento de la agresividad y mal comportamiento?; ¿Incrementa esa sobreexposición digital las posibilidades de verse sometidos a contenidos inadecuados?; ¿Pierden privacidad y ven expuesta su intimidad?; ¿Constituye el uso intenso y, con frecuencia, compulsivo de los medios electrónicos una forma de adicción?; ¿Resulta conveniente limitar el tiempo de utilización de la tecnología?), para concluir, en un corolario desde mi punto de vista excesivamente “tecnoptimista” y benevolente, que no existe un consenso absoluto en la comunidad científica sobre cómo impacta la tecnología entre los más jóvenes, por lo que no cabe una respuesta uniforme a dichas cuestiones (aprovecho para recordar desde aquí los libros, reseñados hace años en este espacio, de Michel Desmurguet, categóricos en su fundamentada denuncia de los males derivados del uso constante y masivo de dispositivos electrónicos por parte de los menores). Aporta también la autora datos relevantes sobre los hábitos cotidianos en relación con el “consumo digital” de los menores, de los que un 90 % se conecta varias veces al día a internet, un uso que, confiesan, se produce con habitualidad desde los once años con, incluso, uno de cada tres niños que lo hace antes de haber cumplido los diez. Igualmente, propone unas “recetas” para un uso saludable de la tecnología, entre las que no se encuentra el énfasis en la cuantificación del tiempo en que puede permitirse la utilización de herramientas digitales y sí, en cambio, la atención sustancial al cómo, al por qué y al para qué de las interacciones, que siempre deberían guiarse por su calidad y no tanto la cantidad. Se subrayan también la importancia del ejemplo de los padres, la necesidad de establecer pactos o “contratos informales”, con reglas y compromisos claros, y la conveniencia de tener presentes las llamadas “5 C”, que se corresponden con las iniciales en inglés de Child, Content, Calm, Crowding-Out y Communication, con las que se quiere inducir la reflexión sobre los Chicos (cómo es tu hijo, cómo reacciona ante las pantallas y para qué las usa), los Contenidos (qué le llama la atención), la Calma (cómo calma las emociones o se va a dormir), el Complementar (con qué interfieren las pantallas) y la Comunicación (cómo se puede hablar de las pantallas para criar a un niño inteligente y responsable). En este mismo capítulo hay una breve sección, Navegando en el mar de competencias digitales, que aborda las preocupación de instituciones, gobiernos, organismos y entidades educativas por la repercusión de la irrupción de estas tecnologías entre los jóvenes y por la rápida y desbordante magnitud de su asimilación; singularmente se analiza la labor de la Comisión Europea, que publicó en 2013 el Marco de Competencias Digitales para la Ciudadanía, que recoge un elenco de competencias digitales a desarrollar, particularmente en los menores, un documento que tras varias actualizaciones conoció en 2022 su última versión, ese DigCom 2.2 al que ya se aludía en IA y Educación y que servirá de referencia también en más de una ocasión a lo largo de Generación IA. El capítulo se cierra con un apartado, Entre un tsunami de inteligencia artificial, que refleja la ya incuestionable realidad de la IA (Esta es la primera generación que crecerá y se desarrollará con la inteligencia artificial, y que desde edades tempranas no solo está expuesta de forma pasiva a algoritmos de inteligencia artificial, sino que además interactúa de forma activa y se relaciona con estos sistemas) y, en consecuencia, enfatiza la necesidad de que los jóvenes sean capaces de comprender cómo funciona la IA, su impacto social y cómo utilizarla de forma ética para estar preparados para una sociedad y una economía en la era de la IA, en recomendación de la OCDE y de la propia Comisión Europea.
El capítulo segundo del libro, Mitos y realidades de la inteligencia artificial, pretende arrojar luz y discernir cuáles de las ideas sobre la IA que aceptamos como ciertas e indiscutibles están respaldadas por evidencias demostradas y cuáles por el contrario constituyen medias verdades o directamente falacias debidas a apriorismos, prejuicios o falta de información. Se analizan, en particular, cuatro grandes mitos imperantes en nuestra sociedad y que condicionan de manera muy peligrosa el modo en que encaramos esta nueva realidad. El primero de ellos tiene que ver con la supuesta novedad de la IA. Sostiene Lázaro que los algoritmos llevan muchos años entre nosotros, en herramientas de uso habitual. En particular, la IA predictiva está presente en muy diversos ámbitos de nuestras vidas, los relativos a desastres naturales, salud, averías o apagones eléctricos. Hay IA también en los robots conversacionales (con la mención del inaugural ELIZA, el primer programa de procesamiento del lenguaje natural creado en el MIT en 1965), en la conducción asistida y en los coches autónomos. El segundo mito alude a la creencia de que la IA es autónoma y funciona por su cuenta; la realidad, por lo demás obvia pero sobre la que no siempre se reflexiona, es que los sistemas se diseñan y entrenan por humanos, por lo que es necesario que se obligue a las empresas desarrolladoras a observar protocolos de transparencia, poniendo a disposición del público la información acerca de cómo funciona el modelo, cómo se entrenó, qué limitaciones tiene y cuáles son sus implicaciones éticas, de modo que el ciudadano pueda hacer de sus “productos” un uso inteligente e informado. Otro mito, que hoy, afortunadamente, es objeto de un cuestionamiento casi general, es el que concede una fiabilidad total a la IA, aceptando, ingenua y acríticamente, que el algoritmo siempre dice la verdad. En el capítulo se desmiente esta apreciación con ejemplos de distintas interacciones con diferentes IA, y se desvela cómo los algoritmos pueden reflejar sesgos y prejuicios (coincidentes con los valores, el modo de pensar y la visión del mundo de quienes los han creado) que llevan a ofrecer resultados erróneos o abiertamente falsos y mantener tópicos, estereotipos o discriminaciones. Por último, el mito de la pretendida infalibilidad de la IA se diluye, como sabe cualquier usuario, al comprobar cómo se equivoca con frecuencia, se inventa informaciones, datos y referencias en sus respuestas y, en terminología ya de uso habitual, se ve sometida a “alucinaciones” (prueba de la magnitud y la peligrosa habitualidad de sus yerros es el hecho de que en 2023 el Cambridge Dictionary hubiera declarado hallucinate (alucinar, en inglés) como “Palabra del año”).
En el capítulo tercero, la autora procede a “abrir la «caja negra» de la inteligencia artificial”, intentando desentrañar la muy compleja y abstrusa cuestión de qué debemos entender por IA. Se adentra así en los matices entre “imitar”, “simular”, “aprender” o “razonar” para delimitar qué funciones son las que puede llevar a cabo el algoritmo. Diferencia entre inteligencia artificial y automatización. Distingue también ente la IA especializada, débil o estrecha, que ya está plenamente presente entre nosotros (y que muchos expertos minusvaloran y hasta desprecian por su “mera” capacidad de repetir sin comprender -la lingüista computacional Emili Bender llamó “loros estocásticos” a la IA generativa-, y IA general o completa, que alcanzaría potencialidades similares o incluso superiores a las humanas, y cuya llegada -improbable, al decir de algunos teóricos- aún se hará esperar. Incorpora una breve historia de la inteligencia no humana, partiendo de la figura de Alan Turing, a mediados del siglo XX, tan popularizado por el cine; pasando por Marvin Minsky y su limitado perceptrón; los dos “inviernos de la IA”, largas etapas en las que las investigaciones sobre el asunto se paralizaron y olvidaron; el exitoso Deep Blue, bien conocido por sus espectaculares victorias ajedrecísticas; el desarrollo de las redes neuronales profundas; la aparición en 2017 de los transformers, que cambiaron el modo en el que las máquinas entienden y procesan el lenguaje, al detectar cuál es la palabra más importante de un texto y en función de ello entender su significado, sin tener que leerlo entero, permitiendo acelerar la realización de las tareas; la presentación del primer ChatGPT; hasta llegar a los meteóricos y desbocados avances del último lustro con la proliferación de potentes modelos de lenguaje creados por OpenAI, Google, Meta, Anthropic, IBM, Microsoft, Mistral, Amazon, DeepSeek. Al capítulo le pone fin un “Vocabulario rápido de inteligencia artificial” que aclara de manera sucinta algunos de los términos de uso más frecuente en el contexto y que sirve de útil orientación para el lector no demasiado familiarizado con la materia.
El cuarto capítulo, Biblioteca de aplicaciones de IA generativa preferidas por los jóvenes, es un compendio de las muchas utilidades educativas que ofrecía la inteligencia artificial en el momento de la redacción del libro (a este respecto, quiero compartir una muy elocuente experiencia personal que ilustra de modo significativo la acelerada evolución de esta tecnología. En un curso de IA para docentes al que pude asistir hace unos meses, se enseñaban a los participantes posibilidades del ChatGPT, Gemini o Claude directamente aplicables al aula, que expuestas en la primera de las tres semanas del curso ya habían sido objeto de mejora en la última; este libro es de mayo de 2026, en este dominio, hace una eternidad: Es complicado prever hacia dónde evolucionarán estas y otras aplicaciones de IA multimodales: la carrera no parece tener de momento una meta clara, y con cada nuevo desarrollo, la línea de llegada se desplaza un poco más lejos). Conocemos así las funcionalidades de la IA en relación con el tratamiento de textos, investigaciones en profundidad, creación de imágenes, asistentes de compras, GPT personalizados, aprendizaje guiado, creación de vídeos o páginas web, elaboración de mapas mentales, análisis de información, presentaciones, correcciones gramaticales, programación sin necesidad de código. Hay secciones muy atractivas sobre las conflictivas -por ahora- relaciones entre la IA y el mundo del arte, con ejemplos de las controversias que suscita la utilización del algoritmo en la creación artística y sus repercusiones en el desdibujamiento de los límites del arte y la probablemente necesaria reformulación del concepto de creatividad, la desaparición de empleos en el sector o las dudosas fronteras de la invención y el plagio; sobre las posibilidades que ofrece la inteligencia artificial generativa en la práctica de la pintura o la fotografía (con ilustraciones de algunas imágenes creadas por estas plataformas); sobre la producción de películas sin cámara ni grabación, una experiencia que cuenta ya con festivales especializados; sobre las herramientas de producción de vídeo con IA; sobre los nuevos instrumentos musicales que permiten la composición de canciones por cualquier particular, la creación de grupos musicales “artificiales” y la producción masiva de “hits” musicales (la plataforma francesa Deezer a reconocer en abril de 2025 que el 18 % de todos los temas que por entonces se subían a su sistema estaban ya producidos con esta tecnología, lo que equivalía a unas 20.000 canciones diarias); sobre las ya conocidas como “IA de compañía”, que permiten crear compañeros virtuales -que pueden tomar la forma de un atractivo avatar- para hablar, entablar amistad, consultar problemas íntimos, compartir confidencias sobre las relaciones familiares y sentimentales, establecer relaciones virtuales “muy reales” que propician la creación de vínculos casi “humanos”, con los innumerables riesgos que todo ello conlleva (que la autora disecciona con precisión sus peligros y alerta sobre ellos: Una rápida interacción con ellas puede desembocar en sugerencias sobre consumo de sustancias tóxicas, indicaciones pornográficas, ideas para autolesiones y mucho más).
El capítulo quinto aborda de manera frontal el asunto de las relaciones entre la educación y la inteligencia artificial. Con un título revelador, Enseñar con IA y sobre la IA, en él se plantean interesantes cuestiones como el debate, tan candente en el mundo escolar, acerca de si la IA es una aliada o una enemiga en el aula (con un ejemplo significativo de las muchas -y a menudo contradictorias entre sí- aristas que muestra la discusión: En enero de 2023, poco después del lanzamiento de ChatGPT, el Departamento de Educación de la ciudad de Nueva York prohibió el acceso a esta herramienta en las escuelas por temor a trampas y desinformación. Más de un millón de estudiantes de colegios públicos se quedaron sin ella. (…) Apenas cinco meses después, en mayo de 2023, Nueva York levantó el veto. «Aunque la cautela inicial estuvo justificada, el miedo y el peligro instintivos pasaron por alto el potencial generativo de la IA para ayudar a los estudiantes y a los profesores», explicó el Canciller de Educación de Nueva York, David Banks, para argumentar el cambio de decisión); la “paradoja del sí, pero no” (La pregunta sobre si la inteligencia artificial debería introducirse o no en las aulas no tiene una única respuesta), una sección en la que la autora muestra, con profusión de resultados de encuestas y ejemplos de iniciativas escolares “en activo” -dos de ellas en nuestra comunidad, en el IES Los Valles de Camarzana de Tera, en Zamora, y el IES Fray Diego Tadeo González de Ciudad Rodrigo, en Salamanca- las discrepancias que se dan en la actualidad sobre la cuestión; el sempiterno problema -en mi opinión casi sistémico; pero justificar tal categórica afirmación excede la naturaleza y los límites de Todos los libros un libro- de la formación de profesorado, la cual, en relación con la IA, es, a juicio de Lázaro, una asignatura pendiente reveladora de importantes carencias (La formación inicial de los docentes no solamente en inteligencia digital, sino en capacitación digital, es absolutamente insuficiente); el reto del apagón mental y la irresuelta disputa intelectual e investigadora acerca de sí el uso por los estudiantes de la IA puede o no provocar descarga cognitiva, dependencia intelectual, delegación del pensamiento o declive cerebral, un problema frente al que la autora opta, una vez más, por una postura de un cierto eclecticismo (El carácter paradójico de la aplicación de la IA en el aprendizaje reside en que puede actuar tanto como un amplificador cognitivo como un inhibidor del esfuerzo mental); o el dilema sobre las habilidades del futuro, en el que la cuestión de fondo -¿cómo educar para un mundo que la IA está modificando de manera radical?- se ilustra con unos datos escalofriantes, extraídos del informe El Futuro del Trabajo 2025, que publicó el World Economic Forum, y según el cual en la próxima década se crearán 170 millones de empleos que hoy ni siquiera existen, pero desaparecerán también 92 millones de roles, y en 2030 habrá cambiado el 40 % de las habilidades que en la actualidad requiere el mercado de trabajo.
Muy interesante también, aunque en cierto modo redundante, pues muchas de las ideas que en él se vierten ya han sido anticipadas, es el capítulo 6, Mapa de riesgos de la IA, que se acerca a las nuevas formas de ciberacoso (imágenes trucadas con IA, de todo punto indistinguibles de las verdaderas, que presentan desnudos a chicos y chicas; creación de vídeos sexuales falsos; y otras sofisticadas variantes de la manipulación, violencia y explotación sexual mediante creaciones algorítmicas); al grooming, en el que un adulto suplanta la personalidad de un menor -una operación que la IA convierte en trivial- para facilitar el contacto y la interacción con otros menores con fines siempre “perversos” y a menudo delictivos; al fenómeno, que cualquiera que haya usado la IA conoce, por el que el algoritmo se muestra en exceso agradable con su interlocutor, alabándolo, refrendando sus opiniones, validando sus propuestas y ensalzando sus cualidades, un modo de proceder -pretendido conscientemente por sus creadores: estas aplicaciones están programadas para halagar, adular y complacer a quienes les consultan- de nefastas consecuencias para personalidades aún por desarrollar psicológicamente; a los abundantes problemas de salud emocional entre los jóvenes, de creciente incidencia, que la IA propicia; a la cada vez más patente dilución de los límites de la verdad, con la proliferación de la desinformación y el fraude potenciados por los instrumentos de creación artificial -pero verosímil y de un realismo indiscernible de la verdad auténtica- de realidades paralelas: estafas, difusión de contenidos falsos, creación de “clones” de personajes famosos para recomendar inversiones engañosas, propagación, a través de ejércitos de bots, de rumores conspiranoicos o maliciosos sobre salud, seguridad, asuntos de interés político; la tecnovigilancia (control de currículos y seguimiento en las redes de las trayectorias personales y profesionales en los procesos de selección de personal); reconocimiento facial y vigilancia algorítmica con fines policiales; rastreo de identidades para la concesión de créditos financieros, contratación de seguros, acceso a compañías sanitarias o, más directamente para priorizar, establecer preferencias o, de modo más radical, excluir a ciertos perfiles de la atención médica). En todos estos casos prevalece, junto a la lúcida descripción de los peligros, la visión esperanzada de la autora -a mi juicio demasiado esperanzada; rayana, ya lo he comentado con anterioridad, en el “tecnooptimismo”- que vuelve a aportar sus sugerencias (enfáticas, pero -de nuevo en mi opinión- de improbable implementación generalizada) sobre la importancia de tomar conciencia y diseñar los sistemas de IA de forma que eviten (o mitiguen) estos muy nocivos efectos.
Y en este sentido, el siguiente capítulo, el séptimo, repasa las iniciativas que desde el punto de vista legislativo se están poniendo en marcha en todo el mundo - para supervisar la creación y el uso de la inteligencia artificial por parte de los grandes conglomerados empresariales. Se examinan así las diversas normas ya aprobadas, las muy diferentes estrategias jurídicas seguidas por la Organización de las Naciones Unidas, que ha impulsado un Diálogo, un Panel y un Fondo para reflexionar, debatir, financiar y, en definitiva, hacer frente a los retos que plantea la rápida propagación de esta tecnología; los Estados Unidos, en donde hoy impera esa agresiva “desregulación” que se defiende bajo la excusa de la libertad casi irrestricta; la Unión Europea, sensible ante la gravedad del asunto y capaz, en consecuencia, de haber aprobado el Reglamento de Inteligencia Artificial que entró en vigor en agosto de 2024 (y en cuya elaboración participó la autora del libro); y, por último, España, pionera en supervisión de la inteligencia artificial, una posición destacada en el mundo entero, tal y como reflejan logros como la elaboración de un entramado normativo para la IA que ha fraguado en diversas reglamentaciones y, de manera sustantiva, en la aprobación, este pasado junio, del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial; la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) con sede en La Coruña; la puesta en marcha el primer sandbox de toda la Unión Europea, un entorno controlado de pruebas para la inteligencia artificial, en el que doce empresas españolas con sistemas de IA clasificados de alto riesgo, iniciaron su adaptación a las obligaciones de la normativa vigente bajo la vigilancia de la AESIA; o la existencia en nuestro país, en el Supercomputing Center de Barcelona y en el Centro de Supercomputación de Galicia de Santiago de Compostela, de dos de las diecinueve «fábricas de inteligencia artificial» aprobadas por la Comisión Europea, espacios en los que se diseñan y se prueban soluciones de inteligencia artificial que necesitan grandes cantidades de datos, ingente potencia informática y la máxima eficiencia energética. El capítulo incluye también un resumen de los cinco Principios de OCDE sobre la IA, que fueron la base del Proceso de IA de Hiroshima, suscrito por los países del G-7 y la Unión Europea para promover una IA segura y digna de confianza en todo el mundo, una iniciativa que se guía por once principios rectores que podemos leer en el texto de María Lázaro.
El penúltimo capítulo, Guía para una IA responsable, reflexiona sobre las exigencias que, más allá del obligatorio sometimiento a las leyes, debieran cumplir los sistemas de IA. El apartado incluye aproximaciones a cuestiones como la ética esperable de las empresas que tienen a su cargo la creación, la planificación y la aplicación de estas evolucionadas tecnologías; la necesidad de que una inteligencia artificial responsable guíe su proceder por el interés de las personas y el bien común de la humanidad, más allá de la vertiente de negocio que por supuesto conlleva; la obligatoriedad de respetar algunas premisas básicas indiscutibles, como la explicabilidad, la transparencia y la responsabilidad algorítmicas exigibles a sus promotores; el escrupuloso respeto a la protección de datos y la privacidad (la autora ofrece una suerte de sucintos tutoriales para, paso por paso, guiar la configuración de privacidad en ChatGPT, Gemini, Grok y Meta); el espinoso asunto de la autoría y la propiedad intelectual, más que nunca en peligro a causa de la propia naturaleza de los procedimientos con los que se nutre a los algoritmos; la sobrecogedora -pero casi siempre ignorada por la mayoría de los usuarios, consumidores inconscientes de la IA, tan a menudo solo preocupados por sus utilidades- huella energética que la inteligencia artificial supone, dadas sus altísimas necesidades de agua y electricidad, con un muy lesivo impacto en la sostenibilidad; y un bienintencionado desideratum, De consumidores a makers, en el que Lázaro, una vez más, aboga por la alfabetización digital, defiende la necesidad de incentivar las “vocaciones” STEM, sobre todo entre las mujeres, y, en una ilusionante, razonada y -lamentablemente- para mí poco realista vuelta de tuerca, propiciar un cambio de paradigma de modo que los ciudadano dejemos de ser meros usuarios pasivos de la IA para convertirse en agentes activos que resuelvan problemas reales, mediante la creación de un itinerario maker que sume la ideación de producto y negocio, el pensamiento computacional, los datos y la programación.
El libro se cierra con dos secciones eminentemente prácticas que ocupan más de la cuarta parte de sus doscientas setenta y cinco páginas. En la primera, denominada Cuaderno de proyectos: IA con y para las nuevas generaciones, se explican, paso a paso y haciendo explícita esa voluntad pedagógica que informa la obra entera, cinco proyectos para que cualquier lector pueda entrenar un modelo de aprendizaje automático con imágenes (lo que permite mostrar a las claras, en un juego con manzanas y tomates, cómo la información con la que alimentamos al algoritmo condiciona sus respuestas); crear un GPT personalizado (en este caso uno denominado “Profe clima”) con una base documental propia, lo que permite entender cómo aprende y responde un modelo de lenguaje según el contexto, el conocimiento previo aportado y las instrucciones con las que se le enseña; diseñar una aplicación de filtros para imágenes capaz de transformar las propias imágenes en creaciones artísticas (mediante la herramienta Canvas de Gemini y sin que sea necesario saber programar); desarrollar un juego de cartas online -ActivaMente-, también sin conocimientos previos de programación; o producir una película (un breve corto de animación con personajes de plastilina -simulada- ambientado en un gimnasio). La segunda, de título Recursos, recoge una detallada relación de cursos online gratuitos mencionando el nombre de cada uno de ellos, la organización responsable de su impartición, un sucinto resumen de sus contenidos, duración, estructura y planteamientos, y los enlaces a las páginas web de sus responsables.
Os dejo ahora ya con mi convencida recomendación de los dos libros que componen la serie de esta semana, IA y Educación, y Generación IA; con un breve texto de este último, la introducción del capítulo dedicado a la ética; y con Blue, un tema, fruto, supuestamente, de una colaboración -que nunca se dio- entre Lana del Rey y Cigarettes after sex. La canción fue publicada en YouTube en 2025, estando actualmente eliminada de la plataforma. Resulta difícil, por ello, asegurar su atribución autoral. Todo apunta a que la parte musical/vocal es una creación artificial muy probablemente mediante IA, mientras que el videoclip utiliza material audiovisual auténtico de Lana Del Rey, modificándolo quizá también con ayuda del algoritmo.
¿Qué características debería reunir una inteligencia artificial «responsable», más allá de no representar un riesgo ni ser un peligro para la humanidad? ¿Cómo fiarnos de ella, es decir, cómo lograr que sea «confiable»? Esto… ¿está catalogado de alguna manera, o cada cual se inventa su definición según le convenga?
La pregunta no es baladí, porque en esta configuración de bloques geopolíticos y económicos sobre el futuro de la IA, de la respuesta a estas preguntas depende la visión que se quiera proyectar, y hacia dónde evoluciona la regulación y gobernanza de la inteligencia artificial. Y esto determinará si pasado mañana podrás reclamar si un algoritmo te ha rechazado para un puesto de trabajo, denunciar si un sistema de IA se ha alimentado con tus datos personales sin tu permiso, o reclamar responsabilidades contra quienes manipulan contenidos con inteligencia artificial para intentar engañarte. Parafraseando a Groucho Marx, se trata de evitar su célebre: «Estos son mis principios, y si no le gustan, tengo otros».
Videoconferencia
María Lázaro Ávila. Generación IA
No hay comentarios:
Publicar un comentario