Piense en lo que significa educar a los niños en un mundo donde, desde el primer día, la mayoría de sus interacciones son con un sistema de inteligencia artificial (IA) en lugar de con un ser humano. Es el experimento psicológico más grande y aterrador de la historia, y lo estamos llevando a cabo.
Así finalizó el historiador Yuval Noah Harari su discurso en el Foro Económico Mundial, celebrado en Davos el pasado mes de febrero.
Este mensaje alerta de la capacidad que tienen los sistemas autónomos para definir y cambiar los marcos sociales y cómo los rasgos culturales se transmiten a las generaciones posteriores. Precisamente, en su último libro, Nexus, destaca la importancia del cuento en el proceso de transmisión de valores y tradiciones culturales, y por tanto en la construcción de la propia sociedad.
Por tanto, si el lenguaje y la creación de historias y narrativas son tan decisivos en el desarrollo social, ¿a qué riesgos nos enfrentamos ahora que los sistemas de inteligencia artificial pueden crear nuevos contenidos sin ninguna supervisión humana? ¿Podrán definir cuáles serán los valores humanos en el futuro?
Tecnología que crea narrativas
Actualmente, millones de personas utilizan la inteligencia artificial para innumerables tareas. En concreto, los últimos datos publicados por Eurostat muestran que tres de cada cuatro jóvenes españoles de entre 16 y 24 años -en proceso de desarrollo personal- han utilizado la inteligencia artificial generativa en los últimos meses.
Desde sus inicios mucho se ha dicho sobre sus implicaciones éticas y económicas. Sin embargo, se sabe menos sobre sus potenciales efectos en el proceso de formación cultural de los jóvenes.
Para comprender mejor el impacto que pueden tener, podemos definir la evolución cultural como el proceso mediante el cual transmitimos información relacionada con conocimientos, creencias, valores, costumbres o cualquier otro hábito adquirido por una persona como miembro de la sociedad.
Este proceso tiene tres propiedades básicas: la aparición de nuevos rasgos culturales, la selección y adaptación de las costumbres más compatibles con la situación social existente y, finalmente, la transmisión a las generaciones posteriores.
Hasta ahora, estas tres características han sido controladas por humanos. Sin embargo, esto está cambiando. No es que la tecnología sea un mero mediador de información y conocimiento, como ocurrió a lo largo de la historia con los libros, la radio y la televisión o, más recientemente, con las redes sociales: actúa ahora como una entidad completamente independiente, capaz de distorsionar la información y, sobre todo, de crear nuevos contenidos.
Reemplazo de valores existentes
En particular, las herramientas de IA generativa han demostrado ser muy efectivas al crear texto o imágenes. Lo hacen recombinando información, integrando y combinando los datos disponibles.
De esta manera, contribuyen a la generación de nuevas historias, que tienen el potencial de obstaculizar los procesos de desarrollo y aprendizaje, sobre todo teniendo en cuenta que más del 60% de los jóvenes cree que la relación con la inteligencia artificial reemplaza en cierta medida la conversación con las personas.
hagamos un experimento
Un experimento sencillo, para comprender mejor este riesgo, consiste en preguntar a una IA generativa: "Cuéntame una historia y explícame su moraleja".
Los resultados de este ejercicio son realmente interesantes, cuando se analizan desde una perspectiva crítica. No es difícil encontrar rastros de historias clásicas que la IA integra cuando genera su respuesta. Lo que hace es seleccionar determinados contenidos existentes, ajustar los mensajes y amplificar o silenciar aquellos que el algoritmo considere más o menos relevantes.
El resultado es una historia original que podrá transmitirse a las nuevas generaciones. De esta forma, afectaría el proceso de desarrollo social y los valores socialmente aceptados en cada momento.
¿Una máquina de construcción de cultura?
La aparición de sistemas inteligentes con capacidad de generar nuevas historias a una escala y velocidad sin precedentes rompe drásticamente con el marco tradicional de la evolución cultural. La principal influencia recae en los más jóvenes, quienes se encuentran en una fase vital en la que definen cuáles serán sus pilares morales y rasgos culturales.
El experimento global que involucra el uso de inteligencia artificial a gran escala por parte de la población, como señaló Harari, nos obliga a repensar seriamente la forma en que debemos gestionar y monitorear estas nuevas tecnologías. Es necesario ir más allá de los parámetros éticos para identificar los riesgos asociados a su uso. Lo que está en juego es la definición de marcos y valores culturales que serán mantenidos por las generaciones futuras.
.webp)
0 Comentarios