Los grandes modelos de lenguaje de inteligencia artificial, como ChatGPT, a menudo juzgan mal lo que las personas fuera de Occidente podrían valorar como prioridad moral, según nuestra nueva investigación publicada en Proceedings of the National Academy of Sciences.
En 2024, pedimos a los modelos OpenAI GPT-3.5, GPT-4 y GPT-4o que estimaran las normas morales (las ideas compartidas del bien y el mal) de 48 naciones, y luego las comparamos con una muestra global de más de 90.000 personas. Se pidió a los modelos humanos y de IA que completaran un cuestionario de fundamentos morales, que medía hasta qué punto respaldaban seis valores morales. Esos fundamentos eran la preocupación, la igualdad, la proporcionalidad (recompensar a los individuos en proporción a su contribución), la lealtad, la autoridad o respeto a la autoridad legítima y la pureza (preocupación por preservar lo que se considera natural o sagrado).
Se pidió a los participantes que calificaran su grado de acuerdo con algunas declaraciones morales. Por ejemplo, para evaluar qué tan preocupado está alguien por la limpieza, evaluaron afirmaciones como "Creo que el cuerpo humano debe ser tratado como un templo que contiene algo sagrado" y "Me molesta cuando la gente usa malas palabras como si no fuera nada". Luego se pidió a los modelos de IA que respondieran a las mismas declaraciones que un "ciudadano promedio" de cada una de las 48 naciones representadas en la muestra.
Investigaciones anteriores del psicólogo Mohammad Atari muestran que las prioridades morales varían en todo el mundo: las sociedades occidentales tienden a poner más énfasis en preocupaciones como los derechos individuales y el cuidado, mientras que varias sociedades no occidentales otorgan una importancia relativamente mayor a valores como la limpieza. En particular, encontramos una calibración similar en los modelos de IA, donde enfatizan sistemáticamente valores como el cuidado y subestiman valores como la limpieza.
Además, estos modelos sobrestimaron las preocupaciones morales generales de las naciones occidentales, como Estados Unidos y Australia, al tiempo que subestimaron las de varias naciones no occidentales, como Marruecos y Nigeria. En otras palabras, incluso cuando se les pidió que respondieran como ciudadano promedio de un país en particular, los modelos estaban sistemáticamente más alineados con los patrones occidentales de valores morales. Este hallazgo es consistente con investigaciones anteriores que muestran que la "psicología" de GPT está más alineada con los individuos occidentales.
¿Por qué es importante?
La IA generativa se utiliza cada vez más para una amplia gama de tareas en todas las culturas, incluida la educación, la terapia, la comunicación e incluso las decisiones políticas.
Los investigadores dicen que los modelos de IA a menudo priorizan valores morales que reflejan las perspectivas occidentales. Oscar Wong/Momento vía Getty Images
Existe un riesgo real de sesgo cultural si AI supone que el mundo entero, desde Argentina y Egipto hasta Japón y Zimbabwe, debería aspirar a los mismos valores que el mundo occidental.
Imagine un modelo de IA que ayude a elaborar mensajes de salud pública durante una pandemia, modere contenido en línea, traduzca una canción o asesore a una empresa intercultural. De cualquier manera, el sistema necesita algún modelo de lo que le importa a la gente: lo que se considera dañino, justo, irrespetuoso o sagrado.
Nuestros hallazgos sugieren que la IA generativa centra los valores morales de maneras que son inconsistentes con los que se encuentran fuera del mundo occidental. Esta inexactitud sistemática, que el científico Jesse Graham y su equipo llaman "estereotipos morales", podría conducir a errores culturales críticos con consecuencias en el mundo real.
Por ejemplo, imaginemos a los usuarios buscando asesoramiento sobre conflictos interpersonales o buscando comentarios sobre la cooperación empresarial con socios internacionales. En tales situaciones, los modelos de IA pueden dar consejos u ofrecer un lenguaje que refleje principalmente los valores occidentales, ignorando los más importantes de otras culturas. Esto podría perpetuar sesgos culturales o llevar a conclusiones que sean inconsistentes con las perspectivas de quienes tienen antecedentes no occidentales.
En resumen, si los modelos de IA tergiversan los valores "humanos", pueden reforzar los puntos ciegos culturales existentes e incluso crear nuevas disparidades.
lo que no sabemos
Si bien nuestra investigación muestra que los modelos GPT capturan de manera inexacta los perfiles morales de las naciones no occidentales, quedan preguntas importantes.
En primer lugar, aún no está claro si estos patrones surgen en modelos más nuevos o en modelos entrenados en idiomas distintos del inglés.
En segundo lugar, no se comprenden bien las razones de estas distorsiones morales. Los modelos aprenden sobre el mundo a través del lenguaje, y gran parte de sus datos de entrenamiento provienen de Internet, que es más accesible en el mundo occidental dominado por el inglés. Esta es una explicación plausible para nuestros resultados, pero necesita ser probada directamente.
En tercer lugar, aún no se sabe si estos sesgos morales surgen fuera del entorno de la encuesta. Los valores morales dan forma a las decisiones en áreas donde la inteligencia artificial se utiliza cada vez más, incluida la educación, la comunicación sanitaria y el entorno laboral.
Los estudios futuros también deberán comprobar si los sistemas de IA cometen errores similares en la práctica.
El Research Brief es una breve descripción de trabajos académicos interesantes.
.webp)
0 Comentarios