¿Te avisarĆ”n en la frontera? ¿Se aprobarĆ” su solicitud de hipoteca? Durante una guerra, ¿a quĆ© fin apuntarĆa el sistema de armas? Ćstas son decisiones morales -sobre el daƱo y la justicia- y solĆan ser tomadas por personas.
Ahora, decisiones morales como estas las toman la inteligencia artificial (IA) y las empresas que la desarrollan. No el gobierno, no el pĆŗblico, sino las corporaciones.
Chris Olah, cofundador de la empresa de inteligencia artificial Anthropic y autoproclamado ateo, recientemente se sentĆ³ junto al Papa LeĆ³n XIV en el Vaticano y dijo que no se podĆa confiar en que su propia industria se gobernara a sĆ misma. "Algunos podrĆan creer que los problemas de la IA son mejor manejados por cientĆficos informĆ”ticos como yo", dijo. "Se estĆ”n engaƱando".
Olach se hizo eco de la primera encĆclica del Papa, Magnifica Humanitas: Sobre la protecciĆ³n de la persona humana en la era de la inteligencia artificial, que advertĆa que la inteligencia artificial debe servir a la humanidad, no concentrar el poder.
El cofundador de Anthropica, Christopher Olah, habla en el lanzamiento de la primera encĆclica del Papa LeĆ³n XIV, Magnifica Humanitas.
Claramente, la IA necesita un regulador independiente con el poder de decir no del mismo modo que las autoridades pueden rechazar un nuevo medicamento o bloquear un reactor nuclear. La gente comĆŗn, no sĆ³lo los expertos tĆ©cnicos, debe establecer los estĆ”ndares morales que este regulador hace cumplir.
debe ser rapido
Los desarrolladores no son necesariamente descuidados o cĆnicos. Nuestra investigaciĆ³n muestra que muchos desarrolladores de IA estĆ”n cuestionando profundamente los aspectos morales de su trabajo, al tiempo que reconocen las presiones que pueden hacer que estas preocupaciones sean mĆ”s perifĆ©ricas.
Es difĆcil mantener la moral dentro de una empresa creada para moverse rĆ”pido.
Como investigadores digitales, tenemos un nombre para el personal contratado para gestionar esta tensiĆ³n: "propietarios de la Ć©tica". Se trata de personas que tienen la tarea de responder a las crĆticas externas, permaneciendo completamente dentro de la empresa que las provoca.
Los especialistas en Ć©tica tecnolĆ³gica tambiĆ©n sostienen que la Ć©tica corporativa de la IA puede convertirse en una "economĆa de virtudes": un mercado de habilidades, conocimientos y respaldos Ć©ticos que las empresas deben obtener para desarmar a los crĆticos y defenderse de la regulaciĆ³n.
El Papa LeĆ³n XIV habla con el cofundador de Anthropic Christopher Olah (derecha) y la teĆ³loga Anna Rowlands (izquierda) durante el lanzamiento de su primera encĆclica, "Magnifica Humanitas", en el Vaticano en mayo de 2026. (Foto AP/Alessandra Tarantino)
El lanzamiento de Magnifica Humanitas y el discurso de Olah fueron oportunos. Los gobiernos de todo el mundo estĆ”n escribiendo las reglas sobre la inteligencia artificial en este momento. CanadĆ” acaba de lanzar una estrategia federal de IA para todos, con poco enfoque en la seguridad o la Ć©tica, y mucho menos una discusiĆ³n sobre quiĆ©n decide las cuestiones morales mĆ”s difĆciles.
El correctivo debe venir de afuera. El pĆŗblico debe tener voz.
Riesgos del 'blanqueo de participaciones'
Ya existen experimentos. Anthropic invitĆ³ a unos 1.000 estadounidenses a ayudar a escribir las reglas para una versiĆ³n de su chatbot de IA Claude en un proyecto llamado Collective Constitutional AI.
Los investigadores de la participaciĆ³n pĆŗblica han estudiado las asambleas ciudadanas (grupos de personas seleccionadas al azar que estudian un tema y llegan a recomendaciones comunes) como una forma de abordar temas polĆ©micos como las leyes sobre el aborto y la falta de vivienda. Prometen participaciĆ³n pĆŗblica en la gobernanza de la IA.
Leer mƔs: Asambleas de ciudadanos: introducidas en Columbia BritƔnica hace 20 aƱos, son una herramienta creciente para la democracia
Sin embargo, estos ejercicios rara vez cambian las decisiones reales. Los estudios muestran que el pĆŗblico tiende a llegar tarde, hacer preguntas estrechas y no darles poder sobre el resultado. Una corporaciĆ³n o agencia gubernamental controla la agenda, los datos y la decisiĆ³n.
Cuando la participaciĆ³n es deliberativa, puede caer en lo que llamamos "lavado de participaciĆ³n": la apariencia de una voz pĆŗblica sin la sustancia del poder pĆŗblico. Una entrada que se puede cancelar no es una gestiĆ³n. Son las consultas las que hacen que la gobernanza de la inteligencia artificial parezca mĆ”s democrĆ”tica de lo que es.
Drogas y energĆa nuclear
¿CĆ³mo lidiamos con otras tecnologĆas que pueden curar o matar? No permitimos que una compaƱĆa farmacĆ©utica decida por sĆ misma si es seguro vender un medicamento. Un regulador independiente sopesa la evidencia y puede decir que no. No permitimos que una instalaciĆ³n nuclear construya un reactor y certifique su propia seguridad.
Antes de que se apruebe la venta de un medicamento en CanadĆ”, debe cumplir con los requisitos de seguridad, eficacia y calidad de la Ley de Alimentos y Medicamentos y sus regulaciones. (LA PRENSA CANADIENSE/Jeff McIntosh)
Hace dĆ©cadas, decidimos que algunas decisiones eran demasiado importantes para dejarlas en manos de quienes se benefician de ellas. Estas elecciones tienen cuestiones morales ocultas dentro de cuestiones tĆ©cnicas. ¿QuĆ© tan seguro es suficiente? ¿CuĆ”nto daƱo aceptamos como sociedad y quiĆ©n se ve obligado a soportarlo: los pobres, los ancianos, las minorĆas?
Lea tambiĆ©n: La guerra de IrĆ”n muestra cĆ³mo la IA acelera las 'cadenas de muerte' militares
La gobernanza moral democrĆ”tica pone esta elecciĆ³n en manos pĆŗblicas. En el caso de la inteligencia artificial, los humanos deberĆan establecer los estĆ”ndares que aplica el regulador y determinar dĆ³nde se trazan los lĆmites.
La objeciĆ³n obvia es que la IA es diferente de los productos farmacĆ©uticos y la energĆa nuclear. La innovaciĆ³n en IA avanza mĆ”s rĆ”pido que cualquier ensayo farmacolĆ³gico; no hay ningĆŗn producto que aprobar; No respeta fronteras. Y es difĆcil otorgar licencias de IA en abstracto porque cubre muchas tecnologĆas, desde marketing dirigido hasta navegaciĆ³n robĆ³tica y reconocimiento facial.
Sin embargo, como sociedad podemos tomar decisiones discretas: si lanzar un nuevo modelo poderoso o implementarlo en la policĆa, los hospitales o los tribunales. El regulador puede revisar las cuestiones de forma continua. AdemĆ”s, dado que la IA ignora las fronteras, la vigilancia internacional conjunta tiene sentido. Vale la pena tomar en serio el DiĆ”logo Global sobre la Gobernanza de la Inteligencia Artificial, nacido en las Naciones Unidas en 2025.
Las comunidades tambiĆ©n son importantes: las ciudades estĆ”n implementando diferentes tipos de inteligencia artificial a nivel local y resolviendo problemas de gobernanza. Los miembros de la comunidad tienen un papel en la toma de decisiones sobre cĆ³mo se utiliza la IA, ya sea para arreglar baches o construir casas.
CanadĆ” ilustra lo lejos que ha llegado y lo lejos que aĆŗn le queda por recorrer. La Directiva federal sobre toma de decisiones automatizada exige que los sistemas automatizados del gobierno federal sean transparentes y responsables. Su evaluaciĆ³n algorĆtmica de impacto es una herramienta de evaluaciĆ³n de riesgos imprescindible para los sistemas de decisiĆ³n autĆ³nomos utilizados en el gobierno.
Estas herramientas se basan en informes propios de agencias y departamentos federales. EstĆ”n haciendo todo lo posible para gestionar cĆ³mo los gobiernos canadienses utilizan la inteligencia artificial. Sin embargo, hasta ahora las elecciones han implicado preguntas de expertos tĆ©cnicos y no del pĆŗblico sobre lo que se considera aceptable y lo que se debe detener.
La inteligencia artificial ha desempeƱado un papel central en las operaciones militares durante el conflicto de IrĆ”n. AquĆ, un jeque chiĆta colecciona libros religiosos de su biblioteca destruida en Deir Kanun, sur del LĆbano, junio de 2026. (Foto AP/Mohammed Zaatari) Voz y Voz
Ćsta es la brecha que hay que cerrar para lograr una gobernanza moral democrĆ”tica.
La Directiva de CanadĆ” sobre la toma de decisiones automatizada y la evaluaciĆ³n algorĆtmica del impacto se considera el estĆ”ndar de oro. Sin embargo, iniciativas como la Carta Digital de CanadĆ”, una consulta pĆŗblica en lĆnea de 30 dĆas en octubre de 2025 y la reciente estrategia federal de IA, IA para "Todo", han demostrado que CanadĆ” no debe considerarse un modelo de participaciĆ³n pĆŗblica en torno a la IA.
A lire aussie: La estrategia canadiense 'IA para todos' tiene objetivos de crecimiento ambiciosos, pero no alcanza para los trabajadores y el medio ambiente
La gobernanza moral democrĆ”tica de la inteligencia artificial es posible, pero sĆ³lo si el juicio moral del pĆŗblico va acompaƱado del poder polĆtico. Cualquier cosa menos es performativo.
Pope y Chris Olah coinciden en que las empresas no pueden decidir quĆ© deberĆa hacer la IA por nosotros. El trabajo democrĆ”tico inconcluso implica encontrar formas para que las personas tomen decisiones sobre cuestiones morales y tengan la autoridad para implementar esas decisiones.
.webp)
0 Comentarios