Algunos observadores de tecnologĆa y polĆticas se sorprendieron cuando el presidente Donald Trump firmĆ³ una orden ejecutiva el 2 de junio de 2026, estableciendo un marco de seguridad de inteligencia artificial. ParecĆa estar avanzando en una direcciĆ³n diferente a la orden ejecutiva de diciembre de 2025 que buscaba crear un marco nacional "mĆnimamente gravoso" para la inteligencia artificial y reemplazar las leyes estatales que la administraciĆ³n consideraba restrictivas.
La nueva orden ejecutiva se centra en el uso de inteligencia artificial para fortalecer la seguridad de los sistemas informĆ”ticos federales y privados. TambiĆ©n tiene como objetivo garantizar que el gobierno federal tenga acceso a nuevos modelos importantes de IA antes de que se lancen al pĆŗblico, para determinar si representan una amenaza.
Sin embargo, las disposiciones de la orden con respecto a la industria de la IA son voluntarias y prohĆben expresamente que sus disposiciones se interpreten como una autorizaciĆ³n de "licencias estatales obligatorias, aprobaciĆ³n previa o permiso" para nuevos modelos de IA.
Como profesor que estudia inteligencia artificial responsable, las preguntas que me plantea la orden ejecutiva son cĆ³mo su nueva estructura de informes cambia la gestiĆ³n de seguridad de la IA y si la orden refleja lo que los expertos en seguridad de IA ven como mejores prĆ”cticas.
Potencial de daƱo
La orden ejecutiva expresa preocupaciĆ³n por los sistemas de inteligencia artificial que pueden detectar vulnerabilidades de software y escribir cĆ³digos maliciosos para explotarlas. Dirige a varios secretarios de gobierno para que promulguen defensas cibernĆ©ticas para los sistemas federales. TambiĆ©n estĆ” estableciendo un centro de intercambio de informaciĆ³n sobre ciberseguridad de IA en colaboraciĆ³n voluntaria con la industria de la IA y los operadores de infraestructura crĆtica para buscar vulnerabilidades y distribuir correcciones.
Este enfoque puede ser la respuesta de la administraciĆ³n Trump al anuncio de Anthropic en abril de 2026 de que su Ćŗltima versiĆ³n de Claude, denominada Mithos, habĆa encontrado y atacado de forma autĆ³noma cientos de vulnerabilidades de software en sistemas crĆticos en todo Estados Unidos. Esto ha llevado a varias instituciones financieras importantes a solicitar acceso temprano a dichos modelos.
La orden ejecutiva ordena a varios altos funcionarios gubernamentales que desarrollen y mantengan un proceso confidencial para evaluar si los nuevos programas de IA deben designarse como modelos de umbral, tambiƩn llamados modelos de referencia.
En el lenguaje de la industria, un modelo de frontera es un modelo de IA nuevo y de Ćŗltima generaciĆ³n entrenado con cantidades masivas de datos que puede comprender y utilizar herramientas de forma autĆ³noma para desencadenar acciones. Las Ćŗltimas versiones de ChatGPT, Claude, DeepMind y Llama entran en esta categorĆa.
Si el nuevo modelo cumple con los criterios de umbral, entonces el desarrollador debe darle acceso al gobierno durante al menos 30 dĆas antes de planear lanzar el modelo. TambiĆ©n dijo que los desarrolladores trabajarĆ”n con el gobierno federal para seleccionar a terceros para revisar los modelos de lĆmites cubiertos para evaluar el riesgo de ciberseguridad de la infraestructura crĆtica.
CBS News cubre los antecedentes detrĆ”s de la decisiĆ³n del presidente Donald Trump de firmar la orden ejecutiva. Medidas voluntarias
Las empresas de inteligencia artificial que desarrollan modelos de IA de vanguardia actualmente comparten informaciĆ³n con el Centro de EstĆ”ndares e InnovaciĆ³n de IA, parte del Instituto Nacional de EstĆ”ndares y TecnologĆa administrado por el Departamento de Comercio. SegĆŗn el Informe internacional sobre seguridad de la IA, la mayorĆa de las iniciativas de gestiĆ³n de riesgos en todo el mundo son en gran medida voluntarias para las empresas de IA. Estos incluyen los marcos de seguridad de la IA de Frontier consultados por los desarrolladores de IA, el proceso de IA del G7 de Hiroshima respaldado por los lĆderes del G7 y el CĆ³digo de prĆ”cticas de la UE aplicado en toda Europa.
La nueva orden ejecutiva mantiene el carĆ”cter voluntario de los desarrolladores de IA que informan sobre posibles riesgos de seguridad. La administraciĆ³n continĆŗa argumentando que las barreras de seguridad restrictivas podrĆan obstaculizar la innovaciĆ³n.
Pero los pioneros de la seguridad de la IA, incluidos los ganadores del Premio Turing Geoffrey Hinton y Joshua Bengia, sostienen que la seguridad no puede depender Ćŗnicamente de la autorregulaciĆ³n corporativa, ya que las presiones comerciales priorizan la velocidad del desarrollo sobre la mitigaciĆ³n de riesgos. El Informe internacional sobre seguridad de la IA advierte que la gestiĆ³n de riesgos de la IA aĆŗn es inmadura y que las medidas de seguridad corporativas deben crecer con el ritmo de la innovaciĆ³n.
Ćste es el llamado "dilema de la evidencia": actuar con demasiada lentitud deja a las sociedades vulnerables. Al crear estĆ”ndares de seguridad de IA, la industria y el gobierno deben especificar y acordar quĆ© informaciĆ³n se requiere de los desarrolladores de modelos de IA, como datos y mĆ©todos de capacitaciĆ³n, prĆ”cticas del "equipo rojo" para pruebas de vulnerabilidad e informes de incidentes de robo de modelos.
Abordar el riesgo
A pesar de la falta de salvaguardias obligatorias para la industria de la IA, me parece sorprendente que la orden ejecutiva reconozca el grave potencial de daƱo que plantean los modelos de IA.
La orden tambiĆ©n estĆ” en lĆnea con el consenso de expertos de que las salvaguardas tĆ©cnicas individuales son imperfectas y los atacantes pueden eludirlas. En cambio, la orden aboga por mĆŗltiples capas de protecciĆ³n superpuestas, incluido el monitoreo de hardware e infraestructura informĆ”tica, pruebas rigurosas previas a la implementaciĆ³n y monitoreo en tiempo real.
La orden tambiĆ©n se hace eco de la opiniĆ³n de los expertos al seƱalar que las herramientas avanzadas de inteligencia artificial tienen una dualidad fundamental: pueden transformar disciplinas que van desde la atenciĆ³n mĆ©dica hasta la defensa, pero tambiĆ©n pueden habilitar a piratas informĆ”ticos y ciberdelincuentes maliciosos, daƱar a la sociedad y amenazar la defensa nacional.
MƔs allƔ de la seguridad nacional de la inteligencia artificial
La cooperaciĆ³n internacional tambiĆ©n es esencial para la seguridad de la inteligencia artificial.
Por ejemplo, Argentina ha creado corporaciones no humanas dirigidas enteramente por agentes de inteligencia artificial. ¿CuĆ”nta seguridad proporciona la nueva orden ejecutiva en un mundo donde los modelos se pueden implementar desde cualquier lugar? La orden no menciona la coordinaciĆ³n multilateral, el compromiso aliado o la gobernanza conjunta global. De hecho, el propĆ³sito de la orden es "fomentar las capacidades avanzadas de Estados Unidos basadas en IA" como un activo nacional competitivo.
Organismos como la Agencia Internacional de EnergĆa AtĆ³mica pueden servir como modelos para el consenso internacional sobre la seguridad de la inteligencia artificial. El proceso existente de la Cumbre de Seguridad de la IA, que celebrĆ³ una cumbre en el Reino Unido en 2023; Corea del Sur en 2024; Francia en 2025; e India 2026 es la aproximaciĆ³n mĆ”s cercana en la prĆ”ctica. Incluye una red de institutos gubernamentales de seguridad de IA, incluidos Estados Unidos y Europa. Celebra reuniones cada seis a 12 meses.
Estos organismos independientes dirigidos por expertos tambiƩn pueden moldear las expectativas sobre los protocolos y normas relacionados con el riesgo de la IA.
La orden ejecutiva representa un primer paso para reconocer algunos de los riesgos de seguridad que la IA supone para la seguridad nacional. De cara al futuro, creo que es importante que el gobierno de Estados Unidos vincule esos esfuerzos con enfoques cientĆficos mĆ”s amplios, independientes y para identificar y contrarrestar las amenazas de la IA.
.webp)
0 Comentarios