La inteligencia artificial es fascinante, transformadora y estƔ cada vez mƔs integrada en la forma en que aprendemos, trabajamos y tomamos decisiones.
Pero por cada ejemplo de innovaciĆ³n y eficiencia –como el asistente de IA personalizado desarrollado recientemente por un profesor de contabilidad de la Universidad de Quebec en Montreal– hay otro que destaca la necesidad de supervisiĆ³n, alfabetizaciĆ³n y regulaciĆ³n que puedan seguir el ritmo de la tecnologĆa y proteger al pĆŗblico.
Un caso reciente en Montreal ilustra esta tensiĆ³n. Un hombre de Quebec ha sido multado con 5.000 dĆ³lares tras presentar "citas de expertos y jurisprudencia que no existe" para defenderse ante los tribunales. Fue la primera sentencia de este tipo en la provincia, aunque ha habido casos similares en otros paĆses.
La IA puede democratizar el acceso al aprendizaje, al conocimiento e incluso a la justicia. Sin embargo, sin salvaguardias Ć©ticas, capacitaciĆ³n adecuada, experiencia y alfabetizaciĆ³n bĆ”sica, las mismas herramientas diseƱadas para empoderar a las personas pueden fĆ”cilmente socavar la confianza y resultar contraproducentes.
Por quƩ las barandillas son importantes
Las salvaguardas son sistemas, normas y controles que garantizan que la inteligencia artificial se utilice de forma segura, justa y transparente. Permiten que florezca la innovaciĆ³n y al mismo tiempo previenen el caos y los daƱos.
La UniĆ³n Europea se ha convertido en la primera jurisdicciĆ³n importante en adoptar un marco integral para la regulaciĆ³n de la IA con la Ley de IA de la UE, que entrarĆ” en vigor en agosto de 2024. La ley divide los sistemas de IA en categorĆas basadas en riesgos e introduce reglas en fases para dar a las organizaciones tiempo para prepararse para el cumplimiento.
Los eurodiputados de la UniĆ³n Europea votan la Ley de Inteligencia Artificial en el Parlamento Europeo el 13 de marzo de 2024 en Estrasburgo, Francia. (Foto AP/Jean-FranƧois Badias)
Esa ley hace que algunos usos de la IA sean inaceptables. Entre ellas se incluyen la puntuaciĆ³n social y el reconocimiento facial en tiempo real en espacios pĆŗblicos, que fueron prohibidos en febrero.
La inteligencia artificial de alto riesgo utilizada en Ć”reas crĆticas como la educaciĆ³n, el empleo, la atenciĆ³n sanitaria o la policĆa estarĆ” sujeta a requisitos estrictos. A partir de agosto de 2026, estos sistemas deben cumplir con estĆ”ndares de calidad de datos, transparencia y supervisiĆ³n humana.
Los modelos de IA de propĆ³sito general quedaron sujetos a requisitos regulatorios en agosto de 2025. Los sistemas de riesgo limitado, como los chatbots, deben detectar que los usuarios estĆ”n interactuando con un algoritmo.
El principio clave es que cuanto mayor sea el impacto potencial sobre los derechos o la seguridad, mĆ”s fuertes serĆ”n las obligaciones. El objetivo no es frenar la innovaciĆ³n, sino hacerla responsable.
Fundamentalmente, la ley tambiĆ©n exige que cada estado miembro de la UE establezca al menos un entorno regulatorio operativo. Se trata de marcos controlados en los que las empresas pueden desarrollar, entrenar y probar sistemas de IA bajo supervisiĆ³n antes de su implementaciĆ³n total.
Para las pymes que carecen de recursos para una infraestructura de cumplimiento amplia, los entornos sandbox ofrecen una vĆa para la innovaciĆ³n y al mismo tiempo crean capacidad.
CanadĆ” todavĆa se estĆ” poniendo al dĆa con la IA
CanadĆ” aĆŗn tiene que establecer un marco legal integral para la IA. La Ley de Datos e Inteligencia Artificial se introdujo en 2022 como parte del Proyecto de Ley C-27, un paquete conocido como Ley de ImplementaciĆ³n de la Carta Digital. Se suponĆa que se crearĆa un marco legal para el desarrollo responsable de la inteligencia artificial, pero la ley nunca se adoptĆ³.
CanadĆ” debe ahora actuar rĆ”pidamente para corregir esto. Esto incluye fortalecer la gobernanza de la IA, invertir en educaciĆ³n pĆŗblica y profesional y garantizar que una amplia gama de voces (educadores, expertos en Ć©tica, expertos laborales y la sociedad civil) participen en la configuraciĆ³n de la legislaciĆ³n sobre IA.
Un enfoque gradual similar al marco de la UE podrĆa brindar seguridad y al mismo tiempo apoyar la innovaciĆ³n. Las aplicaciones mĆ”s riesgosas serĆan prohibidas de inmediato, mientras que otras enfrentarĆan requisitos cada vez mĆ”s estrictos, lo que darĆa a las empresas tiempo para adaptarse.
El Ministro de Inteligencia Artificial e InnovaciĆ³n Digital, Evan Solomon, pronuncia un discurso durante la conferencia All In AI en Montreal el 25 de septiembre de 2025. PRENSA CANADIENSE/Christopher Katsarov
Los entornos de pruebas regulatorios podrĆan ayudar a las pymes a innovar de manera responsable y, al mismo tiempo, desarrollar la capacidad que tanto necesitan ante la actual escasez de mano de obra.
El gobierno federal lanzĆ³ recientemente el Grupo de Trabajo de Estrategia de IA para ayudar a acelerar la adopciĆ³n de la tecnologĆa en el paĆs. Se espera que en unos meses entregue recomendaciones sobre competitividad, productividad, educaciĆ³n, trabajo y Ć©tica.
Pero como han seƱalado varios expertos, el grupo de trabajo estĆ” fuertemente inclinado hacia las voces de la industria, lo que corre el riesgo de tener una visiĆ³n estrecha de los impactos sociales de la IA.
Las vallas protectoras por sĆ solas no son suficientes
Las regulaciones pueden establecer lĆmites y proteger a las personas de daƱos, pero las barreras de seguridad por sĆ solas no son suficientes. Otro fundamento vital de una sociedad de IA Ć©tica e inclusiva es la alfabetizaciĆ³n y el desarrollo de habilidades.
La alfabetizaciĆ³n en IA respalda nuestra capacidad de cuestionar las herramientas y el contenido de la IA y se estĆ” convirtiendo rĆ”pidamente en un requisito fundamental en la mayorĆa de los trabajos.
Sin embargo, casi la mitad de los empleados que utilizan herramientas de inteligencia artificial en el trabajo no han recibido capacitaciĆ³n y mĆ”s de un tercio solo han recibido una orientaciĆ³n mĆnima de sus empleadores. Menos de una de cada 10 pequeƱas o medianas empresas ofrecen programas formales de formaciĆ³n en IA.
Como resultado, la adopciĆ³n se produce de manera informal y, a menudo, sin supervisiĆ³n, lo que deja expuestos a los trabajadores y las organizaciones.
La alfabetizaciĆ³n en IA funciona en tres niveles. BĆ”sicamente, esto significa comprender quĆ© es la IA, cĆ³mo funciona y cuĆ”ndo cuestionar sus resultados, incluida la conciencia de los prejuicios, la privacidad y las fuentes de datos. La alfabetizaciĆ³n intermedia implica el uso de herramientas generativas como ChatGPT o Copilot. En la cima se encuentran las habilidades avanzadas, donde las personas diseƱan algoritmos teniendo en cuenta la equidad, la transparencia y la responsabilidad.
Lograr la alfabetizaciĆ³n en IA significa invertir en mejora de habilidades y reciclaje que combine el pensamiento crĆtico con el uso prĆ”ctico de la inteligencia artificial.
Como profesor universitario, a menudo veo la IA enmarcada principalmente como un riesgo de hacer trampa, mƔs que como una herramienta que los estudiantes deben aprender a utilizar de manera responsable. Si bien es cierto que se puede abusar de Ʃl, los educadores deben proteger la integridad acadƩmica mientras preparan a los estudiantes para trabajar junto con estos sistemas.
Un equilibrio entre innovaciĆ³n y responsabilidad
No podemos prohibir ni ignorar la IA, pero tampoco podemos permitir que la carrera por la eficiencia supere nuestra capacidad para gestionar sus consecuencias o abordar cuestiones de equidad, responsabilidad y confianza.
El desarrollo de habilidades y las barreras de seguridad deben avanzar juntos. CanadĆ” necesita voces diversas en la mesa de negociaciones, una inversiĆ³n real que estĆ© a la altura de sus ambiciones y una sĆ³lida rendiciĆ³n de cuentas integrada en todas las leyes, estĆ”ndares y protecciones de IA.
Se diseƱarĆ”n mĆ”s herramientas de IA para apoyar el aprendizaje y el trabajo, y se producirĆ”n errores mĆ”s costosos debido a la confianza ciega en sistemas que no entendemos completamente. La cuestiĆ³n no es si la inteligencia artificial se extenderĆ”, sino si construiremos las barreras de seguridad y la alfabetizaciĆ³n necesarias para dar cabida a ella.
La IA puede convertirse en un complemento de la experiencia, pero no puede sustituirla. A medida que la tecnologĆa evoluciona, tambiĆ©n lo hace nuestra capacidad para comprenderla, cuestionarla y guiarla hacia el bien pĆŗblico.
Necesitamos combinar la innovaciĆ³n con la Ć©tica, la velocidad con el pensamiento y el entusiasmo con la educaciĆ³n. La protecciĆ³n y el desarrollo de habilidades, incluida la alfabetizaciĆ³n bĆ”sica en IA, no son fuerzas opuestas; estas son dos manos que apoyarĆ”n el progreso.
.webp)
0 Comentarios