Las nuevas leyes firmadas por el gobernador Gavin Newsom tienen como objetivo hacer que el panorama de la inteligencia artificial y las redes sociales en California sea más seguro, especialmente para los menores.
patrocinado por el senador estatal Steve Padilla (D-Chula Vista) exigirá que las empresas de inteligencia artificial incorporen barreras de seguridad que impidan que los llamados chatbots "compañeros" hablen con usuarios de cualquier edad sobre el suicidio o las autolesiones. También requiere que todos los sistemas de inteligencia artificial alerten a los menores que utilizan los chatbots de que no son humanos cada tres horas. Los sistemas también tienen prohibido promover cualquier conducta sexual explícita a usuarios menores de edad.
La ley, que se promulgará el 1 de enero, sigue a una presentación contra desarrolladores en la que familias alegan que sus hijos se suicidaron después de haber sido influenciados por un compañero de chatbot de IA.
En la misma línea, Newsom firmó el Proyecto de Ley 316 de la Asamblea, que elimina una defensa legal civil que algunos desarrolladores de IA han estado utilizando para argumentar que no son responsables de ningún daño causado por sus productos. Han argumentado que sus productos de IA actúan de forma autónoma, por lo que no hay ningún caso legal para culpar a los desarrolladores.
En un análisis de proyecto de ley destinado a los legisladores, la asambleísta Maggy Krell (D-Sacramento) escribió que este cambio obligará a los desarrolladores a examinar mejor su producto y garantizar que puedan rendir cuentas si su producto causa daño a sus usuarios.
Otro proyecto de ley, AB 621, aumenta las sanciones civiles para los desarrolladores de IA que, a sabiendas, crean pornografía de IA "deepfake" no consensuada. Las penas máximas van de $30.000 a $50.000, y de $150.000 a $250.000 en los casos en que los tribunales determinen que las acciones se realizaron con malicia.
La autora del proyecto de ley, la asambleísta Rebecca Bauer-Kahan (D-Orinda), ha señalado cómo esta tecnología se ha utilizado para dañar a menores. "En un caso reciente", señaló en un análisis que respalda la legislación propuesta, "cinco estudiantes fueron expulsados de una escuela secundaria de Beverly Hills después de crear y compartir fotografías de desnudos de sus compañeros de clase generadas por IA".
Newsom promulgó otro proyecto de ley sobre IA, el SB 53 del senador Scott Wiener (D-San Francisco), a finales de septiembre. Requerirá que las grandes empresas de inteligencia artificial revelen públicamente ciertos protocolos de seguridad e informen al estado sobre incidentes críticos de seguridad. También crea un grupo informático público de IA, CalCompute, que proporcionará recursos a nuevas empresas e investigadores que desarrollen grandes sistemas de IA.
Bauer-Kahan también fue el autor de AB 56, que exigirá que las empresas de redes sociales coloquen una etiqueta de advertencia en sus plataformas para menores a partir de 2027. La etiqueta de advertencia debe informar a los niños y adolescentes que las redes sociales están asociadas con problemas de salud mental y pueden no ser seguras.
"La gente de todo el país, incluyéndome a mí, está cada vez más preocupada por el fracaso de las grandes empresas tecnológicas a la hora de proteger a los niños que interactúan con sus productos. Hoy, California deja claro que no nos sentaremos a esperar a que las empresas decidan priorizar el bienestar de los niños por encima de sus ganancias", dijo Atty. dijo en un comunicado de prensa el general Rob Bonta, quien patrocinó el proyecto de ley. "Al agregar etiquetas de advertencia a las plataformas de redes sociales, AB 56 le brinda a California una nueva herramienta para proteger a nuestros niños".
Otros proyectos de ley aprobados recientemente por Newsom buscan desafiar el control de Internet sobre los jóvenes y su salud mental.
AB 1043, por ejemplo, requerirá que las tiendas de aplicaciones y los fabricantes de dispositivos tomen datos de edad de los usuarios para garantizar que cumplan con los requisitos de verificación de edad. Muchas empresas de tecnología, incluidas Google y Meta, aprobaron el proyecto de ley, redactado por la asambleísta Buffy Wicks (demócrata por Oakland).
AB 772 requerirá que las escuelas de grados K-12 del estado desarrollen una política para mediados de 2027 sobre el manejo del acoso y el ciberacoso que ocurre fuera del campus. "El acoso escolar después de la escuela sigue al alumno de regreso a la escuela y al aula, creando un ambiente hostil en la escuela", escribió el autor y presidente provisional de la Asamblea, Josh Lowenthal (D-Long Beach), en un análisis del proyecto de ley.
Los defensores de la Oficina de Educación del Condado de Los Ángeles escribieron en un análisis anterior que debido a que hoy en día los estudiantes están constantemente conectados a Internet, el acoso no cesa cuando terminan las clases. Además, según el análisis, las redes sociales y los mensajes de texto pueden transmitir casos de acoso a audiencias más grandes que nunca.
La Asociación de Juntas Escolares de California. se opuso a la AB 772, diciendo que no era apropiado que los funcionarios escolares asumieran la responsabilidad de las acciones de los estudiantes fuera de la escuela. Newsom firmó el proyecto de ley el fin de semana pasado y lo incluyó en un paquete más amplio de proyectos de ley destinados a proteger a los niños de los efectos de las redes sociales.
"Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin barreras de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños. Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por la tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin los límites y la responsabilidad necesarios", dijo Newsom en un comunicado. "Podemos seguir siendo líderes en inteligencia artificial y tecnología, pero debemos hacerlo de manera responsable, protegiendo a nuestros niños en cada paso del camino. La seguridad de nuestros niños no está a la venta".
.webp)
0 Comentarios