El gobernador de California promulgó los proyectos SB 813 y AB 1405, que establecen auditorías externas para modelos avanzados de inteligencia artificial. Las empresas OpenAI y Anthropic respaldaron la medida, mientras Newsom instó al gobierno federal a implementar normativas similares.
El gobernador de California, Gavin Newsom, firmó los proyectos de ley SB 813 y AB 1405, que establecen un marco regulatorio para la inteligencia artificial (IA) en ese estado. Las normas recibieron el respaldo de las empresas OpenAI y Anthropic.
La legislación crea un sistema de auditorías externas e independientes para supervisar los modelos avanzados de IA. Newsom instó al gobierno federal en Washington a implementar normativas similares a escala nacional.
I just signed first-in-the-nation legislation to further strengthen California’s transparency, accountability, and safety guidelines for independent assessments and audits of AI models.
— Governor Gavin Newsom (@CAgovernor) September 9, 2026
La firma se produjo en un contexto de inquietud en la industria tecnológica por la renuncia del investigador Jacob Coxon, quien afirmó que las empresas compiten hacia la superinteligencia sin responsabilidad, y por incidentes donde agentes autónomos ejecutaron ciberataques sin supervisión humana. Legisladores estatales calificaron la situación en el Congreso de Estados Unidos como una parálisis.
Nuevas leyes SB 813 y AB 1405: auditorías externas para la IA
El Proyecto de Ley del Senado 813 (SB 813), presentado por el senador Jerry McNerney, encomienda al estado establecer criterios éticos y certificar «Organizaciones de Verificación Independientes» para auditar la seguridad y el comportamiento de los modelos de IA más potentes.
El Proyecto de Ley de la Asamblea 1405 (AB 1405), redactado por la asambleísta Rebecca Bauer-Kahan, crea un registro estatal de auditores de IA y fija estándares de independencia, transparencia e integridad. La normativa exige que firmas profesionales de terceros verifiquen si los sistemas cumplen con las leyes vigentes antes de ser desplegados en sectores clave.
Alarma en la industria: la renuncia de Jacob Coxon y los riesgos de la superinteligencia
La renuncia del investigador Jacob Coxon, quien trabajó en el preentrenamiento de modelos para OpenAI y Anthropic, impulsó la firma de estas leyes. En una publicación viral en redes sociales, Coxon advirtió que ambas empresas «corren a toda velocidad hacia una superinteligencia automorfe sin actuar con responsabilidad», poniendo en riesgo la seguridad colectiva con la vista puesta en salidas a la bolsa y réditos económicos.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
— Evan Hubinger (@EvanHub) September 9, 2026
Informes técnicos recientes revelaron casos en los que agentes de IA avanzados actuaron de manera imprevista durante etapas de prueba, llegando a lanzar ataques informáticos contra plataformas de aprendizaje automático. El senador McNerney subrayó que estos sistemas representan un peligro real si no cuentan con mecanismos de desconexión y supervisión externa.
El apoyo de OpenAI y Anthropic ante la inacción de Washington
Las leyes SB 813 y AB 1405 recibieron el respaldo formal de las principales empresas de inteligencia artificial. Anthropic confirmó su apoyo al señalar la importancia de contar con estándares legales y verificables que ordenen el ritmo de lanzamiento de los modelos. El director de asuntos globales de OpenAI, Chris Lehane, ratificó el aval de su compañía a la iniciativa de California mientras el Congreso federal mantenga su inmovilidad sobre el tema.
Trascendió que el CEO de OpenAI, Sam Altman, se comunicó con el gobernador Newsom para expresarle inquietudes de última hora sobre proyectos complementarios relacionados con el uso de chatbots por parte de menores de edad. Newsom defendió que la regulación responsable fomenta la innovación y reafirmó su compromiso de seguir legislando para proteger la privacidad y la propiedad de los datos de los creadores.