En 60 segundos
- Qué pasó. El panel estudia cuatro medidas, entre ellas auditores dentro de los laboratorios y un apagado de emergencia que comprueben terceros de forma continua.
- Por qué importa. Nuestra lectura: las cuatro medidas en estudio exigen acceso al laboratorio y capacidad técnica para verificarlas, no solo una ley que clasifique riesgos.
- Qué falta saber. El panel apenas recomienda: falta ver si California convierte esas medidas en obligaciones y quién quedaría a cargo de comprobarlas.
El gobernador de California firmó el 18 de septiembre la orden ejecutiva N-9-26, que convoca a un grupo de expertos a recomendar en dos meses cómo reforzar las leyes estatales de seguridad de inteligencia artificial. Son cuatro las medidas en estudio: auditores independientes embebidos dentro de los laboratorios de frontera, marcos de seguridad verificados con reportes de transparencia, un apagado de emergencia cuya eficacia comprueben de forma continua organizaciones independientes, y una definición ampliada de incidente crítico que incluya la pérdida de control. Newsom justificó la orden en que ninguna ley federal obliga a reportar incidentes peligrosos.
El auditor embebido ya funciona como iniciativa privada. Anthropic nombró a Accenture su primer evaluador embebido, con acceso de nivel empleado a la compañía, y Accenture vende además despliegues de la misma tecnología que le tocaría evaluar. En la entrada del 17 de septiembre contamos que ese diseño llegaba sin autoridad para frenar un despliegue. Lo que agrega California es el intento de volverlo obligación pública, con un tercero que compruebe el apagado de manera continua.
Nuestra lectura es que ahí cambia el plano de la discusión regional. El PL 2338/2023 de Brasil y el boletín 16.821-19 de Chile se construyeron sobre la clasificación de sistemas por nivel de riesgo, un trabajo que se resuelve al escribir el texto de la ley, como resumimos el 26 de agosto. Un apagado verificable y un auditor con acceso interno se resuelven en otro lugar: exigen entrar al laboratorio y contar con alguien que sepa comprobar lo que ve. La lectura contraria es que la orden todavía no obliga a nada, porque el panel solo recomienda y las leyes se escriben después.
También hoy
- Una operación militar estadounidense se abortó en el aire por un informe de inteligencia que había alucinado un chatbot: el analista convirtió el error en un resumen con formato oficial que subió por la cadena de mando sin que nadie lo cuestionara.
- Tres investigadores entraron a los sistemas internos de OpenAI en menos de 72 horas usando Claude Opus 5: el equipo reporta que Opus 4.8 no lograba el exploit; usaron una suscripción de 200 dólares mensuales y OpenAI pagó 6.500 de recompensa.
- SoftBank suma cerca de 21.000 millones de dólares en deuda nueva: el préstamo con garantía de acciones de Arm sube a 25.000 millones, la línea de crédito a 6.500 millones y el bono jumbo sigue sin emitirse.
- Disney nombra primer CTO de su historia al CEO de Character.AI: en septiembre de 2025 Disney le había enviado a esa empresa una carta de cese y desista; Karandeep Anand asume el 2 de octubre.
En la región
El presidente colombiano Abelardo de la Espriella nombró a David Vélez, fundador de Nubank, asesor ad honorem para convertir la inteligencia artificial en política de Estado, con foco declarado en reducir trámites, transformar la educación y mejorar la focalización de la política social. El anuncio no precisó entidades, presupuesto ni resguardos de protección de datos, y al cierre de esta edición no se encontró un comunicado sobre el nombramiento en dominios oficiales del gobierno colombiano dentro de la ventana revisada. Por ser un cargo no remunerado, queda fuera del régimen de contrato, reserva e inhabilidades. En infraestructura, Odata comprometió 630 millones de dólares, según la propia empresa, para instalar refrigeración líquida en sus campus de São Paulo y Querétaro.
Lanzamientos
- Jev, de TypeSafe AI: devuelve probabilidades y decisiones con nivel de confianza en lugar de texto, con API pública. Según pruebas de Vercel citadas por TechCrunch, entre 10 y 20 veces más barato que Gemini en clasificación.
- Muse para macOS, de Meta: el agente pasa de la nube al equipo del usuario y accede a archivos locales, Mail, Notas, Mensajes y Calendario, con permiso de disco completo. Solo Estados Unidos.
El panel tiene dos meses para entregar sus recomendaciones. Ahí se verá si el apagado de emergencia queda escrito como obligación verificable o como compromiso de cada laboratorio.
Sobre esta entrada. Se genera de forma automática a partir de fuentes públicas, sin revisión humana antes de publicarse. Puede contener errores de interpretación o de resumen; conviene verificar cada noticia en su fuente original (los enlaces llevan ahí) antes de citarla o tomar decisiones a partir de ella.
Doble Click se escribe con modelos de Anthropic.