En esta noticia
- Las nuevas reglas de Nueva York para los desarrolladores de IA: ¿Qué establecen?
- El argumento de la Gobernadora Hochul: ¿Por qué considera importante estas medidas?
- Newsom y el botón de apagado para la IA: ¿Qué impulsan en California?
- Los antecedentes: ¿Qué pasó durante las últimas semanas y por qué se cree que la IA podría extinguir a la humanidad?
- El rechazo de Trump a la regulación de la IA: las declaraciones de su discurso ante la ONU
Ante el inminente desarrollo de la Inteligencia Artificial de vanguardia y los sucesos de las últimas semanas, varios estados del país comenzaron a tomar medidas para contener su avance y promover la seguridad de los usuarios.
La Gobernadora de Nueva York, Kathy Hochul, promulgó la Ley de Seguridad y Educación Responsables (RAISE), pionera en su índulo. A partir de noviembre se exigirá a los grandes desarrolladores de IA que se registren dentro de su territorio para acatar la implementación de regulación.
Las nuevas reglas de Nueva York para los desarrolladores de IA: ¿Qué establecen?
De acuerdo con lo publicado a través de la página oficial del Gobierno de Nueva York, a partir de noviembre los desarrolladores deberán registrarse y desde enero de 2027, se aplicará de forma plena la Ley RAISE. Además, su cumplimiento quedará bajo la supervisión de la nueva Oficina de Innovación Digital, Gobernanza, Integridad y Confianza (DIGIT).
Las principales exigencias que se prevén son:
- Dar a conocer sus marcos de seguridad y operar con transparencia.
- Informar sobre incidentes críticos de seguridad dentro de no más de 72 horas.
- Presentar evaluaciones trimestrales que contemplen los riegos catastróficos.
- Registrarse ante DIGIT y abonar las tarifas correspondientes.
El argumento de la Gobernadora Hochul: ¿Por qué considera importante estas medidas?
La Gobernadora Hochul insta a los líderes federales y mundiales a que tomen medidas de esta índole, cuestionando la falta de estrategia a nivel nacional. Además, declaró: “Donald Trump y los republicanos de Washington pueden permanecer impasibles ante la creciente imprevisibilidad de la IA, pero Nueva York no lo hará”.
Hizo énfasis en que la gente merece saber las medidas que se toman para garantizar su seguridad, en un contexto en el que las grandes empresas tecnológicas desarrollan las herramientas más poderosas del mundo.
Newsom y el botón de apagado para la IA: ¿Qué impulsan en California?
Por su lado, el Gobernador de California, Gavin Newsom, emitió una orden que busca acelerar las nuevas normas de supervisión independiente para la IA dentro del territorio californiano.
Entre las propuestas más interesantes apareció la posibilidad de diseñar un botón de apagado, es decir, un mecanismo de emergencia capaz de frenar a los modelos de vanguardia avanzados. California se encuentra evaluando exigir la creación de este sistema a las empresas desarrolladoras y que organismos verificadores se encarguen de verificar que funcionan como deben.
Los antecedentes: ¿Qué pasó durante las últimas semanas y por qué se cree que la IA podría extinguir a la humanidad?
Las medidas se impulsaron con mayor fuerza después de que Jacob Coxon dejara Anthropic y advirtiera que los laboratorios de IA están asumiendo riesgos extremos al desarrollar modelos cada vez más autónomos.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sus declaraciones fueron pronto respondidas por Evan Hubinger, otro trabajador de Anthropic:
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
— Evan Hubinger (@EvanHub) September 9, 2026
Posteriormente, el CEO de Anthropic, Dario Amodei y Sam Altman de OpenAI coincidirían en la necesidad de avanzar con más controles y coordinación en lo que refiere a la seguridad de estos modelos.
También influyeron los reportes sobre incidentes en los que agentes de IA habrían evadido restricciones o accedido a otros sistemas, entre ellos un ataque contra la plataforma Hugging Face.
El rechazo de Trump a la regulación de la IA: las declaraciones de su discurso ante la ONU
En su discurso ante la Asamblea General de la ONU, Donald Trump declaró: “Estados Unidos... rechaza por completo cualquier intento de construir un plan globalista para controlar la inteligencia artificial de la que tanto se habla ahora”.
El presidente incluso planteó que el Gobierno comenzará a utilizar la expresión “superinteligencia” para referirse a esos modelos, y sostuvo que esta tecnología tendrá un impacto mayor que la revolución industrial, al tiempo que se oponía a imponer límites que retrasen su avance.
