Anthropic propone en EEUU un umbral alto para frenar modelos de IA: 50 muertes o 1.000 millones en daños y poder centralizado en Comercio

Qué ha ocurrido

Xataka recoge que Anthropic ha presentado en el Capitolio un borrador que fija un umbral muy alto para frenar modelos de IA: riesgo inminente superior a 1.000 millones de dólares o muertes/lesiones graves a más de 50 personas, y solo por armas biológicas, evasión de controles del desarrollador o ciberataques. Entidades independientes, registradas en el Departamento de Comercio, evaluarían periódicamente a los laboratorios; si detectan un riesgo enumerado, lo notifican a Comercio en 72 horas. Comercio podría pedir a un juez federal que bloquee el lanzamiento, y el texto impediría a otros organismos suspender modelos. También exigiría marcos de seguridad, informes de transparencia, protección a denunciantes y notificación de incidentes. Es un borrador en debate; varios incidentes recientes no alcanzarían ese umbral.

Qué significa para creadores

Si se aprobara en EEUU, los bloqueos de modelos serían excepcionales, pero los laboratorios tendrían que publicar informes de transparencia y marcos de seguridad: útil para evaluar fiabilidad de herramientas que usas. En casos graves, las decisiones pasarían por Comercio y un juez, lo que podría retrasar lanzamientos puntuales. Mientras tanto, conviene seguir las evaluaciones independientes, los informes de nuevas versiones de modelos frontera y las notificaciones de incidentes para anticipar cambios en políticas de plataformas y planificar alternativas.

Fuente y contexto

Información de Xataka, basada en Politico y con un detalle añadido por Tom’s Hardware sobre que Comercio presentaría pruebas ante un juez federal. El Congreso de EEUU sopesa varias propuestas y Anthropic no ha apoyado formalmente una concreta. Xataka señala incidentes recientes que, según Politico, no superarían el umbral planteado.