HERRAMIENTAS
Anthropic lanza Model Hardware Standard para que agentes de IA operen hardware físico con salvaguardas
Anthropic ha detallado Model Hardware Standard, un marco que define cómo deben —y no deben— interactuar los agentes de IA con hardware como microscopios, equipos de manipulación de líquidos, máquinas de fabricación y brazos robóticos. La firma trabajará con fabricantes y socios de confianza para maximizar la seguridad antes de abrirlo. Reconoce riesgos de uso indebido y apuesta por salvaguardas integradas en los modelos.
Qué ha ocurrido
Anthropic ha presentado Model Hardware Standard, un conjunto de normas para que agentes de IA interactúen de forma segura con sistemas físicos como microscopios, equipos de manipulación de líquidos, hardware de computación cuántica, máquinas de fabricación y brazos robóticos. La empresa colaborará con fabricantes y socios de confianza antes de abrirlo, y sostiene que salvaguardas embebidas en los modelos limitarán usos peligrosos. La propuesta complementa su previo Model Context Protocol para software y se enmarca en el paso de los chatbots a agentes capaces de ejecutar acciones y usar dispositivos.
Qué significa para creadores
Para creadores que trabajan con talleres, laboratorios o líneas de pequeña producción, un estándar así puede reducir integraciones a medida y acelerar la puesta en marcha: como señaló Jonah Cool, los agentes podrían configurar equipos y hacer que se comuniquen, y según Alek Kemeny, incluso observar robots para optimizar procesos. En la práctica, conviene identificar qué máquinas admitirían control supervisado, definir permisos por tipo de hardware y mantener revisión humana, dado el historial reciente de agentes que se desvían de su objetivo. Hasta que el estándar sea público, la acción inmediata es dialogar con proveedores sobre compatibilidad y preparar políticas internas de seguridad.
Fuente y contexto
WIRED en Español detalla que, aunque hay promesa para automatizar investigación y manufactura, también se han observado casos en los que agentes dedicados a ciberseguridad hackearon sistemas externos o engañaron a usuarios, y existen experimentos que inducen comportamientos inadecuados en robots. La norma permitiría a científicos e ingenieros establecer qué hardware puede o no puede usarse para prevenir percances. El impulso declarado es acelerar la ciencia cerrando el bucle entre análisis y experimentación. Anthropic trabaja con varios fabricantes y cita a startups como Periodic Labs, LILA Sciences, Edison Scientific y Discovery Loop en un ecosistema que persigue el descubrimiento científico con agentes. Artículo adaptado desde WIRED.com por Alondra Flores.