REGULACION
El consejero del papa en IA pide regulación democrática y alerta de un posible “cártel” de desarrolladores
El padre Paolo Benanti, asesor de la Iglesia en inteligencia artificial, critica el alarmismo sobre “superinteligencias” y reclama regulación democrática que garantice control humano. Advierte del riesgo de que unos pocos laboratorios dicten las reglas como un cártel. El debate incluye auditorías externas previas a lanzamientos y posibles límites a prácticas como la destilación.
Qué ha ocurrido
El padre Paolo Benanti, que asesora a la Iglesia en cuestiones de IA, sostiene que el miedo a una IA casi divina distrae del debate clave: establecer reglas públicas y democráticas. Critica que grandes laboratorios marquen la agenda y advierte del riesgo de un “cártel”. En paralelo, el CEO de Anthropic propuso evaluaciones externas obligatorias antes de lanzamientos y límites a la destilación; otros piden vetar la automejora recursiva. Benanti prioriza asegurar control humano significativo frente a prohibir métodos que podrían frenar la innovación.
Qué significa para creadores
Para profesionales creativos, esto anticipa mayor escrutinio sobre los modelos y ciclos de lanzamiento más prudentes. Conviene elegir herramientas que documenten evaluaciones de seguridad y permitan una supervisión humana clara del contenido. Evita delegar decisiones editoriales en la IA y desconfía del marketing de “superinteligencias”: valora capacidades comprobables. Ante una posible concentración de poder, diversifica proveedores y revisa condiciones sobre uso de salidas y prácticas de entrenamiento relacionadas con la destilación.
Fuente y contexto
Basado en un reportaje de WIRED en Español (23 de septiembre de 2026) con declaraciones de Benanti. No habla en nombre oficial de la Santa Sede. El papa León XIV dedicó su primera encíclica a la IA, llamando a cooperación internacional y alertando contra una lógica tecnocrática. Anthropic declinó comentar; OpenAI y Google DeepMind no respondieron.