¿Cómo se gobierna una tecnología que avanza más rápido de lo que podemos comprender? Esa pregunta, hoy decisiva, es el eje de este artículo. En ella confluyen la «constitución» de Claude, publicada por Anthropic en enero de 2026, la encíclica papal Magnifica Humanitas y un terreno incierto donde se cruzan filosofía del derecho, ciencia ficción y decisiones empresariales.
¿Cómo se gobierna una tecnología tan potente como indeterminada, cuyos avances no podemos anticipar con seguridad y cuyos efectos a gran escala todavía desconocemos?
Es una pregunta profunda y también incómoda para juristas, reguladores y laboratorios de IA, hasta convertirse en una de las cuestiones más relevantes.
En plena visita del Papa León XIV a España, recuperamos un texto tan reciente como inesperado, la Carta Encíclica Magnifica Humanitas, publicada el 15 de mayo de 2026. Su Capítulo Tercero se titula ‘La grandeza de la persona humana ante las promesas de la IA’. Puede sorprender que una institución religiosa se adentre en un terreno tan técnico, y ahí está precisamente su interés. Más allá de la lectura religiosa, el documento se hace la misma pregunta que nos ocupa y la coloca en el centro de su reflexión sobre la gobernanza de la IA.
La pregunta importa por un motivo claro, y es que la inteligencia artificial ya no es una herramienta que ayuda desde fuera, sino que avanza con una velocidad que supera nuestra capacidad de comprenderla, regularla o anticipar sus efectos.
Cuando la IA deja de ser una herramienta
La IA no solo acelera una tarea, sino que decide dentro del trabajo, pues determina qué es relevante, qué omite, qué marca como riesgo, qué propone escalar y qué ofrece como respuesta válida. En ese momento, la cuestión deja de ser solo técnica.
La IA no es neutral cuando afecta a derechos, oportunidades, reputación, trabajo o libertad, porque todo sistema esconde decisiones y decide qué mide, qué ignora, qué optimiza y cómo clasifica a personas y situaciones.
De ahí surge una de las ideas más potentes del texto. No basta con «alinear» la IA con valores humanos, sino que hay que poder discutir el código ético que usa.
Pero antes aparece un problema.
¿Cómo se fijan las reglas de algo que aún estamos aprendiendo a entender y cuyos efectos a gran escala desconocemos?
La incógnita de regular sin saber exactamente qué estamos regulando
El problema es que seguimos a oscuras, ya que en gran parte no sabemos cómo funcionan por dentro estos sistemas, que avanzan más rápido de lo que muchas veces podemos seguir.
La filosofía del Derecho ya vivió algo parecido. En el debate entre H.L.A. Hart y Ronald Dworkin, ambos se preguntaban qué pasa cuando las normas no dan una respuesta clara, y coincidían en lo esencial. Hay zonas donde la regla no basta y hace falta algo más, como el criterio profesional, los principios o la prudencia, para decidir.
La IA nos coloca en un punto parecido, pero más difícil, porque no sabemos cómo aplicar las reglas que ya existen, ni qué reglas nuevas necesitamos, ni qué efectos tendrán estos sistemas en el futuro.
Chris Olah, cofundador de Anthropic, lo admitió en el Vaticano, y es que incluso quienes estudian estos modelos por dentro encuentran zonas misteriosas que exigen discernimiento constante. Esa incertidumbre cambia el tipo de respuesta que necesitamos, porque, cuando no hay una norma clara ni un manual posible, la salida no es improvisar, sino explorar con una metodología. Para ello hay que escuchar voces distintas, experimentar con cautela, aceptar que las respuestas son provisionales y tener claro el rumbo antes de dar el siguiente paso.
Claude’s Constitution, un intento de gobernar la indeterminación
Visto así, Claude’s Constitution cobra todo su sentido. Anthropic la publicó en enero de 2026, y no es habitual que un gran laboratorio de IA haga público, con tanto detalle, el marco de principios que guía a su modelo. La compañía la describe como una explicación detallada de los valores y el comportamiento que quiere para Claude, y el propio documento reconoce que su contenido influye directamente en el entrenamiento y la conducta del modelo. Es, en el fondo, un intento de gobernar lo incierto con principios explícitos.
No es un manual de uso ni un reglamento cerrado, sino que se parece más a una deontología, un conjunto de principios para decidir cuando no hay una regla concreta, cuando el caso no estaba previsto y la respuesta hay que construirla sobre la marcha. La comparación con el Derecho es directa, porque en las democracias lo primero es una constitución, una guía de principios que ordena el resto de normas.
El enfoque de Anthropic podrá gustar más o menos, pero llega a la misma conclusión que siglos de pensamiento político y jurídico, y es que, para gobernar lo complejo e incierto, se empieza por los principios. Un jurista tampoco trabaja solo con contratos y procedimientos, sino que también se guía por su cultura profesional, su prudencia, sus límites reputacionales y una idea de lo que es ejercer bien la abogacía.
Y hay algo más, porque la constitución de Claude no solo enumera principios, también los ordena. La jerarquía es clara, primero la seguridad, después la ética, luego los principios y por último la utilidad.
Quien haya visto ‘Yo, Robot‘ (2004) notará el eco. La película, protagonizada por Will Smith, se inspira en los relatos del mismo nombre que Isaac Asimov publicó en 1950, donde formuló sus célebres ‘Tres Leyes de la Robótica‘. La primera, establece que un robot no dañará a un humano. La segunda, que obedecerá sus órdenes salvo que choquen con la primera ley. Y la tercera, que protegerá su existencia salvo que choque con las dos anteriores. Anthropic no cita a Asimov, pero la estructura se parece, porque también es una jerarquía de principios para que, ante un conflicto, el sistema sepa qué valor manda.
La diferencia es que Asimov escribía ciencia ficción.
Y ese orden no es un detalle. La mayoría de los productos digitales se diseñan al revés, con la utilidad por delante de todo, de modo que lo que importa es que el usuario consiga lo que busca, que la experiencia sea fluida y que crezca el número de usuarios. La constitución de Claude invierte esa prioridad y coloca la utilidad en último lugar, lo que significa que una IA bien gobernada debe poder renunciar a lo más rápido, lo más cómodo o lo más útil cuando eso pone en riesgo la seguridad, la ética, la confidencialidad, la supervisión humana o la calidad profesional.
Qué se puede hacer en cada organización
Si Anthropic puede trazar líneas rojas, las organizaciones que usan IA también pueden y deben trazar las suyas. Para los juristas, la conclusión es directa, porque no se trata solo de sumar una herramienta, sino de incorporar una tecnología que cambia más rápido de lo que podemos regular, cuyos efectos no controlamos del todo y que, por eso mismo, exige principios claros, ya que las reglas cerradas no bastan.
No todas las organizaciones necesitan escribir una constitución de IA, pero todas pueden aprender del enfoque de Anthropic. Cuando no sabes bien qué puede hacer una tecnología, no basta con confiar en que actúe bien, sino que conviene decidir antes varias cosas, como qué usos se permiten, qué decisiones exigen revisión humana, qué datos no se usan en ningún caso, qué riesgos obligan a dar la alarma cuanto antes y qué métricas no deben mejorarse a costa de la calidad jurídica. Y, como se ha visto, de qué proveedores dependemos y qué alternativas hay si uno deja de funcionar de un día para otro.
La nueva diligencia debida no consiste solo en preguntar si una IA es segura, precisa o eficiente, sino en aceptar una realidad. Como Anthropic con sus modelos más potentes, estamos gobernando algo que no entendemos del todo, algo que avanza más rápido de lo que podemos seguir y cuya disponibilidad no siempre controlamos. Por eso hacen falta principios explícitos, salvaguardas técnicas cuando se pueda, experimentación con cautela, reparto del riesgo y revisión continua.
