Hace algunos años tuve una discusión acalorada sobre los riesgos de la inteligencia artificial frente a las grandes promesas que sus defensores proclamaban. En aquella conversación, alguien me tachó de «tecno-optimista». La palabra me sorprendió, no como agravio -que no lo era-, sino por lo novedoso que resultaba el concepto para mí. Mi posición, en esencia, se inclinaba hacia la convicción de que, frente al daño medioambiental que la IA pudiera causar, sería también la propia IA capaz de brindarnos soluciones a este y a otros problemas, o que, al menos, merecía la pena intentarlo.
El tecno-optimismo, si hemos de definirlo, es la creencia de que la innovación tecnológica resolverá los problemas complejos con mayor eficacia y celeridad que los enfoques tradicionales. Sus partidarios prometen eficiencia, decisiones más consistentes y la reducción de los sesgos inherentes a la condición humana. En mi humilde opinión, no se trata de una fe ingenua: existe evidencia abundante de que los sistemas algorítmicos facilitan la detección de fraudes, el ordenamiento de montañas de documentos y la estandarización de procesos.
Y es que no en vano conviene recordar que en 2024 el Premio Nobel de Química fue otorgado a John Jumper, Demis Hassabis y David Baker por su trabajo pionero en AlphaFold, una herramienta de inteligencia artificial capaz de predecir estructuras de proteínas con una precisión extraordinaria. AlphaFold, desarrollado por Google DeepMind, representa un avance monumental en el campo de la biología computacional, pues aborda un desafío científico que ha desvelado a los investigadores durante décadas: predecir la estructura tridimensional de las proteínas a partir de sus secuencias de aminoácidos. Esta capacidad reviste una importancia capital; la posibilidad de predecir con exactitud estas estructuras entraña profundas implicaciones para el descubrimiento de fármacos, la biología molecular y la comprensión de enfermedades que aún escapan a nuestro dominio.
Años más tarde he llegado a la convicción de que, aunque albergo muchas esperanzas en la tecnología, no soy una tecno-optimista como fui acusada o no lo soy únicamente. Y es que, para no incurrir en el simplismo, debo añadir que, frente a noticias tan alentadoras como la anterior, recibimos otras que nos alarman profundamente. La inteligencia artificial, pese a sus indudables beneficios, plantea riesgos que generan una creciente preocupación social: los sesgos algorítmicos, capaces de perpetuar discriminaciones en procesos de selección de personal, concesión de créditos o decisiones judiciales; la amenaza constante a la privacidad y seguridad de los datos personales ante la recopilación masiva de información; la proliferación de deepfakes y desinformación, instrumentos perversos capaces de manipular la opinión pública y desestabilizar los procesos democráticos; el desplazamiento laboral provocado por la automatización de tareas que antes realizaban manos humanas; la opacidad de sistemas que funcionan como «cajas negras» sin ofrecer explicación alguna sobre cómo adoptan sus decisiones y los ciberataques cada vez más sofisticados, potenciados por estas mismas tecnologías.
Pero sin duda alguna, una de las grandes preocupaciones que me suscita la tecnología y me aleja de este tecno-optimismo es el problema de la delegación cognitiva. La hiper automatización y el exceso de confianza en los sistemas de IA pueden debilitar nuestras capacidades críticas, fomentando una dependencia que erosiona paulatinamente el criterio humano, la creatividad y la diversidad de pensamiento. Si permitimos que la IA piense, escriba y decida por nosotros, corremos el riesgo de vaciar de contenido la revisión humana y de empobrecer la racionalidad pública. La clave no reside en elegir entre lo humano y lo maquinal, sino en asegurar que la tecnología asista, y nunca sustituya, la responsabilidad inalienable de decidir.
Delegar funciones mentales en la tecnología no solo constituye una práctica cotidiana, sino que nuestro propio cerebro parece diseñado para ello. Si nos detenemos a reflexionar, advertiremos que empleamos el GPS en lugar de mapas, los autocorrectores en lugar de diccionarios y los sistemas de recomendación en lugar del criterio propio. La neurociencia y la psicología cognitiva han demostrado que el cerebro humano opera mediante dos sistemas de pensamiento, según la teoría desarrollada por Daniel Kahneman, Premio Nobel de Economía en 2002: el Sistema 1, rápido, intuitivo y automático, que rige la mayor parte de nuestras decisiones cotidianas; y el Sistema 2, lento, deliberativo y reflexivo, que exige un esfuerzo cognitivo considerable. Evolutivamente, nuestro cerebro está configurado para economizar energía y recurrir a atajos mentales denominados «heurísticos», reglas simples que permiten adoptar decisiones rápidas con un esfuerzo mínimo. Estos atajos resultaron esenciales para la supervivencia de nuestros ancestros en entornos hostiles, pero en contextos complejos como los actuales pueden conducir a sesgos cognitivos y decisiones irracionales. La tecnología de IA aprovecha precisamente esta tendencia natural a la delegación: nos ofrece soluciones inmediatas que el Sistema 1 acepta sin cuestionamiento alguno, mientras el Sistema 2, perezoso por naturaleza, prefiere abstenerse de intervenir.
El problema no radica en la ayuda, sino en la dependencia. Son varios los riesgos que merecen nuestra atención:
- Opacidad. Si no comprendemos cómo el sistema alcanza su «recomendación», ¿Cómo podremos auditar los errores o explicar una decisión ante la ciudadanía?
- Efecto arrastre. Una recomendación «no vinculante» puede acabar marcando el camino por inercia o por falta de tiempo, vaciando de contenido genuino la revisión humana.
- Asimetrías de poder. Quien diseña y opera el sistema controla las reglas y los datos; quien lo padece apenas vislumbra la salida. Esta asimetría dificulta enormemente impugnar decisiones, probar sesgos o exigir rendición de cuentas.
- Atrofia de la innovación. Si delegamos sistemáticamente el pensamiento crítico y creativo en la IA, corremos el riesgo de atrofiar nuestra capacidad para engendrar ideas originales. La paradoja resulta evidente: la tecnología que hoy nos asiste se nutre de la creatividad humana acumulada a lo largo de siglos; si dejamos de cultivar esa creatividad, ¿Quién generará el conocimiento que alimente a las futuras generaciones de sistemas inteligentes? Sin innovación humana genuina, la IA solo podrá recombinar lo existente, empobreciendo irremediablemente el acervo intelectual de la humanidad.
Europa ha dado un paso adelante con un Reglamento de IA basado en un enfoque de riesgos, que prohíbe ciertos usos y somete a obligaciones estrictas los sistemas considerados de «alto riesgo» -como los empleados en selección de personal, concesión de créditos o servicios públicos-. El RGPD ya consagraba el derecho a no quedar a merced de decisiones «únicamente automatizadas» con efectos jurídicos relevantes, y la justicia europea ha recordado que un score que, de facto, determina una decisión debe tratarse como decisión automatizada. El mensaje resulta inequívoco: si la máquina inclina la balanza, existen derechos de información, intervención humana significativa y posibilidad real de impugnación.
Sin embargo, aunque la Unión Europea se ha erigido como pionera mundial en la regulación de la inteligencia artificial, la puesta en marcha efectiva del Reglamento está resultando un desafío formidable. En noviembre de 2025, la Comisión Europea presentó un proyecto de simplificación de normativas digitales que incluía una prórroga de hasta dieciséis meses para la aplicación de las obligaciones relativas a los sistemas de IA de alto riesgo, retrasando su entrada en vigor efectiva de agosto de 2026 a diciembre de 2027.
El argumento oficial aducía que los estándares técnicos necesarios para evaluar el cumplimiento aún no estaban finalizados y que solo ocho de los veintisiete Estados miembros habían designado sus autoridades nacionales de supervisión. Países como Alemania y la República Checa abogaron abiertamente por retrasos de hasta dos años, mientras que España advirtió que la simplificación no debía traducirse en desregulación. Esta tensión entre el impulso regulador y las presiones de la industria tecnológica -incluyendo críticas directas desde el gobierno de Estados Unidos- evidencia las dificultades de implementar un marco normativo ambicioso en un contexto geopolítico complejo.
A ello se suma la retirada definitiva, en octubre de 2025, de la Propuesta de Directiva sobre responsabilidad civil por daños causados por sistemas de IA, que llevaba estancada desde su presentación en septiembre de 2022. Esta Directiva habría complementado el enfoque preventivo del Reglamento con mecanismos de reparación ex post, incluyendo la inversión de la carga de la prueba y el acceso a evidencias técnicas para las víctimas de decisiones algorítmicas erróneas. Su abandono deja un vacío normativo significativo: sin un régimen armonizado de responsabilidad civil específico para la IA, los afectados por estos sistemas quedan a merced de veintisiete regímenes nacionales diferentes, fragmentados y no diseñados para afrontar los retos que plantean la causalidad algorítmica, la opacidad técnica y la autonomía de estos sistemas.
En suma, Europa lidera en ambición regulatoria, pero la distancia entre el diseño normativo y su aplicación práctica revela que regular la tecnología del futuro con las instituciones del presente constituye un ejercicio de equilibrismo político y jurídico aún no resuelto.
Y es que, por ahora, más que en una promesa legislativa, el verdadero control debemos siempre otorgarlo a los ciudadanos. Porque de nada sirve la norma si no alfabetizamos a la población sobre el uso de la IA. Las razones para recuperar la soberanía cognitiva son múltiples y apremiantes. En primer lugar, la dignidad humana exige que las decisiones que afectan a nuestras vidas -desde el acceso al crédito hasta la libertad en un proceso penal- sean adoptadas o supervisadas por personas capaces de asumir responsabilidad moral y rendir cuentas.
Un algoritmo carece de conciencia, no experimenta dilemas éticos ni puede ser sancionado por sus errores; trasladarle la decisión última equivale a diluir la responsabilidad en un vacío insondable. En segundo lugar, la preservación del pensamiento crítico resulta esencial para el funcionamiento democrático: si ciudadanos, jueces, médicos y legisladores abandonan el ejercicio del razonamiento autónomo, la sociedad pierde su capacidad de autocorrección, de cuestionar el statu quo y de imaginar futuros alternativos.
En tercer lugar, solo manteniendo el control humano podremos garantizar que la IA continúe siendo una herramienta al servicio de valores colectivos -justicia, equidad, sostenibilidad- en lugar de convertirse en un fin en sí misma o en un instrumento de concentración de poder en manos de quienes la desarrollan y controlan.
¿Cómo lograrlo sin renunciar a los beneficios que la IA puede aportar? La respuesta no transita por el rechazo tecnofóbico ni por la aceptación acrítica, sino por un modelo de colaboración inteligente entre humanos y máquinas.
- Primero, debemos rediseñar los sistemas de IA para que sean explícitamente complementarios: herramientas que amplíen nuestras capacidades sin suplantar el juicio humano, que presenten opciones y análisis pero reserven la decisión final a personas cualificadas y responsables.
- Segundo, resulta imprescindible invertir masivamente en educación y alfabetización digital, no solo para que los ciudadanos comprendan cómo funcionan estos sistemas, sino para que desarrollen las habilidades críticas necesarias para interrogarlos, cuestionarlos y rechazarlos cuando sea menester.
- Tercero, necesitamos arquitecturas de supervisión que incorporen «interruptores humanos» obligatorios en toda decisión con impacto significativo sobre derechos fundamentales: el derecho a la explicación, el derecho a la intervención humana y el derecho a impugnar deben ser efectivos, no meras formalidades burocráticas.
- Cuarto, debemos fomentar la diversidad en el diseño y la gobernanza de la IA: equipos multidisciplinares que incluyan humanistas, eticistas, representantes de la sociedad civil y de los colectivos potencialmente afectados, para evitar que los sesgos de unos pocos programadores se erijan en las reglas que gobiernen a todos.
- Quinto, resulta fundamental establecer espacios de deliberación pública donde la sociedad pueda debatir qué usos de la IA son aceptables, cuáles deben limitarse y cuáles prohibirse, devolviendo así la decisión sobre el futuro tecnológico al ámbito democrático.
De este modo, podemos aspirar a un modelo de «IA centrada en el ser humano» que no rechace el progreso tecnológico, sino que lo encauce hacia el bien común. La IA puede seguir revolucionando la medicina, acelerando el descubrimiento científico, optimizando la gestión de recursos y democratizando el acceso al conocimiento; pero solo si mantenemos el timón firmemente asido por manos humanas, si preservamos nuestra capacidad de pensar, cuestionar y decidir por nosotros mismos, y si edificamos instituciones capaces de exigir cuentas a quienes diseñan y despliegan estas tecnologías. La delegación cognitiva no constituye un destino inexorable: es una elección. Y las decisiones que adoptemos ahora determinarán si la inteligencia artificial será recordada como la herramienta que potenció a la humanidad o como el momento preciso en que decidimos abdicar del pensamiento.