En nombre de la ética, Bruselas está construyendo un marco regulatorio que sofoca la innovación y deja a Europa fuera de la carrera tecnológica global.
Covadonga Torres Assiego es doctora en Derecho y analista especializada en inteligencia artificial, derechos fundamentales y gobernanza tecnológica en el contexto europeo.
En esta entrevista del periodista Javier Villamor, Torres Assiego analiza sin concesiones los límites y contradicciones del marco regulatorio europeo, el riesgo de una ‘algocracia’ (también conocida como ‘gobierno por algoritmo’) carente de un control democrático real, la inconsistencia entre la AI Act y propuestas como Chat Control, y el difícil posicionamiento de Europa en una carrera tecnológica que ya se libra en términos de poder global. Por su interés reproducimos dicha entrevista.
La Unión Europea fue la primera gran región en aprobar una regulación integral de la inteligencia artificial, a pesar de carecer de grandes potencias tecnológicas propias. ¿Cómo valora este paso?
Ha sido un proyecto enormemente ambicioso, quizás demasiado ambicioso. En cuanto a las intenciones, existe una auténtica preocupación por los derechos fundamentales y los límites éticos, algo que ya se anticipó en el Libro Blanco de la Comisión. El problema es que esta ambición regulatoria ha tenido consecuencias muy negativas para el emprendimiento en Europa. La clasificación de los sistemas como de riesgo alto, medio o bajo es confusa e imprecisa, y genera temor e inseguridad jurídica, especialmente entre las pequeñas empresas que desean innovar.
Antes de regular, conviene aclarar el concepto. ¿Qué regulamos exactamente cuando hablamos de inteligencia artificial?
La inteligencia artificial es una tecnología que permite a las máquinas realizar tareas que tradicionalmente requerían razonamiento humano. Carece de consciencia, pero aprende de los datos, reconoce patrones, comprende el lenguaje y toma decisiones. En el caso de la IA generativa, el elemento clave es el entrenamiento algorítmico: aprende de la interacción con el usuario. Un ejemplo común es cómo una plataforma aprende tus preferencias en función de tus interacciones y ajusta el contenido que te muestra. Eso ya es inteligencia artificial en funcionamiento.
Existe una percepción casi futurista de asistentes que nos conocen mejor que nosotros mismos. ¿Es esto algo que se puede regular?
En parte sí, pero la ley siempre va a la zaga. La IA es disruptiva y avanza a pasos agigantados. Regular algo que no se comprende del todo es muy difícil. Además, la superinteligencia artificial, cuando supera claramente a la inteligencia humana, plantea preguntas para las que no existe una respuesta legal realista. Lo que se puede y se debe hacer es prevenir abusos evidentes, como la generación de contenido ilegal o profundamente dañino.
Desde un punto de vista académico, ¿cómo se percibe la posición de Europa en esta carrera?
No hay unanimidad. Éticamente, constituye un avance. También en materia de derechos fundamentales. Pero geopolíticamente, estamos muy por detrás de Estados Unidos, China o incluso Rusia. Además, existe una grave incoherencia: la vigilancia masiva está prohibida en la Ley de IA, mientras que al mismo tiempo se promueve el control del chat. Esto no es coherente. En un mundo tripolar regido por la ley del más fuerte, Europa se impone límites que sus rivales no comparten.
Un argumento recurrente es que la regulación protege al ciudadano. ¿Es realmente así?
En teoría, existen herramientas, pero la regulación ni siquiera se ha implementado por completo, y ni siquiera los reguladores europeos se ponen de acuerdo. Además, los ciudadanos desconocen los riesgos reales. Observamos una constante polarización algorítmica y manipulación del consumo y el comportamiento. Los algoritmos no son neutrales; responden a intereses económicos y políticos. La pregunta clave es hasta qué punto nuestras decisiones siguen siendo verdaderamente libres.
¿Quién controla al controlador en una sociedad cada vez más algorítmica?
Ese es el problema central. Estamos entrando en una «algocracia». Existe una peligrosa falacia de autoridad algorítmica: se asume que todo lo que dice una IA es cierto. No lo es. Los modelos cometen errores constantemente y reproducen sesgos. Por eso insisto en la importancia del mundo analógico, del pensamiento crítico y de reducir la dependencia de las redes sociales, que en última instancia son sistemas para manipular el comportamiento.
¿Qué papel juega el control del chat en este contexto?
Es particularmente preocupante. Aunque se presente como voluntario, en la práctica, los ciudadanos no tendrán alternativa si las grandes plataformas lo adoptan. Además, introduce una forma de vigilancia incompatible con los principios que la propia regulación afirma defender. Los ciudadanos quedan atrapados entre discursos de protección y prácticas de control.
En el periodismo y la academia, se habla con frecuencia de exigir responsabilidad política. ¿Es eso posible?
Es difícil, pero esencial. Siempre debemos recurrir a fuentes primarias, a la legislación, a estudios académicos serios y a medios de comunicación con diferentes orientaciones. El algoritmo alimenta nuestro sesgo de confirmación. También es saludable desconectarse parcialmente del entorno digital. Estamos convirtiendo internet en una prisión para la voluntad y la privacidad.
En términos geopolíticos, ¿cómo ve a la UE en comparación con Estados Unidos y China?
La mayor fortaleza de Europa reside en su defensa teórica de los derechos fundamentales. Pero sus debilidades son mucho mayores: falta de claridad regulatoria, contradicciones internas y una enorme desventaja estratégica. Estados Unidos, China, Rusia e incluso el Golfo Pérsico están invirtiendo masivamente en IA aplicada a la defensa y la seguridad. China, además, capacita a sus ciudadanos en IA desde una edad muy temprana. Europa se está quedando atrás en demasiados aspectos.
¿Ve un potencial real en Europa a medio plazo?
Existe potencial. Tenemos casos como el de ASML en los Países Bajos, con un monopolio tecnológico global. Pero estas son excepciones. Necesitamos apoyar genuinamente a las pequeñas y medianas empresas, reducir el miedo a las sanciones y revisar la normativa. Actualmente, las grandes empresas pueden absorber las multas; los pequeños empresarios no. Y son precisamente estos pequeños empresarios los que sustentan el tejido económico europeo.
Para concluir, ¿qué esperas del futuro inmediato?
Espero que Europa reaccione, revise su enfoque y comprenda que proteger los derechos no es incompatible con la competencia. Si no se corrigen los excesos regulatorios, seguiremos perdiendo terreno. Hoy en día, la regulación tiene más defectos que virtudes. Y el tiempo, en esta carrera, no está de nuestra parte.
