Karlos G. Liberal: «La IA se vende como magia. La ley dice que la responsabilidad es tuya»
El mensaje del mercado: la IA es casi mágica, automatiza y escala. Pon la herramienta y olvídate.
Pero la ley dice lo contrario. El artículo 14 del AI Act exige supervisión por personas que entiendan las limitaciones del sistema, reconozcan el sesgo de automatización y puedan ignorar o parar el sistema cuando haga falta. El regulador sabe que la gente aprieta «aceptar» sin leer.
Y hay una trampa: si adaptas un modelo genérico para usos de alto riesgo ( contratación, evaluación, crédito) pasas a ser proveedor automáticamente. No existe el vacío de «la culpa es de la máquina». Ellos lo dejan claro con frases como esta («Claude es IA y puede cometer errores. Por favor, verifica las respuestas.»)
La paradoja de fondo: cuanto más automatizas, más se erosiona la capacidad del operador para supervisar con criterio real. El marketing dice «casi mágica». La ley dice «necesitas personas competentes». Las dos cosas no caben en la misma frase. Dicho de otra manera cuando el coche autónomo falla te dicen que pilles el volante.
La aceleración y la regulación van en direcciones opuestas. La pregunta no es si la IA funciona. La pregunta es si la persona que firma lo que la IA produce sabe lo que está firmando.
Porque cuando falle, la responsabilidad no caerá sobre el modelo. Caerá sobre quien lo desplegó sin entenderlo.








