Autonomía digital y tecnológica

Código e ideas para una internet distribuida

Linkoteca. legislación


El mensaje del mercado: la IA es casi mágica, automatiza y escala. Pon la herramienta y olvídate.

Pero la ley dice lo contrario. El artículo 14 del AI Act exige supervisión por personas que entiendan las limitaciones del sistema, reconozcan el sesgo de automatización y puedan ignorar o parar el sistema cuando haga falta. El regulador sabe que la gente aprieta «aceptar» sin leer.

Y hay una trampa: si adaptas un modelo genérico para usos de alto riesgo ( contratación, evaluación, crédito) pasas a ser proveedor automáticamente. No existe el vacío de «la culpa es de la máquina». Ellos lo dejan claro con frases como esta («Claude es IA y puede cometer errores. Por favor, verifica las respuestas.»)

La paradoja de fondo: cuanto más automatizas, más se erosiona la capacidad del operador para supervisar con criterio real. El marketing dice «casi mágica». La ley dice «necesitas personas competentes». Las dos cosas no caben en la misma frase. Dicho de otra manera cuando el coche autónomo falla te dicen que pilles el volante.

La aceleración y la regulación van en direcciones opuestas. La pregunta no es si la IA funciona. La pregunta es si la persona que firma lo que la IA produce sabe lo que está firmando.

Porque cuando falle, la responsabilidad no caerá sobre el modelo. Caerá sobre quien lo desplegó sin entenderlo.

Es cierto que la ansiedad y la depresión juveniles diagnosticadas aumentaron más o menos al mismo tiempo que se generalizó el uso de las redes, entre 2010 y 2015. Pero en esos años ocurrieron otras cosas, como que la crisis económica empujó a muchas familias a situaciones agobiantes de precariedad, y que en EEUU (país donde se originan muchos de estos estudios) empezaron a hacer revisiones de salud mental a toda la población adolescente.

Resulta difícil asimilar que Sánchez afirme “defender nuestra soberanía digital contra cualquier tipo de coerción extranjera” mientras su Gobierno no ha sido capaz de dejar de usar X como medio principal de difusión rápida, o de abrir cuentas oficiales en una alternativa europea (y libre, y descentralizada) como Mastodon. Resulta difícil creer que dejar de depender de grandes tecnológicas estadounidenses sea una prioridad cuando las instituciones públicas españolas siguen regando con miles de millones cada año a Google, Microsoft y Amazon para contratar su infraestructura digital. Y resulta sintomático que en el paquete de medidas para salvarnos de las redes sociales corporativas no haya ninguna destinada a que tengamos espacio digital público donde refugiarnos.

Si realmente queremos apoyar el bienestar joven, antes de prohibir las redes sociales, podríamos, por ejemplo, prohibir los desahucios, la pobreza infantil y la cisheteronormatividad.

Australia fue el primer país del mundo en impedir, desde el pasado diciembre, el acceso a las redes a millones de menores. No hay, por tanto, demasiada experiencia previa sobre un experimento similar. Ni siquiera existe consenso científico sobre si los móviles son buenos o malos a esa edad (o a cualquier otra). Un estudio publicado este mes por la Universidad de Mánchester siguió la evolución de 25.000 niños y niñas de entre 11 y 14 años a lo largo de tres años, y concluyó que ni las redes ni los videojuegos se relacionan con el empeoramiento de su salud mental. El debate se suele centrar en los efectos psicológicos de la tecnología, pero puede generar otro tipo de problemas. Y dejando aparte los informes, sobre lo que sí existen evidencias es de la mala fe de las plataformas, que fomentan la violencia, el acoso, la sexualización, la polarización, el engaño y la adicción de los menores por el bien del negocio. La discusión sobre las puertas y el campo es tan vieja como internet, y viene acompañada por la hipervigilancia ante una potencial pérdida de libertades. Porque, ¿quién decide qué es una red social?, ¿qué órgano la supervisa?, ¿cómo garantizar que actúa de forma efectiva, pero sin extralimitarse? También hay que preguntarse cómo podemos impedir que caigan en otras tecnologías inseguras para acceder a lugares aún más peligrosos y ocultos de internet. Y, sobre todo, de qué manera proteger su derecho a aprender, crear, relacionarse, informarse, expresarse y divertirse. Muchas cuestiones complicadas pueden ser ciertas a la vez: hay verdad en que las redes son atroces, pero también en la cuestión que plantea Ezra Scholl, un quinceañero australiano cuadrapléjico, en The Guardian: “¿Qué pasa con quienes estamos aislados?

TL;DR: The document is a firm restatement of a ban on using services like Google Workspace and Microsoft 365 in French schools, citing data privacy, the sensitivity of student information, and the need for educational neutrality. It emphasizes the use of French and European alternatives.

Ban on Non-Sovereign Solutions: The Ministry of Education strictly prohibits the use of non-sovereign (non-European, and particularly US-based) online collaborative suites in schools and educational institutions. This applies to both administrative/school management uses and pedagogical (teaching) uses.

Reasons for the Ban:

Sensitive Data: The Ministry considers data handled in educational settings to be highly sensitive for several reasons:
Exchanges between teachers and families may contain health information or information about disabilities (sensitive under GDPR Article 9).
The content of communications (absence dates, homework, etc.) could indirectly reveal sensitive personal data (racial/ethnic origin, political opinions, religious beliefs).
Data related to students is inherently sensitive because most students are minors.
Educational Neutrality: Schools must remain neutral regarding commercial software. Students should be taught digital collaboration skills in a way that’s independent of any specific commercial platform. This fosters critical thinking and responsible use of digital tools.