El big data y la impugnación de valoraciones de la LOPD, una aproximación.

por

publicado el 10 Octubre 2012

Categorías: Derechos Fundamentales / LOPD / Normativa / Protección de Datos / Tecnología

Hace unos días el compañero (y sin embargo buen amigo) David Maeztu escribía un estupendo artículo tituado Sueñan las máquinas con contratos vinculantes? Inteligencia artificial y validez de los contratos que me hizo recapacitar sobre un paso previo y que afecta a la normativa de protección de datos de carácter personal. Personalmente hay un artículo de la LOPD que ha pasado desapercibido (no hace falta más que mirar el número de resoluciones que se hayan podido dictar sobre el mismo o escritos que se han hecho en su “honor”) y que particularmente me ha intrigado siempre su existencia (y no sólo por el número y eso de la superstición). Artículo que creo es una de las esencias de la normativa de protección de datos cuando se refería únicamente a la protección o limitación que debe dar la ley para el uso de la informática en aras de proteger la intimidad de los ciudadanos, esto es, del artículo 18 de la Constitución. El artículo al que me refiero es al artículo 13 de la LOPD denominado “impugnación de valoraciones” y que hace referencia a la posibilidad del ciudadano a no verse sometido a una decisión con efectos jurídicos sobre ellos que se base únicamente en un tratamiento de datos destinados a evaluar determinados aspectos de su personalidad.

Redactado de la forma que se encuentra en la ley orgánica nos puede llevar a engaño ¿a qué se refiere un tratamiento de datos con efectos jurídicos? ¿cómo un tratamiento de datos evalúa la personalidad? Si pensamos desde la vertiente analógica no le damos ningún sentido, cualquier persona realiza un tratamiento de datos, mira papeles, estudia y todo ello tiene efectos jurídicos en los demás, ej: un departamento de recursos humanos, realiza tratamientos de determinados aspectos de las personas y tiene un efecto jurídico: contratar a un candidato o no. ¿Significa ello que podemos impugnar ese tratamiento? Así puede parecer según la LOPD.

Sin embargo, si vemos su origen podemos entenderlo perfectamente y el calado tan profundo que en la sociedad actual (y ya no digo del futuro) puede tener si sigue regulado en nuestra normativa. Uno de los orígenes del mismo se encuentra en la Directiva 95/46/CE del Parlamento Europeo y del Consejo, de 24 de octubre de 1995, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos que establece en su artículo 15:

1. Los Estados miembros reconocerán a las personas el derecho a no verse sometidas a una decisión con efectos jurídicos sobre ellas o que les afecte de manera significativa, que se base únicamente en un tratamiento automatizado de datos destinado a evaluar determinados aspectos de su personalidad, como su rendimiento laboral, crédito, fiabilidad, conducta, etc.

En esa redacción se encuentra el quiz de la cuestión, el tratamiento automatizado de los datos. Esto quería decir que se podrían impugnar valoraciones que tengan efectos jurídicos sobre nosotros cuando lo haya decidido una máquina. El ejemplo que siempre se pone es cuando una máquina decide que no nos conceden una hipoteca, claro, siempre se podrán escudar en que hay una decisión de una persona que según lo que establece la máquina más lo que ellos han decidido se nos rechaza la petición de solicitud de la hipoteca, es decir se incluye la valoración realizada por personas y no únicamente por máquinas, situación que impediría la impugnación de esa valoración.

Al hacerse la trasposición de la directiva se perdió por el camino ese tratamiento automatizado puesto que, como se ha dicho hasta la saciedad la protección de datos de carácter personal ha rebasado esa protección otorgada por la Constitución sobre el uso de la informática a los demás niveles de la vida. Por ello, ese artículo durante mucho tiempo ha sido un olvidado, no se entiende bien y se puede salvar la impugnación de muchas maneras dejándolo vacío de contenido.

Sin embargo la entrada en juego del big data, la desaparición de intermediarios “humanos” en muchas de las acciones que se realizan en Internet y sistemas expertos de valoración pueden contribir a que este artículo sea uno de los llamados a pasar a primera fila (aunque necesitaría de un desarrollo posterior) y que los ciudadanos podamos impugnar valoraciones que hayan tomado máquinas tras realizar minería de datos en ese “big data” y sobre todo, obligar puesto que así lo establece el artículo 13 a que el responsable del programa nos indique qué criterios de valoración ha utilizado el sistema para adoptar dicha decisión. ¿Podemos solicitar los algoritmos de los buscadores/sistemas expertos?

Disclaimer, es un post, es un tema que creo personalmente debe ser estudiado en más profundidad y que en un futuro muy próximo, en esas decisiones vinculantes que tomarán (si es que no lo hacen ya) sobre aspectos importantes de nuestra vida se le podrá dotar de todo el contenido que en la actualidad se le niega. Impugnemos las valoraciones de las máquinas, quizá en ese derecho al olvido esta impugnación de valoraciones tenga también algo que decir, ¿no créeis?

  • Buenos días,

    En tiempos de la Directiva estas cosas eran poco menos que ciencia-ficción, y por eso apenas se le da importancia. Y ya del art. 13, ni hablemos: no se conoce ningún caso, que yo sepa, de ejercicio de ese derecho. Es muy difícil de probar.

    Relacionado con el asunto, Peter Fleischer:

    http://peterfleischer.blogspot.com.es/2012/09/the-algorithm-decided-not-to-hire-you.html

    Aunque todavía no se haya generalizado, es más común de lo que parece, y en poco tiempo veremos cómo toma más protagonismo.

    Saludos,

  • Hola, Interesante post. Recuerdo cómo la Universidad de Alicante corregía “deberes” de los alumnos de un curso de Informática (siento no ser tan preciso, ha pasado mucho tiempo).
    El alumno subía los códigos de programación de los “deberes” y automáticamente salía la valoración de “aprobado” o no.
    Era la máquina (el código de validación introducido por el profesor) que decidía sobre la valoración académica del alumno (acto administrativo). Entonces, le sugerí a un antiguo compañero de trabajo que se examinaba que, si le suspendían, siempre podía solicitar qué criterios de valoración se habían adoptados (código de validación). Problema: cualquiera se enfrenta a un profesor de la Universidad por un temilla poco trascendente como la privacidad.
    Tienes razón, es un tema poco estudiado.

  • Interesante y apasionante tema para los tiempos que corren. Lo más preocupante es la falta de transparencia porque este tipo de tratamientos pueden ser la actividad que se realiza en las partes internas de la organización y de las que el afectado no tiene por qué tener ningún conocimiento. Además, respecto al Big data, hay dos facetas que asustan. La primera es que en algunos medios se empieza a destacar es que son tratamientos de datos “anónimos” olvidando que la materia prima inicial son datos de carácter personal que posteriormente han sido disociados y en estos casos, al menos al afectado corresponde el derecho a ser informado porque la recogida es parte inicial de este tipo de tratamientos. La segunda es que “confunden” información accesible con información tratable. Las “fuentes de acceso público” son las que son y que el dato este accesible no lo hace procesable sin cumplir las premisas LOPD. Digo esto porque parece que la mina de oro de información no estructurada a explotar son las redes sociales y no se en qué medida se recogerá el consentimiento se informará..

  • fjavier_sempere

    Hola, muy interesante lo que planteas.

    Me alegra saber que no soy el primero que se ha planteado qué demonios quería decir el artículo 13 de la LOPD.

    Y ciertamente, está bastante olvidado. Recientemente leí, no recuerdo dónde que la denominación “ARCO” había hecho mucho daño a lo que recoje el artículo 13.

    Ya veremos cómo se desarrolla en el futuro, pq no le doy mucho recorrido, me temo un “mire, es lo que dice la máquina, que quiere que hagamos”.

    Salu2.

  • @marianogarrido

    Hola a todos,
    Ja ja ja!

    El artículo 13, la verdad es que entenderlo entenderlo. NO LO ENTENDÍA CASI NADIE.
    Gracias a ti, ahora sí.lo entiendo (creo, ja ja ja..)