El Supervisor Europeo de Protección de Datos recomienda prohibir el uso de IA para el reconocimiento automático de rasgos humanos en sitios públicos

publicado el 2 julio 2021

Categorías: Tecnología

La Inteligencia Artificial (IA) es un conjunto de tecnologías que alterará profundamente nuestro día a día, tanto desde el punto de vista económico como el social. Sin embargo, los riesgos son muy relevantes teniendo en cuenta que los efectos individuales y sociales de los sistemas de Inteligencia Artificial son, en gran medida, nuevos y desconocidos. Asignar el deber de decidir a las máquinas, partiendo de los datos, creará un riesgo para los derechos y las libertades de los individuos, impactará sus vidas privadas y podría dañar a grupos o incluso al conjunto de la sociedad.

El Comité Europeo de Protección de Datos (CEPD) y el Supervisor Europeo de Protección de Datos (SEPD) han emitido una opinión relativa a la Propuesta de Reglamento del Parlamento Europeo y del Consejo, para establecer reglas armonizadas de Inteligencia Artificial.

En este dictamen, el CEPD y el SEPD aceptan con agrado la participación en la regulación de todos las partes interesadas de la cadena de valor de la IA y la introducción de requisitos específicos para los proveedores de soluciones, ya que tienen un papel significante en los productos que utilizan sus sistemas.

En lo que respecta al alcance de la Propuesta, el CEPD acoge con gran satisfacción el hecho de que la Propuesta se extienda al uso de sistemas de IA por parte de instituciones, cuerpos y agencias de la Unión Europea.

El CEPD y el SEPD aprueban el enfoque basado en riesgo que sostiene la Propuesta. Indicando que debería aplicarse a cualquier sistema de IA, incluyendo aquellos en los que no se realiza un procesamiento de datos personales pero que pueden tener impacto en intereses o derechos y libertades fundamentales.

Ambos organismos consideran que las formas intrusivas de la IA, especialmente aquellas que puedan afectar la dignidad humana, deberían considerarse sistemas prohibidos de acuerdo con el artículo 5 de la Propuesta. Además, el uso de IA en el ámbito policial o para el cumplimiento de la ley requiere reglas específicas, precisas y proporcionadas que consideren los intereses de las personas involucradas y los efectos en el funcionamiento de una sociedad democrática.

La identificación biométrica remota de individuos en lugares de acceso público plantea una grave intrusión en la vida privada de los individuos. La naturaleza fluida de los sistemas de identificación biométrica remota también presenta problemas de transparencia y cuestiones relacionadas con la base legal para el procesamiento bajo el derecho de la UE. Por ello, las entidades llaman a una prohibición general del uso de la IA para reconocimiento automático de características humanas en sitios de acceso público. Características como las caras, el paso, las huellas dactilares, el ADN, la voz, pulsaciones de teclas y demás señales biométricas o de comportamiento. Es más, estos dos organismos recomiendan la prohibición de sistemas de IA que categoricen a los individuos en grupos atendiendo a su etnia, género, orientación política o sexual o en otra categoría discriminativa.

La Propuesta establece una Junta Europea de Inteligencia Artificial. El CEPD y el SEPD reconocen la necesidad de una aplicación consistente y armonizada del marco de referencia propuesto, así como la intervención de expertos independientes en el desarrollo de la política de la UE en IA.

En conclusión, aunque el CEPD y el SEPD aceptan la Propuesta y consideran que una regulación semejante es necesaria para garantizar los derechos fundamentales de los ciudadanos y residentes de la UE. No obstante, consideran que la Propuesta necesita ciertas adaptaciones en determinados asuntos, para asegurar su aplicabilidad y eficacia.