Abogada corporativa y protección de datos
Abogada especialista en Compliance Cumplimiento Normativo de Empresas
La inteligencia artificial ha llegado para revolucionar la gran mayoría de aspectos de nuestro día a día, pero esta potente tecnología y su apresurado avance también ha despertado numerosas preocupaciones sobre su impacto en la vida de las personas, en especial, en la privacidad, la seguridad y los derechos fundamentales. Conscientes de estos riesgos, las autoridades europeas han dado un paso hacia delante con la entrada en vigor del Reglamento (UE) 2024/1689, conocido como AI Act o “Ley de Inteligencia Artfiical”. Este recién publicado marco normativo busca establecer límites para garantizar, en la medida de lo posible, que la IA se desarrolle y utilice de manera ética y segura.
Así, la normativa impone restricciones estrictas para ciertos usos de la IA considerados de “riesgo inaceptable”, es decir, aquellos que puedan vulnerar la dignidad humana o afectar el orden público. El objetivo es evitar que esta tecnología pudiera convertirse en potenciales herramientas de manipulación, discriminación o vigilancia indiscriminada de la ciudadanía.
En este sentido, uno de los principales focos de atención está en la prohibición de técnicas de manipulación psicológica o aquellas que utilizan algoritmos para influir en las decisiones de las personas sin su conocimiento. Un claro ejemplo de este tipo de prácticas sería un asistente virtual que cambia su lenguaje y tono de voz para inducir ciertas respuestas sin que el usuario sea consciente de ello o que sea capaz de reconducir la conversación para manipular y explotar las debilidades del usuario con el fin de que no vea otra opción que adquirir el servicio.
Por supuesto, y en esta línea, también queda prohibido el uso de IA para explotar vulnerabilidades de colectivos en riesgo, como personas con discapacidades, menores o individuos en situaciones económicas desfavorables. Un ejemplo de esto podría ser el diseño de aplicaciones educativas dirigidas a menores, que les inciten al consumo innecesario de productos o servicios sin el consentimiento de sus tutores legales, pero también el uso de algoritmos que identifican y segmentan a usuarios con antecedentes de ludopatía para enviarles promociones de apuestas en momentos en los que son más propensos a jugar.
Otro punto clave del AI Act es la prohibición de la llamada “social scoring”, o “puntuación social” en castellano, un sistema que evalúa y clasifica a los ciudadanos según su comportamiento y personalidad, restringiendo el acceso a determinados servicios o beneficios en función de la calificación obtenida. Aunque este modelo se ha implementado en algunos países, como China, donde puede derivar en la pérdida de beneficios fiscales, restricciones en el uso de transportes y viajes, o incluso la exposición pública en listas de deudores, lo cierto es que la Unión Europea ha decidido vetar su aplicación por considerarlo contrario a los principios fundamentales de igualdad y no discriminación. Cualquier sistema de crédito social, ya sea gestionado por entidades privadas o públicas, supone una amenaza directa contra la libertad de expresión y contra la privacidad de las personas, por lo que no tendría cabida en el espacio europeo.
Por otro lado, y más relacionado con el ámbito de la seguridad, el reglamento prohíbe la predicción de delitos basada en perfiles personales sin pruebas objetivas. Esto significa que no se podrán desarrollar sistemas de IA que etiqueten a individuos como potenciales delincuentes basándose únicamente en su apariencia, antecedentes familiares o ubicación geográfica, siendo, por tanto, ilegal la inadmisión de un usuario a un centro comercial o tienda por presuponer que será susceptible de cometer un delito, o la detención de un ciudadano por los mismos motivos. Por supuesto, cabe la excepción en situaciones donde existan amenazas inminentes y evidencias objetivas verificables, como investigaciones en el marco de un procedimiento relacionadas con el terrorismo o delitos graves, pero siempre bajo autorización judicial y estricta supervisión.
Además, la norma restringe el uso de tecnologías de reconocimiento facial en espacios públicos, salvo que se trate de circunstancias excepcionales y bajo autorización judicial. Por tanto, la recolección masiva de datos biométricos sin consentimiento expreso de los ciudadanos está ahora prohibida, con el objetivo de evitar un escenario de vigilancia masiva, lo cual protege a los ciudadanos de posibles abusos por parte de entidades públicas o privadas y garantiza el derecho a la privacidad.
En lo que respecta al ámbito laboral, el uso de IA para evaluar las emociones de los empleados queda también prohibido. En esta categoría, se incluirían programas que analicen las expresiones faciales o el tono de voz de los trabajadores en reuniones o entrevistas para medir su compromiso o estado de ánimo. Incluso IA que evalúen el grado de conformidad del trabajador con su puesto de trabajo o el ánimo en sus tareas diarias, así como su relación con otros compañeros. También se veta la IA que, a partir de datos biométricos, pueda inferir información sensible como raza, orientación sexual o creencias religiosas, datos que son considerados especialmente protegidos por la normativa europea en materia de protección de datos, como el Reglamento General de Protección de Datos (RGPD).
En definitiva, para garantizar el cumplimiento de estas disposiciones, la normativa establece un régimen sancionador estricto, con multas que pueden alcanzar hasta 35 millones de euros o el 7% de la facturación anual de la empresa infractora. La supervisión de estas medidas estará a cargo de organismos nacionales que serán designados en cada Estado miembro y que contarán con el apoyo en sus tareas de la Oficina Europea de IA, encargada de proteger contra este tipo de riesgos y aplicar correctamente la Ley de IA.
Con esta legislación, la Unión Europea no solo busca regular el presente, sino también sentar las bases de un futuro en el que las tecnologías desempeñarán un papel central, que, si bien ofrecerán múltiples beneficios tanto a los ciudadanos en su vida diaria como a las empresas en su desarrollo, su potencial también conllevará riesgos significativos si no se utilizan de manera ética. La meta es establecer un equilibrio entre la innovación y la protección de los derechos fundamentales, evitando que los avances tecnológicos se conviertan en herramientas de abuso. De modo que, con la publicación del Reglamento Europeo de IA, Europa se consolida como un referente global en la regulación de esta tecnología clave, promoviendo un modelo en el que la tecnología esté al servicio de las personas y no al contrario.
