¿Hasta qué punto podemos ser controlados por las cámaras y sistemas de seguridad? ¿En qué momento nuestros gobiernos tienen derecho a monitorizar nuestra actividad diaria? ¿Somos conscientes de lo expuestos que estamos a la tecnología? Son preguntas que alguna vez nos hemos hecho, pero que nunca han condicionado nuestra forma de vida.
Quizás sea algo que cambie más pronto que tarde si consideramos las últimas noticias llegadas desde Bruselas, donde la Comisión Europea ha presentado una propuesta de regulación de la Inteligencia Artificial (IA) en todo el territorio europeo de cara a prohibir "sistemas de identificación biométrica remota en espacios públicos".
La identificación remota asociada a la IA
La situación que ha traído consigo el COVID-19 ha puesto de manifiesto en el último año la conveniencia de disponer de medios de identificación no presenciales para la solicitud de certificados electrónicos cualificados.
Así se autorizó, de forma provisional y durante la vigencia del estado de alarma, la regulación de esta alternativa digital para detectar a las personas, mediante el RD-Ley 11/2020.
Hasta ahora, la normativa de la Unión Europea en materia de identificación electrónica y servicios de confianza (Reglamento eIDAS) confiere a los Estados miembros la posibilidad de verificar la identidad de los solicitantes de certificados electrónicos cualificados, utilizando métodos que garanticen una seguridad equivalente en términos de fiabilidad a la presencia física.
Con la presencia digital cada vez más activa en las empresas, la Comisión Europea ha propuesto ahora nuevas normas para regular la inteligencia artificial en la UE, con el objetivo de garantizar la seguridad y los derechos fundamentales de las personas y las empresas.
Se pretende abordar así, los riesgos específicos que plantean los sistemas de inteligencia artificial y establecer el estándar más alto en todo el mundo, según indica el informe de la Comisión Europea.
Riesgos a evitar de la Inteligencia Artificial
Según la Comisión, se deben prohibir "los sistemas de inteligencia artificial considerados una clara amenaza para la seguridad, los medios de vida y los derechos de las personas”.
Unas directrices que incluyen sistemas o aplicaciones de inteligencia artificial que manipulan el comportamiento humano como:
- Juguetes que utilizan asistencia de voz, ya que suelen fomentar el comportamiento peligroso de los menores de edad.
- Sistemas que permiten la 'puntuación social' por parte de los gobiernos, basados en predicciones que permiten saber lo que harán los navegantes, de forma que la producción de bienes y servicios se subordina a lo que dictan estas tendencias.
Referido a los sistemas de IA, la Comisión Europea ha identificado como de alto riesgo la tecnología utilizada en:
- infraestructuras críticas, como en el caso del transporte, que pudieran poner en riesgo la vida y la salud de los ciudadanos;
- formación educativa o vocacional, que puede determinar el acceso a la educación y el curso profesional de la vida de alguien, como es el caso de la calificación de exámenes;
- componentes de seguridad de los productos, en aplicación de la inteligencia artificial en cirugía asistida por robot, por ejemplo;
- empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de CV para los procedimientos de contratación);
- servicios públicos y privados esenciales, como la calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo;
- aplicación de la ley que pueda interferir con los derechos fundamentales de las personas, como es el caso de la evaluación de la confiabilidad de las pruebas;
- gestión de migración, asilo y control de fronteras (verificación de la autenticidad de los documentos de viaje);
- administración de justicia y procesos democráticos, como a la hora de aplicar la ley a un conjunto concreto de hechos.
Con esta propuesta sobre los sistemas de IA, la Unión Europea pretende asegurarse de que estos sistemas estén sujetos a estrictas obligaciones antes de que puedan comercializarse.
En un nivel más bajo, se considera como riesgo limitado a los sistemas de inteligencia artificial con obligaciones específicas de transparencia. Esto tiene que ver cuando se utilizan sistemas de inteligencia artificial como chatbots, en la que los usuarios deben ser conscientes de que están interactuando con una máquina para que puedan tomar una decisión informada y consciente.
Por último, el riesgo mínimo se refiere a la propuesta legal que permite el uso gratuito de aplicaciones como videojuegos habilitados para inteligencia artificial o filtros de spam. La Comisión Europea reconoce que la gran mayoría de los sistemas de inteligencia artificial entran en esta categoría y que el proyecto de reglamento no intervendría en estos casos, dado el riesgo nulo para los derechos o la seguridad de los ciudadanos.
Excepciones limitadas en el uso de la Inteligencia Artificial
Como es lógico, existen excepciones contempladas a la hora de proceder en pro del bien común y que permiten la utilización de estos sistemas en espacios de acceso público, que de otra forma estaría prohibido.
Puede ser el caso de la desaparición de niños, prevenir una amenaza terrorista específica e inminente o para detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave. Eso sí, deberá ser un uso autorizado a todo aquel órgano judicial o independiente con los límites adecuados en el tiempo, el alcance geográfico y las bases de datos buscadas y fijadas por la normativa.
En la misma línea, Bruselas contempla la creación de una Junta Europea de Inteligencia Artificial que facilitará la implementación de la norma e impulsará el desarrollo de estándares para la inteligencia artificial.
Por último, la Comisión Europea ha propuesto que las autoridades nacionales competentes de vigilancia del mercado supervisen las nuevas normas para una vez aprobadas, tras las negociaciones con los distintos gobiernos y el Parlamento Europeo; se apliquen de la misma forma en todos los Estados miembros.
