El mes pasado, la Comisión Europea presentó su legislación sobre Inteligencia Artificial (IA) y una Normativa sobre máquinas y robots. Con este nuevo marco legal, se pretende regular el uso de estas tecnologías, creando diferentes niveles de riesgo y, en algunos casos, se prohíbe el reconocimiento facial en espacios públicos.
La legislación sobre Inteligencia Artificial tiene como objetivo el garantizar la seguridad y privacidad de las personas evitando que se vulneren sus derechos. Por otro lado, promete dejar un amplio espacio para que las empresas innoven alrededor de esta tecnología fortaleciendo así la inversión.
Los niveles de riesgo de la Inteligencia Artificial
La Comisión Europea ha manifestado la importancia de la Inteligencia Artificial y los beneficios que puede traer para la sociedad, sin embargo, tiene muy claro que es necesario regular esta tecnología para evitar un mal uso de esta. Por ello, han determinado diferentes cuatro niveles de riesgo para el uso de la IA, se excluye el uso de esta tecnología para uso militar:
Riesgo inaceptable:
Esta categoría incluye todos los sistemas IA prohibidos. Son aquellos usos que puedan vulnerar los derechos fundamentales de las personas, por ejemplo: puntuación social por parte de los gobiernos que busquen crear sesgos, explotación de las vulnerabilidades de los niños, uso de técnicas subliminales. Por ejemplo, están prohibidos las aplicaciones o dispositivos que usen la IA para engañar a los menores y ponga en peligro su vida.
Riesgo alto:
En esta categoría se incluyen sistemas IA que puedan atentar contra la salud de las personas, IA para afectar a la educación, componentes en cirugía, sistemas de reclutamiento de personal, servicios públicos, legislación, inmigración o IA para la administración o justicia. Los sistemas incluidos en riesgo alto deberán cumplir requisitos que protejan los datos utilizados, documentación técnica, mantenimiento de registros, transparencia y suministro de información a los usuarios, entre otros.
Riesgo limitado:
Para ciertos sistemas de inteligencia artificial se imponen requisitos de transparencia específicos. Por ejemplo, en el caso de uso de chatbots, se le debe informar al usuario que se está interactuando con un bot. En esta categoría también entran otros usos como: videojuegos, aplicaciones de fotos u otros sistemas que no implican riesgos importantes.
Riesgo mínimo:
Aquí entran todos los demás sistemas de inteligencia artificial. Ellos se pueden sujetar a la legislación existente sin obligaciones legales adicionales. Aquí va a depender de la voluntad de los desarrolladores de estos sistemas, ellos pueden optar por adherirse a códigos de conducta propios.
Se prohíbe el reconocimiento facial remoto en zonas públicas
Estas nuevas reglas indican que todos los sistemas IA destinados a ser utilizados para la identificación biométrica remota en tiempo real de personas se considerarán de alto riesgo y deberán cumplir los requisitos de esta categoría. Por otro lado, si bien no se ha prohibido el reconocimiento facial del todo, la Comisión Europea sí prohíbe el uso del reconocimiento facial para espacios públicos que pueda ser utilizado para aplicar la ley.
Esto quiere decir que no se podrá utilizar la información recabada a través de este sistema para monitorear delitos utilizando cámaras de vigilancia, por ejemplo. Esta prohibición es el resultado de haber escuchado a diferentes grupos de ciudadanos y colectivos pro derechos humanos quienes han reclamado por el derecho a la privacidad.
Sin embargo, sí se permite su uso para algunos casos específicos como: la búsqueda de niños desaparecidos, prevenir y detectar delitos graves como terrorismo, entre otros de ese nivel. Este tipo de usos deberán ser autorizados por las instituciones judiciales correspondientes.
Por otro lado, surgen algunas dudas respecto a los términos: “remoto” y “en tiempo real”, ya que deja un vacío para implementar sistemas IA que utilicen drones cerca de las personas, cámaras en los policías u otros sistemas que no sean en directo. Estos son detalles que deberán ser aclarados en las siguientes etapas de implementación.
Si deseas conocer todos los detalles de esta nueva reglamentación de la Unión Europea, ingresa aquí https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683.
Sígueme en mis redes para enterarte de más contenido sobre AR, VR y tecnología Youtube Instagram Facebook Twitter.
