De sobra sabemos que la Inteligencia Artificial (IA) tiene un potencial enorme para transformar las sociedades y economías, ayudando a mejorar crecimiento, calidad de vida y bienestar. Pero también sabemos que la implementación de IA – como el de cualquier tecnología nueva- va asociado a riesgos que actualmente desconocemos, y que hay que evitar si no queremos vernos sorprendidos por resultados indeseados. Por eso, su regulación y la implementación de mecanismos de control son imprescindibles.
En este contexto, en April 2021, la Comisión Europea presentó una Propuesta para la regulación de normas armonizadas en IA. Esta propuesta se encuentra ahora en negociaciones entre el Parlamento Europeo y el Consejo (y es conocida como AI Act). El objetivo de la AI Act es doble: facilitar el desarrollo de IA en la UE (para dar mayor ventaja competitiva a las empresas europeas), y dar confianza a los ciudadanos de que la IA de UE es segura. Como parte de las novedades que nos brinda, esta AI Act propone por primera vez un marco común para la operación de AI regulatory sandboxes. Estos entornos de pruebas o sandboxes (que ya se están utilizando en algunos mercados como el Fintech) serán ventajosos para las compañías dado que permitirán a los innovadores probar sus sistemas de IA de modo controlado. Pero también serán muy útiles para la Comisión y Autoridades nacionales puesto que les ayudarán a identificar el impacto, riegos y oportunidades asociadas a la IA, y facilitarán la flexibilización y adaptación de las normas a las necesidades reales que demande esta tecnología.
España tiene un fuerte compromiso en llegar a 2025 estando digitalmente preparada para todos los retos y oportunidades que representan las nuevas tecnologías como Quantum o Inteligencia Artificial (IA). Por ello se ha convertido en pionera, ya que es el primer país de UE en lanzar y liderar un piloto de Sandbox para sistemas de IA de alto riesgo. Así lo explicaba Carme Artigas (Secretaria de Estado de Digitalización) cuando presentó el piloto el pasado 27 de Junio de 2022 en Bruselas:
No queremos simplemente legislar en algo tan complejo como IA, y esperar que cuando la ley se tenga que implementar todos los países y empresas estén listos. No podemos regular y luego dar una moratoria de dos o tres años hasta la implementación efectiva, asique el sandbox nos permitirá avanzar en los aspectos prácticos de la implementación”.
Ahora mismo nos encontramos en la primera fase del desarrollo de este Sandbox (que finalizará entre Septiembre/Octubre 2022), fase en la que se está desarrollando un marco legal nacional, unas directrices que permita la operativa de este sandbox en asuntos muy diversos (desde cómo permitir la selección de compañías que vayan a participar, hasta como gestionar y proteger la información confidencial o datos con los que se trabaje en el entorno de pruebas, o de como involucrar a otros países que quieran unirse al piloto). Después, se abrirá un proceso abierto de convocatoria a empresas que quiera participar facilitando sus soluciones de alto riesgo para las pruebas. Lo que se pretende es que haya diversidad y que participen compañías de diferentes mercados. También se pretende que haya un proceso iterativo de aprendizaje sobre la experiencia, y que se vayan adaptando las directrices a medida que se avanza en las pruebas. Este proceso culminará en otoño 2023, donde se espera que ya se publiquen las conclusiones del trabajo realizado. Por ejemplo, informes que analicen eficiencias y costes de las diferentes estrategias para la implantación de IA, informes sobre sinergias respecto a cómo funcionan el sandbox en un mercado comparado con su funcionamiento en empresas que operen en otro mercado etc., conclusiones que no solo serán ventajosas para España sino para todos los países de la UE.
Las ventajas de operar con un sandbox en un proceso de “prueba, error, solución y adaptación” son numerosas y evidentes. Representan un foro imparcial de encuentro de autoridades competentes y expertos en IA para ganar confianza en la tecnología y para encontrar juntos la mejor manera de hacer esta AI ACT operacional, facilitan el acceso a pruebas de start ups y PYMES (que son un motor fundamental de la economía española), son un medio de difusión de conocimiento entre empresas y ciudadanos acerca del futuro de la regulación que va a llegar, así como permiten anticipar la resolución de problemas y adquirir experiencia práctica. Todo ello es muy importante para asegurarse que la normativa esta alineada con la práctica, dado que ambas son esenciales para garantizar el éxito en beneficio de ciudadanos y empresas.
Pero también se oyen algunas voces de alerta por parte del mundo empresarial que se muestra preocupado de que la IA Act y sus mecanismos de gobierno se conviertan en un lastre burocrático que suponga una barrera de entrada, que limite el potencial de esta tecnología, y frene la agilidad que requiere su desarrollo competitivo. También la empresa privada se muestra preocupada por otros temas como el posible elevado coste de cumplimiento con los procesos de estandarización para adaptarse a los requerimientos normativos o la falta de agilidad de los procesos que se diseñen (por ejemplo, tener que pasar por un proceso de certificación cada vez que se cambia la funcionalidad de un sistema).
En conclusión, es muy positivo apreciar la apertura de los entes reguladores que han entendido que una regulación imperativa diseñada en despachos no es tan eficiente para generar valor como una regulación iterativa basada en la experiencia. Estemos atentos a los retos y oportunidades a los que las empresas irán enfrentándose, en un camino muy interesante para la AI que comienza su andadura ahora, con España liderando la práctica del ejercicio de la futura AI Act.
