El Gobierno remite al Congreso el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, que adapta el Reglamento europeo de IA e incluye como ejemplo prohibido el uso de chatbots para identificar a usuarios vulnerables e incitarlos a entrar en plataformas de juego online.
El Consejo de Ministros ha aprobado la remisión al Congreso de los Diputados del proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma que adapta al ordenamiento jurídico español el Reglamento europeo de Inteligencia Artificial, en vigor desde agosto de 2024.
El texto dota a España de un instrumento para impulsar una supervisión humana y un uso confiable de la inteligencia artificial, al tiempo que identifica los organismos encargados de aplicar la normativa europea y establece el correspondiente régimen sancionador.
La iniciativa tiene especial interés para el sector del juego online, ya que el proyecto cita expresamente como ejemplo de sistema prohibido el uso de un chatbot que identifica usuarios con problemas de juego y les incita, mediante técnicas subliminales, a entrar en una plataforma de juego online.
Esta referencia introduce una advertencia clara para operadores, proveedores tecnológicos, afiliados y desarrolladores de soluciones basadas en inteligencia artificial: la personalización, la automatización y la captación digital deberán respetar límites estrictos cuando afecten a usuarios vulnerables o puedan manipular su comportamiento.
El proyecto de ley establece un marco de gobernanza mediante la designación de autoridades notificantes y autoridades de vigilancia del mercado, encargadas de supervisar el cumplimiento de la normativa.
Los productos ya regulados por normas sectoriales, como maquinaria, juguetes, vehículos o productos sanitarios, mantendrán sus actuales autoridades notificantes y de vigilancia del mercado.
Para el resto de sistemas no regulados por legislación de producto, como los relativos al empleo, la biometría o la educación, la supervisión se atribuirá principalmente a la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), junto con la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), en función del ámbito afectado.
Además, el texto promueve un modelo de colaboración institucional reforzado, con mecanismos de coordinación entre autoridades y un punto de contacto único para cuestiones de supervisión a través de la AESIA.
Sistemas prohibidos y límites a la manipulación algorítmica
El Reglamento europeo de IA clasifica los sistemas de inteligencia artificial según su nivel de riesgo. Prohíbe aquellos que presentan un riesgo inaceptable para la seguridad, la salud o los derechos fundamentales, y fija obligaciones para el resto de sistemas antes de su comercialización o puesta en servicio en el mercado europeo.
El proyecto aprobado por el Gobierno recoge varios ejemplos de sistemas prohibidos. Entre ellos, los que utilizan técnicas subliminales, como imágenes o sonidos imperceptibles, para manipular decisiones sin consentimiento y causar un perjuicio considerable a la persona.
En este punto aparece la mención directa al juego online: un chatbot capaz de identificar a usuarios con problemas de juego y dirigirlos, mediante técnicas subliminales, hacia una plataforma de juego online.
La norma también contempla como sistemas prohibidos aquellos que explotan vulnerabilidades relacionadas con la edad, la discapacidad o la situación socioeconómica para alterar de forma sustancial el comportamiento de una persona y provocarle, o poder provocarle, perjuicios considerables.
Esta previsión conecta directamente con algunos de los debates más actuales del sector: el uso de datos, la segmentación de usuarios, la publicidad personalizada, la detección temprana de riesgo, la responsabilidad de los proveedores tecnológicos y los límites de la inteligencia artificial aplicada a la captación y retención de jugadores.
El régimen sancionador previsto en la futura ley clasifica las infracciones en muy graves, graves y leves, de acuerdo con criterios de proporcionalidad y eficacia.
En los casos más graves, las sanciones podrán alcanzar hasta 35 millones de euros o el 7% del volumen de negocio. Para las infracciones leves, las multas podrán llegar hasta 500.000 euros o el 0,5% del volumen de negocio.
El texto permite a las autoridades adaptar las sanciones a factores como la gravedad, la intencionalidad, la reincidencia o el tamaño de la empresa. También incorpora mecanismos orientados a priorizar la corrección frente a la penalización, como reducciones por pronto pago o por adopción de medidas correctoras, con especial atención a pymes y startups.
Inventario y delegado de IA en el sector público
Otra de las novedades del proyecto es el impulso al buen uso de la inteligencia artificial en el sector público estatal.
La norma prevé la creación de un inventario de sistemas de IA utilizados en procedimientos administrativos, que no se limitará únicamente a los sistemas de alto riesgo. Esta medida busca reforzar la transparencia y facilitar la supervisión de las herramientas automatizadas empleadas por la Administración.
También se introduce la figura del delegado de IA, encargado de coordinar la aplicación normativa y asesorar en proyectos y procesos de contratación pública. Tanto el inventario como esta figura se desarrollarán posteriormente mediante Real Decreto.
Sandboxes para innovación controlada
El proyecto regula además los entornos controlados de pruebas, conocidos como sandboxes, para facilitar la innovación en inteligencia artificial dentro de un marco supervisado.
El texto incorpora el espacio controlado de pruebas de ámbito nacional previsto por el Reglamento europeo de IA, que será operado por la AESIA. También permite crear sandboxes adicionales cuando sean impulsados por autoridades de vigilancia del mercado o autoridades notificantes vinculadas a un sector concreto.
Para la industria del juego, la futura ley abre una nueva fase de reflexión sobre cómo aplicar inteligencia artificial en entornos regulados sin comprometer la protección del jugador, la transparencia, la supervisión humana ni los derechos fundamentales.
El mensaje para el sector es claro: la IA podrá ser una herramienta útil para mejorar procesos, reforzar la prevención, optimizar la detección de riesgo y modernizar la operación, pero no podrá utilizarse para manipular decisiones, explotar vulnerabilidades o dirigir de forma opaca a usuarios sensibles hacia plataformas de juego.
18+ | Juegoseguro.es – Jugarbien.es
