Los chatbots y determinados contenidos generados o manipulados mediante IA deberán identificarse. ADICAE Murcia advierte: informar no basta, las empresas deben seguir respondiendo ante los consumidores
La inteligencia artificial ya se utiliza para atender consultas, recomendar productos, personalizar publicidad y generar textos, imágenes, audios o vídeos. Sin embargo, el consumidor no siempre sabe que está hablando con una máquina o que el contenido que recibe ha sido creado artificialmente.
Esta situación comenzará a cambiar el 2 de agosto de 2026, cuando empiecen a aplicarse las obligaciones generales de transparencia del artículo 50 del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act.
Para ADICAE Murcia, se trata de un avance necesario, pero la transparencia no puede reducirse a una advertencia genérica escondida entre las condiciones de uso. La información debe ser clara y visible, y las empresas deben seguir siendo responsables de los sistemas que utilizan.
El consumidor deberá saber cuándo habla con una máquina
Cuando una persona interactúe directamente con determinados sistemas de inteligencia artificial, deberá ser informada de que está hablando con una IA, salvo que resulte evidente por las circunstancias.
Esta obligación afectará, entre otros, a asistentes virtuales y chatbots utilizados por bancos, aseguradoras, compañías energéticas, empresas de telecomunicaciones, comercios electrónicos y servicios de atención a la clientela.
El aviso deberá facilitarse de forma comprensible, como máximo en el momento de la primera interacción. El consumidor no debería tener que buscar esta información en un texto legal extenso.
Saber que se está hablando con una máquina es importante porque un chatbot puede ofrecer una respuesta incompleta, incorrecta o poco adaptada al problema planteado.
Para ADICAE, informar del uso de un chatbot no basta. Las empresas no deben utilizar la automatización para bloquear reclamaciones, ofrecer respuestas repetitivas o impedir el acceso a una atención humana cuando el problema no pueda resolverse automáticamente.
Un aviso como «respuesta generada por IA» tampoco elimina la responsabilidad de la empresa por la información, la oferta, la contratación o el servicio prestado.
Contenidos generados y deepfakes
Los proveedores de sistemas que generen o manipulen imágenes, audios, vídeos o textos deberán incorporar mecanismos técnicos que permitan detectar su origen artificial.
Estas señales podrán consistir en metadatos, credenciales digitales, marcas de agua u otras soluciones técnicas. El marcado no siempre será visible directamente para el usuario, pero deberá permitir identificar el contenido mediante herramientas tecnológicas.
Además, quienes difundan determinados contenidos manipulados mediante inteligencia artificial deberán advertirlo de manera comprensible. Esta obligación es especialmente importante ante los denominados deepfakes: vídeos, imágenes o audios que pueden hacer creer que una persona ha dicho o realizado algo que nunca ocurrió.
Estos contenidos pueden utilizarse en falsas recomendaciones de inversión, audios que imitan la voz de familiares o empleados bancarios, anuncios que usan sin permiso la imagen de personas conocidas o vídeos manipulados que aparentan mostrar hechos reales.
También deberán identificarse determinados textos generados con IA que se publiquen para informar sobre asuntos de interés público, salvo que exista una revisión humana efectiva y una persona o entidad asuma la responsabilidad editorial.
No todas las modificaciones deberán tratarse como contenidos artificiales. Las correcciones automáticas de iluminación, sonido, ortografía o formato que no alteren sustancialmente el contenido original pueden quedar fuera de esta obligación.
Reconocimiento de emociones y datos biométricos
Las personas también deberán ser informadas cuando estén expuestas a determinados sistemas de reconocimiento de emociones o categorización biométrica.
Estas herramientas pueden analizar el rostro, la voz o el comportamiento para intentar deducir estados como nerviosismo, satisfacción o enfado, o para clasificar a las personas a partir de características biométricas.
Algunos usos están prohibidos. Cuando puedan utilizarse legalmente, deberán respetar además las normas sobre protección de datos, privacidad y no discriminación.
ADICAE considera especialmente preocupante que estas tecnologías puedan emplearse para detectar la vulnerabilidad del consumidor, medir su reacción ante un precio o adaptar una oferta aprovechando una situación de urgencia o inseguridad económica.
La inteligencia artificial no debe utilizarse para conocer y explotar mejor las debilidades del consumidor.
Aplicación gradual y derechos del consumidor
Las nuevas obligaciones de transparencia comenzarán a aplicarse, con carácter general, el 2 de agosto de 2026. Los contenidos publicados antes de esa fecha no tendrán que identificarse de forma retroactiva.
La reforma europea también contempla que algunos sistemas de IA generativa que ya estaban en el mercado dispongan hasta el 2 de diciembre de 2026 para adaptar sus mecanismos técnicos de identificación. Este plazo solo afectará a esos ajustes técnicos y será aplicable cuando la reforma entre formalmente en vigor.
Si una empresa no informa correctamente del uso de inteligencia artificial, el consumidor debe guardar capturas, mensajes o anuncios y reclamar por escrito. También puede acudir a los organismos de consumo o a la Agencia Española de Protección de Datos cuando se hayan utilizado indebidamente sus datos personales.
Que un contenido aparezca identificado como «generado con IA» no significa que sea verdadero, seguro o legal, ni libera a la empresa de su responsabilidad.
Los sistemas de IA que puedan tener mayores consecuencias sobre las personas, por ejemplo en el empleo, la educación o el acceso a servicios esenciales, estarán sometidos a controles más estrictos posteriormente. La reforma europea prevé que estos controles se apliquen de forma gradual entre 2027 y 2028. Hasta entonces, las empresas deben seguir cumpliendo las normas de consumo, contratación, protección de datos, igualdad y publicidad.
ADICAE Murcia reclama transparencia real y responsabilidad empresarial
La inteligencia artificial puede mejorar determinados servicios, pero no debe reducir los derechos de los consumidores ni aumentar la desigualdad entre las empresas que conocen cómo funcionan sus algoritmos y las personas obligadas a aceptar decisiones que no pueden comprender.
ADICAE Murcia reclama avisos claros, responsabilidad empresarial, acceso efectivo a atención humana, control público suficiente y protección frente a la manipulación y la discriminación.
Desde el 2 de agosto, el consumidor contará con más herramientas para saber cuándo interviene una inteligencia artificial. Pero la transparencia será útil únicamente si permite comprender el servicio, cuestionar las decisiones automatizadas y reclamar cuando se produzca un perjuicio.
El consumidor tiene derecho a saber cuándo interviene una máquina, quién responde por ella y cómo defenderse cuando su utilización afecta a sus derechos.
