Aprobada la nueva Ley de Inteligencia Artificial en España que puede afectar así a tu negocio

El Consejo de Ministros acaba de sacar adelante la Ley de Inteligencia Artificial en España, un paso necesario para adoptar el reglamento aprobado por la Unión Europea. El texto inicia ahora su trámite parlamentario para garantizar que desarrollo y uso de los sistemas de IA se hacen desde la responsabilidad. De este modo se establecen obligaciones para proveedores y responsables del despliegue de esta tecnología. ¿Cómo te afecta si tienes un eCommerce? A continuación tienes el detalle de una normativa que te puede afectar en algo tan simple como la segmentación de clientes o la automatización de procesos en tu propia empresa.

• Aplicación de la nueva ley en España.

La Ley de IA en España designa a la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial) como organismo supervisor y establece un régimen sancionador específico en nuestro país. Si utilizas algoritmos para gestionar a tu equipo o clientes, la ley ahora te obliga a informar de ello mientras que cualquier persona puede exigir que una persona física explique y revise la decisión tomada por la IA. A esto se suma el etiquetado obligatorio de contenidos generados con Inteligencia Artificial.

Por su parte, la AESIA tendrá capacidad de inspección y sanción desde su sede en A Coruña donde cuenta con un equipo de medio centenar de analistas. De este modo se le atribuyen competencias específicas para requerir información, inspeccionar sistemas, exigir medidas correctoras e imponer sanciones. A este organismo de nueva creación se suman la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ) para ámbitos de privacidad y procesos judiciales.

• Así son las multas en caso de infracción.

El régimen sancionador es un punto de máxima preocupación. Cabe destacar que se introduce flexibilidad en la aplicación de la norma donde las autoridades podrán valorar la gravedad, la intencionalidad y la reincidencia. También se contemplan reducciones por pronto pago o descuentos por aplicar medidas correctoras antes de finalizar el expediente. De cualquier manera, la gravedad y cuantía de las infracciones queda del siguiente modo:

• Infracciones leves, cuantía de 500.000€ ó 0,5% del volumen de negocio.
• Infracciones graves, cuantía de 15 millones de euros ó 3% de la facturación mundial.
• Infracciones muy graves, cuantía de 35 millones de euros ó 7% de la facturación mundial.

A todo esto se suma que la Administración pública queda exenta de multas económicas en caso de incumplimiento. En su caso recibirá una amonestación, siendo un aspecto ampliamente criticado en el texto de la norma. Pese a todo, la Asociación de Internautas se felicita en un comunicado por el alumbramiento de esta nueva ley.

• ¿Cómo afecta a tu eCommerce?

Un negocio online implica, en mayor o menor medida, el uso de IA a través de chatbot, recomendación dinámica de productos, buscadores inteligentes, generación de contenido, segmentación de clientes, etcétera. La aplicación de esta normativa te afecta en la forma en que aplicas estas tecnologías a la hora de interactuar con tus clientes.

• Transparencia algorítmica y supervisión de procesos.

Cualquier sistema de IA en tu página web tiene que tener transparencia algorítmica. ¿Qué significa exactamente? Ni más ni menos que debes informar a tus clientes de que están interactuando con una IA además de garantizar que haya supervisión humana siempre que se trate de procesos críticos. Se acabó la integración de un chatbot y olvidarte del asunto, sino que debes supervisar sus respuesta y decisiones.

• Prácticas prohibidas.

Aunque parezca evidente, la primera práctica prohibida es la manipulación subliminal. Esto engloba sistemas de sonidos o imágenes imperceptibles para influir en las decisiones de compra sin su consentimiento. En segundo lugar está la explotación de vulnerabilidades para impedir un uso de la IA que altere el comportamiento de personas vulnerables por edad, discapacidad o situación socioeconómica de forma que le cause perjuicio. Aquí se incluyen las estrategias de urgencia excesiva o precios dinámicos mal utilizados.

Otro de los aspectos más conocidos de esta Ley de Inteligencia Artificial en España es el coto a las deepfakes de carácter sexual. Queda terminantemente prohibido el uso de sistemas que generen imágenes o vídeos falsos de contenido explícito sin consentimiento. En último lugar se incluye también la implementación de sistemas de puntuación social, no pudiendo utilizarse la IA para clasificar a personas según su comportamiento.

• Obligaciones por nivel de riesgo.

Los sistemas de IA están sujetos a diferentes obligaciones según el riesgo del mismo. Las obligaciones más estrictas de documentación, auditoría y supervisión se circunscriben a sistemas de riesgo alto (biometría o cualquier que afecte a derechos fundamentales). En el caso de chatbot y sistemas de recomendación se aplica un riesgo limitado con obligación de transparencia e información. Ya con riesgo mínimo están los filtros de spam o recomendaciones de contenido, que no tienen tan siquiera obligaciones específicas adicionales.

👉🏼 ¿Quieres conocer las últimas novedades sobre Marketing Digital? Ahora puedes seguir toda la actualidad del sector en el Canal de WhatsApp. Descubre más tendencias de Marketing Digital para tu eCommerce. ¡No esperes más para estar a la última!

Enrique Alonso

Consultor de Negocio Digital

Especialista en eCommerce y crecimiento de negocio. Cuento con una dilatada experiencia en el ámbito del Marketing Digital, además de una especialización en Paid Media y Business Intelligence. Combino estrategia, datos y gestión de equipos para garantizar el mejor resultado en cada proyecto.