La inteligencia artificial explicable (XAI) ha llegado ante la necesidad de saber cómo y por qué la IA da ciertas respuestas o toma ciertas decisiones. En el caso de la IA aplicada al marketing, por ejemplo, además de optimizar campañas y segmentar audiencias, también es necesario saber o entender el por qué la inteligencia artificial hace ciertas recomendaciones o predicciones, ya que es la forma de saber si la estrategia que va a aplicarse en base a ellas tiene cierta coherencia y se ajusta a los objetivos o no. Pero para saber más acerca de XAI, en este artículo te lo explicamos todo.
La inteligencia artificial explicable, XAI por sus siglas en inglés (Explainable Artificial Intelligence) es un conjunto de métodos y técnicas que permiten entender y confiar en los resultados generados por sistemas de inteligencia artificial. De hecho, y según el Instituto Nacional de Estándares y Tecnología (NIST) de EE.UU., la inteligencia artificial explicable se debe a cuatro principios clave: explicabilidad, ya que la IA debe dar una explicación clara y entendible; justificabilidad, porque debe dar explicaciones significativas y entendibles para el usuario que efectúa la pregunta o petición; precisión, porque las respuestas deben ser lo más precisas, específicas y concretas posible; y límites del conocimiento, ya que en caso de que el sistema no disponga de la información solicitada, deberá indicarlo y abstenerse a dar una respuesta errónea.
Existen ciertas diferencias entre la IA tradicional y la IA explicable, ya que son dos tipos de IA diferentes. En el caso de la IA tradicional incluye la mayoría de sistemas de inteligencia artificial que se utilizan actualmente, que son aquellos que, a pesar de ofrecer resultados muy precisos, no explican ni dan información acerca de cómo han llegado a esa respuesta. La IA explicable, en cambio, no solo le da importancia a la respuesta, sino también a cómo ha llegado hasta ella. Se trata, entonces, de un tipo de inteligencia artificial que destaca por su transparencia y confiabilidad, algo importante en algunas áreas.
Teniendo en cuenta qué es la IA explicable y las diferencias con la IA tradicional, queda claro que este tipo de inteligencia artificial surge ante la necesidad de unas respuestas transparentes y confiables y ante situaciones en las que son necesarias respuestas claras que no dejen lugar a dudas. Además, la explicabilidad ayuda a detectar de una forma mucho más rápida y efectiva posibles sesgos o errores, así como también hace que para los desarrolladores sea mucho más sencillo mejorar, ajustar y corregir el modelo de IA, ya que entienden el por qué y el cómo de esas respuestas.
La IA utiliza técnicas como LIME (Local Interpretable Model-agnostic Explanations) o SHAP (SHapley Additive exPlanations) para mostrar qué fue lo que influyó o llevó hacia una predicción o respuesta y hacer mucho más comprensibles las decisiones de los diferentes modelos de IA. Es decir, este tipo de información es una especie de capa adicional que pretende transformar la respuesta de una IA en algo mucho más comprensible para el usuario, tal y como haría un intérprete.
Existen diferentes tipos de modelos explicables en función del tipo de estructura y el nivel de transparencia. Por ejemplo, estarían las regresiones lineales o logísticas, que indican la influencia de cada variable sobre la predicción o respuesta ofrecida; o las reglas de asociación, que se utilizan en sistemas de recomendación y expresan decisiones de forma condicional.
Las regresiones lineales o logísticas pueden utilizarse, por ejemplo, dentro de una evaluación de riesgo crediticio para conocer las probabilidades de que un cliente pueda o no pagar un préstamo. Entre las variables que pueden afectar a que un crédito sea aprobado o rechazado pueden incluirse desde los ingresos hasta la edad del solicitante, lo que permitirá a los analistas saber las causas de que ese crédito sea o no concedido.
En cuanto a las reglas de asociación, pueden utilizarse, por ejemplo, en sistemas de recomendación en ecommerce. Plataformas como Amazon, Netflix o Spotify ya se aplican reglas en las que “si un cliente ha comprado/visualizado/escuchado esto, podría interesarse en esto otro”. Se trata de un modelo explicable que busca generar recomendaciones automáticas basándose en patrones de comportamiento del usuario, que es una respuesta muy comprensible para los equipos de marketing.
Para poder aplicar los modelos explicables que hemos dado como ejemplo, así como cualquier otro, hay tres técnicas, el LIME, el SHAP y los árboles de decisión. El LIME o Local Interpretable Model-agnostic Explanations, que transforma modelos complejos a versiones más simples y fácilmente interpretables. El SHAP o SHapley Additive exPlanations, por su parte, es más preciso que el LIME, aunque también más costoso a nivel computacional, ya que da respuestas muy precisas y exactas. Y, los árboles de decisión como técnica de explicación, suelen utilizarse para que los modelos más complejos puedan explicarse de una forma más simple y comprensible a través de un desglose o fragmentación.
La explicabilidad en IA puede ser muy útil en el entorno del marketing digital, ya que de esta manera pueden entenderse y justificarse las decisiones automatizadas que puedan afectar a la segmentación, personalización, inversión publicitaria y rendimiento de campañas. De hecho, para que un equipo de marketing pueda tomar la mejor decisión y mantener la confianza del cliente es necesaria una IA transparente.
La segmentación de audiencias y la atribución de conversiones son dos pilares clave dentro del marketing digital.
La segmentación consiste en agrupar usuarios en función de su perfil, comportamiento, historial de compras, interacción con la marca o cualquier parámetro relevante para la empresa. Aquí la XAI es útil para saber la razón por la que un usuario fue asignado a un segmento específico. En cuanto a la atribución, cuando se realizan campañas multicanal, con la XAI es posible elegir tanto los puntos de contacto como los factores que deben tenerse en cuenta.
Cualquier equipo de marketing necesita transparencia total en campañas automatizadas, ya que si no puede haber dudas e incertidumbre acerca de cómo y por qué se han tomado ciertas decisiones, lo cual podría poner en riesgo tanto el éxito de la campaña como la confianza que el cliente deposita en la marca. Con una XAI se puede saber qué variables influyeron en la asignación de presupuesto o en la selección de anuncios, los sesgos en el targeting o qué variantes han podido o pueden afectar a las campañas, entre otros datos, que es justamente lo que el equipo de marketing necesita para, llegado el caso, realizar ajustes.
Con toda la información sobre la mesa es mucho más sencillo explicarles a los equipos internos el cómo y el por qué de ciertas decisiones, lo que hará más sencillo ajustar las estrategias en función de los resultados. De la misma manera, como agencia de marketing también será mucho más fácil informar a los clientes y ajustar las estrategias. Todo esto quiere decir que la explicabilidad mejora tanto la comunicación como la confianza entre marca y cliente, algo fundamental para el éxito de cualquier campaña.
El uso de la inteligencia artificial explicable o XAI tiene unas importantes ventajas frente a la IA tradicional, especialmente en sectores como el marketing digital, donde cada decisión puede tener un impacto directo en la empresa.
Uno de los beneficios clave de la XAI es que genera una mayor confianza en los sistemas de IA. En el caso de una agencia de inteligencia artificial significa poder informar al cliente sobre el cómo y por qué se han tomado ciertas decisiones y no otras, como el uso de cierto canal comunicativo o el hacer una segmentación específica. Además, es mucho más sencillo validar los resultados y detectar posibles errores, entender mejor las variables que pueden influir en unos resultados o conocer los algoritmos que pueden alinearse con los objetivos y valores éticos de la marca.
Sin embargo, y tal y como pasa con cualquier herramienta, la XAI también tiene sus problemáticas o limitaciones. Una de estas complejidades es que son necesarios unos conocimientos avanzados a nivel técnico, por lo que en los equipos de marketing será necesaria esta figura más técnica. También puede ser complicado buscar y detectar posibles sesgos, así como saber cuándo un modelo no está funcionando de forma adecuada o no se ajusta a las necesidades de la marca. A pesar de esto, con una buena formación y una actualización constante, la aplicación de la XAI puede tener más pros que contras.