Skip to content 
Air Canada intentó poner su chatbot debajo del autobús de la IA.
No funcionó.
A Un tribunal canadiense dictaminó recientemente Air Canada debe compensar a un cliente que compró un boleto a precio completo después de recibir información inexacta del chatbot de la aerolínea.
Air Canada había argumentado que su chatbot inventó la respuesta, por lo que no debería ser responsable. Como diría Pepper Brooks de la película Dodgeball: “Esa es una estrategia audaz, Cotton. Veamos si les da resultados”.
Pero, ¿qué significa para usted ese error del chatbot cuando sus marcas agregan estas herramientas de conversación a sus sitios web? ¿Qué significa para el futuro de las búsquedas y el impacto que tendrá en usted que los consumidores utilicen herramientas como Gemini de Google y ChatGPT de OpenAI para investigar su marca?
La IA revoluciona Air Canada
La IA parece ser el único tema de conversación en estos días. Los clientes esperan que sus agencias lo utilicen siempre que acompañen ese uso con un gran descuento en sus servicios. “Es muy fácil”, dicen. “Debes ser tan feliz.”
Juntas directivas en empresas emergentes presionar a sus equipos directivos al respecto. “¿Dónde estamos en una estrategia de IA?”, preguntan. “Es tan fácil. Todo el mundo lo está haciendo”. Incluso los artistas de Hollywood están cubriendo sus apuestas al observar los últimos desarrollos de IA generativa y decir: “Hmmm… ¿Realmente Quiero invertir más en humanos.?
Tomemos todos un respiro. Los humanos no van a ninguna parte. Permítanme ser muy claro: “La IA NO es una estrategia. Es una innovación que busca una estrategia”. La decisión de Air Canada de la semana pasada puede ser la primera distinción de esto en el mundo real.
La historia comienza con un hombre que le pregunta al chatbot de Air Canada si podría obtener un reembolso retroactivo por una tarifa por duelo, siempre y cuando proporcionara la documentación adecuada. El chatbot lo animó a reservar su vuelo para el funeral de su abuela y luego solicitar un reembolso por la diferencia entre el precio completo y la feria de duelo dentro de los 90 días. El pasajero hizo lo que sugirió el chatbot.
Air Canada se negó a otorgar un reembolso, citando su política que establece explícitamente que no reembolsará los viajes después de reservar el vuelo.
Cuando el pasajero presentó la demanda, la negativa de Air Canada a pagar se volvió más interesante. Argumentó que no debería ser responsable porque el chatbot era una “entidad legal separada” y, por lo tanto, Air Canada no debería ser responsable de sus acciones.
Recuerdo una defensa similar en la infancia: “No soy responsable. Mis amigos me obligaron a hacerlo”. A lo que mi mamá respondía: “Bueno, si te dijeran que te tiraras de un puente, ¿lo harías?”
Mi parte favorita del caso fue cuando un miembro del tribunal dijo lo que mi madre habría dicho: “Air Canada no explica por qué cree…. “Por qué su página web titulada 'viajes de duelo' era intrínsecamente más confiable que su chatbot”.
El GRAN error del pensamiento humano sobre la IA
Eso es lo interesante al enfrentar este desafío de IA del momento. Las empresas confunden la IA con una estrategia a implementar en lugar de una innovación a una estrategia que debería desplegarse. La IA no es la respuesta para su estrategia de contenidos. La IA es simplemente una forma de ayudar a mejorar una estrategia existente.
La IA generativa es tan buena como el contenido (los datos y la capacitación) que se le proporciona. La IA generativa es un fantástico reconocedor de patrones y comprensión de la probable elección de la siguiente palabra. Pero no está haciendo ningún pensamiento crítico. No puede discernir qué es real y qué es ficción.
Piense por un momento en su sitio web como un modelo de aprendizaje, una especie de cerebro. ¿Qué tan bien podría responder con precisión preguntas sobre el estado actual de su empresa? Piense en todos los documentos de ayuda, manuales y contenidos educativos y de formación. Si pones todo eso (y sólo eso) en un cerebro artificial, sólo entonces podrás confiar en las respuestas.
Es probable que su chatbot proporcione excelentes resultados y algunas malas respuestas. El caso de Air Canada implicó un desafío minúsculo. Pero imagínate cuando no se trata de un pequeño error. ¿Y qué pasa con el impacto del contenido no deseado? Imagínese si la herramienta de inteligencia artificial recogiera esa carpeta perdida en su repositorio de ayuda al cliente, ¿la que tiene todas las respuestas sarcásticas y estúpidas? ¿O qué pasa si encuentra el archivo que detalla todos los problemas relacionados con su producto o su seguridad? Es posible que la IA no sepa que no desea que utilice ese contenido.
ChatGPT, Gemini y otros también presentan desafíos de marca
Las soluciones de IA generativa disponibles públicamente pueden crear los mayores desafíos.
Probé el potencial problemático. Le pedí a ChatGPT que me diera el precio de dos de los sistemas CRM más conocidos. (Te dejaré adivinar cuáles). Le pedí que comparara los precios y las características de los dos paquetes similares y me dijera cuál podría ser más apropiado.
Primero, me dijo que no podía proporcionar precios para ninguno de ellos, pero incluyó la página de precios de cada uno en una nota al pie. Presioné la cita y le pedí que comparara los dos paquetes nombrados. Para uno de ellos, procedió a darme un precio un 30% más alto, sin darse cuenta de que ahora tenía descuento. Y todavía no pudo proporcionar el precio del otro, diciendo que la compañía no reveló los precios pero nuevamente anotó a pie de página la página de precios donde se muestra claramente el costo.
En otra prueba, le pregunté a ChatGPT: “¿Qué tiene de bueno la solución de gestión de activos digitales (DAM) de (nombre de la empresa de tecnología)?” Sé que esta empresa no ofrece un sistema DAM, pero ChatGPT no.
Regresó con una respuesta que explicaba que la solución DAM de esta empresa era una fuente única y maravillosa de verdad para los activos digitales y un gran sistema. No me dijo que parafraseó la respuesta del contenido de la página web de la empresa que destacaba su capacidad para integrarse en el sistema DAM de un proveedor externo.
Ahora bien, estas diferencias son pequeñas. Lo entiendo. También debo dejar claro que obtuve buenas respuestas para algunas de mis preguntas más difíciles en mi breve prueba. Pero eso es lo que es tan insidioso. Si los usuarios esperaran respuestas siempre un poco erróneas, comprobarían su veracidad. Pero cuando las respuestas parecen correctas y impresionanteaunque sean completamente incorrectos o involuntariamente precisos, los usuarios confían en todo el sistema.
Ésa es la lección de Air Canada y los desafíos posteriores que se avecinan.
La IA es una herramienta, no una estrategia
Recuerde, la IA no es su estrategia de contenido. Aún necesitas auditarlo. Tal como lo ha hecho durante más de 20 años, debe asegurarse de que la totalidad de sus propiedades digitales reflejen los valores actuales, la integridad, la precisión y la confianza que desea inculcar.
La IA no hará esto por ti. No puede conocer el valor de esas cosas a menos que le des el valor de esas cosas. Piense en la IA como una forma de innovar su estrategia de contenido centrada en las personas. Puede expresar su historia humana de maneras diferentes y posiblemente más rápidas a todas sus partes interesadas.
Pero sólo tú puedes saber si es tu historia. Hay que crearlo, valorarlo y gestionarlo, y entonces quizás la IA pueda ayudarte a contarlo bien.
CONTENIDO RELACIONADO SELECCIONADO A MANO:
Imagen de portada de Joseph Kalinowski/Content Marketing Institute
