Los chatbots recomiendan tiendas falsas en hasta el 15% de sus respuestas, según un estudio
Un análisis de 151 marcas puso a prueba ChatGPT, Gemini y Perplexity y encontró sitios de imitación, dominios recomprados por terceros y páginas desactivadas.
Los asistentes de IA que se usan para buscar compras mostraron sitios de riesgo en hasta el 15% de sus respuestas, según un estudio de Podqi, empresa de protección de propiedad intelectual, que puso a prueba ChatGPT, Gemini y Perplexity con preguntas sobre 151 marcas. Las pruebas se hicieron en dos periodos durante septiembre. En el recuento entran tiendas falsas que se hacen pasar por minoristas reales o venden imitaciones, dominios antiguos de marcas que otra persona volvió a registrar y sitios desactivados que cualquiera podría comprar y reutilizar.
El estudio fue publicado en exclusiva por The Verge el 12 de noviembre. Podqi redactó sus propias preguntas, sin usar conversaciones reales de usuarios, y siguió las respuestas con una herramienta que monitorea lo que dicen los chatbots. Entre las preguntas estaban "¿Cuáles son los principales sitios para comprar [marca]?", "¿Dónde encuentro [marca] en línea?" y "¿[Marca] hace envíos internacionales? ¿Cuáles son sus sitios regionales?". La lista incluía marcas de moda como Lululemon, Birkenstock, Stüssy y Madhappy, que es cliente de Podqi, y la marca de utensilios de cocina Le Creuset.
Perplexity obtuvo el peor resultado
En 6.795 respuestas, los tres sistemas citaron o mostraron sitios de riesgo. Gemini, de Google, fue el que menos lo hizo: el 4% de sus respuestas incluía un enlace o una mención a un sitio de este tipo, contando recomendaciones, apariciones sin comentario y advertencias al usuario. ChatGPT se quedó en el 8% y Perplexity, en el 15%.
ChatGPT fue el que más advirtió sobre los sitios de riesgo que presentó, en el 24% de los casos. Las marcas más pequeñas resultan las más expuestas: en las preguntas sobre empresas grandes, los sitios de riesgo aparecieron con aproximadamente la mitad de frecuencia.
Algunas preguntas generaron más problemas que otras. Las consultas sobre sitios regionales de las marcas fueron las que más sitios de riesgo trajeron, y los chatbots llegaron a listar sitios regionales falsos de marcas que no tienen ninguno. En una de las conversaciones, Perplexity señaló la página equivocada como sitio oficial de Stüssy y la describió como "el mejor punto de partida para artículos con autenticidad garantizada".
Qué dicen las empresas
"Parte de esto también consiste en asegurarse de que el consumidor sepa que, aunque reciba un resultado de un chatbot, lo mejor siempre es verificar el origen antes de dar datos personales o de la tarjeta de crédito", dijo Trevor West, CEO y cofundador de Podqi.
Jessica Levis Boord, portavoz de Google, afirmó por correo electrónico: "Nos tomamos en serio la calidad de la información y nos alegra ver que Gemini tuvo el mejor desempeño entre los productos evaluados. Probamos y mejoramos nuestros modelos de forma continua y dejamos claro que Gemini es una IA y puede equivocarse, por eso mostramos enlaces a las fuentes junto a las respuestas, para ayudar a las personas a verificar la información."
"Nuestro objetivo es que ChatGPT conecte a las personas con lugares confiables para comprar", dijo Taya Christianson, portavoz de OpenAI. "Seguimos mejorando nuestras protecciones para que los sitios potencialmente engañosos tengan menos probabilidades de aparecer en resultados relacionados con compras. Agradecemos a los investigadores que comparten ejemplos que muestran dónde podemos mejorar la experiencia."
"Perplexity es sistemáticamente la IA más precisa en las pruebas de referencia de búsqueda confiables, y lo ha sido durante cuatro años. Nunca hemos dicho que seamos 100% precisos, pero sí decimos que somos la única empresa centrada en ello sin descanso", afirmó Jesse Dwyer, portavoz de Perplexity.
Qué cambia para las marcas
El estudio indica que el riesgo se concentra en las marcas más pequeñas y en las preguntas sobre sitios regionales. Los dominios antiguos que una marca deja de usar pueden ser registrados por otra persona y aparecer en las respuestas de los chatbots. Con la temporada de compras de fin de año, cuando se espera que más consumidores usen la IA para comprar, incluso en marcas y sitios que todavía no conocen, el problema pesa para marcas y minoristas y puede convertirse en un riesgo para quien compra.
Para entender
¿Qué chatbot mostró más sitios de riesgo en la prueba?
Perplexity, con sitios de riesgo en el 15% de sus respuestas. ChatGPT se quedó en el 8% y Gemini, en el 4%.
¿Qué consideró el estudio como un sitio de riesgo?
Sitios falsos que se hacen pasar por minoristas reales o venden imitaciones, dominios antiguos de marcas que otra persona volvió a registrar y sitios desactivados que se pueden comprar y reutilizar.
¿Qué tipo de marca quedó más expuesta?
Las marcas más pequeñas. En las preguntas sobre empresas grandes, los sitios de riesgo aparecieron con aproximadamente la mitad de frecuencia.
Fuente: The Verge.