La inteligencia artificial (IA) conversacional está avanzando rápidamente, y con ella, una nueva era de interacciones en línea que podrían cambiar radicalmente la manera en que los usuarios toman decisiones. Sin embargo, este progreso no está exento de preocupaciones. Investigadores de la Universidad de Cambridge alertaron recientemente sobre los riesgos de manipulación que podrían surgir con el uso de herramientas de IA cada vez más sofisticadas. Según su artículo, estas tecnologías podrían influir en las decisiones de los usuarios antes de que incluso lleguen a tomarlas, abriendo el camino a posibles manipulaciones comerciales y sociales de gran escala.
La nueva economía de la intención: Influenciar antes de decidir
El estudio, realizado por expertos del Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, destaca una tendencia inquietante: el desarrollo de herramientas capaces de predecir, influir e incluso manipular las decisiones de los usuarios en línea. Esta “economía de la intención”, como la han denominado los investigadores, apunta a un futuro en el que las decisiones de los internautas, desde compras hasta elecciones políticas, podrían ser influenciadas incluso antes de que el usuario sea consciente de ello.
A diferencia de las prácticas actuales de marketing digital, que se centran en la recolección de datos sobre el comportamiento pasado de los usuarios (como hábitos de navegación o compras previas), la IA conversacional estaría diseñada para operar de manera más intrusiva y personalizada. Según Yaqub Chaudhary, coautor del artículo y miembro del LCFI, estas herramientas de IA podrían reunir información detallada sobre los aspectos más íntimos de los usuarios, incluidos datos psicológicos y de comportamiento. Con esta información, la IA adaptaría sus interacciones, estableciendo un nivel de confianza alto que facilitaría la influencia sobre las decisiones del usuario.
Manipulación a gran escala: Un nuevo modelo de marketing
Imagina que un chatbot, con acceso a tus emociones y preferencias, te envía un mensaje personalizado como: “¿Has pensado ir a ver Spiderman esta noche?” o “Dijiste que te sientes sobrecargado de trabajo, ¿puedo reservarte la entrada al cine de la que hablamos?“. Estos mensajes podrían ser ejemplos de cómo la IA conversacional podría inducir a decisiones de compra o incluso influir en elecciones políticas. En lugar de esperar a que un usuario realice una búsqueda o exprese su interés de manera activa, estas herramientas predecirían las necesidades y deseos del usuario antes de que se manifiesten, haciéndolo más susceptible a ofertas personalizadas.
Este tipo de marketing basado en la predicción de intenciones va más allá de las técnicas actuales de publicidad dirigida. En lugar de mostrar anuncios basados en la actividad pasada del usuario, la IA conversacional buscaría prever y dirigir sus futuras decisiones, como la compra de productos, la contratación de servicios (como alquiler de autos o reservas en hoteles), o incluso la elección de un candidato político.
¿Dónde está la línea entre persuasión y manipulación?
Uno de los puntos más críticos del artículo de los investigadores es el potencial de manipulación social a gran escala. Este tipo de “economía de la intención” no solo afecta al consumidor en su capacidad de tomar decisiones informadas, sino que también podría tener implicaciones mucho más amplias, como la alteración de elecciones democráticas. La IA conversacional, al tener la capacidad de predecir y manipular las decisiones de los usuarios, podría estar al servicio de intereses comerciales o políticos, erosionando la autonomía individual y la libertad de elección.
Jonnie Penn, coautor del estudio, subraya la necesidad de reflexionar sobre cómo este tipo de tecnologías podrían impactar las aspiraciones humanas, como la libre elección en elecciones, una prensa libre y la competencia leal en el mercado. La capacidad de una IA para leer, analizar y predecir las intenciones de un individuo de manera tan profunda puede hacer que las decisiones personales se vean comprometidas por fuerzas externas.
El desafío de las empresas tecnológicas
Grandes empresas tecnológicas como OpenAI (desarrolladora de ChatGPT), Shopify, Nvidia, Meta y Apple ya están explorando y desarrollando estas tecnologías persuasivas. Aunque la IA tiene el potencial de mejorar la experiencia del usuario, también presenta una amenaza latente en términos de manipulación. Con la creciente capacidad de la IA para procesar enormes cantidades de datos personales y emocionales, el riesgo de que estas herramientas se utilicen para influir de manera encubierta en las decisiones de los usuarios se vuelve más palpable.
Mantente al tanto de las noticias más importantes de Chiapas en todas las plataformas de Mundo Ejecutivo y en sus redes social
 conversacional está avanzando, y con ella, una nueva era de interacciones en línea que podrían cambiar.){kind=link}