En un trabajo publicado por Yaqub Chaudhary y Jonnie Penn en el Harvard Data Science Review[1] se propone reflexionar en torno al concepto de “economía de la intención”, al que aludiremos brevemente en esta oportunidad en tanto permite agregar elementos de juicio y capas de análisis para fortalecer nuestra valoración de las tecnologías emergentes.
Delimitación conceptual
Los autores aluden a la “economía de la intención” como producto de la capacidad de captura y comercialización de datos conductuales y psicológicos asociada a sistemas de inteligencia artificial, específicamente los que han dado en llamarse “modelos de lenguaje grandes” (large language models -LLMs-).
Se trata de una extensión de la economía de la atención, fenómeno caracterizado por la comoditización de la atención de las personas. En la era del Big Data y de la existencia de una cantidad abrumadora de datos vinculados a los hábitos de las personas, su salud, sus predilecciones de consumo o sus opciones políticas, por ejemplo, se compite por capturar la atención de las personas, desplegando estrategias de oferta de productos, contenidos y prestaciones. La atención de las personas se ha convertido en este contexto en un comodity.
En ese contexto, la economía de la intención representaría una evolución de aquella, en la que las motivaciones y deseos de los usuarios se consolidan como un nuevo objeto de comercio. La cosecha de datos y la monetización de las intenciones de los usuarios, principalmente a partir de su actividad en línea y del uso de LLMs, permiten identificar tendencias, elecciones, cómo piensan y qué sienten.
Comentando el trabajo de Penn y Chaudhary en su columna habitual en el diario “Il Sole”, Paolo Benanti sostiene que “(…) gracias a las inteligencias artificiales (IA) nace la economía de las intenciones, es decir, la economía de la atención ‘seguida en el tiempo’. La economía de la intención es de hecho la profilación de cómo la atención y el estilo comunicativo de los usuarios se relacionan con los patrones de comportamiento y las elecciones que terminan por hacer” [la traducción nos pertenece][2].
Relevancia bioética
Surge del trabajo comentado que “ya se están explorando estas herramientas para obtener, inferir, recopilar, registrar, comprender, pronosticar y, en última instancia, manipular, modular y mercantilizar los planes y propósitos humanos, tanto mundanos (por ejemplo, la selección de un hotel) como profundos (por ejemplo, la selección de un candidato político)”[3] [la traducción nos pertenece].
A medida que sistemas basados en IA emergen, evolucionan y amplían su espectro, la predicción e, incluso, la manipulación de las intenciones humanas podría representar peligros concretos en lo relativo a los hábitos de consumo y al modo de concebir la salud, aumentando los riesgos de medicalización de la vida cotidiana y de mercantilización de la salud.
La dinámica de mercado descripta por los autores podría no sólo poseer un impacto en términos comerciales -los que a priori nos resultan ajenos- sino que también plantea serias preguntas sobre el ejercicio del poder y la ética en la manipulación de las intenciones humanas en el ámbito de la salud.
El dato dado es fruto de la información personal obtenida en el marco de las redes sociales, de las plataformas digitales, del uso de dispositivos personales de comunicación y de la creciente utilización de aplicaciones y soluciones tecnológicas para llevar a cabo operaciones diarias. Uno de los desafíos fundamentales es dimensionar la cantidad de información brindada y en establecer el destino y el uso al que se hace de esa información.
Profundizar la comprensión del fenómeno
Imagina Benanti “un mañana que podría no ser más el fruto de la mezcla de la libertad individual con la historia, sino de una acción de nudging algorítmico[4] en un mercado de profilaciones algorítmicas. Pero aún más, esta frontera nos pide, sin temor a plantear preguntas difíciles sobre cuánto deben, legítimamente, las grandes empresas internacionales, o incluso nacionales, ser capaces de guiar la intencionalidad de los ciudadanos. Está en juego mucho más que la economía; quizás estamos amenazando las bases de una convivencia democrática” [la traducción nos pertenece][5].
Para mitigar los riesgos de intervenciones comerciales y/o políticas más o menos agresivas que pudieran amenazar la autonomía personal, habremos de estudiar el proceso brevemente aludido, aportando una mirada crítica desde cada una las disciplinas asociadas, procurando poner a la economía en perspectiva, en relación con la naturaleza humana.
Tal como surge de Antiqua et nova, documento publicado recientemente por el Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación para abordar la relación entre la inteligencia artificial y la inteligencia humana, “(…) Como cualquier producto del ingenio humano, la IA también puede orientarse hacia fines positivos o negativos. Cuando se utiliza de manera que respete la dignidad humana y promueva el bienestar de los individuos y las comunidades, puede contribuir favorablemente a la vocación humana. Sin embargo, como en todas las esferas en las que los seres humanos están llamados a tomar decisiones, la sombra del mal también se extiende aquí. Allí donde la libertad humana permite la posibilidad de elegir lo que es malo, la valoración moral de esta tecnología depende de cómo sea orientada y empleada”[6].
El llamado a integrar un balance en clave humanista responde a un posicionamiento concreto en relación con el valor de la persona humana, al carácter instrumental de los frutos de su inteligencia y a la prioritaria búsqueda del bien común.
Informe de Leonardo Pucheta
[1] Yaqub Chaudhary y Jonnie Penn, (2024). Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models. Harvard Data Science Review, (Special Issue 5). https://doi.org/10.1162/99608f92.21e6bbaa [Último acceso el 12/2/2025].
[2] Paolo Benanti, Se le aziende guidano l’intenzionlitá dei cittadini. En línea en: https://24plus.ilsole24ore.com/sez/opinioni.
[3] Yaqub Chaudhary y Jonnie Penn, Op. Cit.
[4] Por nudging algorítmico se entiende al conjunto de pequeñas intervenciones que pueden ir sutilmente conduciendo el comportamiento de las personas, en principio, sin condicionar definitivamente la libertad de elección.
[5] Paolo Benanti, Op. Cit.
[6] Antiqua et Nova, disponible en línea en https://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_sp.html [Último acceso el 12/2/2025].