Inteligencia artificial y pulsión. Operatividad del hook model y affective computing en plataformas digitales

Autores/as

DOI:

https://doi.org/10.36390/telos263.05

Palabras clave:

Psicopoder, Gubernamentalidad Algorítmica, Affective Computing, Hook Model, Dispositivo Pulsional, Capitalismo de Plataformas

Resumen

Actualmente, asistimos a la consolidación de un capitalismo de plataformas que basa gran parte de su economía en la producción de perfiles de comportamiento que buscan dirigir las acciones de los usuarios hacia fines privados. Mediante la asociación de técnicas de conductismo radical con tecnologías algorítmicas de procesamiento de datos se ha intensificado y consolidado una fuerza que Bernard Stiegler ha recogido bajo el nombre de psicopoder. Este artículo tiene como objetivo mostrar cómo ello se consigue a partir del despliegue de dos tecnologías de poder en la arquitectura de las plataformas digitales: el Affective Computing y el Hook Model. Mediante un estudio etnográfico de la red BeReal mostramos cómo estas dos tecnologías consiguen, primero, capturar la atención de los usuarios y crear hábitos de uso y, segundo, promover la circulación de emociones para que éstas puedan ser relacionadas con contextos concretos y datificadas para elaborar perfiles de comportamiento. Finalmente, realizamos un ejercicio teórico para argumentar que ambas tecnologías de control son elementos clave de un nuevo dispositivo de control al que llamamos “pulsional” y mediante el cual se consigue disparar una acción en los individuos que no pasa por su reflexión consciente, lo que tiene consecuencias nocivas para el ejercicio de su libertad.

Visitas: 527Descargas: 357

Descargas

Los datos de descarga aún no están disponibles.

Referencias

Agamben, G. (2014). Qué es un dispositivo. Seguido de El Amigo y La iglesia y el Reino. Adriana Hidalgo Editora.

Ahmed, S. (2004). Affective Economies. Social Text, 22(2), 117-139. https://doi.org/10.1215/01642472-22-2_79-117

Angerer, M-L. y Bösel, B. (2016). Total Affect Control: Or: Who’s Afraid of a Pleasing Little Sister?, Digital Culture & Society, 2(1), 41-52. https://doi.org/10.14361/dcs-2016-0104

Arthur, C. (30 de junio de 2014). Facebook emotion study breached ethical guidelines, researchers say. The Guardian. https://www.theguardian.com/technology/2014/jun/30/facebook-emotion-study-breached-ethical-guidelines-researchers-say

Bachrach, Y., Kosinski, M., Graepel, T., Kohli, P. y Stillwell, D. (2012). Personality and patterns of Facebook usage. Proceedings of the 4th Annual ACM Web Science Conference, 24-32. https://doi.org/10.1145/2380718.2380722

Bentes, A. (2019). A gestão algorítmica da atenção: enganchar, conhecer e persuadir. En F. Polido, L. Anjos y L. Brandão (Orgs.), Políticas, internet e sociedade (pp. 222-234). IRIS.

Bentes, A. (2022). O modelo do gancho e a formação de hábitos: Tecnobehaviorismo, capitalismo de vigilância e economia da atenção. Disertaciones: Anuario electrónico de estudios en Comunicación Social, 15(2), 1-19. https://doi.org/10.12804/revistas.urosario.edu.co/disertaciones/a.11342

BeReal (junio de 2024). BeReal. Privacy Policy. Bereal.com. Recuperado el 26 de Julio de 2024 de https://bereal.com/es/politica-de-privacidad/

Blackman, L. (2008). Affect, Relationality and the `Problem of Personality’. Theory Culture & Society, 25, 23-47. https://doi.org/10.1177/0263276407085157

Blackman, L. y Venn, C. (2010). Affect. Body & Society, 16(1), 7-28. https://doi.org/10.1177/1357034X09354769

Boffone, T. (2022). Do You Want to Make a TikTok? Is It Time to BeReal?: Gen Z, Social Media, and Digital Literacies. Journal of Language & Literacy Education, 18(2), 1-7. http://jolle.coe.uga.edu/wp-content/uploads/2022/12/Boffone-2022-Final-1.pdf

Bösel, B. (2018). Affect Disposition(ing): A Genealogical Approach to the Organization and Regulation of Emotions. Media and Communication, 6(3), 15-21. https://doi.org/10.17645/mac.v6i3.1460

Bruno, F. (2013). Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Sulina.

Bruno, F.G., Bentes, A.C.F. y Faltay, P. (2019). Economia psíquica dos algoritmos e laboratório de plataforma: Mercado, ciência e modulação do comportamento. Revista FAMECOS, 26(3), e33095. https://doi.org/10.15448/1980-3729.2019.3.33095

Bruno, F. y Rodríguez, P.M. (2021). The Dividual: Digital Practices and Biotechnologies. Theory, Culture & Society 39(3): 1-24. https://doi.org/10.1177/02632764211029356

Bulchand-Gidumal, J. (2023). The case of BeReal and spontaneous online social networks and their impact on tourism: Research agenda. Current Issues in Tourism, 27(1), 7-11. https://doi.org/10.1080/13683500.2023.2191174

Cadwalladr, C. y Graham-Harrison, E. (17 de marzo de 2018). Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach. The Guardian. https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election

Ceccacci, S., Generosi, A., Cimini, G., Faggiano, S., Giraldi, L. y Mengoni, M. (2021). Facial coding as a mean to enable continuous monitoring of student’s behavior in e-Learning. En: Proccedings of the First Workshop on Technology Enhanced Learning Environments for Blended Education, Foggia, 20–21 Enero 2021. CEUR-WS.

Celis Bueno, C. (2020). The Face Revisited: Using Deleuze and Guattari to Explore the Politics of Algorithmic Face Recognition. Theory, Culture & Society, 37(1), 73-91. https://doi.org/10.1177/0263276419867752

Chen, H., Chen, H. y Tian, X. (2022). The dual-process model of product information and habit in influencing consumers’ purchase intention: The role of live streaming features. Electronic Commerce Research and Applications, 53, 101150. https://doi.org/10.1016/j.elerap.2022.101150

Chen, W., Rudovic, O.O. y Picard, R.W. (2017). GIFGIF+: Collecting emotional animated GIFs with clustered multi-task learning. En: 2017 Seventh International Conference on Affective Computing and Intelligent Interaction (ACII), San Antonio, 23-26 Octubre 2017. Washington DC: IEEE Computer Society, 510-517. https://doi.org/10.1109/ACII.2017.8273647

Choi, Y., Wen, H., Chen, M. y Yang, F. (2021). Sustainable Determinants Influencing Habit Formation among Mobile Short-Video Platform Users. Sustainability, 13(6), 3216. https://doi.org/10.3390/su13063216

Clarke, L. (21 de agosto de 2022). ‘It’s a modern-day Facebook’ – how BeReal became Gen Z’s favourite app. The Observer. https://www.theguardian.com/media/2022/aug/21/its-a-modern-day-facebook-how-bereal-became-gen-zs-favourite-app

Crawford, K. (2021). The Atlas of AI. Power, Politics, and the Planetary Costs of Artifical Intelligence. Yale University Press.

D’Ignazio, C. y Klein, L.F. (2020). Data Feminism. The MIT Press.

D’Mello, S., Graesser, A., Schuller, B. y Martin, J. C. (Eds.). (2011). Affective Computing and Intelligent Interaction. Part II. Springer-Verlag Berlin Heidelberg.

Exposito, M., Hernandez, J. y Picard, R.W. (2018). Affective keys: Towards unobtrusive stress sensing of smartphone users. Proceedings of the 20th International Conference on Human-Computer Interaction with Mobile Devices and Services Adjunct, 139-145. https://doi.org/10.1145/3236112.3236132

Eyal, N. (2014). Hooked. How to build habit-formation products. Penguin Random House.

Flyvbjerg, B. (2004). “Cinco malentendidos acerca de la investigación mediante estudios de caso”. Reis. 106(04): 33-62. http://dx.doi.org/10.2307/40184584

Foucault, M. (1995). Discipline and Punish: The Birth of the Prision. Vintage Books.

Foucault, M. (2009). Security, Territory and Population: Lectures at the Collège de France, 1977-1978. Picador.

Foucault, M. (2010). The Birth of Biopolitics: Lectures at the Collège de France, 1978-1979. Picador.

Geertz, C. (1992). Descirpción densa: hacia una teoría interpretativa de la cultura en C. Geertz La interpretación de las culturas (pp.19-40). Paidós.

Gellman, B., Blake, A. y Miller, G. (9 de junio de 2013). Edward Snowden comes forward as source of NSA leaks. Washington Post. https://www.washingtonpost.com/politics/intelligence-leaders-push-back-on-leakers-media/2013/06/09/fff80160-d122-11e2-a73e-826d299ff459_story.html

Gerlitz, C. y Helmond, A. (2013). The like economy: Social buttons and the data-intensive web. New Media & Society, 15(8), 1348-1365. https://doi.org/10.1177/1461444812472322

Henriques, J. (2010). The Vibrations of Affect and their Propagation on a Night Out on Kingston’s Dancehall Scene. Body & Society, 16(1), 57-89. https://doi.org/10.1177/1357034X09354768

Kilb, M. y Labudek, S. (2022). Effects of behavioral performance, intrinsic reward value, and context stability on the formation of a higher-order nutrition habit: An intensive longitudinal diary study. International Journal of Behavioral Nutrition and Physical Activity, 19(1), 105. https://doi.org/10.1186/s12966-022-01343-8

Kim, M.K. y Ketenci, T. (2020). The role of expressed emotions in online discussions. Journal of Research on Technology in Education, 52(1), 95-112. https://doi.org/10.1080/15391523.2019.1697861

Kosinski, M.; Stillwell, D. y Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15), 5802-5805. https://doi.org/10.1073/pnas.1218772110

Kramer, A.D.I., Guillory, J.E. y Hancock, J.T. (2014). Experimental evidence of massive-scale emotional contagion through social networks. Proceedings of the National Academy of Sciences, 111(24), 8788-8790. https://doi.org/10.1073/pnas.1320040111

Lally, P. y Gardner, B. (2013). Promoting habit formation. Health Psychology Review, 7(1), S137-S158. https://doi.org/10.1080/17437199.2011.603640

Latour, B. (2005). Reassembling the social. An introduction to actor-network-theory. Oxford University Press.

Levin, S. (1 de mayo de 2017). Facebook told advertisers it can identify teens feeling «insecure» and «worthless». The Guardian. https://www.theguardian.com/technology/2017/may/01/facebook-advertising-data-insecure-teens

Lopes, C.E. (2010). O Behaviorismo Radical. En A. Ferreira (Org.), A pluralidade do campo psicológico: principais abordagens e objetos de estudo (pp. 91-108). Editora ufrj.

Lury, C. y Day, S. (2019). Algorithmic Personalization as a Mode of Individuation. Theory, Culture & Society, 36(2), 17-37. https://doi.org/10.1177/0263276418818888

Massumi, B. (2002). Parables for the virtual. Movement, affect, sensation. Duke University Press

Mistreanu, S. (3 de abril de 2018). China is implementing a massive plan to rank its citizens, and many of them want in. Foreign Policy. https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/

Nemorin, S. (2017). Affective capture in digital school spaces and the modulation of student subjectivities. Emotion, Space and Society, 24, 11-18. https://doi.org/10.1016/j.emospa.2017.05.007

Parisi, L. (2016). Automated Thinking and the Limits of Reason. Cultural Studies ↔ Critical Methodologies, 16(5), 471-481. https://doi.org/10.1177/1532708616655765

Pasquinelli, M. y Joler, V. (2020). The Nooscope manifested: AI as instrument of knowledge extractivism. AI & Society, 36(2021), 1263-1280. https://doi.org/10.1007/s00146-020-01097-6

Picard, R.W. (1997). Affective computing. MIT Press.

Picard, R.W. (2003). Affective computing: Challenges. International Journal of Human-Computer Studies, 59(1), 55-64. https://doi.org/10.1016/S1071-5819(03)00052-1

Rodríguez, P.M. (2019). Las palabras en las cosas. Saber, poder y subjetivación entre algoritmos y moléculas. Editorial Cactus.

Rouvroy, A. y Berns, T. (2016). Gubenamentalidad algorítmica y perspectivas de emancipación. ¿La disparidad como condición de individuación a través de la relación? Agenda Filosófica, 1(2016): 88-116. https://www.academia.edu/30732187/Gubernamentalidad_algori_tmica_y_perspectivas_de_emancipacio_n_La_disparidad_como_condicio_n_de_individuacio_n_a_trave_s_de_la_relacio_n_Antoinette_Rouvroy_y_Thomas_Berns_Traduccio_n_de_Ernesto_Feuerhake_Participo_en_la_revisio_n_Zeto_Bo_rquez_

Rovira Martorell, J., Tirado, F. Gálvez, A. (2024). Attention wars, psychopower and platform environments: An autoethnographic study on BeReal. Emotion, Space and Society, 52(2024), 101026. https://doi.org/10.1016/j.emospa.2024.101026

Simondon, G. (2015). La individuación a la luz de las nociones de forma e información. Editorial Cactus.

Srnicek, N. (2018). Capitalismo de plataformas. Caja Negra Editora.

Stiegler, B. (2008). Technics and Time, 2: Disorientation. Stanford University Press.

Stiegler, B. (2010). Taking Care of Youth and the Generations. Stanford University Press.

Stiegler, B. (2013). What Makes Life Worth Living: On Pharmacology. Polity Press.

Stiegler, B. (2016). Automatic Society. Volume 1. The future of work. Polity Press.

Stiegler, B. (2020). Nanjing Lectures (2016-2019). Open Humanities Press.

Sunstein, C.R. y Thaler, R.H. (2009). Nudge: Improving Decisions about Health, Wealth and Happiness. Penguin Random House.

Verplanken, B. (Eds.). (2018). The psychology of the habit. Theory, Mechanisms, Change and Contexts. Springer Nature.

Williams, J. (2018). Stand Out of Our Light. Freedom and Resistance in the Attention Economy. Cambridge University Press.

Williamson, B. (2017). Moulding student emotions through computational psychology: Affective learning technologies and algorithmic governance. Educational Media International, 54(4), 267-288. https://doi.org/10.1080/09523987.2017.1407080

Wu, A.X. (2022). The Ambient Politics of Affective Computing. Public Culture, 34(1), 21-45. https://doi.org/10.1215/08992363-9435427

Zuboff, S. (2018). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Hachette USA.

Publicado

2024-09-14

Número

Sección

Artículos de investigación

Cómo citar

Rovira Martorell, J., & Tirado, F. (2024). Inteligencia artificial y pulsión. Operatividad del hook model y affective computing en plataformas digitales. Telos: Revista de Estudios Interdisciplinarios en Ciencias Sociales, 26(3), 843-860. https://doi.org/10.36390/telos263.05