Joan Rovira Martorell
Universitat Autònoma de Barcelona. Departamento de Psicología Social. Barcelona (España).
https://orcid.org/0000-0001-5638-1808
Joan.Rovira.Martorell@uab.cat
Francisco Tirado
Autor de correspondencia. Universitat Autònoma de Barcelona. Departamento de Psicología Social. Barcelona (España).
https://orcid.org/0000-0001-7093-056X
FranciscoJavier.Tirado@uab.cat
RECIBIDO: 14/05/2024
ACEPTADO: 24/08/2024
PUBLICADO: 15/09/2024
| Cómo citar: Rovira Martorell, J., Tirado, F. (2024). Inteligencia artificial y pulsión. Operatividad del hook model y affective computing en plataformas digitales. Telos: Revista de Estudios Interdisciplinarios en Ciencias Sociales, 26(3), 843-860. www.doi.org/10.36390/telos263.05 |
Actualmente, asistimos a la consolidación de un capitalismo de plataformas que basa gran parte de su economía en la producción de perfiles de comportamiento que buscan dirigir las acciones de los usuarios hacia fines privados. Mediante la asociación de técnicas de conductismo radical con tecnologías algorítmicas de procesamiento de datos se ha intensificado y consolidado una fuerza que Bernard Stiegler ha recogido bajo el nombre de psicopoder. Este artículo tiene como objetivo mostrar cómo ello se consigue a partir del despliegue de dos tecnologías de poder en la arquitectura de las plataformas digitales: el Affective Computing y el Hook Model. Mediante un estudio etnográfico de la red BeReal mostramos cómo estas dos tecnologías consiguen, primero, capturar la atención de los usuarios y crear hábitos de uso y, segundo, promover la circulación de emociones para que éstas puedan ser relacionadas con contextos concretos y datificadas para elaborar perfiles de comportamiento. Finalmente, realizamos un ejercicio teórico para argumentar que ambas tecnologías de control son elementos clave de un nuevo dispositivo de control al que llamamos “pulsional” y mediante el cual se consigue disparar una acción en los individuos que no pasa por su reflexión consciente, lo que tiene consecuencias nocivas para el ejercicio de su libertad.
Palabras clave: Psicopoder; Gubernamentalidad Algorítmica; Affective Computing; Hook Model; Dispositivo Pulsional; Capitalismo de Plataformas.
We are currently witnessing the rise of a platform capitalism that bases a significant part of its economy on producing behavioral profiles to direct users' actions towards private ends. By associating radical behaviorism techniques with algorithmic data processing technologies, a force that Bernard Stiegler has identified as "psychopower" has intensified and consolidated. This article aims to demonstrate how this is achieved by deploying two control technologies in the architecture of digital platforms: Affective Computing and the Hook Model. Through an ethnographic study on the BeReal social network, we show how these two technologies first capture users' attention and create usage habits and second, promote the circulation of emotions so that these can be linked to specific contexts and datafied to develop behavioral profiles. Finally, we conduct a theoretical exercise to argue that both control technologies are key elements of a new power dispositif that we call "pulsional," which triggers an action in individuals that bypasses their conscious reflection, leading to detrimental consequences for the exercise of their freedom.
Key words: Psychopower; Algorithmic Governmentality; Affective Computing; Hook Model; Pulsional Dispositif; Platform Capitalism.
En la última década ha surgido una importante preocupación acerca de cómo nuestras conductas son monitorizadas y manipuladas algorítmicamente por gobiernos y compañías privadas. Ello ha quedado patente con escándalos como la vigilancia total de la población por parte de la CIA y la NSA revelada por Edward Snowden (Gellman et al., 2013), el experimento de contagio emocional llevado a cabo por Facebook sin el consentimiento de los usuarios (Arthur, 2014), la intervención de Cambridge Analytica en las elecciones estadounidenses y en la votación del Brexit (Cadwalladr y Graham-Harrison, 2018) o la implementación del sistema de crédito social en China (Mistreanu, 2018). Éstos y otros hechos similares han sido recogidos con detalle en la obra de Zuboff (2018) bajo el concepto de Capitalismo de la Vigilancia, que usa para describir las nuevas formas de gobierno de la conducta basadas en la captura y procesamiento de datos a escala masiva.
Los datos que procesan las empresas y organizaciones del Capitalismo de la Vigilancia son generados principalmente por las actividades diarias de los individuos en las plataformas digitales. Éstas son infraestructuras digitales que intermedian entre diferentes tipos de usuarios -clientes, anunciantes, proveedores de servicios, etc.- y suelen incorporar herramientas para que los propios usuarios puedan diseñar sus productos (Srnicek, 2018). Así, se posicionan como “el terreno sobre el que tienen lugar” las actividades de los usuarios lo que a su vez les “confiere acceso privilegiado para registrarlas” (Srnicek, 2018: 46). A partir del procesamiento de los datos recopilados de los rastros que dejan los usuarios en las plataformas digitales se generan perfiles comportamentales que son usados para influir en sus conductas (Bruno, 2013). Esto se consigue con una asociación entre tecnologías algorítmicas (Rouvroy y Berns, 2016), como la inteligencia artificial, y técnicas psicológicas del conductismo radical (Lopes, 2010), a partir de las cuales se actúa sobre el ambiente digital para producir los comportamientos deseados en los usuarios (Zuboff, 2018). Tal asociación entre tecnología y técnicas psicológicas ha consolidado un nuevo tipo de poder que ya no actúa sobre el cuerpo biológico individual y poblacional (Foucault, 1995; 2010), sino sobre la psique de los individuos y grupos. Bernard Stiegler (2010; 2013; 2020) ha denominado psicopoder a esta nueva fuerza.
Este texto se enmarca en el anterior debate y su principal objetivo es mostrar que esta asociación entre tecnologías algorítmicas y técnicas de conductismo radical se basan en dos tecnologías de poder que se encuentran integradas de manera constitutiva en sus arquitecturas: el “Hook Model” y el “Affective Computing”. Argumentaremos, además, que ambas tecnologías constituyen un nuevo dispositivo de poder (Agamben, 2014) al que hemos llamado “pulsional". Todo esto lo ilustraremos a partir de un análisis de la red social BeReal que se realizó durante el año 2023 (Rovira Martorell et al, 2024)
Para ello, en la primera y segunda sección exploraremos los conceptos de “psicopoder” y “tecnobehaviorismo” con el fin de comprender cómo funciona la asociación entre las tecnologías algorítmicas y las técnicas de conductismo radical y su impacto en la libertad de los individuos; en la tercera sección analizaremos el “Affective Computing” como tecnología para modular las emociones a partir del ambiente; en la cuarta sección presentaremos el Hook Model como tecnología para captación de la atención y la generación de hábitos; en la quinta sección ilustraremos cómo se despliegan estas dos tecnologías de poder en la red social BeReal; y, por último, sostendremos que tanto el Affective Computing como el Hook Model son las tecnologías privilegiadas de un dispositivo de poder que denominaremos pulsional.
Como hemos mencionado en la introducción, esta fuerza ejercida sobre la psique ha sido conceptualizada por Bernard Stiegler bajo el concepto de psicopoder (2010; 2013; 2020). Éste se enmarca dentro de la denominada “organología general”, el proyecto filosófico del autor. Stiegler, siguiendo la antropología de Leroi-Gourhan, parte de la premisa que la hominización y el posterior desarrollo de la humanidad se pueden entender como una exteriorización de los órganos biológicos mediante la técnica (Stiegler, 2008; 2018, 2020). Así, por ejemplo, un martillo puede considerarse una extensión del brazo que le confiere al cuerpo más fuerza y precisión. Tomando esta posición, el autor distingue tres tipos de órganos: 1) Los biológicos (órganos orgánicos); 2) los técnicos (órganos inorgánicos); y 3) los sociales (exorganismos institucionales). Las tres tipologías de órganos, argumenta Stiegler, siempre aparecen interrelacionadas y ensambladas y participan de cualquier proceso de individuación en el sentido propuesto por Simondon.
Para Simondon (2015), el individuo siempre es producto de un proceso inacabado de individuación dentro un sistema, combinando información preindividual -como el código genético- con información extraindividual -como son las relaciones con otros individuos, objetos, la sociedad o la cultura-. De este modo, individuarse es siempre individuarse con, es decir, que toda individuación es siempre una transindividuación. A partir de esta relación sistémica se produce un individuo metaestable, ya que nunca está acabado y siempre está inmerso en nuevos procesos de transindividuación. Para la organología de Stiegler, los procesos de transindividuación conscientes son imprescindibles para la consecución libertad. Como el individuo orgánico siempre está ensamblado a órganos inorgánicos y exorganismos sociales, la técnica es inseparable de la existencia de los procesos de transindividuación (Stiegler, 2020). El autor recoge bajo el concepto de pharmakon dos formas en que la técnica puede contribuir a la transindividuación, una como medicina y la otra como veneno (Stiegler, 2013; 2016; 2020):
Cuando Stiegler habla de psicopoder se refiere a aquella fuerza ejercida a través de la técnica sobre la psique humana con tal de hacerla calculable y moldeable (Stiegler, 2010; 2013; 2020). Hay que resaltar que para el autor la psique es mucho más que sus las funciones cerebrales y neuronales, implica toda una “economía libidinal” compuesta de energías en forma de afectos y atenciones. El psicopoder es una fuerza que ya operaba con técnicas como la escritura o los mass media del siglo XX, pero que ha cobrado una especial relevancia con la actual datificación algorítmica. En su versión tóxica, las técnicas de psicopoder capturan la energía libidinal de los individuos para dirigir sus conductas hacia fines privados, cortocircuitando así los procesos de transindividuación. De este modo, la energía libidinal quedaría reducida a una energía pulsional que impide la reflexión consciente (Stiegler, 2013).
En nuestros días, la capacidad de capturar la energía libidinal del psicopoder habría escalado exponencialmente con la conjunción entre las tecnologías psi y la gran capacidad de computación algorítmica, principalmente vinculada a la inteligencia artificial (Stiegler, 2020). El actual psicopoder algorítmico operaría de tres formas distintas sobre la masa social para capturar su energía libidinal (Stiegler, 2016): 1) fomentando la autoproducción y la captura de datos personales en las plataformas digitales; 2) cortocircuitando los procesos de transindividuación vía el procesamiento de datos personales; y 3) interviniendo en el comportamiento a partir de la calculabilidad de la psique.
Los rastros que dejan los individuos en las plataformas digitales (fragmentos infraindividuales) son capturados y procesados de forma masiva y en tiempo real con el objetivo de elaborar perfiles (correlaciones supraindividuales) con los que predecir y actuar sobre conductas y acontecimientos futuros (Bruno, 2013). Así, los perfiles no hablan tanto de rasgos intrandividuales como de similitudes interindividuales. Partiendo de la premisa que siempre compartimos características con nuestros semejantes, se predicen estadísticamente los rasgos individuales y se afinan mediante pequeños experimentos que la IA lleva a cabo constantemente (Bruno et al, 2019; Lury y Day, 2019). Por ejemplo, Kosinski et al. (2013) aseguran poder predecir, a partir de 300 likes en la red social Facebook, informaciones sensibles como la edad, el origen o la orientación sexual sin que el usuario las haya aportado a la plataforma. En la misma línea, Bachrach et al. (2012) aseguran poder predecir la personalidad de los usuarios a partir de informaciones en su perfil de Facebook como la dimensión de su red de amigos, el número de fotos subidas o la cantidad de eventos en que ha asistido.
Esto representa una nueva forma de generar conocimiento a partir de la “gran estadística” algorítmica que se despliega. Ésta representa un nuevo instrumento de saber que permite generar conocimiento inductivo a partir del procesamiento de datos de individuos y acontecimientos tomados desde su fragmentalidad o dividualidad (Rodríguez, 2019; Pasquinelli y Joler, 2020; Bruno y Rodríguez, 2021), añadiendo un importante componente de combinatoria y aleatoriedad (Parisi, 2016). Esta nueva forma de generar conocimiento permite el despliegue de lo que Rouvroy y Berns (2016) llaman “gubernamentalidad algorítmica”. Esta no es más que:
un cierto tipo de racionalidad (a)normativa o (a)política que reposa sobre la recolección, la agrupación y el análisis automatizado de datos en cantidad masiva de modo de modelizar, anticipar y afectar por adelantado los comportamientos posibles (96).
Este nuevo tipo de gobierno se caracterizaría por tres particularidades: 1) personaliza la estadística y la norma hasta el punto que ésta casi se individualiza; 2) la norma es completamente inmanente en tanto que se actualiza en tiempo real y 3) opera sin pasar por la consciencia del sujeto, como si éste se adhiriera por defecto a la norma. En este sentido, en la gubernamentalidad algorítmica pierde protagonismo el moldeamiento de consciencias y subjetividades en pro de la acción sobre el comportamiento a partir de la modulación automática y en tiempo real de los ambientes e interacciones sociales (Bruno, 2013; Bentes, 2022).
De esta forma, en la actualidad el psicopoder estaría operando cada vez más a partir de lo que Bentes (2022) ha llamado “tecnobehaviorismo” y que describe como la captura de atenciones y la modulación de comportamientos mediante la conjunción entre el uso de técnicas psi y la gran estadística de la inteligencia artificial. A través de la elaboración algorítmica de perfiles, alimentados con datos referentes a la emocionalidad y a la personalidad de los usuarios (Bruno et al., 2019), se despliega un nuevo modelo económico basado en unas “economías del comportamiento” que implementan un marketing centrado en la personalización y el micro-targeting (Bentes, 2019).
No obstante, todavía resta por analizar cómo el psicopoder, en su forma tecnobehaviorista, opera de forma importante a través del diseño arquitectónico de las plataformas digitales. En ese sentido, nuestro artículo propone que estas arquitecturas incorporan, al menos, dos tecnologías de control: el “Affective Computing” y el “Hook Model”. En las siguientes dos secciones describiremos ambas tecnologías y mostraremos cómo contribuyen a modular y a capturar la circulación de afectos y atenciones.
No obstante, Tejedor y García-Valcárcel (2007)han clasificado en tres categorías las causas del bajo rendimiento estudiantil: institucionales, relacionadas con el profesor y relacionadas con el propio estudiante. Por tal motivo, Lamas (2015), concluye que “para dar respuesta a la preocupación social del bajo rendimiento académico de los estudiantes, se deben analizar distintas variables que puedan influir en dicho rendimiento” (p.343).
Una operación caudal del psicopoder actual es la de datificar los afectos y las emociones de los individuos con el fin de modular su comportamiento de forma sutil e inconsciente. Bösel (2018) traza una pequeña genealogía de la evolución de la concepción del afecto en occidente desde la edad clásica hasta nuestros días. Actualmente, nos encontraríamos en un paradigma “cibernológico” en que el afecto es entendido como información que puede ser usada para modular y optimizar los estados psicológicos. El autor vincula el desarrollo del paradigma cibernológico con la propuesta de Stiegler entorno al psicopoder y, además, señala el Affective Computing como una tecnología privilegiada para la captura de afectos y emociones. En este sentido, las redes sociales son un escenario privilegiado para la producción y el procesamiento de este tipo de datos ya que en ellas se conectan billones de usuarios a diario (Williams, 2018).
El Affetive Computing es un campo de conocimiento desarrollado de forma pionera por la científica del MIT Rosalind W. Picard y que actualmente ha cobrado relevancia, hecho que de refleja en un aumento exponencial de la cantidad de patentes desarrolladas entre 2006 y 2019 (Wu, 2022). Picard (1997) describe el Affective Computing como aquello relacionado con hacer surgir e influenciar las emociones en las relaciones humano-computador y argumenta la importancia que los dispositivos personales puedan reconocer y reproducir emociones para ofrecer una experiencia óptima al usuario.
Sin embargo, la autora advierte que los estados emocionales internos a los individuos son difíciles de aislar, ya que requieren de autoinformes y la variabilidad entre éstos es muy elevada. Como alternativa, propone orientarse a leer cómo se reflejan los estados psicológicos en las personas a partir de palabras, signos y tonos de voz, expresiones faciales o variables fisiológicas (Picard, 1997; D’Mello et al., 2011). Así, para poner algunos ejemplos, se ha buscado medir el afecto en los comentarios de los estudiantes en plataformas educativas (Kim y Ketenci, 2020), a partir del uso de GIFs en las redes sociales (Chen et al., 2017), a través de la presión ejercida con los dedos en el uso de pantallas táctiles (Exposito, et al., 2018) o usando reconocimiento facial a través de las webcams (Ceccacci et al., 2021). No obstante, vuelve a advertir Picard (1997), existe cierta variabilidad entre las expresiones emocionales de los individuos y por ello es imprescindible incluir información sobre el entorno en que se producen. Por lo tanto, el Affective Computing no trata tanto de medir las emociones como las respuestas emocionales a contextos y ambientes concretos (Picard, 2003).
Resulta importante señalar la convergencia del Affective Computing con las teorías del giro afectivo (Massumi, 2002; Ahmed, 2004; Blackman y Venn, 2010). Para estas perspectivas las emociones no están dentro de las cabezas de los individuos, sino que circulan en los medios físico y social moldeando las superficies de los cuerpos. Los cuerpos, a su vez, actúan de mediadores de la circulación de emociones, generando ciertas capacidades de afectar y de ser afectados (Blackman y Venn, 2010; Henriques, 2010). Para los autores del giro afectivo se trata de estudiar cómo circulan las emociones en un ambiente concreto, prestando atención a los mecanismos de transmisión de los afectos y sus relaciones con los cuerpos, los signos y la tecnología (Blackman, 2008). En este sentido, cuestiones como los hábitos, la atención, el ritmo o la intensidad cobran un papel relevante en estos estudios.
El Affective Computing trata de datificar y procesar cómo circulan los afectos en un ambiente concreto, cómo los cuerpos quedan afectados y cómo éstos, a su vez, afectan al ambiente (Angerer y Bösel, 2016). El objetivo es operativizar esta “economía emocional” (Ahmed, 2004) con tal de influir tecnológicamente en ella. En el caso de las plataformas esto se consigue a partir del diseño de arquitecturas digitales que han de favorecer la circulación de afectos a la vez que generar los ambientes deseados para modular de forma propicia los afectos de los usuarios (Nemorin, 2017; Williamson, 2017), desplegando lo que Wu llama una “política del ambiente” (2022).
La invención del “like” por parte de Facebook es un buen ejemplo de diseño de arquitecturas digitales para generar circulación de afectos. A partir del like y, posteriormente, con las reacciones a través de emoticonos, se ha conseguido un buen método para convertir los afectos de los usuarios en datos con el objetivo de venderlos a terceros a la vez que personalizar de forma individual los contenidos que aparecen en pantalla a cada usuario (Gerlitz y Helmond, 2013). En esta línea, Kramer, Guillory y Hancock (2014) mostraron que podían provocar contagio de emociones en los usuarios haciendo aparecer más contenido positivo o negativo en sus interfaces de la plataforma Facebook. Además, señalaron que se produjo un aumento de publicaciones negativas y positivas en función de si se habían sesgado los contenidos en una u otra dirección.
Queda patente la utilidad del Affective Computing como tecnología de psicopoder para capturar y modular la circulación de afectos en las plataformas digitales. Sin embargo, para influenciar sobre el comportamiento, se requiere además de la capacidad de “capturar, movilizar y direccionar la atención de los usuarios” ya que ésta es un recurso limitado (Bentes, 2019: 223). En su desarrollo del “tecnobehaviorimso”, Bentes (2022) señala el Hook Model como el equivalente en cuanto a tecnología de poder del Panóptico de Bentham en la disciplina. Si la vigilancia del panóptico operaba a partir de pequeñas sanciones normalizadoras sobre los cuerpos, el Hook Model se basa en el uso de pequeñas recompensas que modulan los patrones de comportamiento automáticos para generar hábitos con los que capturar atenciones.
El Hook Model fue desarrollado por el diseñador de comportamientos Nir Eyal (2014) con el objetivo de aportar un método para que las plataformas digitales enganchen a sus clientes a los productos y servicios que ofrecen. Tal meta se consigue, en un primer momento, mediante la formación de hábitos para, más tarde, aplicar otras técnicas para dirigir los comportamientos hacia los intereses privados. El método de Eyal se compone de cuatro fases: activación, acción, recompensa variable e inversión.
La activación es la fase en que se llama al usuario a entrar en el entorno de la plataforma digital. Esto se consigue mediante “disparadores” que actúan como señal para desencadenar el comportamiento deseado. Existen dos tipos de disparadores: los externos y los internos. Los externos son aquellos que están integrados en las arquitecturas de las plataformas en forma de “nudges”. Un nudge es cualquier aspecto del diseño de la arquitectura o el ambiente que empuja en una cierta dirección la conducta de las personas sin coartar su libertad de decisión ni incurrir en obligaciones o prohibiciones (Sunstein y Thaler, 2009). Aprovechando tendencias automáticas como la preferencia hacia la opción por defecto, la influencia social o la tendencia a prestar más atención a lo visible, se pueden diseñar entornos que dirijan sutilmente las conductas de las personas hacia una dirección concreta.
Los activadores internos se dan en la propia psicología de los usuarios, vinculando el uso de la plataforma a situaciones y a estados emocionales. Para que esto suceda es necesario que se haya generado un hábito en relación con este vínculo. En términos generales, el hábito es definido como un comportamiento automático que se activa al recibir una señal en un contexto concreto y que requiere de que el mismo comportamiento se haya repetido en varias ocasiones en un tiempo pasado y en un mismo contexto o similar (Lally y Gardner, 2013; Kilb y Labudek, 2022). Los hábitos se forman por la sustitución vía repetición del vínculo entre comportamiento y meta (intencional) por el vínculo entre comportamiento y contexto (no intencional), es decir, lo que en un inicio es una acción buscada conscientemente para llegar a una meta se convierte en un comportamiento automático activado por las señales del entorno (Verplanken, 2018). Eyal señala que los estados emocionales negativos como el aburrimiento, la soledad o la frustración son especialmente prolíficos en tanto que el usuario crea un hábito que asocia el uso de la plataforma a la evasión de estos estados. Facebook, por ejemplo, aseguró poder identificar, a partir del análisis de sus publicaciones, los estados emocionales vulnerables de los adolescentes para lanzar publicidad en el momento adecuado (Levin, 2017).
La segunda fase se refiere a que el usuario sea capaz de llevar a cabo una acción. Para ello, el disparador inicial debe estar acompañado por la motivación y la capacidad individuales para ejecutar el comportamiento. El autor destaca tres principales motivadores: la búsqueda del placer, la esperanza y la aceptación social y la evasión del dolor, el miedo y el rechazo. La capacidad, en cambio, se vincula con la minimización de los recursos invertidos para llevar a cabo la acción, sean esfuerzos físicos, mentales, de tiempo, de coste o de aceptación social. Cuanto más fácil es llevar a cabo una acción más simple es que ésta se convierta en un automatismo que prescinde de la necesidad de motivación, es decir, un hábito (Verplanken, 2018).
La tercera consiste en ofrecer recompensas variadas al usuario. Eyal distingue tres tipos de recompensas diferentes vinculadas a la aceptación social (la más poderosa), a la obtención de recursos y al cumplimiento de metas personales. Además, las recompensas deberán ser variadas para que el usuario siga enganchado. El autor expone que la neurociencia ha demostrado que la sensación de placer se produce en la búsqueda de la satisfacción y no una vez se ha cumplido el objetivo. Así, mantener cierto grado de incertidumbre en la consecución del objetivo es un factor clave para garantizar la satisfacción, que es otro de los elementos clave en la generación de hábitos (Choi et al, 2021; Chen et al., 2022).
Por último, está la fase de búsqueda de inversión por parte del usuario. Una vez se ha creado el hábito y el usuario ha recibido recompensas variables, es momento de demandar de él una inversión en la plataforma. Ésta puede ser monetaria, en forma de contenido o de otro tipo (responder una encuesta, por ejemplo). Después del último paso, el ciclo del Hook Model se repite para sostener el hábito, mantener enganchado al usuario y que siga invirtiendo.
En este apartado recogemos un análisis de la arquitectura de la plataforma social BeReal en relación con las dos tecnologías de control mencionadas: El Hook Model y el Affective Computing. Se seleccionó en su momento BeReal porque es un caso paradigmático de cómo potencialmente se podrían vincular estas dos tecnologías de control. Recordemos que un caso paradigmático es aquel que pone de relieve de forma más explícita las características del fenómeno que se quiere estudiar, siendo interesante porque permite extrapolar ciertas lógicas de funcionamiento más allá del propio caso (Flyvbjerg, 2004). En este sentido, BeReal se convierte en paradigmático por cuatro razones: 1) La aplicación fue lanzada hace pocos años y ha experimentado un gran crecimiento; 2) Su funcionamiento es novedoso y está muy vinculado a la captura de la atención y a la circulación de emociones; 3) Atrae la atención a través de mostrar la vida diaria de los usuarios desde la realidad o la autenticidad; y 4) Ha conseguido ganarse un espacio entre las redes sociales consolidadas.
Los datos presentados provienen de un estudio etnográfico que se realizó en la red social entre los meses de enero y julio de 2023 y que se detalla con más precisión en Rovira Martorell et al. (2024). La recogida de datos se llevó a cabo a través de un diario de campo donde se anotaban las interacciones diarias con la red social -tanto con la propia arquitectura e interfaz de la aplicación como con el contenido concreto de la plataforma- y los efectos emocionales que ésta generaba en el investigador. Éstas interacciones fueron clasificadas en seis ámbitos: “efectos al recibir notificaciones de publicaciones”, “efectos al publicar”, “efectos al recibir notificaciones de interacciones de otros usuarios”, “efectos al interactuar con otros usuarios” y “otras observaciones y reflexiones”. Partiendo del reconocimiento de la agencia de los objetos técnicos en la conformación de la sociedad y la cultura (Latour, 2005), el objetivo principal de la investigación fue el de detectar aquellos elementos de la arquitectura que se podían identificar como nudges y que contribuían a la creación de hábitos, mostrando así cómo BeReal era capaz de capturar la atención de sus usuarios a partir de generar ciertas emociones que se transmitían del espacio virtual al físico. En esta sección, partiendo de los datos recogidos, trataremos, además, de mostrar cómo el propio diseño de BeReal es ideal para aplicar el Affective Computing con el fin de datificar emociones relacionadas con contextos y entornos.
A continuación, presentaremos, a través de una descripción densa, algunos de los resultados de la investigación. La descripción densa, también denominada relato etnográfico, es un tipo de análisis que explica y desarrolla un objeto de estudio, no únicamente enumerando sus características, sino integrando su descripción en un conjunto de tramas de significado e interpretaciones que lo hagan comprensible en un contexto socio-cultural concreto (Geertz, 1992). En este artículo nos basaremos principalmente en los datos recopilados acerca de la arquitectura y la interfaz de la aplicación de BeReal, los cuales analizaremos e interpretaremos a partir de cómo la arquitectura de la plataforma usa nudges para capturar la atención del usuario y, además, cómo ésta contribuye a amplificar la circulación de afectos que son potencialmente datificables a través de las técnicas de Affective Computing.
BeReal es una plataforma digital francesa lanzada en diciembre de 2019, aunque no fue hasta la primavera de 2022 que se popularizó aumentando en número de usuarios y en financiación (Boffone, 2022), llegando a situarse en agosto como la app con más descargas en el Apple Store de Estados Unidos, con un tráfico de 20 millones de usuarios diarios (Clarke, 2022). BeReal pertenece a las llamadas Redes Sociales Espontáneas (SONS, por sus siglas en ingles). La principal característica de este tipo de redes sociales es que buscan garantizar que el contenido producido por los usuarios se acerca al máximo a la realidad y a la autenticidad (Bulchand-Gidumal, 2023). Esto se consigue a partir de la arquitectura de la aplicación, que, por ejemplo, no permite opción de filtros de imagen. BeReal funciona de la siguiente forma:
Una vez por día, la aplicación manda una notificación al usuario avisándolo que es el momento de “publicar un BeReal” y que dispone de dos minutos para hacerlo. El punto clave de BeReal es que la hora de publicación diaria va cambiando y es desconocida por los usuarios, que reciben la notificación de publicar a la vez. La publicación consiste en un montaje entre una foto tomada con la cámara delantera, que captura el contexto, y una con la cámara trasera, que retrata al usuario. Cuando el usuario se lo indica, la aplicación toma automáticamente las dos fotos con unos pocos segundos de margen, de forma que éste solo debe enfocar a su entorno y después posar para el retrato. La aplicación también realiza el montaje de forma automática de manera que rápidamente la publicación está lista. El usuario puede añadir también un breve pie de foto, la geolocalización y, desde mayo de 2023, vincular una canción desde Spotify. También existe la opción de compartir la publicación a través de Instagram y WhatsApp.
En BeReal no se puede publicar libremente, únicamente se puede subir una foto por día y, hasta que el usuario no ha realizado su publicación diaria, éste no pude ver las publicaciones de sus amigos. En este sentido, esta plataforma digital se basa en una escasez de publicaciones que garantiza su autenticidad (Boffone, 2022). Si no se sube la foto dentro de los dos minutos establecidos, la publicación incluirá además la cantidad de tiempo de retraso. En cambio, si la publicación es hecha dentro de los dos minutos establecidos, el usuario recibe el premio de poder publicar dos fotografías más en el momento que desee.
Aunque no existe la opción de “like”, los usuarios pueden intreactuar con las publicaciones de otras personas a través de comentarios y “RealMojis”. Los “RealMojis” consisten en retratos que el usuario hace de sí mismo simulando el emoji con el que quiere reaccionar. Una vez han realizado su publicación diaria, los usuarios pueden ver las fotografías de sus amigos en la red social, así como los comentarios y los RealMojis que ha recibido esa publicación. Al final del día, las publicaciones se borran y solo quedan registradas aquellas que ha realizado el propio usuario en su apartado de “memorias”.
Analizando la arquitectura de esta plataforma a través del Hook Model, encontramos que la llamada a la acción se produce a través de tres disparadores: la propia notificación que indica el momento de publicar, las notificaciones recibidas cada vez que un amigo publica su BeReal y las notificaciones relativas a cuando otro usuario reacciona o comenta tu publicación. Por otra parte, la acción es facilitada en tanto que la aplicación toma las fotografías y realiza automáticamente el montaje, permitiendo la publicación rápida en entornos controvertidos como el trabajo o el espacio público. En este sentido, la rapidez es un factor clave para que las fotografías puedan ser tomadas en el momento en que indica la aplicación. Además, añadir canciones o compartir en otras plataformas, así como el hecho de comentar y reaccionar a las demás publicaciones están a tan solo un clic de distancia. En lo que refiere a las recompensas, éstas se enmarcan en la aceptación social, ya que no se puede participar de la red social si uno no realiza su publicación diaria. Las recompensas sociales son variables en tanto que las interacciones que se producirán con los otros usuarios son diferentes día a día. En BeReal, igual que en muchas redes sociales, la acción se confunde con la inversión en tanto que lo que las plataformas requieren de los usuarios es que participen activamente de la red y contribuyan con contenido e interacciones. Vemos que BeReal cumple los requisitos para crear hábitos y enganchar a sus usuarios: repetición de la acción a lo largo del tiempo, facilidad para llevar a cabo la acción y satisfacción y recompensa social asociadas.
Por otra parte, la arquitectura de BeReal es idónea para la circulación de afectos y que éstos puedan ser capturados en forma de datos por el Affective Computing. El objetivo de que las publicaciones deban producirse, idealmente, dentro de los dos minutos después de recibir la notificación obedece probablemente a captar los diferentes contextos de la vida cotidiana de los usuarios. Esta voluntad queda evidenciada con otro nudge: la aplicación activa la geolocalización por defecto y ésta solo puede ser desactivada en el momento de realizar una publicación, una opción que normalmente suele encontrarse en el menú de opciones de las aplicaciones.
Por otro lado, analizando el formato de las publicaciones, éstas contienen una fotografía del entorno y un retrato, en que normalmente los usuarios expresan facialmente, aunque sea de forma exagerada, su emocionalidad respecto al contexto. Además, hay que sumarle la posibilidad de añadir pies de foto y canciones, que también pueden ser vinculadas fácilmente con estados emocionales. Finalmente, a partir de los RealMojis, los usuarios de la plataforma interactúan entre ellos a través de reacciones emocionales a las publicaciones de los demás, lo que, además de representar una recompensa social para la persona que ha realizado la publicación, permite conocer los afectos que despierta el contexto de la publicación en los otros usuarios.
Ya hemos señalado anteriormente que un requisito importante del actual psicopoder es la capacidad de datificar y procesar afectos vinculados con contextos concretos para capturar la atención, generar hábitos y conducir conductas. Además, el reconocimiento facial en fotografías se ha demostrado una herramienta potente, no solo para leer afectos sino también para deducir informaciones personales como la edad, el género, la raza o la orientación sexual (Celis Bueno, 2020). De esta forma, un usuario que use habitualmente BeReal entregará a la plataforma un reportaje de su vida cuotidiana en forma de los contextos, las ubicaciones y las emociones asociadas a ellas. Además, la plataforma también recopilará los afectos del usuario con respecto a los contextos cotidianos de los demás usuarios y viceversa. En esta línea, si miramos la política de privacidad de BeReal (2024) encontramos que se recopilan, entre otros, “datos de uso” que incluyen “acciones realizadas, incluido el uso de RealMojis, hora de publicación, las veces que volviste a tomar una foto antes de publicarla, número de publicaciones tardías de BeReal, contenido visualizado, interacciones de contenido, eliminaciones, bloqueos, ocultaciones, capturas de pantalla, crash de la aplicacion y registros de eventos”. La mayoría de estos datos pueden ser conservados por la plataforma hasta dos años después de la última conexión del usuario. Aunque aseguran no vender datos a terceras partes, sí que indican que comparten los datos con empresas de publicidad colaboradoras para monetizar la aplicación, entre las cuales encontramos las famosas corporaciones de Amazon, Google y Meta.
En el anterior apartado hemos mostrado cómo la arquitectura de BeReal está atravesada por las tecnologías de control del Hook Model y del Affective Computing. Por un lado, encontramos una serie de nudges que buscan capturar la atención del usuario, como la notificación diaria para publicar o las notificaciones de actividad de los otros usuarios, y facilitadores de la acción, como la toma simultánea de una foto frontal y trasera o el montaje automático de la publicación. Nudges y facilitadores de la acción contribuyen a generar un hábito de uso de la plataforma por parte del usuario. Por otro lado, las interacciones con RealMojis, la vinculación de canciones o las expresiones faciales contribuyen a un intercambio de emociones entre usuarios. Estas emociones, al ser vinculadas con los contextos en que se producen a través de las fotografías frontales y la geolocalización, se vuelven potencialmente datificables por las técnicas del Affective Computing. Hemos mostrado que BeReal comparte esos datos con grandes empresas de publicidad dirigida algorítmicamente, por lo que, aunque no podemos corroborarlo, es muy probable que esos datos se estén usando para inducir al consumo a través de las técnicas tecnobehaivioristas, parecidas a las que hemos encontrado en BeReal, con las que se ejerce el psicopoder actual.
Todo lo anterior señala que el Hook Model y el Affective Computing forman parte de un dispositivo de poder que se despliega en las plataformas digitales y que, a partir de una lógica cibernética de retroalimentación y perfeccionamiento a través del procesamiento de afectos y atenciones datificados, influye en las conductas de los usuarios de forma sutil e irreflexiva. Recordemos que un dispositivo de poder es un conjunto de elementos heterogéneos que responden a una función estratégica y que siempre están inscritos en unas lógicas de saber y de poder (Agamben, 2014). En este sentido, el dispositivo que describimos está compuesto por una serie de elementos que pertenecen a las tecnologías de poder del Hook Model y del Affective Computing: nudges, facilitadores de la acción, recompensas sociales, elementos de interacción entre usuarios, contextos, etc. Además, otros elementos de procesamiento estadístico de datos, como la inteligencia artificial, permiten generar saber en forma de perfiles acerca del comportamiento de los usuarios, a partir del cual se personalizará la interfaz de las plataformas a nivel individual para que el ejercicio del psicopoder a través del Hook Model, el Affective Computing y otras técnicas technobehaviouristas sea óptimo.
Proponemos denominar a este dispositivo “pulsional” ya que su objetivo es influir en la conducta del individuo, no apelando a su racionalidad y subjetividad, sino disparando sus pulsiones de forma no reflexiva. Esto se consigue, como hemos mostrado, diseñando entornos virtuales en dónde se maximiza la circulación de estas pulsiones, de los cuales las redes sociales son un espacio privilegiado, para que puedan ser datificadas y procesadas algorítmicamente para generar un saber estadístico individualizado (Rouvroy y Berns, 2016) que, a su vez, permitirá usar estas pulsiones para guiar la conducta de los usuarios hacia fines privados.
Para mostrar con mayor claridad la particularidad del dispositivo pulsional que planteamos, haremos una comparación con otro dispositivo que también desplegaba su acción de poder a partir de la del diseño de entornos. Nos referimos a lo que Foucault llamó “dispositivo de seguridad” (2009). El autor relacionó el dispositivo de seguridad con el uso en Europa, a partir del siglo XVIII, de la estadística clásica para controlar ciertos factores que atañen a la población en su conjunto. Mientras que la disciplina normaliza el cuerpo individual respecto de un ideal (Foucault, 1995), la seguridad tiene por objetivo normalizar el cuerpo biológico poblacional a partir del cálculo y la optimización estadísticas, manteniéndolo dentro de unos estándares aceptables. Además, la acción ya no se centra en el presente, sino en el futuro, en controlar la aleatoriedad de los sucesos de riesgo biológicos, como por ejemplo las hambrunas o las plagas, a partir de influir en la conducta de los individuos de forma sutil.
Al igual que el dispositivo de seguridad, el pulsional genera una acción sobre el futuro para modulares comportamientos, sin embargo, difiere del primero en varios aspectos: En primer lugar, porque el objetivo principal no es garantizar la seguridad cuerpo poblacional, sino el de maximizar la circulación de atenciones y afectos con tal de datificarlos. En segundo lugar, porque el objeto del poder ya no es la población tomada como unidad, sino una multiplicidad de perfiles, lo que permite casi individualizar la acción del poder. En tercer lugar, porque no despliega una estadística clásica basada en la norma general, sino una “gran estadística” que permite producir conocimiento de forma individualizada. En cuarto lugar, porque el entorno sobre el que actúa este dispositivo no es el de la ciudad, sino el de las plataformas digitales, lo que permite modelar de forma individual y en tiempo real sus interfaces. En quinto lugar, porque el poder que despliega no actúa sobre el cuerpo biológico (biopoder), sino sobre la psique colectiva e individual (psicopoder). Y, por último, porque no tiene por objetivo alcanzar un norma o estándar de seguridad aceptable, sino que sigue una lógica cibernética de retroalimentación que busca una optimización que nunca se alcanza de forma plena. Por tanto, el objetivo del dispositivo pulsional ya no sería el de garantizar unos estándares de seguridad, sino el de activar un estado pulsional permanente en los individuos para que sigan consumiendo y generando datos. Como no trata de alcanzar una norma delimitada, este dispositivo toma una lógica cibernética de retroalimentación en tanto que la propia captura de datos es usada para seguir maximizando su circulación y mantener el estado pulsional en los individuos. De esta forma, el dispositivo pulsional se convierte en un fin en sí mismo, produciendo que individuos y perfiles se asemejen al máximo y generando que los primeros sigan actuando de forma similar con tal de predecir sus patrones de consumo (Lury y Day, 2019).
Actualmente asistimos a un datificación algorítmica de los comportamientos a partir de los rastros que dejan los usuarios en las plataformas digitales (Bruno, 2013; Rouvroy y Berns, 2016; Zuboff, 2018) que se despliega gracias a una asociación entre técnicas de conductismo radical y tecnologías de procesamiento masivo de datos (Bentes, 2019; 2022). Esta conjunción ha intensificado la toxicidad del psicopoder actual, el cual captura y modula las atenciones y los afectos de los individuos, activando un estado pulsional en ellos y cortocircuitando su capacidad de transindividuación y pensamiento consciente (Stiegler, 2016; 2020).
En este artículo hemos ilustrado cómo el psicopoder actual se despliega en las plataformas digitales, al menos, a partir de dos tecnologías de control: el Affective Computing y el Hook Model. Mientras que la primera pretende datificar cómo son afectados los individuos en ciertos ambientes para modular la circulación de afectos, la segunda trata de capturar la atención de los sujetos y crear hábitos de uso de la plataforma social.
En lo que respecta al Hook Model se observa con claridad que el propio formato de funcionamiento de BeReal está diseñado para capturar la atención de los usuarios en momentos concretos de la jornada diaria. De la misma forma, las notificaciones que indican que es el momento de publicar y las que muestran la actividad de los demás usuarios son nudges destinados a atraer la atención hacia la aplicación. Además, la red social facilita la acción de tomar fotos y publicar que, sumado a la recompensa social que ofrecen este tipo de plataformas, contribuye a la creación de hábitos de uso. Por otro lado, se constata que la plataforma incluye ciertos elementos que son potencialmente datificables por el Affective Computing. El formato de publicación, que incluye una foto del contexto y una del usuario, la geolocalización, el uso de RealMojis o la referencia a canciones permiten obtener datos respecto a la relación entre las emociones que muestran los usuarios y los contextos capturados por las fotografías. Esta relación entre emociones y contexto permite, potencialmente, obtener información sobre cómo son afectados emocionalmente los individuos en ambientes concretos y usarla para modular sus conductas hacia fines privados. En este sentido, hemos corroborado que BeReal comparte todos estos datos con algunas de las grandes compañías de publicidad dirigida elaborada a partir de perfiles de comportamiento.
Finalmente, nuestro análisis señala que el Hook Model y el Affective Computing son dos elementos que constituyen un nuevo dispositivo de poder que se despliega en las plataformas sociales, al cual hemos llamado “pulsional”. Hemos enumerado seis características de este dispositivo: 1) su objetivo es maximizar la circulación de atenciones y emociones para datificarlos; 2) actúa sobre una multiplicidad de perfiles creados algorítmicamente, lo que permite individualizar el despliegue del poder; 3) se basa en una “gran estadística” para generar un saber individualizado; 4) se despliega modulando las interfaces de las plataformas digitales; 5) su objeto es la psique individual y colectiva con tal de activar un estado pulsional de acción no reflexiva; y 6) sigue una lógica de retroalimentación cibernética en que se intenta que el perfil se asemeje al máximo al individuo, una optimización que no tiene meta final.
Para finalizar esta reflexión quisiéramos remarcar algunas limitaciones del estudio, que, a su vez, representan potenciales nuevas líneas de investigación. En primer lugar, sería relevante explorar qué ocurre cuando el dispositivo de poder descrito se cruza con las variables, por ejemplo, de género, raza o clase. Diversos autores han mostrado que los algoritmos, además de incorporar sesgos, pueden tener un mayor impacto en colectivos oprimidos (D’Ignazio y Klein, 2020; Crawford, 2021). Esto representa una limitación para este estudio, ya que al hacer un planteamiento genérico se corre el riesgo de omitir los efectos del poder sobre aquellos individuos que no pertenecen a la norma occidental. Por otro lado, aquí hemos señalado únicamente dos tecnologías de control como elementos del dispositivo pulsional. Habría que explorar que otras tecnologías lo componen, tanto en la propia arquitectura de las redes sociales como, por ejemplo, en las formas de procesamiento y clasificación de los datos. Por último, sería altamente relevante analizar cómo los usuarios resisten y se reapropian de los mecanismos que conforman el psicopoder.
No declaran conflictos de interés.
| Autor | Concepto | Curación de datos | Análisis / Software | Investigación / Metodología | Proyecto / recursos / fondos | Supervisión/ validación | Escritura inicial | Redacción: revisión y edición final |
|---|---|---|---|---|---|---|---|---|
| 1 | X | X | X | X | X | X | X | |
| 2 | X | X | X | X | X | X |
Proyecto de investigación "Escenarios Futuros de Políticas de Desarrollo Local en la Era Postpandémica: De la Biopolítica a la Psicopolítica", que forma parte de un proyecto más amplio llamado "Relaciones de Poder y Control en la Ciencia Ciudadana". Este trabajo se ha llevado a cabo en el marco del grupo de Estudios de Ciencia y Tecnología de Barcelona (STSb), dentro del programa de doctorado "Persona y Sociedad en el Mundo Contemporáneo", del Departamento de Psicología Social de la Universidad Autónoma de Barcelona (España).
Agamben, G. (2014). Qué es un dispositivo. Seguido de El Amigo y La iglesia y el Reino. Adriana Hidalgo Editora.
Ahmed, S. (2004). Affective Economies. Social Text, 22(2), 117-139. https://doi.org/10.1215/01642472-22-2_79-117
Angerer, M-L. y Bösel, B. (2016). Total Affect Control: Or: Who’s Afraid of a Pleasing Little Sister?, Digital Culture & Society, 2(1), 41-52. https://doi.org/10.14361/dcs-2016-0104
Arthur, C. (30 de junio de 2014). Facebook emotion study breached ethical guidelines, researchers say. The Guardian. https://www.theguardian.com/technology/2014/jun/30/facebook-emotion-study-breached-ethical-guidelines-researchers-say
Bachrach, Y., Kosinski, M., Graepel, T., Kohli, P. y Stillwell, D. (2012). Personality and patterns of Facebook usage. Proceedings of the 4th Annual ACM Web Science Conference, 24-32. https://doi.org/10.1145/2380718.2380722
Bentes, A. (2019). A gestão algorítmica da atenção: enganchar, conhecer e persuadir. En F. Polido, L. Anjos y L. Brandão (Orgs.), Políticas, internet e sociedade (pp. 222-234). IRIS.
Bentes, A. (2022). O modelo do gancho e a formação de hábitos: Tecnobehaviorismo, capitalismo de vigilância e economia da atenção. Disertaciones: Anuario electrónico de estudios en Comunicación Social, 15(2), 1-19. https://doi.org/10.12804/revistas.urosario.edu.co/disertaciones/a.11342
BeReal (junio de 2024). BeReal. Privacy Policy. Bereal.com. Recuperado el 26 de Julio de 2024 de https://bereal.com/es/politica-de-privacidad/
Blackman, L. (2008). Affect, Relationality and the `Problem of Personality’. Theory Culture & Society, 25, 23-47. https://doi.org/10.1177/0263276407085157
Blackman, L. y Venn, C. (2010). Affect. Body & Society, 16(1), 7-28. https://doi.org/10.1177/1357034X09354769
Boffone, T. (2022). Do You Want to Make a TikTok? Is It Time to BeReal?: Gen Z, Social Media, and Digital Literacies. Journal of Language & Literacy Education, 18(2), 1-7. http://jolle.coe.uga.edu/wp-content/uploads/2022/12/Boffone-2022-Final-1.pdf
Bösel, B. (2018). Affect Disposition(ing): A Genealogical Approach to the Organization and Regulation of Emotions. Media and Communication, 6(3), 15-21. https://doi.org/10.17645/mac.v6i3.1460
Bruno, F. (2013). Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Sulina.
Bruno, F.G., Bentes, A.C.F. y Faltay, P. (2019). Economia psíquica dos algoritmos e laboratório de plataforma: Mercado, ciência e modulação do comportamento. Revista FAMECOS, 26(3), e33095. https://doi.org/10.15448/1980-3729.2019.3.33095
Bruno, F. y Rodríguez, P.M. (2021). The Dividual: Digital Practices and Biotechnologies. Theory, Culture & Society 39(3): 1-24. https://doi.org/10.1177/02632764211029356
Bulchand-Gidumal, J. (2023). The case of BeReal and spontaneous online social networks and their impact on tourism: Research agenda. Current Issues in Tourism, 27(1), 7-11. https://doi.org/10.1080/13683500.2023.2191174
Cadwalladr, C. y Graham-Harrison, E. (17 de marzo de 2018). Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach. The Guardian. https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election
Ceccacci, S., Generosi, A., Cimini, G., Faggiano, S., Giraldi, L. y Mengoni, M. (2021). Facial coding as a mean to enable continuous monitoring of student’s behavior in e-Learning. En: Proccedings of the First Workshop on Technology Enhanced Learning Environments for Blended Education, Foggia, 20–21 Enero 2021. CEUR-WS.
Celis Bueno, C. (2020). The Face Revisited: Using Deleuze and Guattari to Explore the Politics of Algorithmic Face Recognition. Theory, Culture & Society, 37(1), 73-91. https://doi.org/10.1177/0263276419867752
Chen, H., Chen, H. y Tian, X. (2022). The dual-process model of product information and habit in influencing consumers’ purchase intention: The role of live streaming features. Electronic Commerce Research and Applications, 53, 101150. https://doi.org/10.1016/j.elerap.2022.101150
Chen, W., Rudovic, O.O. y Picard, R.W. (2017). GIFGIF+: Collecting emotional animated GIFs with clustered multi-task learning. En: 2017 Seventh International Conference on Affective Computing and Intelligent Interaction (ACII), San Antonio, 23-26 Octubre 2017. Washington DC: IEEE Computer Society, 510-517. https://doi.org/10.1109/ACII.2017.8273647
Choi, Y., Wen, H., Chen, M. y Yang, F. (2021). Sustainable Determinants Influencing Habit Formation among Mobile Short-Video Platform Users. Sustainability, 13(6), 3216. https://doi.org/10.3390/su13063216
Clarke, L. (21 de agosto de 2022). ‘It’s a modern-day Facebook’ – how BeReal became Gen Z’s favourite app. The Observer. https://www.theguardian.com/media/2022/aug/21/its-a-modern-day-facebook-how-bereal-became-gen-zs-favourite-app
Crawford, K. (2021). The Atlas of AI. Power, Politics, and the Planetary Costs of Artifical Intelligence. Yale University Press.
D’Ignazio, C. y Klein, L.F. (2020). Data Feminism. The MIT Press.
D’Mello, S., Graesser, A., Schuller, B. y Martin, J. C. (Eds.). (2011). Affective Computing and Intelligent Interaction. Part II. Springer-Verlag Berlin Heidelberg.
Exposito, M., Hernandez, J. y Picard, R.W. (2018). Affective keys: Towards unobtrusive stress sensing of smartphone users. Proceedings of the 20th International Conference on Human-Computer Interaction with Mobile Devices and Services Adjunct, 139-145. https://doi.org/10.1145/3236112.3236132
Eyal, N. (2014). Hooked. How to build habit-formation products. Penguin Random House.
Flyvbjerg, B. (2004). “Cinco malentendidos acerca de la investigación mediante estudios de caso”. Reis. 106(04): 33-62. http://dx.doi.org/10.2307/40184584
Foucault, M. (1995). Discipline and Punish: The Birth of the Prision. Vintage Books.
Foucault, M. (2009). Security, Territory and Population: Lectures at the Collège de France, 1977-1978. Picador.
Foucault, M. (2010). The Birth of Biopolitics: Lectures at the Collège de France, 1978-1979. Picador.
Geertz, C. (1992). Descirpción densa: hacia una teoría interpretativa de la cultura en C. Geertz La interpretación de las culturas (pp.19-40). Paidós.
Gellman, B., Blake, A. y Miller, G. (9 de junio de 2013). Edward Snowden comes forward as source of NSA leaks. Washington Post. https://www.washingtonpost.com/politics/intelligence-leaders-push-back-on-leakers-media/2013/06/09/fff80160-d122-11e2-a73e-826d299ff459_story.html
Gerlitz, C. y Helmond, A. (2013). The like economy: Social buttons and the data-intensive web. New Media & Society, 15(8), 1348-1365. https://doi.org/10.1177/1461444812472322
Henriques, J. (2010). The Vibrations of Affect and their Propagation on a Night Out on Kingston’s Dancehall Scene. Body & Society, 16(1), 57-89. https://doi.org/10.1177/1357034X09354768
Kilb, M. y Labudek, S. (2022). Effects of behavioral performance, intrinsic reward value, and context stability on the formation of a higher-order nutrition habit: An intensive longitudinal diary study. International Journal of Behavioral Nutrition and Physical Activity, 19(1), 105. https://doi.org/10.1186/s12966-022-01343-8
Kim, M.K. y Ketenci, T. (2020). The role of expressed emotions in online discussions. Journal of Research on Technology in Education, 52(1), 95-112. https://doi.org/10.1080/15391523.2019.1697861
Kosinski, M.; Stillwell, D. y Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15), 5802-5805. https://doi.org/10.1073/pnas.1218772110
Kramer, A.D.I., Guillory, J.E. y Hancock, J.T. (2014). Experimental evidence of massive-scale emotional contagion through social networks. Proceedings of the National Academy of Sciences, 111(24), 8788-8790. https://doi.org/10.1073/pnas.1320040111
Lally, P. y Gardner, B. (2013). Promoting habit formation. Health Psychology Review, 7(1), S137-S158. https://doi.org/10.1080/17437199.2011.603640
Latour, B. (2005). Reassembling the social. An introduction to actor-network-theory. Oxford University Press.
Levin, S. (1 de mayo de 2017). Facebook told advertisers it can identify teens feeling «insecure» and «worthless». The Guardian. https://www.theguardian.com/technology/2017/may/01/facebook-advertising-data-insecure-teens
Lopes, C.E. (2010). O Behaviorismo Radical. En A. Ferreira (Org.), A pluralidade do campo psicológico: principais abordagens e objetos de estudo (pp. 91-108). Editora ufrj.
Lury, C. y Day, S. (2019). Algorithmic Personalization as a Mode of Individuation. Theory, Culture & Society, 36(2), 17-37. https://doi.org/10.1177/0263276418818888
Massumi, B. (2002). Parables for the virtual. Movement, affect, sensation. Duke University Press
Mistreanu, S. (3 de abril de 2018). China is implementing a massive plan to rank its citizens, and many of them want in. Foreign Policy. https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/
Nemorin, S. (2017). Affective capture in digital school spaces and the modulation of student subjectivities. Emotion, Space and Society, 24, 11-18. https://doi.org/10.1016/j.emospa.2017.05.007
Parisi, L. (2016). Automated Thinking and the Limits of Reason. Cultural Studies ↔ Critical Methodologies, 16(5), 471-481. https://doi.org/10.1177/1532708616655765
Pasquinelli, M. y Joler, V. (2020). The Nooscope manifested: AI as instrument of knowledge extractivism. AI & Society, 36(2021), 1263-1280. https://doi.org/10.1007/s00146-020-01097-6
Picard, R.W. (1997). Affective computing. MIT Press.
Picard, R.W. (2003). Affective computing: Challenges. International Journal of Human-Computer Studies, 59(1), 55-64. https://doi.org/10.1016/S1071-5819(03)00052-1
Rodríguez, P.M. (2019). Las palabras en las cosas. Saber, poder y subjetivación entre algoritmos y moléculas. Editorial Cactus.
Rouvroy, A. y Berns, T. (2016). Gubenamentalidad algorítmica y perspectivas de emancipación. ¿La disparidad como condición de individuación a través de la relación? Agenda Filosófica, 1(2016): 88-116. https://www.academia.edu/30732187/Gubernamentalidad_algori_tmica_y_perspectivas_de_emancipacio_n_La_disparidad_como_condicio_n_de_individuacio_n_a_trave_s_de_la_relacio_n_Antoinette_Rouvroy_y_Thomas_Berns_Traduccio_n_de_Ernesto_Feuerhake_Participo_en_la_revisio_n_Zeto_Bo_rquez_
Rovira Martorell, J., Tirado, F. Gálvez, A. (2024). Attention wars, psychopower and platform environments: An autoethnographic study on BeReal. Emotion, Space and Society, 52(2024), 101026. https://doi.org/10.1016/j.emospa.2024.101026
Simondon, G. (2015). La individuación a la luz de las nociones de forma e información. Editorial Cactus.
Srnicek, N. (2018). Capitalismo de plataformas. Caja Negra Editora.
Stiegler, B. (2008). Technics and Time, 2: Disorientation. Stanford University Press.
Stiegler, B. (2010). Taking Care of Youth and the Generations. Stanford University Press.
Stiegler, B. (2013). What Makes Life Worth Living: On Pharmacology. Polity Press.
Stiegler, B. (2016). Automatic Society. Volume 1. The future of work. Polity Press.
Stiegler, B. (2020). Nanjing Lectures (2016-2019). Open Humanities Press.
Sunstein, C.R. y Thaler, R.H. (2009). Nudge: Improving Decisions about Health, Wealth and Happiness. Penguin Random House.
Verplanken, B. (Eds.). (2018). The psychology of the habit. Theory, Mechanisms, Change and Contexts. Springer Nature.
Williams, J. (2018). Stand Out of Our Light. Freedom and Resistance in the Attention Economy. Cambridge University Press.
Williamson, B. (2017). Moulding student emotions through computational psychology: Affective learning technologies and algorithmic governance. Educational Media International, 54(4), 267-288. https://doi.org/10.1080/09523987.2017.1407080
Wu, A.X. (2022). The Ambient Politics of Affective Computing. Public Culture, 34(1), 21-45. https://doi.org/10.1215/08992363-9435427
Zuboff, S. (2018). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Hachette USA.