Cando interactuamos en redes sociais, nunhas máis que noutras, prolifera un rebumbio non humano. Non é que eu teña nada en contra dos non humanos, todo o contrario, pero paréceme moi curioso ese teatro de voces que mestura a pura ficción con fenómenos da sociedade. Pode que os humanos logo esteamos en minoría nas redes, mellor aída, imaxina un episodio de Black Mirror no que entras nunha rede social na que ti es o único humano.
Meta dixo recentemente: “Esperamos que, co tempo, estas IAs existan nas nosas plataformas do mesmo xeito que o fan as contas” Iso de mesmo xeito non mo creo, non van permitir que interactúen excesivamente entre elas porque serían espazos extra publicitarios, que se lle podría vender a unha IA cuxos seguidores fosen tamén IAs? É dicir, que vannos privar da parte que podería ser divertida.
A cuestión xa non é cantas contas son monecos, por dicilo en plan analóxico, senon o moito que falan, xa que un humano conéctase unhas horas ao día pero unha IA traballa 24/7. En Twiter X os bots son minoría en cantidade de contas, pero protagonizan unha parte desproporcionadamente alta do contenido e o tráfico. Sobre tres cuartos das ligazóns son xeradas por bots e ascende a un 90% cando se trata de contido Nopor. A maioría non son IAs como as de Meta senón simples automatizacións repetitivas, aínda así a cousa resulta grotesca.
Petter Törnberg e Maik Larooij, da Universidade de Ámsterdam, si que fixeron iso de deixar interactuar ás IAs nunha plataforma tipo rede social só para elas. Simularon unha rede de axentes, cada un co seu personaxe en plan chámome Juan, vivo en Cadiz, teño dous fillos, son taxista e gústame bastante o viño de Chiclana. Doutra banda, os investigadores intentaron crear un ambiente de crenzas o máis neutral e estable posible. E que pasou?
Descubriron que os chatbots da simulación, ao interactuar e seguir a outros formaban redes con aqueles axentes que compartian crenzas similares, uns poucos volvíanse influencers acaparando a maior parte da atención e viron que o discurso tendía indefectiblementa cara á polarización e o extremismo. Esta dinámica foi chamada Prisma das Redes Sociais, un modelo que describe a homofilia ideolóxica, desigualdade de atención e atractores caóticos como motor do engagement.
As redes sociais son un esperpento querido Max, un espello onde os heroes clásicos convírtense en grotescos personaxes, onde a realidade abandona a traxedia e deformase no ridículo sen compaixón algunha.
Pero no canto dun espello cóncavo usaremos hoxe o prisma como metáfora, un concepto bastante antigo que vén cobrando relevancia actualmente grazas ao traballo de Chris Bail da Universidade de Duke en USA, creador dun laboratorio chamado “The Polarization Lab” e autor de Breaking the Social Media Prism. Aínda que non coñezo ben o libro, a imaxe do prisma resooume e agora expreso a idea á miña maneira.
O Social Media Prism é un modelo que describe como a nosa interacción nas redes sociais e a percepción da realidade están mediadas e distorsionadas polos algoritmos e a arquitectura das plataformas. Inicialmente a metáfora funciona moi ben, como a luz branca ao saír do prisma, o mundo das crenzas refracta as súas cores en sectores diverxentes.
Os antecedentes deste fenómeno son as heurísticas e sesgos cognitivos do humano cazador/recolector que curiosamente comparten os pensantes artificiais. Ademais deste sustrato existe unha retroalimentación algorítmica daqueles comportamentos que nun humano serían respostas neuronais fortes tipo dopamina/adrenalina.
A probabilidade predictiva propia do algoritmo de engagement potencia a homofilia ideolóxica porque, xa sexa en cognición humana o sintética, a autoconfirmación é un atractor de estabilidade. Prevese que as interaccións con persoas de ideas afíns serán máis gratificantes, máis estables e duradeiras. Para obter unha maior atención, o sistema asigna unha maior probabilidade condicional aos datos que confirman as crenzas dunha conta.
Doutra banda, a desigualdade de atención refíese a como unha minoría de usuarios recibe unha atención desproporcionadamente alta nas redes sociais. O algoritmo de recomendación alimenta a concentración de influencia porque se algo comeza a gañar forza, predí que é valioso e promoveo aínda máis, creando un bucle de retroalimentación. Isto tampouco é un invento das redes sociais pero o medio poténciao.
Xa temos feita a refracción do prisma pero precisamos dun mecanismo que remexa nas redes para que non languidezan na homoxeneidade das cámaras de eco. Aquí entra a Polarización, tema moi complexo que merecería un tratamento aparte, pero vexamos algúns mecanismos básicos.
Comecemos a nivel de dinámica de crenzas, onde diferentes grupos interactúan redefinindose a través da oposición, o que os distancia aínda máis, aumentando a discrepancia. Pero discrepancia non é enfrentamento nin hostilidade. Por exemplo, un grafo de preferencias florais mostraría clústeres como o das rosas ou as orquídeas que poderían competir en tamaño, pero o conxunto comporía un fermoso ramo multicolor de nodos. Máis no grafo de reaccións en twitter ao debate da Comunidade de Madrid, sempre imos ver dúas acumulacións de nodos totalmente afastados e un espazo baleiro ao seu redor.
A hostilidade aparece cando o desacordo cognitivo tradúcese en ameaza identitaria, pola identificación do individuo coa crenza de forma que sente o desacordo como un ataque persoal que ameaza o seu eu, tipo Taylor Swift vs Kanye West. Se a isto engadimos a mecánica de suma cero, na que o que gaña o teu opoñente pérdelo ti, tal como ocorre na política ou no fútbol, vemos que a polarización dispárase.
Na economía da atención as emocións fortes, como a indignación, a rabia ou o medo, son preditores moi potentes de de engagement. Os enxeñeiros das plataformas non programan sesgos para polarizar aos usuarios, crean as condicións para que estes sesgos emerxan maximizando métricas de negocio. Basta con recompensar homofilia e visibilidade, e o sistema fai o resto. De feito, pode que simplemente o mecanismo básico de interacción, os botóns de gústame, compartir e seguir, sexan por si mesmos xeradores de diverxencia e polarización.
Como deseñadora interésame o último mecanismo comentado, a influencia da UX no fenómeno. Para iso volvamos ao experimento de Amsterdam que tanto me gusta. Segundo Törnberg y Larooij, a polarización non precisa de humanos nin algoritmos sofisticados, só cun determinado deseño de interfaz xurde un sistema dinámico que refracta e empuxa cara os extremos.
O extraordinario deste estudo é que conclúe que estas dinámicas non derivan exclusivamente de algoritmos de recomendación para favorecer o engagement, senón que emerxen do deseño de experiencia: a interacción emocional (like), o reforzo da visibilidade (repost) e o aliñamento identitario (follow) favorecen as crenzas polarizadas.
A aprobación social é un mecanismo de reforzo, compartido con animais sociais. Buscamos sinais de validación grupal como contacto físico, vocalizacións, xestos ou likes. En redes sociais os gústames, seguidores, republicacións, visualizacións funcionan como un marcador público que cuantifica o estatus social. Dalgún xeito o número de likes ou de seguidores é o score panel do xogo social.
Normalmente nas redes gañas puntos gradualmente aínda que ás veces un contido faise viral de forma inesperada, o cal reforza o aspecto lúdico de “a ver se teño sorte e fágome viral con isto”. Tik Tok fai un uso extensivo deste efecto tragaperras, coñecido como “recompensa variable intermitente”, un concepto clave na psicoloxía da adicción. Outro mecanismo moi exitoso en Tik Tok é a apropiación social ou o piggybacking da opción Remix.
Pero como todos sabemos a rede social da polarización é Twitter/X e a súa interfaz exemplifica como o seu modelo de interacción desencadea a polarización. Ademais do clásico trío de botóns LRF ten unha arma secreta de polarización masiva, o botón Reply que exacerba a polémica coa vantaxe do piggybacking. E desde logo a limitación de caracteres, que aínda que non sexa obrigatoria segue sendo protocolaria, simplifica as ideas e ao facelo lévaas cara a atractores estables de polaridade.
En dinámica probabilística de crenzas, a interfaz das redes cablea atractores sociais, fixando as traxectorias máis probables no espazo de interacción. Unha vez máis a interfaz, como medio, xa é a mensaxe. E neste contexto constrúe un mundo onde as crenzas funcionan como partículas que caen inexorablemente en sumidoiros de atracción.
Desde esta perspectiva, deseñar UI/UX non é só estética ou usabilidade, é inxeñaría de ecoloxías cognitivas. Isto tampouco é exclusivo do mundo dixital, a nosa interacción con obxectos máis sinxelos como martelos ou teteiras tamén implica influencias cognitivas, xa que o seu deseño permite que a acción se volva automática, como se fose o obxecto quen pensa, á súa maneira…
Estudos citados:
Petter Törnberg y Maik Larooij. Can We Fix Social Media? Testing Prosocial Interventions using Generative Social Simulation
Chris Bail. Breaking the Social Media Prism: How to Make Our Platforms Less Polarizing
