Cuando interactuamos en redes sociales, en unas más que en otras, prolifera un rebumbio no humano. Non es que yo teña algo en contra los no humanos, al contrario, pero me parece muy curioso ese teatro de voces en que se mezcla la pura ficción con fenómenos sociales. Puede que pronto los humanos estemos en minoría en las redes, o mejor aún, imagina un capítulo de Black mirror en el que entras en una red social en la que eres el único humano.
Meta ha dicho recientemente: “Esperamos que, con el tiempo, estas IA existan en nuestras plataformas, de la misma forma que lo hacen las cuentas”. Lo de la misma forma no me lo creo, no van a permitir que interactúen excesivamente entre ellas porque serían espacios extra publicitarios, qué le podrían a vender a una IA cuyos seguidores fueran también IAs. Es decir, nos privarán de la parte que podría ser divertida.
Y la cuestión ya no es cuántas cuentas son muñecos, por decirlo en plan analógico, sino lo mucho que hablan, ya que el humano se conecta unas horas pero una IA trabaja 24/7. En twitter X los bots son minoría en cantidad de cuentas, pero protagonizan una parte desproporcionadamente alta del contenido y el tráfico. Sobre tres cuartos de los enlaces son generados por bots y sube a un 90% cuando se trata de contenido Nopor. La mayoría no son IAs como las de Meta sino simples automatizaciones repetitivas, pero aún así es bastante esperpéntico.
Petter Törnberg y Maik Larooij, de la Universidad de Ámsterdam, sí que hicieron lo de dejar interactuar a las IAs en una plataforma tipo red social solo para ellas. Simularon una red de agentes, cada uno con un personaje en plan me llamo Juan, vivo en Cadiz, tengo dos hijos, soy taxista y me gusta bastante el vino de Chiclana. Por otro lado, trataron de crear un entorno de creencias lo más neutro y estable posible ¿y qué ocurrió?
Se comprobó que los chatbots de la simulación, al interactuar y seguir a otros, formaban redes con aquellos agentes que compartían creencias similares, unos pocos chatbots se volvían “influencers” acumulando la mayor parte de la atención y el discurso tendía indefectiblemente hacia la polarización y el extremismo. A esta dinámica se la ha llamado Prisma de las Redes Sociales, un modelo que describe la homofilia ideológica, desigualdad de atención y atractores caóticos como motor del engagement.
Las redes sociales son un esperpento querido Max, un espejo donde los héroes clásicos se convierten en grotescos personajes, donde la realidad abandona lo trágico y se deforma en lo ridículo sin compasión alguna.
Pero en vez de un espejo cóncavo usaremos hoy como metáfora un prisma, un concepto bastante antiguo que ha cobrado relevancia actualmente gracias al trabajo de Chris Bail de la Universidad de Duke en USA, creador de un laboratorio llamado “The Polarization Lab” y autor de Breaking the Social Media Prism. No leí el libro pero la imagen del prisma me resonó y ahora la expreso a mi manera.
El Social Media Prism es un modelo que describe cómo nuestra interacción en las redes sociales y la percepción de la realidad están mediadas y distorsionadas por los algoritmos y la arquitectura de la plataforma. Al principio la metáfora funciona bien, igual que la luz blanca al salir del prisma, el mundo de las creencias refracta sus colores en sectores divergentes.
Los antecedentes de este fenómeno son las heurísticas y sesgos cognitivos del humano cazador/recolector que curiosamente comparten los pensantes artificiales. Por otro lado hay una retroalimentación algorítmica de conductas que serían en un humano una respuesta neuronal fuerte tipo dopamina/adrenalina.
La probabilidad predictiva propia del algoritmo de engagement potencia la homofilia ideológica porque ya sea en cognición humana o sintética la autoconfirmación es un atractor de estabilidad. Se predice que las interacciones con personas de ideas similares serán menos conflictivas y más gratificantes, más estables y duraderas. Se trampea el sistema asignando una probabilidad condicional mayor a los datos que confirman la creencia de una cuenta.
Por otro lado, la desigualdad de atención se refiere a cómo una minoría de usuarios recibe una atención desproporcionadamente alta en las redes sociales. El algoritmo de recomendación potencia la concentración de influencia porque si algo empieza a tener éxito predice que es valioso y lo promociona aún más, creando un ciclo de retroalimentación. Esto tampoco lo han inventado las redes sociales pero el medio lo potencia. La trampa es asimilar influencia con evidencia.
Ya tenemos hecha la refracción del prisma pero nos falta un mecanismo que revuelva las redes para que no languidezcan en la homogeneidad de las cámaras de eco. Aquí entra la polarización, tema muy complejo que merecería un tratamiento aparte, pero veamos algunos mecanismos básicos.
Comencemos a nivel dinámica de creencias donde los grupos distintos al interactuar se redefinen por oposición y eso los aleja aún más, aumentando la discrepancia. Pero discrepancia no es hostilidad, por ejemplo, un grafo de preferencias florales mostraría clústers como el de las rosas o las orquídeas que podrían competir en tamaño, pero el conjunto compondría un precioso ramo multicolor de nodos. Pero en el grafo de reacciones en twitter al debate de la Comunidad de Madrid veríamos dos acumulaciones de nodos totalmente separadas y un vacío alrededor.
La hostilidad aparece cuando el desacuerdo cognitivo se traduce en amenaza identitaria, se produce por la identificación del individuo con la creencia de forma que siente el desacuerdo como un ataque personal que amenaza su yo, tipo Taylor Swift vs Kanye West. Si a esto añadimos la mecánica de suma cero, en la que lo que gana tu oponente lo pierdes tú, tal como ocurre en la política o el fútbol, veremos que la polarización se dispara.
En la economía de la atención las emociones fuertes, como la indignación, la rabia o el miedo, son predictores muy potentes de engagement. Los ingenieros de las plataformas digitales no programan “sesgos” para polarizar a los usuarios, crean las condiciones para que esos sesgos emerjan ya que maximizan métricas de negocio. Basta con recompensar homofilia y visibilidad, y el sistema hace el resto. Y en realidad, puede que simplemente el mecanismo de interacción básico que consiste en botones de me gusta, comparto y sigo sea en sí mismo generador de divergencia y polarización.
Como diseñadora me interesa el último mecanismo comentado, la influencia de la UX en el fenómeno. Para ello volveremos al experimento de Amsterdam que tanto me gusta. Según Törnberg y Larooij, la polarización no necesita humanos ni algoritmos sofisticados, solo con un determinado diseño de interfaz aparece un sistema dinámico que refracta y empuja hacia extremos.
Lo extraordinario de este estudio es que concluye que estas dinámicas no derivan exclusivamente de algoritmos de recomendación para potenciar el engagement, sino que emergen del diseño de experiencia en redes sociales: la interacción emocional (like), el refuerzo de visibilidad (repost) y la alineación identitaria (follow) empujan al usuario hacia creencias polarizadas.
La aprobación social es un mecanismo universal de refuerzo, compartido con animales sociales, Buscamos señales de validación grupal, como contacto físico, vocalizaciones, gestos o likes. En redes sociales, los likes, seguidores, repost, visualizaciones funcionan como un marcador público que cuantifica el estatus social. De alguna manera el número de likes o de seguidores es el score panel del juego social.
Normalmente en las redes ganas puntos progresivamente aunque a veces un contenido se hace viral por sorpresa lo cual potencia el aspecto lúdico de a ver si hay suerte y me viralizo con este bailecito. Tik Tok usa mucho el efecto tragaperras, conocido como “recompensa variable intermitente”, un concepto clave en la psicología de la adicción. Otro mecanismo muy exitoso de TikTok es la apropiación social o piggybacking de la opción Remix.
Pero como todos sabemos la red social de la polarización es Twitter/X y su interfaz ejemplifica como su modelo de interacción pone en marcha triggers de polarización. Además del clásico trío de botones LRF tiene un arma secreta de polarización masiva, el botón Reply que exacerba la polémica con el beneficio del piggybacking. Y desde luego la limitación de caracteres, que aunque no sea obligatoria sigue siendo protocolaria, hace que las ideas se simplifiquen y al hacerlo sean arrastradas hacia atractores estables de polaridad.
En dinámica probabilística de creencias, el interfaz de las redes cablea atractores sociales, fijando las trayectorias más probables en el espacio de interacción. Una vez más el interfaz, como “medio”, ya es el mensaje (de nuevo McLuhan), y en este contexto construye un mundo donde las creencias funcionan como partículas que caen inexorablemente en pozos de atracción.
Desde esta perspectiva, diseñar UI/UX no es solo estética o usabilidad, es ingeniería de ecologías cognitivas. Esto tampoco es exclusivo del mundo digital, nuestra interacción con objetos más simples como martillos o teteras también implica influencias cognitivas, ya que su diseño permite que la acción se vuelva automática, como si fuera el objeto el que piensa, a su manera…
Estudios citados:
Petter Törnberg y Maik Larooij. Can We Fix Social Media? Testing Prosocial Interventions using Generative Social Simulation
Chris Bail. Breaking the Social Media Prism: How to Make Our Platforms Less Polarizing
