De la biopolítica de las sociedades disciplinarias, a la psicopolítica de las sociedades de control
La genealogía del poder moderno muestra una transformación profunda en la forma de gobernar a los sujetos, quienes progresivamente y a día de hoy, ya son reducidos a la condición de objetos. En las sociedades disciplinarias descritas por Foucault, situadas en los siglos XVIII, XIX y principios del XX; el poder se ejercía a través de una serie de instituciones cerradas: la escuela, el ejército, la fábrica, el hospital, la cárcel. Con ello se trataba de organizar los cuerpos y normalizar sus gestos para integrarlos en los distintos sistemas productivos, regulando así la vida colectiva de forma eficaz. La biopolítica, en este contexto, emergía como la técnica de gobierno que trataba la vida en términos de población: controlar nacimientos, gestionar enfermedades, administrar la mortalidad, corregir las desviaciones. En la llamada biopolítica, la estadística grupal jugaba un papel central, pues permitía producir un saber general sobre la población y, a partir de él, establecer normas y políticas de integración y exclusión. El sujeto todavía seguía siendo un sujeto, aunque disciplinado, normalizado y permanentemente observado.
Hacia mediados del siglo XX, Deleuze detecta una transición hacia lo que él denomina como sociedades de control. Las instituciones propias de las sociedades disciplinarias previas van perdiendo centralidad. Ya no hay encierros estables que funcionan como moldes fijos, sino una modulación continua y variable de las conductas, en tiempo real y en espacios abiertos. “Los encierros son moldes o moldeados diferentes, mientras que los controles constituyen una modulación, como una suerte de moldeado autodeformante que cambia constantemente y a cada instante, como un tamiz cuya malla varía en cada punto” (Deleuze, 1990). Ésta frase resume el pasaje de un poder que modelaba desde fuera, hacia otro que penetra directamente en el interior de la subjetividad. El individuo se fragmenta en lo que Deleuze llama “lo dividual”, unidades de información que circulan por bancos de datos, tarjetas de crédito, historiales médicos, expedientes. Es en esta línea donde se inserta la psicopolítica de Byung-Chul Han (2014), de modo que si la biopolítica gestionaba la vida biológica, la psicopolítica gestiona ahora la vida psíquica: explota la libertad, promueve la autoexplotación, captura la atención y mercantiliza los afectos. El sujeto ya no es reprimido, sino incitado a exhibirse, a generar de manera voluntaria datos y emociones, en un entorno abierto donde se cree libre sin percibir el control que le acompaña constantemente y al que está sometido.
Entonces, ¿qué es la gubernamentalidad algorítmica?
Dicho esto, conviene introducir el concepto de gubernamentalidad algorítmica desarrollado por Rouvroy & Berns (2013). Este concepto concreta la técnica de poder principal en la era digital, dentro de lo que Byung-Chul Han conceptualiza como psicopolítica y lo que Deleuze anticipó como sociedades de control. Para comprenderlo, es necesario remontarse al concepto de gubernamentalidad, acuñado por Michel Foucault en la década de 1970 para describir cómo los estados modernos emplean diversas técnicas y prácticas destinadas a dirigir y controlar a la población, no solo a través del gobierno formal, sino también mediante una serie de instituciones, procedimientos y conocimientos inscritos en una relación de saber-poder.
La extensión de este concepto a lo algorítmico es desarrollada por Antoinette Rouvroy y Thomas Berns (2013), quienes analizan cómo los algoritmos, en el contexto de la recopilación masiva de datos y el aprendizaje automático, actúan como formas de gobierno que regulan las conductas y decisiones de los individuos sin la necesidad de una intervención humana directa. En este marco, ya no se gobierna mediante leyes, instituciones o discursos dirigidos a sujetos conscientes, sino que se opera sobre perfiles estadísticos generados a partir de la recolección masiva de datos, aquello que Deleuze llamaba «lo dividual». Este tipo de gubernamentalidad implica la utilización de algoritmos y Big Data para gestionar, predecir, modificar y controlar el comportamiento de las personas: los algoritmos, presentes en todas las plataformas digitales que utilizamos a diario, recopilan y analizan nuestros datos en tiempo real, extrayendo patrones y tendencias que se emplean para tomar decisiones automatizadas dentro de un contexto comercial además de político.
Como señalan los autores, se trata de «cierto tipo de racionalidad (a)normativa o (a)política, que descansa en la cosecha, agregación y análisis de datos en cantidades masivas a fin de modelizar, anticipar y afectar por adelantado los comportamientos posibles» (Rouvroy & Berns, 2013). Allí donde la estadística disciplinaria buscaba regular poblaciones enteras, la estadística algorítmica actúa sobre cada usuario en particular, generando una normatividad personalizada y en tiempo real, que ya no integra al sujeto en ningún colectivo sino que lo modula permanentemente de forma individual.
El funcionamiento de esta nueva gubernamentalidad se articula en tres tiempos sucesivos y simultáneos, donde paradójicamente se da siempre una evitación del sujeto. En la definición de estos tres tiempos, los autores explican cómo se produce dicha evitación a lo largo de todo el proceso. Esta evitación puede entenderse como una tendencia a minimizar o incluso eliminar la dimensión subjetiva y consciente del individuo en el proceso de la gobernanza digital.
Los tres tiempos de la gubernamentalidad algorítmica: ¿cómo funcionan?
1) Cosecha masiva de datos y constitución de datawarehouses: Este primer tiempo se caracteriza por la recopilación exhaustiva, sistemática e indiscriminada de datos provenientes de diversas fuentes digitales. Todo lo que hacemos en línea es capturado y almacenado en grandes datawarehouses –almacenes de datos– que contienen información detallada sobre comportamientos, preferencias, interacciones, y cualquier otro aspecto de nuestra vida digital susceptible de ser convertida en dato. No importa el contexto ni la intención: cada clic, cada pausa en un vídeo, cada desplazamiento de pantalla se convierte en una cifra, en un dato. Aquí la evitación del sujeto se manifiesta en la forma impersonal de la recolección: la subjetividad queda diluida en un mar de datos cuantificables, dividuales, donde la identidad y la intencionalidad del sujeto son irrelevantes. Los individuos no son considerados como agentes con conciencia y autonomía, sino como meras fuentes de información, pues no interesa lo que el sujeto piensa o quiere, sino únicamente su comportamiento registrado; el usuario ya no es un sujeto que decide, sino un objeto que emite señales, un objeto de vigilancia más que un sujeto deliberante y autónomo. Además, los datos se obtienen sin mediación del consentimiento explícito o la percepción consciente del individuo. Las malditas cookies. Este proceso es fundamental para crear una base cuantitativa y cualitativa a partir de la cual los algoritmos puedan operar, marcando una ruptura con aquella noción clásica de recolectar datos específicos para unos fines predeterminados, ya que ahora se recolecta todo lo posible de forma indiscriminada y sin una hipótesis previa, mas allá del mero control.
2) Tratamiento de datos y producción de conocimiento: En este segundo tiempo, los datos brutos acumulados son procesados mediante técnicas avanzadas de análisis, incluyendo algoritmos de machine learning, minería de datos y modelado predictivo, que generan correlaciones, patrones, tendencias y perfiles predictivos. A través de este tratamiento se produce lo que puede entenderse como un conocimiento algorítmico: estructuras objetivas y predicciones probabilísticas que no son inmediatamente evidentes a partir de los datos en bruto. La subjetividad vuelve a ser evitada: no importa la experiencia vivida, los contextos personales ni las motivaciones internas, sino únicamente la capacidad de predecir futuras conductas. Este conocimiento generado no se traduce en comprensión cualitativa ni requiere la comprensión de la subjetividad individual; en su lugar, se enfoca en la explotación de datos aislados que representan al individuo sin la mediación de su conciencia o autoconocimiento. El «doble estadístico» que emerge de este proceso se convierte en una versión paralela del individuo: ya no se trata de lo que somos, sino de lo que nuestros datos dicen que probablemente haremos. Es en este punto donde se producen las hipótesis a partir de la combinación de datos, las cuales son dinámicas y cambiantes a medida que se incluyen nuevos datos en el futuro. Además, es importante señalar que el conocimiento producido sobre los individuos permanece oculto para ellos mismos, de modo que no existe una interpelación directa al sujeto y se imposibilita así cualquier intento de crítica o resistencia a la norma creada y aplicada sobre el propio sujeto.
3) Acción indirecta y control sobre los comportamientos: Este tercer tiempo o fase se centra en la intervención activa sobre los comportamientos individuales y colectivos, donde el conocimiento algorítmico se aplica modulando la experiencia digital en tiempo real mediante recomendaciones personalizadas, publicidad dirigida y jerarquización de contenidos en plataformas digitales. Estas técnicas actúan ajustando la experiencia digital para moldear decisiones, reforzar hábitos o inducir nuevas acciones, pero no se dirigen a la deliberación consciente, sino a provocar respuestas automáticas mediante principios de condicionamiento y adaptación. Aquí la evitación del sujeto se cristaliza en la manipulación directa del comportamiento: la intervención se basa en la modulación automatizada de experiencias y decisiones, prescindiendo de la razón o la reflexión subjetiva, de modo que el sujeto es dirigido y modificado como un objeto reactivo, con su autonomía minimizada en favor de una gestión eficiente de su comportamiento. Así, el sujeto jurídico clásico se evapora: la acción normativa se produce sobre el entorno antes que sobre el sujeto mismo, orientando su acción a través de la manipulación de su entorno sin necesidad de interpelarlo directamente. El algoritmo gobierna al sujeto sin hablarle, a través de su «doble estadístico», que no es más que una serie de perfiles supraindividuales creados y asignados al sujeto, del cual los sujetos quedan desvinculados en tanto que sujetos, puesto que son tratados como un conjunto de datos y correlaciones, es decir como un conjunto de objetos. Este tiempo evidencia, en definitiva, el poder de la gubernamentalidad algorítmica para reconfigurar subjetividades y prácticas cotidianas, convirtiendo el conocimiento obtenido en una herramienta de gobierno y control adaptativo.
Vale, ¿y ahora qué hacemos?
Esta desconexión entre el sujeto y el aparato que lo gobierna no es una hipótesis abstracta: tiene nombres, contratos, y beneficiarios muy concretos. Palantir, la empresa de Peter Thiel, es un ejemplo claro de hasta dónde puede llegar esto. No se trata solo de inmigración, ni de tácticas de guerra, ni de un caso concreto, ni de un gobierno determinado. Se trata de que Palantir ya está dentro de las agencias que gestionan tu vida: hacienda, sanidad, seguridad social, educación, sistema bancario. Tus datos fiscales, tus historiales médicos, tus préstamos, tus publicaciones, tus desplazamientos, todo converge en un mismo sistema que no distingue entre un inmigrante indocumentado y un ciudadano de pleno derecho y acomodado. La lógica es siempre la misma: fusionar, correlacionar, predecir, anticipar, controlar. Un ex ingeniero de la empresa lo dijo al dimitir: los datos recogidos para un propósito no deberían reutilizarse para otro. Fusionarlos todos, incluso con buenas intenciones, multiplica el riesgo de abuso. Y esto es exactamente lo que está ocurriendo ahora. No hace falta ser un migrante o un delincuente para estar en el punto de mira. Basta con existir, con generar datos, con vivir en un entorno digital. Cualquiera que lea esto debería sentir que algo no encaja, que el suelo que pisa no es tan firme como creía, y que la libertad individual está mas ausente que nunca.
Aquí se hace tangible que “si el derecho actual es un derecho en crisis, vacilante, ello sucede porque estamos abandonando unas formas y transitando hacia otras” (Deleuze, 1990). Las fake news, los bots, las estafas online, y todos los aparatos de vigilancia algorítmica, operados por estados que abandonan las formas jurídicas clásicas bajo la excusa de la seguridad, son sólo síntomas de una profunda transformación estructural. El derecho no puede regular aquello que no puede nombrar, y el poder algorítmico opera hábilmente en esta imposibilidad.
Pero hay algo más profundo que una simple crisis jurídica. Lo que está emergiendo no es solo un vacío legal sino una nueva forma de normatividad y control. Si la norma jurídica clásica decía «si haces X, recibirás Y», presuponiendo un sujeto que conoce la norma y puede elegir si cumplirla o violarla, la norma estadístico-numérica opera de forma distinta: es una norma que no conoces, y tu posición en los datos determina cómo serás tratado. No castiga conductas sino que las anticipa para controlarlas. No pregunta qué hiciste, pregunta a quién te pareces, dónde aparecerás, qué probabilidad tienes de convertirte en algo. El proceso judicial es sustituido por la coincidencia de patrones. La prueba es sustituida por la correlación. El juez es sustituido por un panel de control. Y si en algún momento descubres que te están juzgando, ni siquiera sabes cuál es el criterio. No sabes qué dato activó la alarma, no sabes qué correlación te metió en una lista. De hecho, ni siquiera sabes que ya estás en varias listas.
Frente a esto, la primera tarea es saber que esto es así y que la opacidad no es un fallo del sistema sino que forma parte de su propia estructura. La segunda tarea es dejar de esperar a que el derecho nos proteja y recupere una centralidad que ya perdió. La tercera tarea sería construir nuevas armas; herramientas políticas de resistencia que no apelen al sujeto jurídico clásico —porque ese sujeto ya no es interpelado—, sino que operen donde el poder efectivamente actúa: en los datos, en las infraestructuras, en los algoritmos, en las inscripciones. Lo numérico no puede combatirse con lo jurídico o lo narrativo, pues frente a la velocidad tecno-digital siempre llevarán las de perder. Al Big Data habría que combatirlo con otro Big Data.
En esta dirección apunta una línea que merece ser explorada y que tendrá que ser objeto de análisis en el futuro cercano: la propuesta de Maurizio Ferraris en su Manifiesto del Webfare. De la guerra de los datos al bienestar de los datos. (2024). Si el poder algorítmico opera produciendo y agregando documentos, la respuesta no es reclamar una subjetividad que el sistema ya no reconoce, sino intervenir en el registro mismo, en la infraestructura de datos y en los algoritmos. Ferraris propone capitalizar los datos que generamos para fines colectivos y no sólo privados. En definitiva, poner el Big Data al servicio de la población. La batalla no es recuperar una ley que ya no puede protegernos, sino atacar directamente la capitalización de este registro y reivindicar que las plataformas no puede remitir a la propiedad privada cuando esa propiedad privada está construida precisamente a través de nuestros datos privados. Es necesario pensar en la servidumbre en la que nos encontramos y establecer una dicotomía clara: o las plataformas, o nosotros.
Conviene recordar aquello que decía Deleuze: «No hay lugar para el temor ni para la esperanza, sólo cabe buscar nuevas armas» (Deleuze, 1990). No esperemos a que el derecho nos salve. No temamos a lo que ya está aquí. Tratemos de imaginar y crear, en el terreno donde el poder se disputa, aquellas herramientas que todavía no existen.