Del homo economicus al sujeto algorítmico: identidad financiera y poder

Cuando una entidad decide hoy si concede un préstamo, rara vez lo hace después de conversar con el solicitante o de examinar con calma su situación. La decisión descansa, cada vez con mayor frecuencia, en sistemas que procesan enormes volúmenes de datos y asignan a cada persona una puntuación que pretende anticipar su comportamiento futuro. Este cambio suele presentarse como una simple mejora técnica, más rápida y supuestamente más objetiva que la valoración humana. Merece, sin embargo, una lectura distinta: el auge del scoring automatizado no es solo una innovación tecnológica, sino una transformación profunda en la manera en que se construye la identidad económica de los individuos, con consecuencias jurídicas que apenas empezamos a comprender.

La figura del sujeto económico fue presentada por la teoría clásica como un individuo racional, autónomo y capaz de tomar decisiones informadas en función de sus intereses. Diversas aproximaciones críticas han mostrado que ese modelo es más normativo que descriptivo: el homo economicus no es un dato de la naturaleza, sino una construcción producida por dispositivos económicos, educativos y jurídicos. Desde esta perspectiva, el crédito puede entenderse como un instrumento de gobierno de la conducta. No impone comportamientos por la fuerza, sino que opera mediante la interiorización de normas y la anticipación de expectativas, configurando sujetos que se autorregulan para conservar su reputación financiera y su acceso a la financiación.

El paso siguiente es el tránsito del sujeto financiero al sujeto algorítmico. En el modelo tradicional, la evaluación de solvencia se apoyaba en información verificable sobre hechos pasados: ingresos acreditados, patrimonio, historial de pagos. Los sistemas actuales, impulsados por técnicas de inteligencia artificial, van mucho más allá. Construyen perfiles algorítmicos a partir de correlaciones estadísticas, patrones de comportamiento y datos que en apariencia nada tienen que ver con la capacidad de pago, como los hábitos de consumo, la localización o incluso la actividad digital. La persona deja de ser evaluada por lo que ha hecho para pasar a serlo por su pertenencia a grupos estadísticos, y su identidad financiera se convierte en una proyección probabilística sobre el futuro.

Esta transformación tiene consecuencias relevantes en términos de poder y desigualdad. La lógica del scoring introduce formas de exclusión que operan bajo la apariencia de neutralidad técnica. Si un modelo aprende de datos históricos que reflejan desigualdades preexistentes, tenderá a reproducirlas e incluso a amplificarlas, penalizando a colectivos que ya se encontraban en desventaja. Lo más preocupante es que esa discriminación resulta difícil de identificar y de impugnar. El afectado no sabe por qué se le ha denegado el crédito, qué datos se han utilizado ni cómo se han ponderado. La opacidad complica también la tarea de supervisores y tribunales, que se enfrentan a procesos de decisión cuya lógica interna no siempre resulta accesible.

Existe, además, una dimensión subjetiva del fenómeno que suele pasar desapercibida en los análisis estrictamente jurídicos. La persona que sabe que está siendo evaluada de forma permanente tiende a ajustar su conducta para mejorar su puntuación, aunque desconozca qué factores la determinan. Se produce así una disciplina difusa que condiciona decisiones vitales, desde el uso de una tarjeta hasta la elección de un lugar de residencia. La libertad no se ve limitada por prohibiciones expresas, sino por la presión silenciosa de un sistema que clasifica y jerarquiza de manera continua. El individuo ya no se limita a ser evaluado; aprende a comportarse como el sistema espera, y esa adaptación anticipada es quizá la manifestación más sutil del poder que ejercen los modelos predictivos.

El Derecho europeo comienza a reaccionar. La jurisprudencia reciente del Tribunal de Justicia de la Unión Europea, en particular los asuntos SCHUFA y Dun & Bradstreet Austria, marca un punto de inflexión. El Tribunal ha considerado que la elaboración de una puntuación puede constituir una decisión automatizada cuando desempeña un papel determinante en la decisión final del tercero; ha exigido que la intervención humana sea efectiva y no meramente formal, y ha establecido que el secreto comercial no puede amparar una opacidad absoluta frente al derecho del interesado a conocer la lógica aplicada. Se perfila así un estándar europeo de legitimidad algorítmica que descansa sobre tres pilares: transparencia, explicabilidad y responsabilidad.

Ese estándar, sin embargo, todavía debe traducirse en garantías concretas. Las entidades necesitan saber qué información deben ofrecer y cómo; los afectados, qué pueden reclamar y ante quién; los supervisores, con qué medios técnicos pueden auditar modelos cada vez más complejos. El Reglamento de Inteligencia Artificial, que califica como de alto riesgo los sistemas destinados a evaluar la solvencia de las personas físicas, aportará obligaciones de calidad de datos, documentación y supervisión humana, pero su eficacia dependerá de la capacidad real de las autoridades para controlar su cumplimiento y de la disposición de los tribunales a entrar en el fondo de estas decisiones.

Hace falta, en definitiva, una doble tarea. Por una parte, regular el uso de algoritmos en el ámbito financiero con mecanismos efectivos de supervisión, auditoría y tutela. Por otra, cuestionar las formas de conocimiento y de poder que estos sistemas encarnan, sin aceptar acríticamente su pretendida neutralidad. La persona no puede quedar reducida a su representación estadística sin que el ordenamiento reaccione. El reto consiste en impedir que la automatización financiera siga operando, en la práctica, al margen de los derechos fundamentales que el ordenamiento europeo proclama, y en conciliar la eficiencia tecnológica con algo que ningún modelo puede calcular: la dignidad de quien es evaluado.

Si le preocupa el peso de la información negativa sobre la identidad financiera, le recomiendo el siguiente artículo doctrinal de mi autoría:

El derecho al olvido en la cancelación de datos en registros de morosidad tras un concurso de acreedores

Rafael Linares Membrilla

Abogado en Tenerife