¿Humano según quién?

(escuchando “This is the End” de The Doors)

Si el cuerpo humano ya fue reducido a una miserable prótesis farmacéutica en la cuarta entrega de esta autopsia, y los objetos inanimados nos administran con la tiranía sorda de sus cajas negras en la quinta, el paso lógica y estéticamente inevitable hacia el abismo posthumano es descubrir quién diablos firma la orden de arresto cuando el algoritmo comete un homicidio culposo o arruina tu vida financiera con la precisión indiferente de una apisonadora de silicio.

Imagínate plantado frente al estrado, enfundado en el último uniforme de fibra biodegradable que permite el protocolo de austeridad fiscal. Frente a ti no hay un juez de carne con la peluca empolvada y los ojos húmedos por el soborno o la fatiga, sino un rack de servidores parpadeando en azul corporativo. La máquina ha decidido, tras procesar tu historial de navegación, tus patrones de consumo y el código postal donde duermes, que eres un riesgo sistémico inminente o que tu vehículo autónomo tenía la obligación moral de sacrificar tu integridad para optimizar la fluidez del tráfico en el corredor financiero.

El sistema ha calculado el resultado con la frialdad de un ábaco cuántico. La estadística se ha ejecutado. Pero cuando intentas estrangular al responsable, cuando buscas el cuello de carne y hueso al que reclamar la indemnización, te percatas de que el algoritmo es un perfecto huérfano legal: un producto sintético sin padre biológico, sin madre corporativa que admita la culpa y con los servidores blindados por un jugoso secreto industrial.

Bienvenidos a la zona de penumbra jurídica donde el sujeto soberano, ya herido de gravedad por los ensayos anteriores, termina de ser disuelto por una línea de código privativo que cobra en silencio y absuelve a nadie.

1. El avatar huérfano: Cuando la identidad es una filial offshore

En la película The Congress (Dir. Ari Folman, 2013) ¹, la actriz Robin Wright es seducida por los ejecutivos del estudio Miramount para vender la patente absoluta de su persona. El trato es una obra maestra del cinismo capitalista: el estudio la escanea milímetro a milímetro, captura la frecuencia exacta de sus parpadeos, el temblor de su voz ante la tragedia y el rictus de sus labios, para enlatar un avatar digital inmortal que protagonizará taquillazos infinitos mientras la mujer real languidece en una zona alucinatoria de consumo controlado.

Cuando el holograma corporativo de Robin se convierte en la dictadora comercial de la industria, la actriz biológica ya no posee derecho alguno sobre sus expresiones, sus dichos o su legado. Su carne se ha vuelto tan irrelevante como un disquete de tres y media.

La sátira feroz de este proceso se despliega hoy sin filtros en la economía gig y de suscripción masiva con las llamadas modelos de inteligencia artificial en plataformas como OnlyFans ². Creadores anónimos despliegan perfiles sintéticos generados por redes neuronales —rostros de perfección estadística que jamás han pisado un estudio fotográfico, avatares que conversan en bucle, simulan afecto y comercializan una intimidad automatizada a miles de suscriptores que pagan con tarjeta de crédito. Cuando el sistema genera fraudes por cobros indebidos (chargebacks), suplantación de identidad o estafas a escala industrial, la arquitectura jurídica entra en pánico total: ¿a quién se le fincan cargos penales? ¿Al proveedor del software de generación, al operador que redactó el prompt, o a la plataforma que monetiza el tráfico pero se escuda en sus términos de servicio para lavarse las manos? El resultado es el mismo: una entidad corporativa que recauda dividendos libres de impuesto moral, operando detrás de un avatar huérfano que no responde ante ningún tribunal de carne y hueso.

El derecho moderno, estructurado para juzgar a bipedestadores tangibles con documento de identidad, se estrella contra una pared de asfalto. El algoritmo opera como una caja negra jurídica impenetrable. La condena o el beneficio son el producto final de un proceso de aprendizaje profundo tan complejo que ni los ingenieros que lo redactaron pueden explicar por qué la red neuronal tomó esa ruta específica. La ley se encuentra ante el espejo roto de su propia obsolescencia: es completamente incapaz de interrogar a un archivo ejecutable.

“Hemos construido una arquitectura social donde la responsabilidad moral e institucional se ha evaporado por diseño. La decisión criminal la tomó una red neuronal opaca alimentada por sesgos históricos de exclusión, pero el servidor que la hospeda está blindado por patentes privativas. El resultado es un huérfano legal que masacra reputaciones con total impunidad.” Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (2015) ³

2. El laberinto del simulacro: La furia corporal contra el prompt perfecto

Frente a la fascinación contemporánea por optimizar el modelo de carne hasta disolverlo en el vector de una red neuronal, la gran tradición filosófica occidental ofrece un diagnóstico implacable. Para Baruch Spinoza, la pretensión de separar los afectos, la potencia y la agencia del cuerpo vivo para trasladarlos a una infraestructura puramente matemática es un absurdo ontológico: nadie ha determinado lo que puede un cuerpo, y pretender que un prompt algorítmico sustituya la experiencia inmanente de la carne equivale a reducir la sustancia a su caricatura geométrica. El modelo sintético que simula seducción y presencia en la pantalla no posee potencia de existir; es un simulacro vacío que parasita la vitalidad del rebaño sin pagar el tributo de la finitud biológica.

Si descendemos al terreno de la fenomenología corporal de Maurice Merleau-Ponty, la tragedia del avatar algorítmico se agudiza todavía más. El ser humano no habita el mundo como un operador sentado frente a una consola de comandos abstractos, sino a través de un cuerpo propio (corps propre) que siente, tropieza, envejece y padece la intemperie material. Reducir la identidad corporal a una secuencia de parámetros generados por difusión latente es consumar la alienación definitiva: el sujeto cree haber alcanzado la inmortalidad estética en el archivo digital, cuando en realidad ha abdicado de la única plataforma sensible desde la cual es posible ejercer la libertad y la resistencia política.

Sin embargo, frente a esta defensa incondicional de la carne, la tecnofilia occidental resucita los fantasmas más puros del desprecio somático. Desde la ascesis platónica —donde el cuerpo no es más que una tumba (soma sema) de la que el alma racional busca evadirse mediante la contemplación de las formas puras— hasta el desdén cartesiano por la res extensa, la optimización del prompt artificial encuentra su justificación teológica perfecta. Para esta corriente, la insatisfacción constitutiva de la carne es superada por fin gracias al simulacro computacional: ¿para qué arrastrar el dolor, el desgaste metabólico y la contingencia biológica si se puede habitar un éxtasis puramente mental, una satisfacción sin fricción gestionada por algoritmos que calculan el placer a la carta? El modelo sintético en OnlyFans o en los entornos de simulación afectiva no es una degradación para el adepto de la mente pura; es la liberación definitiva del primate de su propia miseria fisiológica, el triunfo del cálculo incorpóreo sobre el suplicio de la materia.

La trampa del diseño sintético radica en que el usuario intercambia la carne sufriente pero real por un simulacro inmaculado, ignorando que esa perfección matemática es administrada por una caja negra que mercantiliza su propia soledad.

3. El mito de la neutralidad matemática y el fruto del árbol envenenado

Nos han vendido el mito de que los números, por carecer de pulsiones pasionales, están libres de pecado original. Bajo esta coartada tecnocrática, los tribunales contemporáneos y los departamentos de recursos humanos han subcontratado su criterio a softwares de evaluación predictiva, bajo la premisa infantil de que un código no puede ser racista ni clasista.

La realidad operativa es exactamente la inversa y confirma con creces las advertencias de Langdon Winner sobre la legislación material y cómo los objetos y artefactos corporizan formas específicas de poder y autoridad ⁴. Si alimentas a una inteligencia artificial con los archivos policiales de los últimos cincuenta años en un país con apartheid sistemático, el algoritmo no descubre un orden natural de la criminalidad; se limita a devorar la mugre histórica, digerirla y devolverla convertida en una sentencia de alta tecnología con aval científico.

Piensa en los sistemas de predicción de reincidencia (como el infame software COMPAS utilizado en los juzgados norteamericanos). Cuando la máquina dictamina que un joven de barrio marginal posee un índice de peligrosidad del 89%, los jueces humanos —aterrados ante su propia ineptitud y sobrepasados de expedientes— firman la denegación de fianza asumiendo el veredicto como una verdad revelada desde el Sinaí digital. Estamos ante la consumación del “fruto del árbol envenenado”: una condena material ejecutada por prejuicios de clase que se disfrazan de estadística inmaculada ⁵, tal como documenta la crítica sobre la discriminación sistémica en códigos informáticos de Safiya Umoja Noble ⁶.

El drama kafkaiano adquiere aquí proporciones grotescas, reminiscentes del control asfixiante que Steven Spielberg retrató en Minority Report (2002), donde los ciudadanos son arrestados y destruidos cívicamente antes de perpetrar el delito, basándose en la infalibilidad mística de los videntes algorítmicos. En los tribunales actuales no hay un fiscal a quien rebatirle las pruebas en un careo humano; solo hay un puntaje de riesgo emitido por una caja negra que ya decidió tu exclusión social antes de que cruzaras la puerta giratoria del palacio de justicia ⁷.

Y si el cálculo falla, si la máquina arruina una vida por un error de redondez en los datos de entrenamiento, la respuesta institucional es un encogimiento de hombros corporativo. El error no es una falla individual: es una característica sistémica e indetectable del modelo de negocio.

4. El delirio de la personalidad jurídica artificial y la absoluta irrelevancia del rebaño

Ante el callejón sin salida de tener prisiones llenas de culpables sin autor material, los teóricos del derecho corporativo —siempre dispuestos a monetizar la catástrofe— han propuesto salidas tan delirantes como el problema original:

1. Otorgar personalidad jurídica a la máquina: Convertir a las inteligencias artificiales avanzadas en algo similar a las corporaciones o fundaciones. El algoritmo poseería un patrimonio propio, un seguro de responsabilidad civil y la capacidad legal de ser demandado. Esto convierte al software en un sujeto de derecho independiente, logrando el hito supremo del capitalismo tardío: que la herramienta abstracta pague impuestos y multas mientras sus creadores humanos disfrutan de los dividendos libres de culpa.
2. Responsabilidad objetiva y estricta de las corporaciones tecnológicas: Exigir que la empresa matriz pague indemnizaciones multimillonarias de forma automática cada vez que su software cometa una arbitrariedad, sin importar si hubo dolo o negligencia comprobable. Aunque suena punitivo, las grandes tecnológicas prefieren absorber estas multas como meros “costos operativos” dentro de seus presupuestos de marketing, manteniendo intacta la opacidad de sus cajas negras.

La conclusión antropológica de este desbarajuste es lapidaria. Si tu identidad biológica ha sido externalizada en un avatar comercial (como advertía The Congress) y las decisiones vitales que determinan tu crédito, tu libertad o tu salud son dictadas por rutinas de código inauditable, el individuo soberano deja de existir como categoría política. Ya no eres un ciudadano con derechos inalienables: eres una variable estocástica en una hoja de cálculo que el algoritmo administra, castiga o desecha sin la menor cortesía epistémica.

La fantasía romántica de la tecnofilia —esa que prometía que la máquina nos liberaría de las ataduras del trabajo y el juicio mundano— colapsa en una burocracia digital donde el error no tiene rostro, la condena no tiene firma y la vida cotidiana transcurre bajo la dictadura de un huérfano informático que jamás conoció el remordimiento.

5. Glosario Posthumano: Algoritmos, sesgos y cajas negras

Conceptos clave para auditar la disolución de la responsabilidad jurídica en la era de los autómatas:

La rendición de cuentas ante el vacío

Apagas de golpe la pantalla del tribunal virtual. El algoritmo no ha pisado una celda, no ha pagado condena alguna ni ha manifestado la menor culpa en su bitácora de eventos. Su código fuente descansa intacto en los servidores de la nube, blindado por leyes de propiedad intelectual y por la coartada perfecta de su propia inescrutabilidad matemática.

El trayecto de esta serie encuentra aquí su estación más sombría: partimos de un cuerpo biológico reducido a mera prótesis farmacológica en la entrega cuatro, pasamos por la constatación de que los objetos cotidianos nos gobiernan con autoridad despótica en la quinta, y aterrizamos finalmente en un sistema jurídico e institucional donde la soberanía del sujeto ha sido evaporada por una rutina informática que no le debe explicaciones a nadie.

Reconocer la autonomía de los artefactos y la tiranía de los algoritmos no nos devuelve el control sobre el mundo; al contrario, desnuda nuestra absoluta indefensión frente a la tiranía fría de la materia técnica. El trono del universo no estaba vacío esperando a que la especie humana madurara: nos enteramos demasiado tarde de que ya había sido ocupado por una hoja de Excel con permisos de administrador.

En resumen: Frente al despliegue masivo de sistemas de inteligencia artificial en los procesos judiciales y la consiguiente evaporación de la culpa, este ensayo desmenuza la opacidad de los algoritmos como cajas negras jurídicas. A partir de las advertencias cinematográficas de The Congress, el análisis fenomenológico y platónico de la carne frente al simulacro algorítmico y la crítica a los sesgos estructurales documentada por especialistas, exploramos la absoluta incapacidad del derecho contemporáneo para fincar responsabilidades cuando la máquina emite un fallo catastrófico.

¿Te gustó esta sexta entrega?

Este artículo es la parte 6 de la serie Guía para sobrevivir al funeral de tu propio ego.

Si quieres continuar el recorrido hacia la parte 7 (La ingeniería del consenso: Cómo el algoritmo manipula tu realidad sin que lo notes), suscríbete al boletín vía Substack o explora el índice principal de la serie.

Notas al pie