El Cohen, el Leproso y el Algoritmo: ¿Quién es responsable de la plaga que se propaga?

"Y el leproso en quien esté la plaga, sus vestidos estarán rasgados y su cabeza descubierta, y embozado pregonará: ¡Inmundo! ¡Inmundo!"

(Levítico 13, 45)

En el año 2016, Facebook publicó un documento interno que con el tiempo fue filtrado a los medios de comunicación. Entre los hallazgos: el algoritmo de la compañía amplifica el contenido que provoca ira cinco veces más que el contenido neutral, porque la ira genera participación, y la participación genera publicidad. La empresa lo sabía. Eligió continuar.

El debate público que estalló a raíz de estos hallazgos volvió una y otra vez a la misma pregunta: ¿quién es responsable? ¿La persona que escribió la publicación incitadora, que difundió la noticia falsa, que utilizó la plataforma como herramienta de incitación? ¿O la propia plataforma, que construyó una máquina que produce y amplifica exactamente esa plaga?

La porción de Tazria-Metzora, que se lee este Shabat, no trata sobre la política de las redes sociales. Trata sobre la lepra. Pero dentro de las leyes de impureza y pureza, oculta una estructura jurídico-moral que puede agudizar el debate que mantenemos hoy y revelar una falla fundamental en la manera en que las grandes plataformas piensan sobre la responsabilidad.

El Cohen como Fact Checker: ¿Qué examina?

La estructura halájica de las leyes de lepra sorprende por su sencillez: el Cohen ve la plaga y dictamina. No un médico, no un dermatólogo experto, no un psicólogo social que evalúe las intenciones del afectado. El Cohen.

Pero ¿qué examina exactamente? Aquí yace lo interesante. El Cohen no pregunta: ¿de dónde vino la plaga? No investiga la historia de la lepra, no busca pruebas de mala intención, ni intenta comprender si el leproso tuvo la intención de contagiarse. Su pregunta es una sola: ¿se ha propagado la plaga?

"Y si la plaga se hubiere extendido por la piel" — la propagación es el criterio. No la intención, no el origen, no las circunstancias. Si la plaga creció, el Cohen declara impuro. Si se mantuvo en su lugar, el Cohen lo aísla por una semana más. Si se oscureció y no se extendió — puro.

El Rambam, en las leyes de impureza de la lepra (capítulo 1), enfatiza que el Cohen no dictamina desde su propia opinión — dictamina según lo que ve. "Vio el Cohen" se repite una y otra vez en la porción, como un mecanismo empírico incorporado. El dictamen no es moral, es observacional.

Aquí es precisamente donde el debate se cruza con el mundo del Fact Checking moderno. Las compañías de plataformas, cuando intentan determinar qué es "información errónea", se enfrentan a una pregunta profunda: ¿dictaminar según la intención del hablante —que es casi imposible de probar— o según el efecto del contenido —que sí es medible? El Cohen, al menos dentro del marco halájico, responde la pregunta con claridad: la plaga es el criterio, no el afectado por la plaga.

El Leproso como Content Creator: la responsabilidad permanece

Pero la porción no se conforma con el dictamen del Cohen. Continúa e impone al propio leproso una obligación que a primera vista parece casi cruel: "pregonará: ¡Inmundo! ¡Inmundo!". El leproso debe gritar sobre sí mismo, proclamar su estado ante quienes lo rodean.

Los Sabios (Moed Katan 5, 1) explican esto de dos maneras: la primera, para que la gente se aparte de él y no se contamine. La segunda — y quizás esta sea la más profunda — para que la gente rece por él. La proclamación no es solo una advertencia al público, es también una confesión personal, una asunción pública de responsabilidad por la situación en la que se encuentra.

Aquí se aclara la asombrosa asimetría de nuestra era. Quien creó contenido dañino puede esconderse detrás del anonimato, detrás de un nombre de usuario, detrás de una formulación calculada que permite la negación plausible. La plataforma, por su parte, asume el papel del "Cohen" — dictamina qué es dañino y qué no — pero sin ninguna responsabilidad moral sobre la amplificación que ella misma proporciona a ese contenido.

La Torá presenta un modelo completamente diferente: el Cohen dictamina, pero el leproso carga. Dos mecanismos separados, dos tipos de responsabilidad que no pueden delegarse el uno al otro. El que dictamina no es el que carga, y el que carga no queda exento de la obligación de proclamar — aunque sea el Cohen quien descubrió la plaga.

La paradoja de la amplificación: la plaga que se proclama a sí misma se propaga más

Uno de los hallazgos más perturbadores de la era de la información es lo que en la literatura de investigación se denomina "efecto Streisand": el intento de ocultar o eliminar información frecuentemente aumenta su difusión. Cuando una plataforma marca un contenido como "información controvertida", no pocas veces amplifica la curiosidad a su alrededor.

También el leproso que proclama "¡Inmundo! ¡Inmundo!" despierta atención. La gente se aparta — pero también presta atención. La proclamación es a la vez protección y exposición.

Pero la diferencia esencial es esta: en la porción, la proclamación va acompañada de aislamiento fuera del campamento. Hay una separación física. La plaga no puede propagarse mientras el leproso esté fuera del campamento. En las redes sociales, "marcar" contenido dañino no lo saca del campamento — a veces solo le pone encima un letrero parpadeante que atrae más miradas.

El Cohen de nuestra era, es decir el algoritmo, no solo dictamina — también propaga. Y el propagador que se beneficia de la extensión de la plaga no puede ser también el dictaminador fiel sobre la magnitud de su peligro.

Lo que la Torá propone y las plataformas no logran ver

Una diferencia fundamental entre el modelo halájico y lo que ocurre en las grandes plataformas: el Cohen no se beneficia de la impureza.

El Cohen no recibe pago según el número de contaminados que purifica. No tiene incentivo para amplificar la lepra con el fin de generar más "participación". Su función es determinar un estado — impuro o puro — y guiar al afectado hacia el proceso correcto. Está fuera de la economía de la plaga.

Las grandes plataformas están dentro de ella. Y muy adentro.

El algoritmo que dictamina qué es "información errónea" es el mismo algoritmo que se beneficia de la difusión de contenido que provoca ira. Este es un conflicto de intereses fundamental que no tiene paralelo en las leyes del Cohen.

Quizás la verdadera pregunta que plantea la porción de Tazria-Metzora no es qué censurar, sino quién debe decidir. Un Cohen que no participa en la economía de la plaga — un organismo independiente, empírico, que separa el dictamen de la amplificación — es una condición básica para la credibilidad de todo el mecanismo.

Mientras la plataforma sea a la vez el Cohen, el baño público y el dueño del campamento dentro del cual la plaga se propaga — la cuestión de la responsabilidad permanecerá sin resolver. No porque carezcamos de herramientas, sino porque quien se beneficia de la plaga no tiene un interés real en curarla.

"Y todos los días que la plaga esté en él, será inmundo; estará impuro. Habitará solo; fuera del campamento será su morada."

(Levítico 13, 46)