No pondrás tropiezo ante el ciego: responsabilidad en la era de la inteligencia artificial

En el corazón de la parashá de Kedoshim se esconde un mandamiento de enorme potencial: "No maldecirás al sordo, ni pondrás tropiezo ante el ciego; sino que temerás a tu Dios. Yo soy el Señor" (Levítico 19:14)

Una persona que lanza al mercado un sistema basado en inteligencia artificial capaz de crear deepfakes, difundir información falsa o llevar a personas a tomar decisiones críticas equivocadas — ¿está transgrediendo una prohibición bíblica?

I. La ampliación de la prohibición: de la ceguera física a la ceguera intelectual

El Sifra, Torat Kohanim sobre Levítico 19, ya estableció que la prohibición no se limita al ciego físico: "Ante quien es ciego en un asunto. Si alguien te pide consejo, no le des un consejo que no le convenga". Es decir, toda persona que no comprende un determinado ámbito es considerada "ciega" a efectos de esta prohibición.

Rashi en el versículo subraya que el texto concluye con las palabras "temerás a tu Dios" — señal de que se trata de una prohibición "confiada al corazón", que ninguna otra persona puede saber si la intención fue buena o mala. Solo el Santo, Bendito Sea, lo sabe. El Maharal en Gur Aryé lo refuerza: en una zancadilla física, el ciego puede saber quién lo hizo tropezar. Pero en la "ceguera intelectual", solo Dios ve.

El Sefer HaJinuj, mandamiento 232, amplía: "No hacer tropezar a los hijos de Israel dándoles un mal consejo... y esta prohibición incluye también a quien ayude a cometer una transgresión o la provoque". Es decir, no solo el consejo directo, sino también la ayuda indirecta para causar un tropiezo.

II. "Ante el ciego" en el mundo del software y la inteligencia artificial

En el mundo tecnológico actual, ¿quiénes son los "ciegos"? Casi todos nosotros.

Cuando un desarrollador lanza un producto basado en inteligencia artificial capaz de crear "deepfakes" — vídeos falsificados que parecen completamente reales, imágenes fabricadas, textos falsos — está creando una herramienta cuya potencia y potencial destructivo el gran público no siempre comprende. El usuario es "ciego en el asunto": no sabe cómo identificar un vídeo falso, no comprende su impacto y no puede defenderse de él.

Según las palabras del Rambam en su Comentario a la Mishná: "Quien lo engaña y lo conduce al tropiezo, o le ordena la transgresión, o lo ayuda en ella de cualquier manera, aunque sea con unas pocas palabras, es castigado por el Cielo". La responsabilidad no se limita al malhechor que usa la herramienta — recae también sobre quien la construyó y posibilitó su uso.

III. La cuestión de "terei ivrei d'nahara" — cuando el obstáculo ya es accesible

El Talmud en el tratado de Avoda Zará (folio 6a) analiza una pregunta importante: si el nazireo puede conseguir vino por sí mismo, ¿acaso quien le entrega una copa de vino transgrede "ante el ciego"? La respuesta: solo cuando están "en dos orillas del río" — es decir, cuando una persona realmente no puede llegar a la transgresión sin tu ayuda, solo entonces se viola la prohibición.

Habrá quien quiera argumentar: las herramientas de IA peligrosas ya son accesibles para cualquier persona en cualquier lugar, así que no hay problema en lanzar una más. Sin embargo, la postura del Rambam en las Leyes de Daños se opone a esto: "Aunque quien lo hace es quien debe pagar, este que se lo dijo es su cómplice en el pecado y es malvado, pues ha hecho tropezar al ciego". Aunque otros hagan el mal, eso no es permiso para unirse a esa cadena de daño.

IV. "Temerás a tu Dios" — cuando ningún tribunal llegará hasta ti

Uno de los aspectos más fascinantes de esta prohibición es el "temerás a tu Dios" — el énfasis en que se trata de una prohibición que no siempre puede hacerse cumplir desde fuera.

Una empresa que lanza una API abierta sin restricciones puede alegar ante un tribunal: "No sabía que la usarían para hacer el mal." Sin embargo, según la interpretación halájica, tal como explica el Torat Kohanim: "Si dijeres que le estoy dando buen consejo — el asunto está confiado al corazón". Si sabes en tu corazón que la herramienta causará daño, ninguna declaración de "buenas intenciones" la hace permisible.

Esta es precisamente la crítica a las empresas de IA que lanzan modelos al mercado sin las salvaguardas suficientes. Saben — y en ocasiones lo admiten internamente — que el modelo puede ser utilizado para causar daño. "Temerás a tu Dios" no deja lugar para evasivas.

V. La responsabilidad triple: desarrollador, empresa y regulador

Según el mundo de la Halajá, hay tres actores en la cadena del "ante el ciego":

• El desarrollador individual — obligado a preguntarse: "¿Hará tropezar esta herramienta a quien no comprende sus consecuencias?"
• La empresa — responsable de la política de lanzamiento de herramientas al mercado, de las pruebas de red teaming y de los mecanismos de control.
• El regulador — sobre quien también recae la prohibición, como escribe el Sefer HaJinuj: "La raíz del mandamiento es conocida, pues el arreglo del mundo y su asentamiento consiste en guiar a las personas y darles en todas sus acciones buen consejo" — también el legislador que se niega a regular un ámbito peligroso "pone un obstáculo ante el ciego".

El Meshej Jojmá amplía la prohibición incluso a la "ceguera mental y emocional" — una situación en la que una persona está dispuesta a recibir daño a causa de su instinto, su ira o su falta de comprensión. Esto se ajusta exactamente a la dinámica de la IA: el usuario que comparte un deepfake no lo hace con mala intención — simplemente no comprende.

La responsabilidad, según la Halajá, no recae sobre el "ciego" que tropezó. Recae sobre quien colocó el obstáculo.

En conclusión

La parashá de Kedoshim nos invita a examinar no solo lo que construimos, sino quién se beneficiará de ello — y quién resultará perjudicado. Un desarrollador de IA que se pregunta "¿estoy poniendo un obstáculo ante quien no comprende?" está formulando una pregunta antiquísima, que la Torá enunció miles de años antes de la era de la inteligencia artificial.

"Y temerás a tu Dios, Yo soy el Señor" — incluso cuando ningún tribunal llegará hasta ti.