Священник, прокажённый и алгоритм: кто несёт ответственность за распространяющуюся язву?

"И прокажённый, у которого есть язва, должен носить разодранные одежды, распускать волосы на голове, закрывать уста и возглашать: нечист! нечист!"

(Левит 13:45)

В 2016 году Facebook опубликовал внутренний документ, который впоследствии попал в прессу. Среди выводов: алгоритм компании усиливает контент, вызывающий гнев, в пять раз по сравнению с нейтральным — потому что гнев порождает вовлечённость, а вовлечённость порождает рекламу. Компания знала об этом. И решила продолжать.

Последовавшая публичная дискуссия снова и снова возвращалась к одному и тому же вопросу: кто несёт ответственность? Человек, написавший подстрекательский пост, распространивший ложную новость, использовавший платформу как инструмент разжигания ненависти? Или сама платформа, создавшая машину, которая производит и усиливает именно эту язву?

Недельные главы Тазриа-Мецора, читаемые в эту субботу, не касаются политики социальных сетей. Они о проказе. Но внутри законов нечистоты и чистоты скрывается юридически-моральная структура, способная заострить дискуссию, которую мы ведём сегодня, и обнажить фундаментальный изъян в том, как крупные платформы мыслят об ответственности.

Священник как Fact Checker: что он проверяет?

Галахическая структура законов о проказе поражает своей простотой: священник осматривает язву и выносит решение. Не врач, не дерматолог, не социальный психолог, оценивающий намерения поражённого. Священник.

Но что именно он проверяет? Вот в чём интерес. Священник не спрашивает: откуда пришла язва? Он не исследует историю проказы, не ищет доказательств злого умысла и не пытается понять, намеревался ли прокажённый заразиться. Его вопрос один-единственный: распространилась ли язва?

"И если язва распространилась на коже" — распространение является критерием. Не намерение, не источник, не обстоятельства. Если язва разрослась — священник объявляет нечистым. Если осталась на месте — изолирует ещё на неделю. Если потемнела и не распространилась — чист.

Рамбам в «Законах нечистоты проказы» (глава 1) подчёркивает, что священник выносит решение не по собственному усмотрению — он решает по тому, что видит. "Увидел священник" повторяется в главе снова и снова как встроенный эмпирический механизм. Постановление — не моральное, оно наблюдательное.

Именно здесь дискуссия пересекается с миром современного Fact Checking. Когда платформенные компании пытаются определить, что является «дезинформацией», они сталкиваются с глубоким вопросом: выносить решение исходя из намерения говорящего — что почти невозможно доказать — или исходя из воздействия контента — что поддаётся измерению? Священник, по крайней мере в рамках галахической системы, отвечает на этот вопрос чётко: критерием является язва, а не прокажённый.

Прокажённый как Content Creator: ответственность остаётся

Но глава не ограничивается решением священника. Она продолжает возлагать на самого прокажённого обязанность, которая на первый взгляд кажется почти жестокой: "нечист! нечист! — пусть возглашает он". Прокажённый обязан кричать о себе, объявлять о своём состоянии окружающим.

Мудрецы (Моэд Катан 5а) объясняют это двумя способами: первый — чтобы люди сторонились его и не оскверялись. Второй — и, возможно, более глубокий — чтобы люди молились о нём. Объявление — это не только предупреждение для общества, но и личное признание, публичное принятие ответственности за своё положение.

Здесь проясняется поразительная асимметрия нашей эпохи. Тот, кто создал вредоносный контент, может скрыться за анонимностью, за именем пользователя, за тщательно выверенной формулировкой, допускающей правдоподобное отрицание. Платформа, со своей стороны, берёт на себя роль «священника» — решает, что вредно, а что нет — но без какой-либо моральной ответственности за усиление, которое она сама обеспечивает тому же контенту.

Тора представляет совершенно иную модель: священник выносит решение, но прокажённый несёт ответственность. Два отдельных механизма, два вида ответственности, которые не могут быть делегированы друг другу. Решающий — не несущий, а несущий не освобождён от обязанности объявления — даже если священник тот, кто обнаружил язву.

Парадокс усиления: язва, которая объявляет о себе, распространяется сильнее

Один из наиболее тревожных выводов информационной эпохи — то, что в исследовательской литературе называется «эффектом Стрейзанд»: попытка скрыть или удалить информацию нередко усиливает её распространение. Когда платформа помечает контент как «спорную информацию», это зачастую лишь разжигает любопытство вокруг него.

И прокажённый, возглашающий «нечист! нечист!», тоже привлекает внимание. Люди отступают — но и замечают. Объявление — это и защита, и разоблачение.

Однако существенное различие вот в чём: в главе Торы объявление сопровождается изоляцией за пределами стана. Существует физическое разделение. Язва не может распространяться, пока прокажённый находится вне стана. В социальных сетях «пометка» вредоносного контента не выводит его за пределы стана — порой она лишь вешает на него мигающую табличку, привлекающую ещё больше взглядов.

Священник нашей эпохи — алгоритм — не только выносит решения, он ещё и распространяет. А распространитель, извлекающий выгоду из распространения язвы, не может быть одновременно надёжным судьёй о степени её опасности.

Что Тора предлагает, а платформы упускают

Одно принципиальное различие между галахической моделью и тем, что происходит на крупных платформах: священник не извлекает выгоды из нечистоты.

Священник не получает оплаты в зависимости от числа больных, которых он очищает. У него нет стимула усиливать проказу, чтобы создать больше «вовлечённости». Его роль — констатировать состояние — нечист или чист — и направить поражённого к правильному процессу. Он находится вне экономики язвы.

Крупные платформы находятся внутри неё. И весьма глубоко.

Алгоритм, решающий, что является «дезинформацией», — тот же алгоритм, который извлекает выгоду из распространения контента, вызывающего гнев. Это фундаментальный конфликт интересов, не имеющий аналога в законах о священнике.

Возможно, реальный вопрос, который ставят главы Тазриа-Мецора, — не что цензурировать, а кто должен принимать решение. Священник, не являющийся участником экономики язвы — независимый, эмпирический орган, разделяющий вынесение решения и усиление, — является базовым условием достоверности всего механизма.

До тех пор, пока платформа является одновременно священником, распространителем и хозяином стана, внутри которого распространяется язва, — вопрос ответственности останется нерешённым. Не потому что у нас нет инструментов, а потому что тому, кто извлекает выгоду из язвы, нет реального интереса её исцелять.

"И во все дни, когда язва будет на нём, он будет нечист; он нечист, он должен жить отдельно, вне стана должно быть жилище его."

(Левит 13:46)