«Не клади преткновения перед слепым»: ответственность в эпоху искусственного интеллекта

В сердце главы Кдошим скрыта заповедь с огромным потенциалом: «Не злословь глухого и перед слепым не клади преткновения, и бойся Бога твоего, Я Господь» (Ваикра 19:14)

Человек, выпускающий на рынок систему на основе искусственного интеллекта, способную создавать дипфейки, распространять ложную информацию или приводить людей к критическим ошибочным решениям — нарушает ли он библейский запрет?

А. Расширение запрета: от физической слепоты к слепоте умственной

Сифра, Торат Коганим к Ваикра 19 уже постановила, что запрет не ограничен физически слепым: «Перед слепым в [каком-либо] деле. Если кто-то просит у тебя совета — не давай ему совета, который не подходит ему». То есть любой человек, несведущий в какой-либо области, считается «слепым» для целей этого запрета.

Раши к этому стиху подчёркивает, что стих завершается словами «бойся Бога твоего» — признак того, что речь идёт о запрете, «вверенном сердцу», который другой человек не может проверить: была ли намеренная злоба или нет. Только Всевышний знает. Маараль в «Гур Арье» усиливает это: при физическом преткновении слепой может узнать, кто его споткнул. Но при «умственной слепоте» — видит лишь Господь.

Сефер а-Хинух, заповедь 232, расширяет: «Не вводить сынов Израиля в заблуждение, давая им плохой совет... и этот запрет включает также того, кто помогает совершить грех или способствует ему». То есть — не только прямой совет, но и косвенная помощь в создании преткновения.

Б. «Перед слепым» в мире программного обеспечения и искусственного интеллекта

В современном технологическом мире — кто эти «слепые»? Почти все мы.

Когда разработчик выпускает продукт на основе искусственного интеллекта, способный создавать «глубокую подделку» — поддельные видео, выглядящие совершенно настоящими, сфабрикованные изображения, ненастоящие тексты — он создаёт инструмент, чью мощь и разрушительный потенциал широкая публика не всегда понимает. Пользователь «слеп в этом деле»: он не знает, как распознать поддельное видео, не понимает его воздействия и не способен защититься от него.

По словам Рамбама в комментарии к Мишне: «Вводящий в заблуждение и приводящий к преткновению, или повелевающий ему нарушить, или помогающий ему в этом любой помощью — даже малым словом — наказывается Небесами». Ответственность не ограничивается злодеем, использующим инструмент — она распространяется также на того, кто его создал и сделал возможным его использование.

В. Вопрос «трэй эврэй дэнаhара» — когда преткновение доступно в любом случае

Талмуд в трактате Авода Зара (лист 6.) обсуждает важный вопрос: если назир может самостоятельно достать вино, нарушает ли человек, передающий ему бокал вина, запрет «перед слепым»? Ответ: лишь когда они стоят «на двух берегах реки» — то есть когда человек действительно не может добраться до запрещённого без твоей помощи, — лишь тогда нарушают запрет.

Некоторые захотят сказать: опасные инструменты ИИ в любом случае доступны каждому повсюду, так что незачем беспокоиться о выпуске ещё одного. Однако постановление Рамбама в «Законах о травмах и ущербе» противостоит этому: «Хотя именно делающий обязан выплатить, тот, кто велел ему, — соучастник в грехе, и он злодей, ибо ввёл слепого в преткновение». Даже если другие поступают плохо — это не разрешение присоединиться к той же цепи вреда.

Г. «Бойся Бога твоего» — когда ни один суд до тебя не доберётся

Один из самых захватывающих аспектов этого запрета — слова «бойся Бога твоего» — подчёркивающие, что речь идёт о запрете, который не всегда можно обеспечить извне.

Компания, выпускающая открытый API без ограничений, может заявить в суде: «Я не знал, что это используют во вред». Однако согласно hалахическому толкованию, как объясняет «Торат Коганим»: «Скажешь, что даёшь ему добрый совет — но дело вверено сердцу». Если ты знаешь в душе, что инструмент причинит вред, никакое заявление о «добрых намерениях» его не оправдывает.

Это именно та критика, которая применима к компаниям в сфере ИИ, выпускающим модели на рынок без достаточных средств защиты. Они знают — и порой признают внутренне — что модель может быть использована во вред. «Бойся Бога твоего» не оставляет места для уклонения.

Д. Тройная ответственность: разработчик, компания и регулятор

В мире Hалахи в цепи «перед слепым» есть три участника:

• Отдельный разработчик — обязан спросить себя: «Споткнётся ли об этот инструмент тот, кто не понимает его последствий?»
• Компания — несёт ответственность за политику выпуска инструментов на рынок, за тестирование на устойчивость к злоупотреблениям и за механизмы контроля.
• Регулятор — на которого также распространяется запрет, как пишет Сефер а-Хинух: «Корень заповеди известен, ибо исправление мира и его устройство состоит в том, чтобы направлять людей и давать им добрый совет во всех делах» — и законодатель, отказывающийся урегулировать опасную область, «кладёт преткновение перед слепым».

«Мешех Хохма» расширяет запрет также на «умственную и эмоциональную слепоту» — состояние, при котором человек готов принять вред из-за своих влечений, гнева или непонимания. Это точно соответствует динамике ИИ: пользователь, распространяющий дипфейк, делает это не из злого умысла — он просто не понимает.

Ответственность, по hалахе, не ложится на «слепого», который споткнулся. Она ложится на того, кто положил преткновение.

Заключение

Недельная глава Кдошим приглашает нас задуматься не только о том, что мы создаём, но и о том, кто извлечёт из этого пользу — и кто пострадает. Разработчик ИИ, задающий себе вопрос «не кладу ли я преткновения перед тем, кто не понимает?» — задаёт очень древний вопрос, который Тора сформулировала за тысячелетия до эпохи искусственного интеллекта.

«И бойся Бога твоего, Я Господь» — даже когда ни один суд до тебя не доберётся.