Достоверность доказательств и технологии дипфейка (Апостолова Н.Н.)

Правосудие по своей сути и назначению имеет своей целью восстановление нарушенной преступлением (или иным правонарушением) социальной справедливости. Достижение такой цели возможно только в случае установления истинной картины совершенного преступления (правонарушения), из чего вытекает необходимость доказывания действительных обстоятельств совершенного преступления (или иного правонарушения) на основе достоверных доказательств.
Понятие достоверных доказательств дается только в ч. 3 ст. 71 Арбитражного процессуального кодекса Российской Федерации <1> (далее - АПК РФ), согласно которой доказательства признаются достоверными, если содержащиеся в них сведения соответствуют действительности. В Уголовно-процессуальном кодексе Российской Федерации <2> (далее - УПК РФ) понятие достоверных доказательств не содержится, хотя, согласно ч. 1 ст. 88 УПК РФ, доказательства по уголовному делу также должны быть достоверными.
--------------------------------
<1> Арбитражный процессуальный кодекс Российской Федерации от 24 июля 2002 г. N 95-ФЗ // СПС "КонсультантПлюс".
<2> Уголовно-процессуальный кодекс Российской Федерации от 18 декабря 2001 г. N 174-ФЗ // СПС "КонсультантПлюс".

В теории уголовного судопроизводства, равно как и гражданского процесса, подходы к определению достоверности доказательств объединяет понимание того, что достоверные сведения являются истинными, т.е. точно и правильно отражают обстоятельства совершенного в реальной действительности преступления (правонарушения) <3>.
--------------------------------
<3> Костенко Р.В. Понятие и признаки уголовно-процессуальных доказательств. М.: Юрлитинформ, 2006. С. 123 - 137; Лебедев Н.Ю., Степанов С.А. Достоверность и достаточность доказательств в уголовном судопроизводстве: понятие, значение и проблемы установления // Закон и право. 2022. N 4. С. 146 - 150; Михайловская И.Б. Настольная книга судьи по доказыванию в уголовном процессе. М.: Проспект, 2006. С. 109 - 118 и др.

Разумеется, что данному требованию должны в полной мере отвечать и электронные доказательства <4>, которых в современном судопроизводстве становится все больше и больше. Цифровизация порождает появление самых различных электронно-цифровых сведений, посредством которых осуществляется доказывание по уголовным, гражданским, административным и арбитражным делам.
--------------------------------
<4> Фоков А.П. Рецензия на монографию В.А. Лаптева, Н.И. Соловяненко "Цифровое правосудие. Цифровой документ" (М.: ИГП РАН; Проспект, 2022. 248 с.) // Мировой судья. 2023. N 1. С. 32 - 37; Фролова М. Попали в нейросети: хакеры начали использовать в своих схемах ChatGPT // Известия. 2023. 19 июня; Ярошенко Т.В. Проблематика электронных доказательств в условиях развития электронного правосудия в арбитражном процессе // Администратор суда. 2023. N 1. С. 32 - 36.

Однако физическая природа электронно-цифровых доказательств такова, что, с одной стороны, они позволяют точно и максимально достоверно фиксировать определенные юридические факты, а с другой - почти также правдоподобно создавать поддельные фальшивые сведения, не соответствующие действительности. Речь идет о получающей все большее распространение технологии дипфейка, с помощью которой могут генерироваться различные ложные фото, видео- и аудиозаписи довольно высокого качества.
Дипфейк - результат применения, как правило, генеративно-состязательной сети (Generative Adversarial Network (GAN)), состоящей из двух состязающихся друг с другом нейросетей, изучающих определенный набор учебных характеристик фото, видео - или аудиоданных и создающих на их основе новые поддельные фальшивые фото, видео и аудиозаписи <5>.
--------------------------------
<5> Подробнее см.: URL: https://www.kaspersky.ru/resource-center/threats/protect-yourself-from-deep-fake (дата обращения: 30.05.2023); URL: https://www.kaspersky.ru/blog/audio-deepfake-technology/35694/ (дата обращения: 10.07.2023).

И поскольку обучение и развитие данной технологии идет стремительно и качество дипфейков постоянно улучшается, то по мере ее совершенствования и распространения эта проблема приобретает угрожающий характер для осуществления нормальной жизнедеятельности любого государства и общества. Не говоря уже об осуществлении правосудия, которое может превратиться в свою противоположность.
В январе 2023 г. в Китае вступило в силу правительственное "Постановление о порядке осуществления деятельности по управлению информационными интернет-услугами, использующими технологии глубокого синтеза", согласно которому сгенерированный контент может публиковаться и распространяться только теми пользователями, чья личность достоверно подтверждена. Такой контент должен быть ясно и недвусмысленно маркирован (самими пользователями и цифровыми платформами) в случае "любого существенного изменения содержания или создания новой информации: генерации текстов, синтетического озвучивания, создания изображений, управления мимикой и поведением персонажей, манипулирования объектами" <6>.
--------------------------------
<6> Сухачев С. Глубокие заблуждения: в КНР начали законодательно бороться с дипфейками // Профиль. 2023. 11 февраля.

В июле 2023 г. в КНР были приняты новые правила администрирования генеративных служб ИИ (вступающие в силу с 15 августа 2023 г.), направленные на содействие здоровому развитию генеративного искусственного интеллекта и предотвращения связанных с его применением рисков. В них содержится меньше ограничений и предоставляется свобода для создания и использования генеративного ИИ, но неизменными остаются требования по безопасному и законному предоставлению услуг и маркировке сгенерированного контента в соответствии с Положением об администрировании глубокого синтеза информационных услуг Интернета <7>.
--------------------------------
<7> "О временных мерах по администрированию генеративных служб искусственного интеллекта". URL: https://ai-news.ru/2023/07/o_vremennyh_merah_po_administrirovaniu_generativnyh_sluzhb_iskusstvennogo.html (дата обращения: 17.07.2023).

По данным компании DeepMedia, "в общей сложности количество дипфейков, распространенных в соцсетях по всему миру, достигнет 500 тысяч к концу текущего года" <8>.
--------------------------------
<8> URL: https://d-russia.ru/kolichestvo-dipfejkov-v-seti-uvelichilos-v-razy-v-2023-godu-smi.html (дата обращения: 15.07.2023).

Совершенно очевидно, что и в нашей стране необходимо в самое ближайшее время принять меры к правовому урегулированию создания и использования генеративного контента и предусмотреть гражданскую, административную и уголовную ответственность за нарушение установленных правил.
Как показывает практика, бесконтрольное использование генеративного искусственного интеллекта способно причинить весьма значительный общественно опасный вред и обществу, и государству, и гражданам. Уже сегодня фейковый контент применяется для психологического воздействия и различных манипуляций, дезинформации и прикрытия совершенных преступлений.
Используя дипфейки (ChatGPT и другие чат-боты с искусственным интеллектом), преступники убеждают переводить крупные суммы денег на свои счета; завлекают людей на сайты с мошенническими схемами; распространяют вредоносное программное обеспечение, выдавая его за полезное ПО; создают и маскируют фишинговые страницы под видом официальных страниц серьезных компаний и организаций и т.п. <9>. В перечисленных случаях привлечение к уголовной ответственности за причиненный вред становится необходимым.
--------------------------------
<9> Фролова М. Указ. соч.

Несомненную общественную опасность представляют и случаи представления в суды сгенерированных чат-ботами подложных фейковых сведений в качестве доказательств и (или) фактов (обстоятельств), которыми обосновывают свою позицию стороны <10>.
--------------------------------
<10> Степанов Д. ChatGPT обманул опытнейшего адвоката, придумав прецеденты, которых в реальности не было. Теперь адвокату грозит наказание // Cnews.ru. 2023. 29 мая.

Не исключено, что в ближайшее время УК РФ потребуется дополнить ст. 303.1, в которой должна быть предусмотрена уголовная ответственность за предоставление в суд не проверенных должным образом сведений, полученных при помощи нейросетей (ИИ).
Необходимо также разработать и внедрить в систему ГАС РФ "Правосудие" антифейковую технологию распознавания сфальсифицированной с помощью чат-ботов информации, которой будут пользоваться как суды, так и иные участники процесса. В современных системах антиплагиата, например, уже имеется такого рода опция.
В наше время при осуществлении правосудия необходимо учитывать возможности использования фальшивых фото-, видео- или аудиоматериалов, равно как и любых других электронных доказательств, которые могут быть сфальсифицированы с целью сокрытия факта или следов совершения какого-либо преступления или иного правонарушения (особенно осознавая выдающиеся креативные способности российских знатоков IT-технологий).
Закрепления соответствующей правовой регламентации создания, распространения и использования сгенерированного медиаконтента и введения ответственности за нарушение установленных правил, защищающих его аутентичность, будет все же недостаточно.
Необходимо еще, чтобы судьи (их помощники), прокуроры, следователи, дознаватели, адвокаты (равно как и любые иные юристы) владели минимально необходимыми навыками распознавания дипфейков. Специалисты "Лаборатории Касперского" называют следующие их признаки: неровное движение; изменение освещения в соседних кадрах; различия в оттенках кожи (ее искусственность); отсутствие моргания глазами или неестественность моргания (отсутствие эмоций в глазах); плохая синхронизация движения губ с речью и другие цифровые артефакты и дефекты <11>.
--------------------------------
<11> См.: URL: https://www.kaspersky.ru/resource-center/threats/protect-yourself-from-deep-fake (дата обращения: 15.07.2023).

Дальнейшее развитие нейросетей приведет к устранению перечисленных недостатков и в скором времени отличать дипфейки от настоящего медиаконтента будет все труднее или вообще невозможно. В таком случае без применения специальных антифейковых технологий (криптографической хеш-функции <12>, сигнатуры (цифровые отпечатки наших действий и цифрового окружения) <13>, т.е. программ, вставляющих в видеоконтент специальные цифровые артефакты, затрудняющие создание дипфейк-алгоритмов) будет уже не обойтись.
--------------------------------
<12> См.: URL: https://www.kaspersky.ru/blog/the-won-ders-of-hashing/3633/ (дата обращения: 31.05.2023).
<13> См.: URL: https://www.sobaka.ru/rnd/lifestyle/gadgets/141376 (дата обращения: 31.05.2023).

Не исключено, что созданный без применения такого рода антифейковых технологий электронный контент не должен будет приниматься в судах в качестве допустимых и достоверных доказательств, если установить его подлинность не представляется возможным. В любом случае соответствующее технологическое решение установления подлинности цифровых документов в ходе судопроизводства должно быть найдено.
Складывается парадоксальная ситуация, когда IT-технологии, с одной стороны, облегчают процесс собирания и проверки доказательств, а с другой - создают возможности для их фальсификации. С помощью искусственного интеллекта (нейросетей) можно сгенерировать любые фальшивые (правдоподобные) сведения: текст, документ, видео, аудио, фото, рисунок, иное изображение и т.п.
Очевидно, собирание, проверка и оценка электронных доказательств должны проводиться с учетом технологии дипфейка и других возможностей фальсификации электронно-цифровых сведений. Осуществление справедливого правосудия в таких обстоятельствах требует совершенствования способов собирания и проверки представляемых в суды электронных доказательств и их критической оценки.
Уже сегодня любой электронный контент, вызывающий сомнение, следует подвергать соответствующему экспертному исследованию, внимательно сопоставлять с другими доказательствами и получать новые с целью его проверки на достоверность. Степень опасности использования в доказывании при осуществлении правосудия фальшивых (сфабрикованных) электронных доказательств стремительно растет.
Было бы полезным уточнить перечень требований, гарантирующих достоверность таких доказательств. "Порядок подачи в федеральные суды общей юрисдикции документов в электронном виде, в том числе в форме электронного документа" <14>, устанавливающий минимально необходимые требования к электронным доказательствам и электронным образам документов, должен быть дополнен как минимум указанием сведений о технологиях, применявшихся при их получении, и иных обстоятельствах (особенностях) их получения.
--------------------------------
<14> URL: https://vsrf.ru/appeals/ (дата обращения: 15.07.2023).

Важно, чтобы было понятно, посредством какого технического средства получены представленные в суд электронные документы, на основе каких технологий (технических средств, ПО, чат-ботов и т.п.). Указание данных сведений в качестве обязательного требования к электронным доказательствам незначительно усложнит процесс их собирания, зато облегчит их проверку и возможности определения их достоверности. Что, как известно, является непременным условием осуществления справедливого правосудия.
Скорее всего, станет неизбежным применение органами оперативно-разыскной деятельности (ОРД), предварительного расследования, судами, защитниками и иными участниками процесса в ходе доказывания по уголовным, гражданским и административным делам таких IT-технологий, которые содержат необходимые гарантии получения достоверной (правдивой) доказательственной информации или, по крайней мере, позволяют определять степень ее достоверности.
Проведение судебных экспертиз на предмет определения подлинности цифровых сведений, используемых в качестве доказательств при осуществлении правосудия, должно осуществляться только достаточно компетентными для этого IT-специалистами, владеющими соответствующими IT-технологиями и методиками.
Помимо аппаратно-компьютерной (исследование технических средств), программно-компьютерной (исследование программ), информационно-компьютерной (исследование информации) и компьютерно-сетевой (исследование функционирования устройства в интернет-сети) экспертиз должна появиться и еще одна - экспертиза подлинности электронно-цифрового контента.
Проведение такой экспертизы (скорее всего, комплексной) должно стать хотя и основным способом определения достоверности электронных доказательств, но точно не единственным. По крайней мере, до тех пор, пока не будут должным образом решены проблемы, связанные с надлежащей достоверностью самих экспертных исследований и экспертных заключений <15>.
--------------------------------
<15> Горелов Е.В. Расследование преступлений, связанных с деятельностью экспертов, дающих заведомо ложные заключения: постановка вопроса // Российский следователь. 2023. N 4. С. 2 - 4.

Ни следователь, ни дознаватель, ни суд не должны целиком и полностью полагаться только лишь на выводы, сделанные в результате проведенной экспертизы. Обязанность по проверке и установлению достоверности доказательств закон возлагает на них, а не на каких бы то ни было экспертов и специалистов.
Потому не меньшее значение должен иметь и такой способ проверки электронных доказательств, как сопоставление, под которым понимаются анализ и сравнительное исследование как каждого доказательства в отдельности, так и их совокупности. Как известно, сопоставление доказательств осуществляется путем их анализа и сравнительного исследования. Необходимо также определять степень согласованности (отсутствия противоречий) и смысловые связи доказательств друг с другом и всей их совокупности.
Важно проводить и соответствующую проверку их источника, способа получения (происхождения) доказательств, формы фиксации (например, электронного носителя) и других особенностей.
При возникновении каких-либо сомнений в достоверности электронных доказательств желательно не ограничиваться лишь производством экспертизы. Следует получать необходимые сведения из других (нескольких различных) источников путем производства процессуальных действий. Например, имеющаяся видеозапись может быть проверена путем допроса свидетелей, проведением осмотров, получением данных об исследуемых обстоятельствах дела иным законным способом.
В общем и целом напрашивается вывод, что в эпоху стремительного развития дипфейковых технологий осуществление справедливого правосудия невозможно без проведения комплексной всесторонней тщательной проверки цифровых доказательств. Требуются также оперативная разработка и внедрение соответствующих IT-решений, гарантирующих распознавание фальшивого (поддельного) сгенерированного цифрового контента.

Литература

1. Горелов Е.В. Расследование преступлений, связанных с деятельностью экспертов, дающих заведомо ложные заключения: постановка вопроса / Е.В. Горелов // Российский следователь. 2023. N 4. С. 2 - 4.
2. Костенко Р.В. Понятие и признаки уголовно-процессуальных доказательств / Р.В. Костенко. Москва: Юрлитинформ, 2006. 240 с.
3. Лебедев Н.Ю. Достоверность и достаточность доказательств в уголовном судопроизводстве: понятие, значение и проблемы установления / Н.Ю. Лебедев, С.А. Степанов // Закон и право. 2022. N 4. С. 146 - 150.
4. Михайловская И.Б. Настольная книга судьи по доказыванию в уголовном процессе / И.Б. Михайловская. Москва: Проспект, 2006. 192 с.
5. Степанов Д. ChatGPT обманул опытнейшего адвоката, придумав прецеденты, которых в реальности не было. Теперь адвокату грозит наказание / Д. Степанов // CNews.ru. 2023. 29 мая.
6. Сухачев С. Глубокие заблуждения: в КНР начали законодательно бороться с дипфейками / С. Сухачев // Профиль. 2023. 11 февраля.
7. Фоков А.П. Рецензия на монографию В.А. Лаптева, Н.И. Соловяненко "Цифровое правосудие. Цифровой документ" (Москва: ИГП РАН; Проспект, 2022. 248 с.) / А.П. Фоков // Мировой судья. 2023. N 1. С. 32 - 37.
8. Фролова М. Попали в нейросети: хакеры начали использовать в своих схемах ChatGPT / М. Фролова // Известия. 2023. 19 июня.
9. Ярошенко Т.В. Проблематика электронных доказательств в условиях развития электронного правосудия в арбитражном процессе / Т.В. Ярошенко // Администратор суда. 2023. N 1. С. 32 - 36.