Депутат Мажилиса Сергей Пономарёв выразил обеспокоенность по поводу угрозы, которую дипфейки могут представлять для национальной безопасности Казахстана. Он направил депутатский запрос вице-премьеру, министру по искусственному интеллекту Жаслану Мадиеву и министру внутренних дел Ержану Саденову, в котором указал на опасности, связанные с использованием технологий дипфейков.
Дипфейк — это метод создания поддельных изображений, видео или аудиозаписей с помощью технологий искусственного интеллекта, который позволяет синтезировать контент, подменяя лицо человека, его мимику, жесты или голос.
Пономарёв отметил, что сам стал жертвой мошенников, которые создали дипфейк с его изображением. Он рассказал:
"Меня однажды так подделали - и голос, и видео, что мама не горюй. Не могли распознать оригинал от подделки незнакомые мне люди. Я уверен, что с этим сталкивалась половина сидящих в зале. Подделывают и предпринимателей, и бизнесменов, и больших политиков. Да что там говорить, могут подделать даже Главу государства"
По мнению депутата, создание и распространение дипфейка с участием Президента или другого публичного лица с ложными призывами может иметь катастрофические последствия. Он подчеркнул, что это уже угроза национальной безопасности, ссылаясь на мировой опыт, в частности, на то, что США в 2020 году включили положения о дипфейках в закон об оборонном бюджете.
Пономарёв также привёл пример Южной Кореи, где перед парламентскими выборами 2024 года был введён запрет на использование дипфейков в агитации за 90 дней до голосования, нарушение которого влечёт штраф или лишение свободы. Он отметил, что в ряде стран внедряются технологии автоматического выявления подделок и механизмы цифровой маркировки оригинального контента.
Депутат указал на то, что дипфейки всё чаще используются в финансовом мошенничестве.
"Когда человек слышит голос близкого или видит его видео с просьбой о помощи, на эту удочку попадаются даже высокообразованные граждане. По данным отчёта компании Feedzai за 2025 год, более 50 процентов случаев онлайн-мошенничества совершается с использованием искусственного интеллекта"
По его словам, главная проблема заключается в ущербе репутации. Даже если позднее размещается опровержение, вред уже нанесён, и "восстановить доверие практически невозможно".
Пономарёв призвал Министерство искусственного интеллекта и Министерство внутренних дел действовать на опережение и принять комплекс мер, включая вменение в обязанности центру мониторинга и экспертизы цифрового контента обеспечение и оперативное выявление дипфейков и их блокировку. Он также предложил разработать систему для проверки подлинности фото и видео, которая будет доступна не только судам, но и любому гражданину.
Среди других предложений депутата — проведение масштабной информационной кампании для обучения людей распознавать дипфейки и защищаться от цифрового мошенничества. В настоящее время депутаты Мажилиса готовят поправки в законы, чтобы усилить ответственность за незаконное использование дипфейков и ограничить применение ИИ-синтетики.
29 октября в Мажилисе был принят закон об искусственном интеллекте, который регулирует использование ИИ в Казахстане с приоритетом прав человека, прозрачности и национальных ценностей. Закон ограничивает слив конфиденциальной информации в нейросети, запрещает анализ эмоций и вводит обязательную маркировку дипфейков.