Законопроект об искусственном интеллекте в Казахстане: возможности и вызовы для общества

В среду депутаты Мажилиса в первом чтении рассмотрят законопроект по вопросам искусственного интеллекта, а также сопутствующие поправки к нему. Для чего Казахстану закон об ИИ, как он будет работать и стоит ли казахстанцам опасаться развития нейросетей? Об этом в интервью корреспонденту Tengrinews.kz рассказала депутат Мажилиса, руководитель рабочей группы по законопроекту Екатерина Смышляева.

- Екатерина Васильевна, расскажите, почему в нашей стране возникла необходимость разработки отдельного закона, регулирующего использование искусственного интеллекта? Может ли Казахстан стать мировым центром ИИ?

- Мы должны соответствовать быстро меняющимся реалиям. Сегодня технологии искусственного интеллекта быстро и прочно входят в наш быт, а правового поля для их регулирования еще нет. Казахстан не отстает от глобальной ситуации. Когда закон примут, мы станем второй юрисдикцией в мире, после Евросоюза, где ИИ регулируется отдельным законодательным актом. Необходимость создания такой правовой базы признали на высоком уровне. Президент в ходе заседания Национального курултая в Бурабае подчеркнул важность цифровизации и развития ИИ в стране.

Екатерина Смышляева. Фото: пресс-служба Мажилиса

Чтобы понять, насколько реально Казахстану стать хабом для ИИ, важно разобраться в природе цифрового развития. Дата-центрам нужен холодный климат, доступная электроэнергия и связь. Казахстан имеет благоприятный климат для таких объектов, что позволяет снизить затраты на охлаждение серверов. Географическое положение страны удобно для создания международных хранилищ данных. Проблема остается с ценами на электроэнергию и разбалансированностью системы в часы пик, но принимаются меры по повышению эффективности генераций и строительству новых объектов.

Для разработчиков, занимающихся созданием программных решений на основе ИИ, важны экономические условия, налоговые льготы и правила экспорта. В этом направлении расширяется цифровой технопарк AstanaHub.

Для начинающих ключевым элементом станет Национальная платформа искусственного интеллекта, которая позволит создавать и тестировать ИИ-продукты в защищенной среде, обеспечивая доступ к вычислительным мощностям и данным для обучения. Эта платформа станет инкубатором для новых идей и продуктов, поддерживая стартапы с высоким казахстанским содержанием.

Общество в Казахстане можно отнести к цифровым оптимистам, что способствует внутреннему спросу. Движение идет как сверху, так и от самого общества. Президент уделяет внимание внедрению технологий ИИ в госуправление и разные отрасли экономики, что является частью государственной политики.

- Технологии развиваются очень быстро. Как в рамках закона можно будет бороться с фейками и дипфейками, созданными при помощи ИИ?

- Законопроект об искусственном интеллекте обеспечивает защиту граждан от фейков и дипфейков на трех уровнях. Первое – прозрачность и обязательная маркировка синтетического контента: пользователи должны знать, что контент создан ИИ. Второе – запрет на создание систем, которые могут манипулировать пользователями, включая автоматическую генерацию дипфейков. Третье – ответственность операторов ИИ за распространение недостоверного контента. В случае нарушения требований ответственность несут владельцы систем ИИ.

Также обсуждаются предложения по криминализации использования дипфейков. Это один из инструментов, который использует преступник для совершения обычного преступления. Как отягчающее обстоятельство использование информационных технологий уже есть в Уголовном кодексе. С учетом роста числа таких нарушений ко второму чтению мы выработаем взвешенную позицию.

Важно понимать, что мошенники будут нарушать законы, и цифровая среда экстерриториальна, что усложняет администрирование ограничений. Поэтому критически важно проверять информацию.

- Какие страны вы изучали при разработке этого законопроекта? Что взяли в качестве примера?

- Изучались подходы Европейского союза, США, Китая, Сингапура, Канады и Японии, поскольку эти страны демонстрируют разнообразие моделей регулирования. В ЕС принят закон об искусственном интеллекте (AI Act), откуда заимствован принцип классификации систем ИИ по уровню риска. Также взята европейская модель прозрачности и объяснимости ИИ, согласно которой пользователи имеют право знать, как работает система и на чем основаны ее решения.

Опыт США хорош в части поддержки инноваций, Китай активно внедряет ИИ в госуправление, а Сингапур успешно использует маркировку контента, созданного ИИ. Япония достигла успехов в подготовке кадров в области ИИ, что также предусмотрено в казахстанском законопроекте.

Мы продолжаем следить за международными тенденциями регулирования ИИ и международными актами в этой сфере.

- Предусматривается ли введение авторских прав на контент, созданный ИИ? Если да, кому он будет принадлежать?

- Это сложный вопрос для законодателей. В ряде стран идут судебные разбирательства по защите произведений, созданных с помощью ИИ. Большинство таких продуктов не признаются объектами авторских прав, так как объектом авторских прав является результат творческого труда человека. Мы придерживаемся варианта, когда правом на продукты, созданные ИИ, обладает владелец системы, который должен учесть это в пользовательском соглашении.

Изображение сгенерировано с помощью нейросети Midjourney

- Депутаты неоднократно критиковали использование нейросетей детьми. Как система образования будет реагировать на появление ИИ в Казахстане?

- Министерство просвещения разрабатывает Этический кодекс использования ИИ в образовании совместно с международными экспертами. Специфическое регулирование, вероятно, будет отражено в отраслевом законе об образовании. Запреты на использование ИИ в образовании могут вызвать обратный эффект, так как цифровая среда такова, что запреты работают слабо. Необходимо перестроить подходы к образованию, чтобы дети могли критически оценивать данные, проверять их достоверность и формулировать задачи.

- А вы сами пользуетесь нейросетями? Если да, то какими и для чего?

- Пользуюсь нейросетями из любопытства, хотя серьезные профессиональные задачи они пока не решают. Современные системы неплохо справляются с кратким пересказом текстов, что позволяет быстро получать обзорные материалы. Однако важно, чтобы использованные материалы были проверены и имели четкий источник.

В быту мы уже давно используем нейросети, начиная с мобильных приложений заказа такси.

- Как закон повлияет на государственные системы, использующие ИИ, например камеры наблюдения и системы анализа данных?

- Регулирование будет распространяться как на государственные, так и на частные системы. Все системы, использующие ИИ для сбора и обработки данных, должны будут соблюдать единые стандарты безопасности и конфиденциальности. Закон закрепляет право человека оспорить автоматизированные решения, принятые в отношении него, что гарантирует защиту прав граждан.

На государственные системы также распространятся ограничения на использование поведенческого скоринга и других методов анализа данных, требующих четкого правового основания.

- Будет ли закон регулировать использование ИИ в медицине?

- Общие правила и законодательство будут применяться к системам ИИ в медицине. Системы ИИ, используемые в медицине, будут отнесены к системам высокого риска, подлежащим регулированию как критически важные объекты информационно-коммуникационной инфраструктуры.

Изображение сгенерировано с помощью нейросети Midjourney

- Когда ИИ допустит ошибку, кто понесет ответственность: разработчик, государство или алгоритм?

- Ответственность не может нести алгоритм, так как ИИ не является субъектом права. Если владельцем системы является государственный орган, то он несет ответственность за последствия. Разработчик может нести ответственность, если он сохраняет контроль над системой или участвует в ее эксплуатации. Однако, если система была должным образом протестирована и передана владельцу, ответственность переходит к владельцу.

Искусственный интеллект подчиняется общим принципам ответственности за сложные технические системы.

- Как вы относитесь к идее, что через 10-15 лет половина вашего рабочего места может быть заменена ИИ?

- Часть рабочего места заменить нельзя, но можно автоматизировать некоторые функции. Это позволит освободить время для интеллектуальных процессов, которые ИИ не сможет заменить. ИИ не заменит человеческое общение, так как ему не хватает эмоционального интеллекта. Для полноценного участия ИИ в законотворчестве предстоит большая работа, так как машиночитаемые нормативные правовые акты пока не являются стандартом.

Изображение сгенерировано с помощью нейросети Midjourney

- По вашему мнению, сможет ли ИИ в будущем искоренить коррупцию? Каким образом?

- ИИ может существенно снизить уровень коррупции, обеспечивая прозрачность государственных процедур за счет автоматизации процессов. Алгоритмы могут проверять тендерные заявки, анализировать финансовые транзакции и выявлять аномалии, указывающие на возможные коррупционные схемы. ИИ способен анализировать большие массивы данных и предсказывать риски коррупции, что повышает эффективность антикоррупционной борьбы.

Однако ИИ сам по себе не является решением. Для эффективной борьбы с коррупцией необходимо, чтобы алгоритмы были прозрачными и использовались на основе четких правовых норм.

- Какие самые неожиданные профессии могут появиться в Казахстане с развитием ИИ?

- Появятся уполномоченные по этике ИИ, аудиторы, проверяющие алгоритмы на предмет дискриминации, а также специалисты по обучению моделей ИИ. Будут востребованы цифровые юристы, так как все больше отношений уходит в цифровую среду. ИИ будет интегрироваться в старые профессии, освобождая время для творчества.

Отметим: законопроект по вопросам искусственного интеллекта еще не принят в Казахстане. Документ только планируют рассмотреть в Мажилисе. Если его одобрят в первом чтении, законопроект начнут готовить ко второму чтению с учетом всех предложений и замечаний, данных на первом пленарном заседании палаты. Если закон примут во втором чтении, он поступит на рассмотрение в Сенат, а уже оттуда - на подпись Президенту.

*Дипфейк (deepfake) - это видео, фото или аудиозапись, которые были сделаны с помощью искусственного интеллекта, чтобы выглядеть как настоящие, но на самом деле подделаны. Создатели дипфейков заменяют лицо или голос человека на лицо или голос другого так, что кажется, будто это реальность. Могут быть использованы как для развлечения, так и для обмана.

**Поведенческий скоринг - способ оценки человека на основе его поведения. Чаще всего используется в банках, онлайн-сервисах и страховых компаниях. Это система, которая наблюдает за действиями человека и выставляет балл, насколько ему можно доверять.

Читайте также: Когда ИИ - главное оружие. Казахстан включается в мировую гонку