Депутаты Мажилиса рассмотрят законопроект об искусственном интеллекте в первом чтении

В среду депутаты Мажилиса рассмотрят законопроект, касающийся искусственного интеллекта (ИИ), а также связанные с ним поправки. В интервью депутат Мажилиса Екатерина Смышляева рассказала о необходимости создания правовой базы для ИИ в Казахстане, его потенциале и возможных рисках.

- Екатерина Васильевна, почему Казахстану нужен закон об ИИ? Может ли страна стать мировым центром в этой области?

- Мы должны адаптироваться к быстро меняющимся условиям. ИИ уже активно внедряется в повседневную жизнь, но правового регулирования пока нет. Казахстан не отстает от мировых тенденций. Принятие закона сделает нас второй страной после Евросоюза, где ИИ регулируется отдельным законодательным актом. Президент на недавнем заседании Национального курултая подчеркнул важность создания условий для развития ИИ.

Екатерина Смышляева. Фото: пресс-служба Мажилиса

Для того чтобы Казахстан стал хабом для ИИ, необходимо учитывать климатические условия, доступ к электроэнергии и связь. Наша страна имеет благоприятный климат для дата-центров, что снижает затраты на охлаждение серверов. Однако остаются проблемы с ценами на электроэнергию и перегрузками в часы пик. Ведутся работы по улучшению ситуации, включая строительство новых генераций.

Для разработчиков программных решений важны экономические условия и налоговые льготы. Расширение цифрового технопарка AstanaHub также играет ключевую роль. Для начинающих разработчиков будет создана Национальная платформа ИИ, которая обеспечит доступ к вычислительным мощностям и данным для обучения.

- Как законопроект будет бороться с фейками и дипфейками, созданными с помощью ИИ?

- Законопроект включает три уровня защиты от фейков и дипфейков. Во-первых, требуется прозрачность и обязательная маркировка синтетического контента. Во-вторых, запрещается создание систем, манипулирующих пользователями. В-третьих, операторы ИИ несут ответственность за распространение недостоверного контента. Также обсуждаются предложения по криминализации использования дипфейков.

- Какие страны были изучены при разработке законопроекта?

- Мы изучали подходы Европейского Союза, США, Китая, Сингапура, Канады и Японии. Например, в ЕС принят закон об ИИ, который включает классификацию систем по уровню риска. Опыт США полезен в поддержке инноваций, а Китай активно внедряет ИИ в госуправление.

- Будут ли введены авторские права на контент, созданный ИИ?

- Это сложный вопрос. В большинстве стран такие продукты не признаются объектами авторских прав. Мы предполагаем, что право на продукты, созданные ИИ, будет принадлежать владельцу системы, что должно быть прописано в пользовательском соглашении.

- Как система образования будет реагировать на появление ИИ?

- Министерство просвещения разрабатывает Этический кодекс использования ИИ в образовании. Запреты на использование ИИ могут вызвать обратный эффект, поэтому необходимо изменить подходы к образованию. Ученики должны научиться критически оценивать информацию и проверять ее достоверность.

- Как вы сами используете нейросети?

- Я использую их из любопытства. Нейросети помогают в поиске информации и кратком пересказе текстов, но важно проверять источники, чтобы избежать недостоверных данных.

- Как закон повлияет на государственные системы, использующие ИИ?

- Закон будет распространяться как на государственные, так и на частные системы. Все они должны соблюдать единые стандарты безопасности и конфиденциальности. Граждане смогут оспаривать автоматизированные решения, если они нарушают их права.

- Будет ли закон регулировать использование ИИ в медицине?

- Общие правила будут применяться и к медицине. Системы ИИ в здравоохранении будут относиться к высокому риску и подлежат строгому регулированию.

- Кто понесет ответственность, если ИИ допустит ошибку?

- Ответственность не может нести сам алгоритм. Если ИИ используется государственным органом, то он несет ответственность за последствия. Разработчик может нести ответственность, если сохраняет контроль над системой.

- Сможет ли ИИ искоренить коррупцию?

- ИИ может существенно снизить уровень коррупции, обеспечивая прозрачность государственных процедур и автоматизируя процессы. Однако для этого алгоритмы должны быть прозрачными и защищенными от манипуляций.

- Какие новые профессии могут появиться с развитием ИИ?

- Вероятно, появятся уполномоченные по этике ИИ, аудиторы алгоритмов, специалисты по цифровым двойникам и цифровые юристы. ИИ будет интегрироваться в существующие профессии, освобождая время для творческой работы.

Законопроект по вопросам искусственного интеллекта еще не принят в Казахстане. Если его одобрят в первом чтении, начнется подготовка ко второму чтению с учетом предложений и замечаний.

*Дипфейк - это подделка видео, фото или аудиозаписи, созданная с помощью ИИ, чтобы выглядеть как настоящая.

**Поведенческий скоринг - оценка человека на основе его поведения, используемая в банках и онлайн-сервисах.