Китайские власти представили проект новых правил для компаний, занимающихся генеративным искусственным интеллектом. Эти правила направлены на повышение безопасности и защиты данных при использовании таких технологий, сообщает Cointelegraph.
Генеративный искусственный интеллект — это вид ИИ, который способен создавать новый контент на основе обучающих данных, например, тексты, изображения, аудио или видео. Такие технологии могут быть использованы для различных целей, от развлечений до образования, но также несут в себе потенциальные риски, связанные с нарушением авторских прав, личной конфиденциальности и национальной безопасности.
Проект правил был разработан Национальным комитетом по стандартизации информационной безопасности, в который входят представители Администрации киберпространства Китая (CAC), Министерства промышленности и информационных технологий, а также правоохранительных органов.
Согласно проекту, компании, предоставляющие услуги генеративного ИИ, должны проводить оценку безопасности контента, используемого для обучения моделей. Кроме того, они должны получать согласие от физических лиц, чьи личные данные, включая биометрическую информацию, используются для этой цели. Компании также обязаны соблюдать законы и нормы в области интеллектуальной собственности и не использовать генеративный ИИ для создания незаконного или вредного контента.
В проекте перечислены примеры такого контента, который запрещен к созданию с помощью генеративного ИИ. Это включает материалы, пропагандирующие терроризм, насилие, подрыв социалистической системы, формирование вреда репутации страны и действия, ослабляющие национальную сплоченность и стабильность общества.
Проект правил является одним из шагов китайских регуляторов по контролю за развитием ИИ в стране. Ранее CAC уже требовал от компаний предоставлять оценки безопасности перед запуском продуктов на базе ИИ. В июле CAC также опубликовал набор руководящих принципов по регулированию сервисов генеративного ИИ.
В Китае активно развиваются технологии генеративного ИИ. Например, крупнейший поисковик Baidu представил своего чат-бота Xiaodu Chatbot, который может имитировать голоса знаменитостей и создавать диалоги на разные темы. В январе в Китае также вступил в силу закон, запрещающий создание дипфейков без разрешения субъекта или во вред национальным интересам. Дипфейки — это видео или аудио, в которых с помощью ИИ подменяется лицо или голос человека.
Новые правила для генеративного ИИ пока находятся в стадии проекта и открыты для общественных консультаций до 12 ноября. После этого они будут утверждены и введены в действие. Ожидается, что они повлияют на работу многих китайских компаний, занимающихся генеративным ИИ, а также на пользователей таких сервисов.
▼