В понедельник, 30 октября, было опубликовано совместное заявление, в котором крупные платформы социальных сетей, разработчики искусственного интеллекта, правительства и неправительственные организации обязались бороться с оскорбительным контентом, созданным ИИ, который связан с недопустимым обращением с детьми в интернете.
Заявление было подписано 27 участниками, включая правительства Соединенных Штатов, Австралии, Кореи, Германии и Италии, а также платформы социальных сетей Snapchat, TikTok и OnlyFans. Это также было подписано платформами искусственного интеллекта Stability AI и Ontocord.AI и рядом НПО, работающих в области безопасности Интернета и прав детей.
В заявлении говорится, что ИИ предлагает «огромные возможности» для борьбы с угрозами жестокого обращения с детьми в интернете, но также может использоваться злоумышленниками для создания материалов такого типа. По данным Internet Watch Foundation, в течение месяца из 11 108 изображений, созданных искусственным интеллектом, опубликованных на темном веб-форуме, 2978 изображали контент, связанный с нарушением прав детей.
Правительство Великобритании сообщило, что это заявление является обязательством реагировать на риски, связанные с искусственным интеллектом, для борьбы с недопустимым обращением с детьми. Это заявление было опубликовано в преддверии глобального саммита по безопасности искусственного интеллекта, который проходит в Великобритании на этой неделе.
Опасения по поводу безопасности детей в связи с искусственным интеллектом были главной темой обсуждения в условиях быстрого появления и широкого использования технологии. Социальные сети, такие как TikTok, Snapchat и OnlyFans, которые пользуются большой популярностью у молодых пользователей, столкнулись с вызовом модерировать контент, созданный ИИ, который может быть оскорбительным или незаконным. Они также должны защитить своих пользователей от потенциальных злоумышленников, которые могут использовать ИИ для создания поддельных профилей или видео.
Разработчики искусственного интеллекта, такие как Stability AI и Ontocord.AI, также принимают меры для предотвращения злоупотребления своими технологиями. Они разрабатывают инструменты для обнаружения и удаления оскорбительного контента, созданного ИИ, а также для повышения этичности и ответственности в области ИИ.
Правительства и НПО также играют важную роль в борьбе с нарушением прав детей в интернете. Они разрабатывают законы и политики, которые регулируют использование ИИ и защищают права детей, и сотрудничают со всеми заинтересованными лицами для обмена информацией и обмена опытом.
Совместное заявление является шагом вперед в создании глобального партнерства по борьбе с оскорбительным контентом, созданным ИИ. Оно показывает, что социальные сети, разработчики ИИ, правительства и НПО готовы работать вместе для обеспечения безопасности детей в интернете.
▼