Брюссель инициировал обсуждение новых ограничений для разработчиков нейросетей. Согласно данным издания Politico, европейские законодатели намерены объявить вне закона программное обеспечение, способное имитировать отсутствие одежды на снимках реальных персон.
Суть инициативы
Соответствующее предложение было выдвинуто представителями Европарламента в течение минувших семи дней. Основной целью регуляторов является борьба с распространением неэтичного контента, создаваемого без ведома субъектов съемки. Речь идет о приложениях, которые позволяют в автоматическом режиме модифицировать портреты, формируя реалистичные, но фальшивые интимные кадры.
Контекст
Проблема неконсенсуальной порнографии, генерируемой вычислительными алгоритмами, приобрела глобальный масштаб. Ранее принятый регламент AI Act уже заложил фундамент для классификации рисков в сфере высоких технологий, однако специфические механизмы противодействия «раздевающим» ботам требовали дополнительной проработки. Исследования показывают, что подавляющее большинство жертв подобных манипуляций — женщины и несовершеннолетние, чьи публичные фотографии из социальных сетей становятся сырьем для обучения генеративных моделей.
Технологическая база для таких правонарушений стала общедоступной благодаря совершенствованию диффузионных методов обработки данных. Если в прошлом для качественного монтажа требовались навыки профессионального ретушера и значительное время, то сегодня процедура занимает секунды. Это создает опасный вакуум в законодательстве, где классические нормы о защите чести и достоинства не всегда эффективно работают против синтетических медиафайлов.
Что это значит
В случае утверждения поправок, юридическая ответственность ляжет не только на непосредственных создателей фальшивок, но и на посредников. Крупные магазины мобильного софта и хостинг-провайдеры будут вынуждены превентивно фильтровать продукты, функционал которых нарушает телесную неприкосновенность в цифровом пространстве. Это повлечет за собой ужесточение модерации в глобальных экосистемах и, вероятно, внедрение обязательных криптографических меток для любого контента, созданного машиной.
Кроме того, данная мера станет важным сигналом для сообщества Open Source. Программистам придется интегрировать защитные барьеры непосредственно в архитектуру нейросетей, чтобы исключить их эксплуатацию в деструктивных целях. Аналитики полагают, что правовой опыт Брюсселя послужит эталоном для аналогичных актов в других юрисдикциях, стремящихся сбалансировать инновации и базовые права человека.
