В ЕС предложили запретить жестокий ИИ-контент с детьми
Европейская комиссия рассматривает возможность введения уголовной ответственности за созданные ИИ изображения и дипфейки, демонстрирующие сексуальное насилие над детьми (CSA).
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
— European Commission (@EU_Commission) February 6, 2024
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
Законопроект криминализирует распространение контента с жестоким обращением с несовершеннолетними. Документ подразумевает введение нового уголовного преступления.
Новые положения предусматривают наказание за хранение и обмен «руководствами для педофилов» по созданию CSA-материалов с помощью нейросетей. В предложении также упоминаются неназванные чат-боты на основе искусственного интеллектом, используемые для этих целей.
«Угроза злоупотреблений реальна и возросла во всем ЕС. Например, в сети продолжают появляться руководства для педофилов, свидетельствующие о возросшей угрозе для наиболее уязвимых групп населения. Присутствие детей в онлайне и технологические инновации создают новые возможности для злоупотреблений. Только в 2022 году в Евросоюзе зарегистрировано 1,5 млн сообщений о CSA», — говорится в заявлении ведомства.
Для реализации инициативы Еврокомиссия намерена внести поправки в соответствующий закон от 2011 года. Однако окончательное решение по предложенным правилам примут Европейский парламент и Европейский совет.
Эти меры являются частью более широкого пакета, направленного на предотвращение сексуального насилия над детьми, повышение осведомленности о рисках в Интернете, облегчение процесса информирования о преступлениях и предоставление государственной поддержки, включая право на финансовую компенсацию.
Ранее британская компания по надзору за интернетом Internet Watch Foundation сообщила о быстром распространении ИИ-материалов с сексуальным насилием над детьми. Согласно отчету исследователей, всего за один месяц на одном из даркнет-форумов обнаружено более 20 254 изображений CSA.
Напомним, в мае 2023 года один из пионеров отрасли Джеффри Хинтон предупредил о потенциальных угрозах, связанных с ИИ. До этого экс-глава Google Эрик Шмидт заявил, что технология представляет собой «экзистенциальный риск», из-за которого многие люди могут «пострадать или погибнуть».