От дипфейков до груминга: в ООН предупреждают о нарастающих угрозах ИИ для детей
Социальные сети оказывают огромное влияние на жизнь детей. От дипфейков до груминга: в ООН предупреждают о нарастающих угрозах ИИ для детей Права человека
В сети распространяются огромные объемы вредоносного контента, создаваемого с помощью искусственного интеллекта. В связи с этим структуры ООН выступили со срочным призывом принять комплекс мер для защиты детей от насилия, эксплуатации и психологических травм.
Космас Завазава, директор Бюро развития электросвязи Международного союза электросвязи (МСЭ) – одного из агентств, подготовивших совместное заявление с рекомендациями и руководящими принципами, – рассказал о широком спектре угроз, с которыми сталкиваются дети. Речь идет о груминге, дипфейках, внедрении вредоносных функций в цифровые сервисы, кибербуллинге и доступе к неприемлемому контенту.
«Во время пандемии COVID-19 мы увидели, что многие дети, особенно девочки и девушки, подвергались онлайн-насилию, и во многих случаях это приводило к физическому вреду», – отметил он.
Организации, работающие в сфере защиты детей, сообщают, что злоумышленники могут использовать ИИ для анализа поведения ребенка в интернете, его эмоционального состояния и интересов, чтобы точнее выстраивать стратегию вовлечения и манипуляции.
ИИ также позволяет преступникам создавать поддельные изображения реальных детей, что привело к появлению новой формы сексуального вымогательства.
Согласно докладу независимого Института глобальной безопасности детей Childlight за 2025 год, в США число случаев сексуального насилия в отношении детей, совершенного с использованием технологий, выросло с 4 700 в 2023 году до более чем 67 тысяч в 2024-м.
Австралия задает тон
В конце 2025 года Австралия стала первой страной в мире, запретившей детям младше 16 лет иметь аккаунты в социальных сетях, исходя из того, что риски от такого контента значительно перевешивают потенциальные преимущества.
Правительство сослалось на собственное исследование, показавшее, что почти две трети детей в возрасте от 10 до 15 лет сталкивались с жестоким, насильственным или травмирующим контентом, а более половины подвергались кибербуллингу. Большая часть такого контента распространялась через социальные сети.
Ряд других стран, включая Малайзию, Великобританию, Францию и Канаду, также готовят аналогичные ограничения или законодательные меры. Так, по данным СМИ, Национальное собрание Франции на этой неделе приняло в первом чтении законопроект, который запрещает детям младше 15 лет пользоваться социальными сетями. Далее документ направят на рассмотрение в Сенат.
Недостаток знаний об ИИ
В начале 2026 года целый ряд структур ООН, занимающихся вопросами защиты детей, подписали Совместное заявление об искусственном интеллекте и правах ребенка. В документе прямо говорится о серьезных рисках – и о том, что общество пока не готово с ними справиться.
В заявлении подчеркивается низкий уровень знаний об ИИ среди детей, учителей, родителей и опекунов, а также нехватка технической подготовки у государственных органов в вопросах регулирования ИИ, защиты данных и оценки влияния технологий на права ребенка.
Ответственность технологических компаний
Отдельное внимание уделяется роли технологических гигантов. В заявлении отмечается, что большинство инструментов на базе ИИ – вместе с лежащими в их основе моделями, методами и системами – в настоящее время разрабатываются без учета интересов детей и их благополучия.
«Мы действительно обеспокоены и хотим, чтобы частный сектор был вовлеченным, активным участником и стал частью общей истории, которую мы пишем вместе с другими агентствами ООН и партнерами, считающими, что технологии могут быть инструментом развития, но могут и приводить к ущербу», – заявил Завазава.
При этом он выразил уверенность, что компании готовы делать свои продукты безопаснее: «Сначала мы чувствовали, что они опасаются задушить инновации, но наш посыл очень ясен: при ответственном использовании ИИ можно получать прибыль, вести бизнес и сохранять долю рынка».
«Частный сектор – наш партнер, но мы обязаны бить тревогу, когда видим, что технологии могут привести к нежелательным последствиям», – добавил представитель МСЭ.
Вопрос прав ребенка
Это не первый раз, когда на подобные риски обращают внимание с правозащитной точки зрения: в 2021 году к Конвенции о правах ребенка были добавлены новые положения, отражающие вызовы цифровой эпохи.
Тем не менее, по мнению агентств ООН, странам требуется больше практических ориентиров для эффективного регулирования, и в этой связи был подготовлен подробный перечень рекомендаций.
«Дети выходят в онлайн во все более раннем возрасте, и их нужно защищать, – подчеркнул Завазава. – Именно поэтому мы разработали рекомендации по защите детей в интернете. Первая часть адресована родителям, вторая – учителям, третья – регулирующим органам, а четвертая – индустрии и частному сектору».
Ключевые рекомендации
- Государствам следует укреплять системы регулирования ИИ, чтобы защищать права ребенка.
- Международным организациям рекомендуется учитывать права детей во всех мерах и стратегиях, связанных с ИИ.
- Правительства и компании должны обеспечивать прозрачность, подотчетность и безопасность систем ИИ.
- Государствам необходимо предотвращать и пресекать насилие и эксплуатацию детей, совершаемые или усиливаемые с помощью ИИ.
- Требуются более надежные, ориентированные на ребенка механизмы защиты данных.
- Решения, принимаемые с помощью ИИ, должны учитывать наилучшие интересы и всестороннее развитие каждого ребенка.
- ИИ должен быть инклюзивным и свободным от предвзятости, чтобы все дети могли получать равную пользу от технологий.
- Мнение и опыт самих детей должны учитываться при разработке политики и систем ИИ.
- Развитие ИИ должно способствовать экологической устойчивости и минимизировать долгосрочный вред для будущих поколений.
