Всемирный день ребёнка: как искусственный интеллект помогает защищать детей в интернете
Сегодня, 20 ноября, отмечается Всемирный день ребёнка. К этой дате Lamoda совместно с благотворительной организацией «Тебе поверят» расширила проект #страшноважно и внедрила новые меры цифровой безопасности. Теперь искусственный интеллект в сервисе онлайн-примерки проверяет загружаемые фотографии и блокирует обработку потенциально небезопасных изображений с участием детей.
Архив пресс-службы
В честь Всемирного дня ребёнка Lamoda усилила механизмы защиты пользовательских фотографий в сервисе онлайн-примерки «Г(ии)д по стилю». Новые правила призваны снизить риски, связанные с обработкой детских изображений с помощью искусственного интеллекта.
Для проверки фотографий используются две независимые ИИ-модели. Одна определяет возрастной контекст изображения, другая анализирует наличие чувствительного контента. Если обе системы одновременно выявляют соответствующие признаки, обработка фотографии блокируется.
При этом технология определения возраста не гарантирует стопроцентной точности, поэтому возможные ошибки учитываются при настройке ограничений. Кроме того, онлайн-примерка не предназначена для детей от 0 до 12 лет и не поддерживает примерку одежды из детской категории.
Новые меры стали частью проекта #страшноважно, который благотворительная организация «Тебе поверят» запустила в 2021 году для профилактики сексуализированного насилия над детьми и подростками.
Lamoda присоединилась к инициативе в 2023 году. За это время компания совместно с экспертами организации разработала рекомендации по использованию детских фотографий в модных каталогах, внедрила модерацию изображений детей в отзывах и поделилась практиками безопасности с представителями индустрии.
Теперь сотрудничество выходит за рамки традиционных инструментов защиты и охватывает технологии искусственного интеллекта. В компании подчёркивают, что ответственность за безопасность детей в цифровой среде должна лежать не только на родителях, но и на разработчиках сервисов.
«Нам важно, чтобы сервис сам учитывал контекст, в котором работает, и имел понятные границы допустимого», — подчеркнула управляющий директор по продукту и данным Lamoda Татьяна Умряева.
Развитие проекта #страшноважно показывает, как принципы детской безопасности постепенно интегрируются в цифровые продукты, в том числе в сервисы, использующие искусственный интеллект.