Что такое "деструктивный контент" и как его выявить?

Что такое "деструктивный контент" и как его выявить?

Словосочетание «деструктивный контент» у всех на слуху, но далеко не каждый сможет с уверенностью сказать, что это, собственно, такое. Единодушия в данном вопросе нет. В широком смысле к деструктивному контенту относятся все материалы, распространяющиеся в сети, которые могут негативно повлиять на пользователей. Вариантов масса. Прибавим к этому терминологическую неоднозначность: для кого-то мы сейчас говорим о вредоносном контенте, для кого-то о социально опасном.

Заместитель председателя правления Регионального общественного центра интернет-технологий (РОЦИТ) Вадим Ампелонский рассказал, как бороться с опасным контентом в сети.

Общего подхода к категоризации подобного контента в международной практике не найти. На основе анализа Рунета было выделено четыре блока деструктивного контента.

В первый попали 11 категорий материалов, запрещенных для распространения. Среди них, к примеру, популяризация сексуального насилия, оскорбление человеческого достоинства и явное неуважение к обществу.

Ко второму отнесли ограниченный к распространению контент. Это изображение или описание жестокости, преступления или иные антиобщественные действия, нецензурная лексика и так далее.

Третий блок включил контент, вовлекающий в противоправную деятельность. К этому блоку относится, допустим, демонстрация жестокого обращения с животными.

Четвертый блок посвящен контенту, нарушающему нормы морали и нравственности. Это, к примеру, контент, популяризирующий травлю.

В настоящее время разработанный реестр действует параллельно с Единым реестром запрещенной информации Роскомнадзора.

Перечни, имеющие различную форму и объем, успешно сосуществуют, дополняя друг друга.

Итак, в интернет-пространстве пользователю могут встретиться и откровенно незаконные материалы, которые не всегда оперативно удаляются, а порой, если мы говорим об иностранных площадках, просто игнорируются; и материалы сомнительного содержания. Важно помнить: вредным может оказаться и незапрещенный контент.

Есть примеры, когда контент, который носит явно нездоровый характер, активно популяризируется. Так, в прошлом году вернулся в моду, казалось бы, уже ушедший тренд на экстремальную худобу и стиль, получивший название «героиновый шик». Молодые люди одеваются и красятся особым образом, чтобы походить на некоторых представителей 90-х, которые кутили каждую ночь до утра и употребляли тяжелые вещества.

Однако стиль, хоть и отсылающий к культуре наркопотребления, не является прямой популяризацией наркотиков. Разумеется, законодательно не запретишь людям выглядеть тем или иным образом. Однако этот тренд критикуют и у нас, и на Западе, откуда он пошел. Важно следить, чтобы молодежь не перенимала сомнительный образ жизни, который прячется за такими модными веяниями. Однако, такое явление несомненно деструктивно по отношению к обществу.

Особенно нуждаются в защите от деструктивного контента дети и пожилые люди как самые незащищенные от сетевых угроз категории граждан.

Конечно, сегодня, когда в России существует закон о самоконтроле социальных сетей, ситуация изменилась в лучшую сторону. Ведь всего несколько лет назад на просторах интернета можно было встретить шуточные вредные советы, которые были реально опасны для жизни и здоровья. К примеру: чтобы увидеть красивую радугу, возьмите лупу и посмотрите через нее на солнце безоблачным летним днем. А если маленький ребенок прочитает такое и поверит? Страшно представить. И такие действия необходимо пресекать самым решительным образом. Используя общественный контроль, когда о появлении опасного контента граждане сразу сообщают в надзорные органы.

Сейчас с проблемой распространения деструктивного контента мы сталкиваемся в основном на иностранных площадках. Яркая демонстрация этого работа видеохостинга Y-Tube. Недавно исследователи обнаружили, что его рекомендации приводят детей к видео о стрельбе в школах и другим материалам, посвященным оружию. Специалисты Tech Transparency Project создали аккаунты девятилетних и четырнадцатилетних мальчиков и смотрели с них плейлисты о популярных видеоиграх. Вскоре обнаружилось, что алгоритм YouTube настойчиво выдает юным пользователям агрессивный и опасный контент, не связанный с играми.

Так, Лига безопасного интернета выявила распространение роликов по изготовлению коктейлей Молотова на видеохостинге. В связи с этим организация обратилась в Генпрокуратуру РФ. По итогам 2022 года Роскомнадзор сообщил, что администрация YouTube не удалила более 35 тысяч материалов, нарушающих российское законодательство.

В то же время российские платформы вводят новые меры по противодействию деструктиву. Помимо того, что запрещенный контент удаляется, на контроль стараются ставить и просто сомнительные материалы. Хороший пример – использование заглушки, которая предупреждает пользователя о шок-контенте. Такой инструмент решили опробовать в «ВК». В прошлом году нововведение, призванное обезопасить и увеличить комфорт пользователей, ввели в тестовом режиме.

Сами россияне согласны с тем, что с распространением подобных материалов следует бороться.

По данным опроса РОЦИТ, среди граждан, знакомых с понятием деструктивного контента, 82% выступают за то, чтобы ограничивать доступ к незапрещенному деструктивного контенту. Более того, 73% опрошенных в качестве меры ограничения предпочли бы законодательное регулирование, 15% проголосовали за меры общественного контроля.

Существует три условных подхода к противодействию деструктивному контенту, которые различаются соотношением мер, предпринимаемых государством, пользователями и самими платформами.

Американский подход предполагает, что платформы законодательно освобождены от ответственности за контент, который размещают пользователи.

Европейский подход вводит ответственность платформ, однако обнаружением деструктивного контента и сигнализированием о его наличии занимаются сами пользователи.

В азиатском подходе государство играет патерналистскую роль и принимает меры по борьбе с распространением деструктивного контента на цифровых платформах.

Российские общественные организации активно борются с деструктивом в онлайн-пространстве. Над модерацией контента, помимо РОЦИТ, работают ИРИ, ЦИСМ, Лига безопасного интернета, «Крибрум» и другие.

Хорошо, что и пользователи в нашей стране стали лучше осведомлены о проблеме деструктивного контента и о том, как они могут помочь с ним бороться. Люди знают об инструментах реагирования и 41% хотя бы раз отправляли жалобы администрациям платформ.

Еще раз подчеркну, что деструктивный контент - вещь тонкая. Многие материалы, которые оказывают вредоносное влияние на пользователей, балансируют на грани дозволенного. В сети, где действуют самые разнообразные силы, среди которых и злонамеренные, и равнодушные к общественному благу, важно не забывать о цифровой гигиене и осознанно подходить к потреблению интернет-контента.