Существует несколько путей ограничить распространение противоправного контента в сети. Все они имеют свои издержки и не гарантируют успеха.

В том, что нужно делать интернет безопаснее для детей, огораживая самых уязвимых граждан от угроз их физическому и психическому здоровью, не сомневается почти никто. Как минимум с тех пор, как стало возможно легко передавать фотографии по сети, все заинтересованные стороны, включая родителей, законодателей и интернет-бизнес, горячо обсуждают, каким образом этого можно добиться. Где-то уже принимают меры — иногда на уровне государства, иногда на уровне провайдера, а чаще сами пользователи.

Россия запоздало вступает в этот процесс, но зато с размахом. Первого сентября должен вступить в силу федеральный закон 436, принятый в 2010 году, который требует введения системы маркировки интернет-контента (наряду с кинофильмами, телевидением и прочей медиапродукцией), а также систему автоматизированной фильтрации для разных возрастных групп. Минсвязи вместе с общественными и отраслевыми организациями дорабатывает соответствующие технические регламенты. Одновременно с этим в Государственной думе готовится к принятию законопроект, разработанный Лигой безопасного интернета. Если он будет принят, в России появится список неугодных сайтов, доступ к которым должен быть блокирован всеми провайдерами.

Учитывая законодательный, общественный и профессиональный интерес к этой теме, Центр изучения интернета и общества при Российской экономической школе готовит обширный доклад, обобщающий международный опыт в этой сфере и главные проблемы на пути к решению этой проблемы в России. Ключевые выводы нашей работы представлены здесь.

Помимо законодательных инициатив, нацеленных на препятствование производства противоправного контента, связанных в основном с уголовным законодательством и относящихся главным образом к проблеме детской порнографии, большинство стран предпринимают попытки дополнительно ограничить доступ детей к различным нежелательным материалам. Подобные инициативы принимают форму либо автоматизированной фильтрации, либо ручной фильтрации (так называемый списочный метод). Оба этих подхода имеют свои сильные и слабые стороны.

Автоматизированные методы позволяют блокировать доступ пользователя к нежелательному контенту при помощи лингвистического анализа текстов, а также алгоритмического анализа статических и динамичных изображений. Подобные системы работают лучше или хуже, но уже приближаются к стопроцентной точности. При этом главные различия в этой области касаются не самих систем, а точек их применения. Они могут быть установлены на уровне государства (или, что равносильно, принудительно на уровне магистральных провайдеров) или на уровне индивидуального пользователя (точки доступа).

Системы эти сильны тем, что позволяют без постоянного управленческого участия ограничить доступ к нежелательному контенту. Однако они имеют свои слабые стороны, в зависимости от точки применения.

Автоматическая фильтрация

При установлении систем автоматизированной фильтрации на государственном уровне необходимо учесть следующие факторы:

Непрозрачность системы и ее аналитических настроек означает, что ни пользователи, ни создатели «нормального» контента не знают границ дозволенного и могут столкнуться с препятствиями к легальному пользованию интернетом. Это может привести к выводу отрасли за пределы российской юрисдикции, а также к подобной утечке продвинутых пользователей в среду неурегулированных виртуальных сетей (так называемые прокси и VPN).

Автоматизированная фильтрация интернета требует существенных вычислительных мощностей, а с размножением контента объем требуемых мощностей будет неуклонно расти. Связанные расходы ложатся либо на налогоплательщиков, либо на провайдеров (то есть, в конечном счете на пользователей). Официальный парламентский расчет стоимости внедрения системы Safe Stream в Австралии оценивает создание системы в $126 млн. Учитывая разницу в объемах рынков, в России аналогичная система может обойтись в $500 млн.

Без дополнительных инвестиций в сетевую инфраструктуру внедрение автоматизированной системы фильтрации также приведет к снижению скорости передачи данных примерно на 20%. Замедление работы сети на 20%, если верить австралийским расчетам, оценивается примерно в 2-5% потенциального ВВП.

Наконец, внедрение системы автоматизированной фильтрации интернета на верхнем уровне также создает угрозу для безопасности личных, коммерческих и государственных тайн, поскольку любая эффективная система так или иначе должна «читать» все материалы, которые передаются по web-протоколам, в том числе и шифрованные.

При установлении систем автоматизированной фильтрации на уровне индивидуального пользователя можно решить и проблему прозрачности, поскольку настройки видны для пользователя, и проблему сохранности данных. Также решится проблема масштабных вложений, не в последнюю очередь потому, что подобные потребительские продукты уже существуют. Однако снижение скорости работы локальных сетей произойдет в любом случае. Это приведет к росту расходов домохозяйств и предприятий, что в масштабах страны может снизить экономическую эффективность не меньше, чем системы фильтрации на верхнем уровне.

Кроме того, подобные продукты эффективны только при грамотном пользовании. Следовательно, самые уязвимые граждане останутся беззащитными без масштабной просветительской программы.

По всем этим причинам большинство развитых стран отказались от внедрения систем автоматизированной фильтрации на верхнем уровне. Чтобы все же защитить своих несовершеннолетних граждан, они пользуются альтернативной ручной фильтрацией, или фильтрацией контента по спискам. Списки бывают либо черные, либо белые; и те и другие имеют свои преимущества и изъяны.

Черные и белые списки

Создание черных списков вроде Internet Watch Foundation в Великобритании позволяет блокировать известные онлайн-ресурсы с нежелательным контентом, в том числе, если подобный контент не является противоправным. Чаще всего для этого создаются партнерства с участием провайдеров, государства и общественных организаций. Они рассматривают жалобы на те или иные ресурсы и принимают решения о блокировке, обязательные для провайдеров — участников партнерства.

У этого метода есть свои недостатки. Во-первых, ручная обработка жалоб хотя и обходится существенно дешевле, чем автоматизированные системы фильтрации, все же относительно дорога. Ежегодный бюджет того же Internet Watch Foundation — £1 млн, или примерно 50 млн рублей. Во-вторых, реактивность системы снижает ее эффективность. IWF получает и обрабатывает примерно 40 000 жалоб в год. Это означает отсутствие относительного прогресса в борьбе с противоправным контентом (в данном случае детской порнографией).

Наконец, блокировка по IP-адресам относительно эффективнее, нежели по URL-адресам, поскольку ресурсам, торгующим нежелательным контентом, легче менять URL, нежели IP. Однако и необходимость менять IP не является непреодолимым препятствием для большинства распространителей.

Создание белых списков разрешенных сайтов обычно сопровождается внедрением системы родительского контроля и является более эффективным способом ограничения доступа детей к нежелательному контенту, чем черные списки, поскольку не требует активного поиска плохих сайтов.

Обе списочные системы объединяет одна существенная общая проблема. Внедрение как черных, так и белых списков неминуемо создает институт привратников, без одобрения которых создатели нормального контента не смогут донести свою продукцию до пользователей. При наличии четких критериев и ограниченном списке нарушений, за которые тот или иной ресурс может быть блокирован, эту проблему несколько легче решить при черных списках, чем при белых. Соответственно, чем больше гибких понятий присутствует среди критериев отбора (например, «семейные ценности» или «антисоциальное поведение»), тем больше возможностей для злоупотреблений. И в обоих случаях списки создают новый ценз, преодоление которого всегда будет сложнее для маленьких и молодых создателей и распространителей контента. Это приведет к усилению медийных монополий и продолжающему доминированию «старых медиа» над «новыми».

Сторонники жестких мер полагают, что нет и не может быть предельной цены для защиты детей в интернете. В чем-то они правы: невозможно привести чисто экономические аргументы, допускающие «терпимый» уровень угроз детям. Но есть и опасность создать сильные экономические и политические проблемы во имя защиты детей и при этом детей не защищать.

Мы не предписываем никому тот или иной путь решения проблемы. Это задача для законодателей и различных заинтересованных сторон. Но привычная экономическая логика, при которой «чем больше стоит, тем больше отдачи» в этом случае не работает.

Сэм Грин