Цензура личных фотографий или ошибка ИИ: что произошло с MMS в Греции

Кратко о главном

Читательница греческого издания Pronews утверждает, что не смогла отправить мужу через MMS фотографию, сделанную после кормления ребёнка. На экране появилось предупреждение о «чувствительном контенте».

Издание представило случай как свидетельство того, что мобильный оператор анализирует личные фотографии абонентов. Однако название оператора, модель телефона, приложение для отправки сообщений, текст предупреждения и технические журналы не опубликованы.

Поэтому пока нельзя установить, кто именно обработал изображение: оператор связи, сервер приложения или локальная система распознавания наготы на телефоне.

Связывать отдельное срабатывание алгоритма с недавним решением Европарламента по Chat Control также преждевременно. Временный европейский режим касается добровольного выявления материалов сексуального насилия над детьми определёнными онлайн-сервисами. Он не вводит прямого требования проверять каждое SMS или MMS и не доказывает, что именно этот механизм сработал в описанном случае.

Оглавление

• Что рассказала читательница Pronews
• Чего мы пока не знаем
• Могло ли фото заблокировать само устройство
• Видит ли оператор содержимое MMS
• Что такое Chat Control 1.0
• Как прошло голосование
• Разрешено ли сканировать все сообщения
• Что с зашифрованными чатами
• Почему опасения всё равно обоснованы
• При чём здесь греческий скандал с прослушкой
• Комментарий редакции

Что рассказала читательница Pronews

По версии издания, женщина сфотографировала себя рядом с ребёнком вскоре после завершения кормления грудью и попыталась отправить снимок мужу с подписью «Здесь едим».

Сообщение отправлялось через обычную функцию MMS, а не через WhatsApp, Viber, Telegram или другую интернет-платформу.

По словам женщины, фотография не была отправлена и была обозначена системой как «чувствительный контент».

Pronews делает из этого вывод, что мобильный оператор получил доступ к содержимому фотографии и подверг её цензуре.

Чего мы пока не знаем

Эта версия основана только на рассказе читательницы. Издание не приводит:

• название мобильного оператора;
• марку и модель телефона;
• версию операционной системы;
• название приложения для сообщений;
• скриншот полного системного уведомления;
• ответ технической поддержки оператора;
• подтверждение того, что MMS действительно дошло до сети;
• заключение независимого специалиста.

Без этих данных невозможно отличить блокировку на телефоне от фильтрации на сервере оператора.

Не исключено также, что изображение вовсе не было заблокировано, а приложение лишь показало предупреждение и потребовало дополнительного подтверждения отправки.

Могло ли фото заблокировать само устройство

Современные приложения для сообщений используют функции автоматического распознавания предполагаемой наготы.

В частности, Google сообщает, что функция Sensitive Content Warnings в Google Messages способна обнаруживать и размывать изображения, которые алгоритм считает содержащими наготу. Предупреждение может появляться при получении, пересылке или попытке отправить такое изображение.

Обработка может выполняться непосредственно на устройстве. В таком случае фотография анализируется программным обеспечением телефона, а не сотрудником мобильного оператора и не государственным органом.

Алгоритм не понимает контекст так, как человек. Он может одинаково отреагировать на интимный снимок, фотографию кормящей матери, медицинское изображение или произведение искусства.

Поэтому описанный случай вполне может быть ложным срабатыванием автоматического классификатора. Алгоритм увидел часть обнажённого тела, а семейный контекст его, как водится у машин, не особенно растрогал.

Видит ли оператор содержимое MMS

MMS не является сервисом со сквозным шифрованием. Сообщение передаётся через инфраструктуру мобильного оператора, поэтому технически его содержимое проходит через серверы связи.

Это отличается от сквозного шифрования, при котором содержимое сообщения доступно только устройствам отправителя и получателя.

Однако техническая возможность обработки MMS ещё не доказывает, что оператор постоянно анализирует все фотографии, распознаёт изображённых людей или вручную просматривает переписку.

Для утверждения о вмешательстве оператора необходимо установить, что сообщение было принято его сервером и отклонено именно сетевым фильтром. В публикации Pronews такого подтверждения нет.

Что такое Chat Control 1.0

Chat Control 1.0 называют временный режим, созданный Регламентом ЕС 2021/1232.

Он предусматривает исключение из отдельных требований директивы ePrivacy, чтобы некоторые поставщики онлайн-коммуникаций могли добровольно применять технологии для выявления, сообщения и удаления материалов сексуального насилия над детьми.

Еврокомиссия описывает этот режим как временный и ограниченный. Он предназначен исключительно для борьбы с сексуальным насилием над детьми и не является общим разрешением компаниям использовать личную переписку в любых целях.

Временный режим ранее действовал с 2021 года, но истёк 3 апреля 2026 года после того, как Европарламент в марте отверг очередное продление. В июле Совет ЕС предложил восстановить исключение до 2028 года. 

«Афинские новости» подробно писали об этом в материале «Тотальная слежка под лозунгом защиты детей: Европарламент пропустил Chat Control 1.0».

Как прошло голосование

На голосовании 314 депутатов поддержали отклонение позиции Совета, 276 выступили против отклонения, ещё 17 воздержались.

Но для блокировки на этой стадии требовалось абсолютное большинство состава Европарламента, то есть 361 голос. Поэтому предложение об отклонении не прошло, хотя среди участвовавших в голосовании противников оказалось больше.

При этом Европарламент принял поправки, защищающие сервисы со сквозным шифрованием. Изменённый текст должен пройти дальнейшую процедуру согласования с Советом ЕС.

Следовательно, упрощённая формулировка «Европарламент разрешил компаниям сканировать вообще все сообщения до 2028 года» не передаёт всей юридической картины.

Разрешено ли сканировать все сообщения

Временный режим не содержит прямого приказа проверять каждое сообщение каждого пользователя.

Он создаёт правовое исключение, позволяющее определённым поставщикам добровольно использовать технологии обнаружения материалов сексуального насилия над детьми при соблюдении установленных условий.

Это важное различие:

• обязательное сканирование означает, что закон требует проверять сообщения;
• добровольный режим означает, что компания сама решает применять такие технологии, но получает для этого исключение из норм о конфиденциальности коммуникаций.

Критики справедливо отвечают, что для обычного пользователя разница может оказаться почти философской: если сервис добровольно анализирует переписку, сообщение всё равно анализируется.

Но с юридической точки зрения утверждение Pronews, что ЕС уже установил полный обязательный контроль всех SMS, MMS и чатов, является преувеличением.

Что с зашифрованными чатами

Сервисы со сквозным шифрованием предполагают, что содержание переписки недоступно самому провайдеру.

В принятой Европарламентом позиции такие коммуникации получили отдельное исключение. Это означает, что поставщик не должен разрушать или обходить сквозное шифрование ради выполнения временного режима.

При этом остаётся спор о технологиях проверки на устройстве до шифрования или после расшифровки. Правозащитники считают, что подобные механизмы могут формально сохранить шифрование канала, но фактически открыть путь к анализу содержимого на телефоне пользователя.

Однако конкретный случай с MMS к этому спору напрямую не относится, поскольку стандартная передача MMS сама по себе не обладает сквозным шифрованием.

Почему опасения всё равно обоснованы

Даже добровольное автоматическое сканирование создаёт серьёзные риски для конфиденциальности.

Алгоритмы могут ошибочно распознавать законные изображения как незаконные или чувствительные. Особенно уязвимы:

• фотографии кормления грудью;
• семейные снимки маленьких детей;
• медицинские фотографии;
• изображения после операций или травм;
• произведения искусства;
• материалы журналистских и уголовных расследований.

Ложное срабатывание может привести не только к размыванию фотографии, но и, в зависимости от системы, к блокировке учётной записи, сохранению технической отметки или передаче сообщения на дополнительную проверку.

Отдельная проблема заключается в расширении целей. Механизм создаётся для борьбы с наиболее тяжким и бесспорным преступлением, но техническая инфраструктура впоследствии может использоваться для поиска другого запрещённого контента.

Именно поэтому противники Chat Control требуют строгих ограничений, независимого надзора, прозрачной статистики ошибок и невозможности скрытого расширения перечня искомых материалов.

При чём здесь греческий скандал с прослушкой

Pronews связывает историю с MMS со скандалом вокруг системы Predator и заявлениями бывшего руководителя канцелярии премьер-министра Григориса Димитриадиса о необходимости законодательного регулирования наблюдения.

Но эти темы нельзя автоматически объединять.

Predator является шпионским программным обеспечением, предназначенным для скрытого проникновения в конкретные устройства. Chat Control относится к обработке сообщений поставщиками сервисов. Предупреждение о чувствительном изображении может быть обычной локальной функцией операционной системы.

Все три механизма затрагивают приватность, но работают по-разному, имеют разные правовые основания и требуют отдельных доказательств.

«Афинские новости» ранее рассказывали, как греческие государственные органы используют инструменты извлечения данных из мобильных телефонов. Этот пример действительно показывает расширение технических возможностей государства, но не доказывает, что оператор прочитал семейное MMS.

Комментарий редакции

История читательницы Pronews заслуживает проверки, поскольку автоматическая блокировка семейной фотографии действительно показывает проблему ложных срабатываний. Алгоритм увидел обнажённое тело, но оказался не способен отличить кормление ребёнка от сексуального материала.

Однако из этого пока не следует, что мобильный оператор просматривал MMS или что блокировка стала прямым результатом решения Европарламента. Для такого вывода нужны хотя бы данные об устройстве, приложении, операторе и полном тексте уведомления. Их нет.

Критиковать Chat Control можно и без технических преувеличений. Само создание исключения из тайны коммуникаций, позволяющего частным компаниям анализировать личные сообщения без индивидуального судебного решения, является серьёзным вмешательством в приватность.

Но когда реальную угрозу цифрового контроля подкрепляют неподтверждёнными утверждениями, результат получается обратным: власти и компании получают удобную возможность списать всю критику на панику и конспирологию.

Главный вопрос здесь не в том, прочитал ли неизвестный сотрудник оператора одну фотографию. Он состоит в другом: какие системы анализируют наши изображения, где именно происходит обработка, сохраняются ли результаты, кому они передаются и может ли человек оспорить ошибку алгоритма. Пока ответы на эти вопросы пользователю обычно заменяет невнятная надпись «чувствительный контент».