Возможные изменения политики Телеграм: риски цифровой отмены, манипуляция алгоритмами, цифровая цензура, "двойственность" Телеграм, шантаж магазинов приложений, потенциал ограничений — Будущее Телеграм как зеркало будущего цифровых платформ... Дискин Евгений Иосифович. [Часть 4]
. . .
[Полина Гуляева]
Спасибо большое! Хочется еще немного поговорить о тех последствиях, которые возможны для России в результате изменения политики Телеграм.
Вы уже довольно подробно изложили возможные последствия для нас, связанные со свободой слова и распространением информации. Есть ли еще какие-то негативные, вряд ли позитивные, но представим, что они могут быть, последствия? Далеко идущие или способные проявиться в среднесрочной перспективе; последствия, которые мы увидим или сможем увидеть в связи с предстоящими изменениями. Спасибо.
[Дискин Евгений Иосифович]
Изменения безусловно, возможны. Считаю, что образцом могут выступать другие платформы и то, что они делают.
Методы «цифровой отмены» и воздействия на пользователей, для того чтобы заставить их перестать пользоваться платформой, достаточно разнообразны. Самым распространенным и самым известным методом «цифровой отмены» является деплатформинг. Деплатформинг — это удаление аккаунта человека или юридического лица организации с платформы. Как я уже упоминал ранее, сейчас прошла волна банов аккаунтов организаций, которые попали под блокирующие санкции. Но это не единственная причина, и причин для блокировок становится все больше.
На Западе активно идет дискуссия о том, что необходимо отключать аккаунты пользователей, которые участвуют в информационно-психологических операциях. И в разрезе темы информационной войны, к таким аккаунтам можно отнести аккаунты наших СМИ, аккаунты наших политических деятелей, лидеров общественного мнения. Это очень хитрая тактика. Любого человека, высказывающего альтернативную точку зрения, по любому вопросу, можно обвинить в причастности к информационно-психологической операции. И суть этих обвинений такова, что нет возможности оправдаться.
Мы подходим к точке, когда все основные гарантии свободы слова, последовательно уничтожаются. У людей, которые подпадают под санкции, под такого рода обвинения, фактически нет никаких инструментов для защиты: защиты своего доброго имени, чести и достоинства. Инструментов, в классическом понимании этого слова.
В журнале «Закон», недавно вышла моя статья, в которой я пишу, в том числе, о защите чести и достоинства, доброго имени в интернете.
Другим методом является манипуляция алгоритмами. На большинстве платформ все, что мы читаем, просматриваем, пролистываем и чем делимся, учитывают алгоритмы. В [запрещенном] Facebook все, что вы читаете, предложено вам алгоритмом. Проблема заключается в том, что эти алгоритмы, не всегда честные. Нам может казаться, что они предлагают нам только то, что мы хотим - то, что соответствует нашим интересам. Но на самом деле, очень легко и без существенных вложений в материально-техническую часть, можно начать предлагать человеку контент, который совпадает с его интересами, но в тоже время соответствует определенной политической точке зрения…
[В этом месте беседа прервалась, по техническим причинам]
[Полина Гуляева]
[…И мы продолжаем]
[Дискин Евгений Иосифович]
[Уважаемые коллеги, прошу прощения. Я уверен, что ничего не нажимал для того, чтобы прекратить вещание. Будем надеяться, что это цифровой сбой, а не искусственный интеллект прерывает нас подобно того, как это происходило в советское время, когда телефонный звонок мог оборваться при упоминании каких-то ключевых слов.]
[Дискин Евгений Иосифович]
Об алгоритмах — это большая проблема. В сочетание с искусственным интеллектом, средствами и методами которыми располагают крупные технологические корпорации, а их технологические возможности очень велики, как и возможности, при необходимости инвестировать в средства распознавания голоса, текста, семантического распознавания смыслов, они предоставляют огромные возможности для цензуры. Как если бы цензуру осуществляли по старинке, вычитывая письма, но в режиме реального времени. Без задержек в часы, которые требуются для прочтения письма, выписывания или вычеркивания всех «нехороших» моментов. Скорость работы искусственного интеллекта позволит осуществлять цензуру в режиме реального времени. И даже подменять точку зрения.
Я немного опережаю события, но абсолютно убежден, что совсем скоро мы увидим эти технологии в действии. И будут поданы они не как цензура, а как борьба с теорией заговоров или противодействие дезинформации. Они будут легитимизироваться под благими предлогами и будет названо огромное количество угроз общественному строю и правопорядку.
То, как могут выглядеть репрессивные меры, мы уже наблюдали на примере недавних беспорядков в Великобритании: большое количество людей были арестованы за мемы и репосты. За то, за что российская аппозиция, обвиняла российскую власть. Но там это было реализовано, в кратчайшие сроки и с перекосами – осужденных за тяжкие уголовные преступления выпускали на свободу, с целью освобождения мест в тюрьмах для тех, кого арестовали за мемы. [Я не распространяю дезинформацию — это правда].
Тенденции, которые я наблюдаю и то, сколько денег вкладывается в эти технологии на уровне ЕС — огромные деньги, направленные на финансирование различных проектов в этом направлении, — все это выглядит очень по-Оруэлловски.
Это то, что касается алгоритмов. Телеграм пока не использует такие алгоритмы: мы видим то, что мы пишем, читаем то, что действительно было написано. Но нужно держать в голове, что угрозы юридического преследования Павла Дурова, которые мы наблюдаем, могут заставить его применить средства «цифровой отмены»: блокирование аккаунтов и применение недобросовестных алгоритмов для цензуры.
И это еще не все. Для цензуры могут быть применены методы удаления конкретных сообщений.
Существует две версии Телеграм. Официальная версия Телеграм, находится в национальных магазинах приложений Эппл ап Стор (Apple App Store) и Гугл Плэй (Google Play). Для каждой страны отдельно, версия приложения может содержать черный список запрещенных каналов и список недоступных к использованию сообщений. Версия, «без цензуры», доступна для скачивания на официальном сайте Телеграм.
Обе эти версии существенно отличаются по контенту. Используя официальную версию из официальных магазинов приложений, можно наткнуться на ограничение в списке доступных каналов и сообщений. Более того, Гугл и Эппл воздействует на Телеграм с требованиями, которые выдвигались до ареста, и об этом сообщалось в новостях, с целью того, чтобы Телеграм осуществлял более жесткую модерацию контента, который они считают неправомерным.
Возникает дополнительный слой. Есть государство, а есть цифровые платформы, которые дают возможность размещать приложения в своих магазинах. И все это сопровождается большим количеством условий: [«не будете брать, отключим газ»]. Не будете модерировать так, как мы считаем нужным или как считают нужным наши рекламодатели, партнеры и прочие заинтересованные стороны, то мы ваше приложение удалим из магазина. В этом есть что-то глубоко советское. И не зря оно резонирует с крылатой фразой Нонны Мордюковой из известного кинофильма. Но это не повод для веселья.
Мы находимся в нескольких шагах от ввода в строй совершенно [непотребных] средств, которые могут иметь огромный потенциал для цензуры. Поскольку СМИ не акцентируют на этом внимание, то мы не можем в полной мере осознать это. Как человек, который пристально следит за этими технологиями и исследует их, могу с полной ответственностью сказать, что потенциал для цензуры у цифровых платформ огромен. Сейчас они используют от 5% до 10% тех возможностей, которыми обладают. Делают они это точечно, в виду наличия альтернативы, например такой как платформа Телеграм, которая может позволить тем, кого «ограничили» создать шум вокруг этой ситуации.
Не нужно надеяться, что они не применят эти технологии. Рано или поздно это может случиться. Если мы, как БРИКС, не займем активную позицию и не будем отстаивать свою цифровую автономию, цифровой суверенитет, то все от этого пострадаем. Ограничения, которые сейчас существуют в Китае, будут сравнимы с теми, которые будут существовать в глобальном интернете.
Заключение от спикера: проблема непрозрачности и неочевидности ограничений.
[Полина Гуляева]
Спасибо большое! Это очень интересно, и я думаю, что эти вопросы, так же, как и ответы на эти вопросы нельзя назвать завершенными. Будем наблюдать за тем, как они будут раскрываться и проявляться в будущем, и за тем, что это будущее нам принесет!
Я благодарю вас за этот подкаст и вам финальное слово.
[Дискин Евгений Иосифович]
Уважаемые коллеги, уважаемые слушатели!
Я не преследовал цели, вас каким-то образом запугать. Как ученый, я глубоко обеспокоен складывающимися тенденциями в области запретов на распространение информации. На мой взгляд, они значительно хуже тех, которые существовали в официальном поле в послевоенный период в СССР и других странах. Они не были прозрачными, но был понятен принцип их устройства. Основная проблема системы, которая выстраивается сейчас - «цифровая отмена», цифровая цензура, в том, что она совершенно закрыта. Мы не ощущаем ее в целостном виде, мы не понимаем как она устроена. Мы не видим ответственных за это ([эту цензуру]), мы не понимаем, кто принимает решение. И в этом я вижу угрозу.
Как ученый я, чувствую ответственность за то, чтобы информация об этой проблеме была подсвечена, а взгляд гражданского был направлен в эту сторону. Мы не должны существовать в «Оруэлловском» измерении.
Для этого нужны усилия не одного ученого, а множества. Как и участие гражданского общества в целом, чтобы распространять информацию среди большего количества людей.
Я считаю это чрезвычайно важным. Буду очень рад, если слушатели поделятся этой информацией, этим подкастом со своими друзьями, коллегами. [Как бы пошумят немножко].
Вот на этом, хочу подвести черту под своим выступлением.
[Полина Гуляева]
Благодарю вас, всего доброго!
[Дискин Евгений Иосифович]
Спасибо большое! Полина, всего доброго! До свидания, уважаемые слушатели!
[Полина Гуляева]
До свидания!
