"Гонка вооружений" Facebook: тысячи модераторов против российских троллей
Во вторник и среду основатель Facebook Марк Цукерберг давал показания в конгрессе США. Среди прочего, его много спрашивали и том, что компания делает для нейтрализации деятельности троллей, действующих, как сообщали многие СМИ, в интересах Кремля.
На второй день слушаний в конгрессе Марк Цукерберг уже не упоминал Россию Российские официальные лица всегда отрицали всякую причастность государства к деятельности "фабрик троллей". Однако Цукерберг, прежде сомневавшийся в значимости фактора троллей, теперь заявил, что сотрудники Facebook ведут настоящую "гонку вооружений" со спонсируемыми Россией группами, которые пытаются эксплуатировать соцсеть с целью оказать влияние на исход выборов и общественное мнение. Последней мерой, на которую пошли в Facebook, было внедрение искусственного интеллекта, который способен идентифицировать фальшивые аккаунты, замеченные в попытках влиять на политические настроения, добавил он. "Это - гонка вооружений. Они будут учиться работать лучше, то же самое следует сделать и нам", - заявил Цукерберг. По его словам, к концу года компания наймет около 20 тысяч новых сотрудников в отдел по обеспечению безопасности. Эксперты, опрошенные Русской службой Би-би-си, согласились, что у корпорации есть достаточный инструментарий для войны с троллями, но не уверены, куда это заведёт сам Facebook. Правозащитная организация Avaaz провела свою акцию с сотней картонных изображений Цукерберга в преддверии его выступления в Сенате Илья Шарапов, руководитель аналитического подразделения по информационной безопасности ООО "ТСС": Соцсети обладают таким инструментарием для вычисления и удаления неугодной информации, что даже в кино представить боязно. Несколько лет назад "Яндекс" указывал в "Яндекс.Новостях" первоисточник новости - пост в "Твиттере" или "Фейсбуке", сайт МЧС или правительства России, - и её "дубликаты" за авторством других СМИ или блогеров. Аналогичными опциями обладают и современные соцсети, которые способны моментально находить первоисточник или автора оригинального сообщения. После чего в дело могут включаться дополнительные - как машинные, так и редакторские - опции, например, проверка тональности/агрессивности/оскорбительности сообщения с точки зрения словарного запаса и интонационного исполнения. Не секрет, что теоретически соцсети способны удалить не только профайл любого пользователя, но и более избирательные моменты - например, посты на стене, фотографии (система распознавания лиц позволяет знать, где, кто и с кем был сфотографирован), а также личные сообщения, как это наблюдалось на днях, когда пользователи стали жаловаться на исчезновение сообщений от Цукерберга. Айдар Гузаиров, генеральный директор компании-провайдера кибербезопасности "ICL Системные Технологии": Социальные сети уже успешно применяют разработки в области искусственного интеллекта - в основном, для решения различных задач, но в частности и для поиска террористической пропаганды, удаления этой информации. Они уже учатся автоматически выделять откровенно ненавистнические (hate speech) посты пользователей, распознавать реальные лица на фото и видео, идентифицировать круг общения и даже выявлять агентов влияния, а также активно взаимодействуют с дата-брокерами, которые собирают информацию о пользователях для рекламных целей. Думаю, действительно крупные социальные сети через пять-семь лет смогут искать, обрабатывать и реагировать автоматически вообще на всю информацию на их платформах. Сейчас российские и иностранные команды определяют новую систему приоритетов. Приоритет сохранности данных пользователей - это не новый, но теперь может стать очень мощным трендом, чтобы предотвратить подобные утечки в будущем. Однако в ближайшее время потребуется тысячи модераторов для мониторинга и реагирования, и только в следующем десятилетии будет проверен и запущен искусственный интеллект.