Автоботы, к бою

Автор Ирина Старикова. Опубликовано June 13, 2020, 2:04 p.m.

Акимат Рудного рано замахнулся на создание «искусственного интеллекта»

Очередной повод для обсуждений предоставил акимат Рудного, а точнее, Рудненский городской отдел внутренней политики, который 5 мая текущего года заключил договор с «TaByS 2020» на мониторинг комментариев пользователей социальных сетей и другие сопутствующие услуги. Об этом сообщил Центр защиты прав потребителей города Рудного на своей странице в соцсети «Одноклассники», изучив находящуюся в открытом доступе информацию с Портала госсзакупок.

Итак, из бюджета в общей сложности будет выделен 1 млн. 300 тыс. тенге на «услуги информационного мониторинга» социальных сетей по Рудному и создание… фейковых аккаунтов. Поставщику услуг предстоит трудиться на виртуальном поприще до конца года, к слову, 400 тыс. тенге отдел внутренней политики акимата Рудного уже перечислил на счет компании «TaByS 2020».

Коротко о том, какие услуги входят в договор между отделом внутренней политики и поставщиком услуг. Это ежедневный обзор не менее семи популярных пабликов в социальных сетях, мониторинг и фиксация деструктивных настроений с последующей передачей данных уполномоченным органам; также консультативная помощь по работе с социальными сетями, составление плана реакции на критические моменты; контраргументация и создание 4-х фейковых аккаунтов для комментирования; предоставление отчетов по заданным периодам и тематикам по запросу заказчика. Также по согласованию с заказчиком «TaByS 2020» должен изготовить не менее пяти видеороликов, плюс редактировать текстовые материалы для публикаций в социальных сетях.

Простые обыватели, ознакомившись с этой информацией, сразу возмутились: кому-то сумма в 1 300 000 тенге показалась слишком большой для такого сомнительного предприятия, кто-то обеспокоился «слежкой» и введением жесткой цензуры. Мол, теперь даже в социальных сетях мнение свое не высказать! Мы же попытались разобраться, реально ли, имея такой бюджет, получить качественные услуги подобного рода? Для этого понадобилось мнение специалиста, который работает в сфере IT. Портал iagorod.kz отыскал такого человека и взял у него небольшое интервью.

- Итак, на какой объем работ можно рассчитывать, имея полугодовой бюджет в 1 млн. 300 тыс. тенге?

- На очень небольшой, если учесть, что перечень услуг обширный. При озвученной сумме в месяц выходит около 217 тысяч тенге, что является средней зарплатой для аналитиков данных. А в списке еще масса обязанностей – нужен и SMM-менеджер, и PR-специалист. Большинство из этих работ может выполнять один человек, но при наличии соответствующего инструментария. Это системы машинного обучения, сбора и анализа данных, которые должны быть «завязаны» на все социальные сети, собирать и попутно анализировать информацию. Разрабатываются такие системы очень тяжело, даже предобученная модель BERT от Google, находящаяся в свободном доступе, еще очень «сырая», к тому же основным языковым корпусом для нее является английский. Модель DeepPavlov от МФТИ, разрабатываемая в России, тоже еще далека от совершенства, хотя над ней трудятся множество специалистов.

- Если говорить о том самом «мониторинге и фиксации деструктивных настроений», неужели и негативные комментарии может распознать машина?

- Да, может, например, даже для русского языка существует модель Dostoevsky, которая способна распознать эмоциональный окрас сообщений, но вся проблема в том, что она предобучена на «чистом» языке, то есть для идеально грамотных тектов. Увы, но этим современные комментаторы не «грешат». Чтобы переобучить данную модель для решения необходимых задач, потребуется собрать соответствующий корпус текстов и фраз с грамматическими и синтактическими ошибками – так, как они и размещаются в соцсетях обычно. Только после этого можно будет проводить какой-либо анализ комментариев с помощью подобной модели. Дело в том, что обычно деструктивные настроения, которые реально угрожают, к примеру, госбезопасности, распознать очень сложно, это должна быть длинная цепочка сообщений, которые обычно пишутся завуалированными фразами. А обычные люди могут просто в сердцах покрыть оппонентов матом, не имея при этом какого-либо злого умысла. И смысл доносить на них в уполномоченные органы?

- Так значит в наших условиях и при наших бюджетах это неосуществимо? Пользователи соцсетей могут и дальше не стесняться в выражениях?

- Во-первых, чтобы об этом говорить подробнее, нужно видеть реальное техническое задание, контент-план и прочие необходимые документы. Бюджет, конечно, очень маленький. Смешной. Максимум, что можно, так это нанять группу студентов, или грамотных пенсионеров, которые будут целыми днями сидеть в соцсетях и отслеживать «нарушителей», строчить свои комментарии с фейковых аккаунтов. Но какого качества аналитику может гарантировать такой подход к работе? А насчет «не стесняться в выражениях» и прочей цензуры можно сказать только одно: у всех социальных сетей существуют давно разрабатываемые сложные модели анализа данных, которые уже знают все и про всех пользователей, зарегистрированных в данных соцсетях. Уж у них то нет недостатка в текстах для обучения машин. Мы с вами предоставляем всю информацию сами, годами, каждый день. Даже если завести фейковый аккаунт, используя чужие регистрационные даные, после 3-4 сообщений по особым маркерам в тексте, ошибкам в распространенных словах, стилистике написания текста почти любая соцсеть с 80%-ой вероятностью поймет, что вы это вы и ранее уже регистрировались здесь под иным именем. Хотел бы добавить, что иностранные социальные сети, такие как Facebook и Twitter, гораздо более агрессивны в плане цензуры, нежели их российские аналоги.

- Можно уточнить, по какому принципу следует грамотно вести фейковый аккаунт, если человек, к примеру, специально нанят для того, чтобы регулировать общественные настроения?

- Например, одной из функций моделей глубинного обучения (искусственный интеллект – ред.) в социальных сетях является выявление и блокировка фейковых аккаунтов, таким образом, без соответствующего взаимодействия с администрацией социальной сети очень тяжело поддерживать «армию» живых ботов. Их просто заблокируют при выявлении запрещенной активности. Фейковый аккаунт требует долгой подготовки, чтобы «выстреливать» в определенный момент. У каждой соцсети есть соглашение пользователя, в котором описаны правила поведения в данной социальной сети, и чтобы фейковый аккаунт всегда был наготове, он должен вписываться в эти правила. Некоторые соцсети раньше даже не давали писать комментарии, пока вы не загрузите в свой аккаунт фотографию. То есть к моменту какого-либо бурного обсуждения, фейковый аккаунт должен вестись уже некоторое время, а не создаваться в сию минуту. Это все видно, как на ладони. К тому же, чтобы каким-то образом влиять на ход бесед, необходимо иметь хотя бы базовые познания в психологии, в частности, в психологии толпы. Иметь также в каждом конкретном случае четкие инструкции, в каком русле необходимо вести разговор. Подобная работа для одного человека очень сложна. Нужна и аналитика, и соответствующая мгновенная реакция на изменения тона и русла беседы. Я считаю, что невозможно без поддержки искусственного интеллекта и вести аналитику, и полноценно участвовать в обсуждениях. Хотя для нашего города это не особо нужно. Подобным и так занимаются администрации соцсетей и соответствующие органы, в том числе, и иностранных государств.

В акимате Рудного, кстати, не видят ничего странного в заказе подобных услуг, ссылаются на то, что «это обычная практика». А что если договор с отделом внутренней политики заключил местный Илон Маск, какой-то «чертов гений», который разработал свою программную систему и готов почти за бесплатно «обкатать» ее на рудничанах? Размечтались. Поставщик услуг «TaByS 2020», как выяснилось, к IT-сфере никакого отношения не имеет. Кстати, это неофициально подтвердили и в отделе внутренней политики акимата Рудного.  Это физическое лицо, осуществляющее личное предпринимательство - Беккалиев Ербол Батыргалиевич. Центр защиты прав потребителей изучил все его предыдущие заключенные договоры о государственных закупках. Предприниматель, конечно, талантлив и многогранен, занимается практически всем подряд - от установки памятников по заказу Управления полиции и работ по установке дверей/ворот/турникетных систем/ограждений и электромонтажных работ по заказам аппарата акима города до работ по установке рекламных/информационных конструкций и услуг по техническому/сервисному обслуживанию автомобильных двигателей, а также ремонту и реставрации труб по договорам государственных закупок с отделом ЖКХ акимата. Помимо этого, «TaByS 2020» также по заказу акимата оказывал услуги по содержанию зданий/сооружений/помещений и прилегающих территорий, и их ремонту, а также по договорам с акиматом выполнял работы по установке/монтажу/демонтажу оборудования и инструментов предназначенного для людей с ограниченными возможностями.

Региональный портал «Наша газета» уточняет, что «TaByS 2020» производил текущий ремонт помещений для акимата поселка Качар, занимался обслуживанием фонтанов в Рудном, даже оказанием «квалифицированной юридической услуги» для ясли-сада №1.

Как видим, в «послужном списке» предпринимателя не были замечены услуги информационного мониторинга. До сегодняшнего дня. Теперь же, когда на господина Беккалиева обращено столько внимания, ему просто нельзя упасть в грязь лицом. Надо достойно отработать 1 300 000, а это будет задача не из легких, ведь рудненских завсегдатаев социальных сетей, которые регулярно что-то комментируют, не так уж много, и «ботам» трудно затеряться в толпе. Кстати, теперь поиск фейков может превратиться в охоту на ведьм. Зерна сомнений уже посеяны.

PS. Не лишним будет добавить, что вся сфера IT – это Клондайк для отмывания денег, потому как большинство людей смутно представляют, как это работает. То есть можно смело пускать пыль в глаза, прятаться за умными терминами, а на деле иметь пустышку. Простой пример: якобы заказываем создание навороченного сайта, а потом просто вешаем это на учителей информатики в качестве «дополнительной нагрузки», или за сущие копейки.

Фото: из сети Интернет

Tags: акимат Рудного  информационный мониторинг  госзакупки  мнение  фейки