Calcweb.ru

Информационный портал
7 просмотров
Рейтинг статьи
1 звезда2 звезды3 звезды4 звезды5 звезд
Загрузка...

Автомодерация в ВК на личном опыте, примеры, как это работает

Построение автоматической системы модерации сообщений

image
Автоматические системы модерации внедряются в веб-сервисы и приложения, где необходимо обрабатывать большое количество сообщений пользователей. Такие системы позволяют сократить издержки на ручную модерацию, ускорить её и обрабатывать все сообщения пользователей в real-time. В статье поговорим про построение автоматической системы модерации для обработки английского языка с использованием алгоритмов машинного обучения. Обсудим весь пайплайн работы от исследовательских задач и выбора ML алгоритмов до выкатки в продакшен. Посмотрим, где искать готовые датасеты и как собрать данные для задачи самостоятельно.

Подготовлено совместно с Ирой Степанюк (id_step), Data Scientist в Poteha Labs

Описание задачи

Мы работаем с многопользовательскими активными чатами, где каждую минуту в один чат могут приходить короткие сообщения от десятков пользователей. Задача состоит в выделении токсичных сообщений и сообщений с любыми нецензурными высказываниями в диалогах из таких чатов. С точки зрения машинного обучения — это задача бинарной классификации, где каждое сообщение нужно отнести к одному из классов.

Для решения такой задачи в первую очередь нужно было понять, что такое токсичные сообщения и что именно делает их токсичными. Для этого мы просмотрели большое количество типичных сообщений пользователей в интернете. Приведем несколько примеров, которые мы уже разделили на токсичные сообщения и нормальные.

ТоксичныеНормальные
Your are a damn fag*otthis book is so dummy
ur child is so ugly (1)Winners win, losers make excuses
White people are owners of black (2)black like my soul (2)

Видно, что токсичные сообщения часто содержат нецензурные слова, но всё же это не обязательное условие. Сообщение может не содержать недопустимых слов, но быть оскорбительным для кого-либо (пример (1)). Кроме того, иногда токсичные и нормальные сообщения содержат одни и те же слова, которые употребляются в разном контексте — оскорбительном или нет (пример (2)). Такие сообщения тоже нужно уметь различать.
Изучив разные сообщения, для нашей системы модерации мы назвали токсичными такие сообщения, которые содержат высказывания с нецензурными, оскорбительными выражениями или проявлением ненависти к кому-либо.

Данные

Открытые данные

Одним из самых известных датасетов по задаче модерации является датасет с соревнования на Kaggle Toxic Comment Classification Challenge. Часть разметки в датасете некорректна: например, сообщения с нецензурными словами могут быть отмечены как нормальные. Из-за этого нельзя просто взять Kernel соревнования и получить хорошо работающий алгоритм классификации. Нужно больше работать с данными, смотреть, каких примеров недостаточно, и добавлять дополнительные данные с такими примерами.

Помимо соревнований есть несколько научных публикаций с ссылками на подходящие датасеты (пример), однако не все можно использовать в коммерческих проектах. В основном в таких датасетах собраны сообщения из социальной сети Twitter, где можно встретить много токсичных твитов. Кроме того, данные собирают из Twitter, так как можно использовать определенные хэштеги для поиска и разметки токсичных сообщений пользователей.

Данные, собранные вручную

После того, как мы собрали датасет из открытых источников и обучили на нем базовую модель, стало понятно, что открытых данных недостаточно: не устраивает качество модели. Помимо открытых данных для решения задачи нам была доступна неразмеченная выборка сообщений из игрового мессенджера с большим количеством токсичных сообщений.

Чтобы использовать эти данные для своей задачи, их нужно было как-то разметить. На тот момент уже был обученный бейзлайн классификатор, который мы решили использовать для полуавтоматической разметки. Прогнав все сообщения через модель, мы получили вероятности токсичности каждого сообщения и отсортировали по убыванию. В начале этого списка были собраны сообщения с нецензурными и оскорбительными словами. В конце наоборот находятся нормальные сообщения пользователей. Таким образом, большую часть данных (с очень большими и очень маленькими значениями вероятности) можно было не размечать, а сразу отнести к определенному классу. Осталось разметить сообщения, которые попали в середину списка, что было сделано вручную.

Аугментация данных

Часто в датасетах можно увидеть измененные сообщения, на которых классификатор ошибается, а человек правильно понимает их смысл.
Все потому, что пользователи подстраиваются и учатся обманывать системы модерации, чтобы алгоритмы ошибались на токсичных сообщениях, а человеку смысл оставался понятен. Что пользователи делают уже сейчас:

  • генерируют опечатки: you are stupid asswhole, fack you,
  • заменяют буквенные символы на цифры, похожие по описанию: n1gga, b0ll0cks,
  • вставляют дополнительные пробелы: i d i o t,
  • удаляют пробелы между словами: dieyoustupid.

Для того, чтобы обучить классификатор устойчивый к таким подменам, нужно поступить так, как поступают пользователи: сгенерировать такие же изменения в сообщениях и добавить их в обучающую выборку к основным данным.
В целом, эта борьба неизбежна: пользователи всегда будут пытаться находить уязвимости и хаки, а модераторы реализовывать новые алгоритмы.

Описание подзадач

Перед нами стояли подзадачи по анализу сообщения в двух разных режимах:

  • онлайн режим — real-time анализ сообщений, с максимальной скоростью ответа;
  • офлайн режим — анализ логов сообщений и выделение токсичных диалогов.
Читайте так же:
SimpleCodeGenerator — генератор QR-кодов URL-адресов и текста от NirSoft

Онлайн режим. Поиск слов по словарю

Вне зависимости от того, какая модель будет выбрана дальше, мы должны находить и фильтровать сообщения с нецензурными словами. Для решения этой подзадачи проще всего составить словарь недопустимых слов и выражений, которые точно нельзя пропускать, и делать поиск таких слов в каждом сообщении. Поиск должен происходить быстро, поэтому наивный алгоритм поиска подстрок за такое то время не подходит. Подходящим алгоритмом для поиска набора слов в строке является алгоритм Ахо-Корасик. За счет такого подхода удается быстро определять некоторые токсичные примеры и блокировать сообщения еще до их передачи в основной алгоритм. Использование ML алгоритма позволит «понимать смысл» сообщений и улучшить качество классификации.

Онлайн режим. Базовая модель машинного обучения

Для базовой модели решили использовать стандартный подход для классификации текстов: TF-IDF + классический алгоритм классификации. Опять же из соображений скорости и производительности.

TF-IDF — это статистическая мера, которая позволяет определить наиболее важные слова для текста в корпусе с помощью двух параметров: частот слов в каждом документе и количества документов, содержащих определенное слово (более подробно здесь). Рассчитав для каждого слова в сообщении TF-IDF, получаем векторное представление этого сообщения.
TF-IDF можно рассчитывать для слов в тексте, а также для n-грам слов и символов. Такое расширение будет работать лучше, так как сможет обрабатывать часто встречающиеся словосочетания и слова, которых не было в обучающей выборке (out-of-vocabulary).

Пример использования TF-IDF на n-грамах слов и символов

После преобразования сообщений в векторы можно использовать любой классический метод для классификации: логистическую регрессию, SVM, случайный лес, бустинг.

В нашей задаче решили использовать логистическую регрессию, так как эта модель дает прирост по скорости работы в сравнении с другими классическими ML классификаторами и предсказывает вероятности классов, что позволяет гибко подбирать порог классификации в продакшне.

Полученный с использованием TF-IDF и логистической регрессии алгоритм быстро работает и хорошо определяет сообщения с нецензурными словами и выражениями, но не всегда понимает смысл. Например, часто сообщения со словами ‘black’ и ‘feminizm’ попадали в токсичный класс. Хотелось исправить эту проблему и научиться лучше понимать смысл сообщений с помощью следующей версии классификатора.

Офлайн режим

Для того, чтобы лучше понимать смысл сообщений, можно использовать нейросетевые алгоритмы:

  • Эмбеддинги (Word2Vec, FastText)
  • Нейросети (CNN, RNN, LSTM)
  • Новые предобученные модели (ELMo, ULMFiT, BERT)
Word2Vec и FastText

Модели эмбеддингов позволяют получать векторные представления слов из текстов. Существует два типа Word2Vec: Skip-gram и CBOW (Continuous Bag of Words). В Skip-gram по слову предсказывается контекст, а в CBOW наоборот: по контексту предсказывается слово.
image
Такие модели обучаются на больших корпусах текстов и позволяют получить векторные представления слов из скрытого слоя обученной нейросети. Минус такой архитектуры в том, что модель обучается на ограниченном наборе слов, которые содержатся в корпусе. Это означает, что для всех слов, которых не было в корпусе текстов на этапе обучения, не будет эмбеддингов. А такая ситуация происходит часто, когда предобученные модели используются для своих задач: для части слов не будет эмбеддингов, соответственно большое количество полезной информации будет теряться.

Для решения проблемы со словами, которых нет в словаре, (OOV, out-of-vocabulary) есть улучшенная модель эмбеддингов — FastText. Вместо использования отдельных слов для обучения нейросети, FastText разбивает слова на n-грамы (подслова) и обучается на них. Для получения векторного представления слова нужно получить векторные представления n-грам этого слова и сложить их.

Таким образом, для получения векторов признаков из сообщений можно использовать предобученные модели Word2Vec и FastText. Полученные признаки можно классифицировать с помощью классических ML классификаторов или полносвязной нейросети.

image
Пример вывода “ближайших” по смыслу слов с использованием предобученного FastText

Классификатор на CNN

Для обработки и классификации текстов из нейросетевых алгоритмов чаще используют рекуррентные сети (LSTM, GRU), так как они хорошо работают с последовательностями. Сверточные сети (CNN) чаще всего используют для обработки изображений, однако их также можно использовать в задаче классификации текстов. Рассмотрим, как это можно сделать.
Каждое сообщение представляет собой матрицу, в которой на каждой строке для токена (слова) записано его векторное представление. Свертка применяется к такой матрице определенным образом: фильтр свертки “скользит” по целым строкам матрицы (векторам слов), но при этом захватывает несколько слов за раз (обычно 2-5 слов), таким образом обрабатывая слова в контексте соседних слов. Подробно, как это происходит, можно посмотреть на картинке.
image
Зачем же применять сверточные сети для обработки текстов, когда можно использовать рекуррентные? Дело в том, что свертки работают сильно быстрее. Используя их для задачи классификации сообщений, можно сильно сэкономить время на обучении.

ELMo (Embeddings from Language Models) — модель эмбеддингов на основе языковой модели, которая была недавно представлена. Новая модель эмбеддингов отличается от Word2Vec и FastText моделей. Вектора слов ELMo обладают определенными преимуществами:

  • Представление каждого слова зависит от всего контекста, в котором оно используется.
  • Представление основано на символах, что позволяет формировать надежные представления для OOV (out-of-vocabulary) слов.
Читайте так же:
Background Burner — онлайн-сервис для удаления фона с простых изображений

ELMo можно использовать для разных задач в NLP. Например, для нашей задачи полученные с помощью ELMo вектора сообщений можно отправлять в классический ML классификатор или использовать сверточную или полносвязную сеть.
Предобученные эмбеддинги ELMo достаточно просто использовать для своей задачи, пример использования можно найти здесь.

Особенности реализации

API на Flask

Прототип API был написан на Flask, так как он прост в использовании.

Два Docker образа

Для деплоя использовали два докер образа: базовый, где устанавливались все зависимости, и основной для запуска приложения. Это сильно экономит время сборки, так как первый образ редко пересобирается и за счет этого экономится время при деплое. Довольно много времени тратится на сборку и скачивание библиотек машинного обучения, что не нужно при каждом коммите.

Тестирование

Особенность реализации довольно большого числа алгоритмов машинного обучения состоит в том, что даже при высоких значениях метрик на валидационном датасете реальное качество алгоритма в продакшне может быть низкое. Поэтому для тестирования работы алгоритма всей командой использовали бота в Slack. Это очень удобно, потому что любой член команды может проверить, какой ответ выдают алгоритмы на определенное сообщение. Такой способ тестирования позволяет сразу увидеть, как будут работать алгоритмы на живых данных.
Хорошей альтернативой является запуск решения на публичных площадках вроде Яндекс Толоки и AWS Mechanical Turk.

Заключение

Мы рассмотрели несколько подходов к решению задачи автоматической модерации сообщений и описали особенности нашей реализации.
Основные наблюдения, полученные в ходе работы:

  • Поиск слов по словарю и алгоритм машинного обучения, основанный на TF-IDF и логистической регрессии, позволили классифицировать сообщения быстро, но не всегда корректно.
  • Нейросетевые алгоритмы и предобученные модели эмбеддингов лучше справляются с такой задачей и могут определять токсичность по смыслу сообщения.

Конечно, мы выложили открытое демо Poteha Toxic Comment Detection в фейсбук боте. Помогите нам сделать бота лучше!

Автомодерация в ВК на личном опыте, примеры, как это работает

CPARIP

Привет! Сегодня хотим рассказать про автомодерацию в таргетинге VK. В статейке будут только личный опыт и примеры на основе продвижения нашего паблика в этой социальной сети.

Сначала я покажу тизеры и статистику по ним, сколько они прожили в таргете, сколько по ним выходил клик. А в конце статьи подведем итоге и как это делать. Все тизеры таргетировались ТОЛЬКО на арбитражные паблики, с этим связаны небольшие суммы на открутку рекламы, так как общая аудитория около 100-150 тысяч человек.

Тизер 1

Начнём с тизера, с которого всё началось.

Этот тизер зашёл очень хорошо, цена клика на старте была в районе 0,89 рубля, тизер запостили в пару админских пабликов, поднялся хайп и посещалка и подписчики пошли вверх. Статистика по тизеру и объяснения к ним:

Тизер прожил 4 дня, собрал 437 переходов. Цена за переход в статистике 4.05 ₽, связано это с тем, что в последний день жизни тизера я задрал цену на показы, чтобы открутить его по максимуму. Расшифровка по таблице ниже, общая потраченная сумма, количество показов, переходы, CTR, цена за один клик, общий охват.

Тизер 2

Следущий экземпляр, один из моих любимых

Хороший тизер, хорошо зашел, его я крутил в нескольких вариация, зеркалил, накладывал оттенки, он проходил так же легко как в первый раз 😎 Именно этот тизер прожил два дня.

В сумме собрал 604 клика по 1.16 ₽ за клик. Хороший тизер, но быстро на него нажаловались и он улетел в отклон.

Причины отклонения всех таких тизеров:

С рекламным кабинетом при таком подходе ничего не происходит.

Тизер 3

Оказалось, очень годный подход, тизер дал самую дешевую цену клика за все время! 0.86 ₽ за клик. Формально тизер прожил два дня, но по факту это всего сутки.

Всем было интересно посмотреть на своих друзей и где они))) Странно, что тизер прожил всего сутки, видимо из-за радуги и загона по которому радуга, это теперь пропаганда чего то там.

Тизер 4

Здесь цена клика была 1.78 ₽, тизер открутился 3 дня и собрал хорошую статистику.

Общая статистика по тизеру выглядит так:

Тизер 5

Тизер 5 мой любимый) К сожалению прожил очень мало, показал не самую дешевую цену клика (3.4 ₽), но мне он все равно нравится.

Статистика за один день жизни тизера

Тизер 6

Годный тизер, мне понравился, исконно арбитражный 😀 Из-за того, что тизер жил всего один день, мы грузили его в нескольких вариантах, зеркалили.

Цена перехода составила

Итоги

Теперь как такие тизеры протащить, все очень просто, используйте кабинеты сделанные через эти сервисы пополнения балансов и отправляйте на модерацию ночью, 23:00-01:00, в таком случае будет автомодерация. Я лично проверял на новом кабинете, все работает так же как с кабом, с которого отлито 100к рублей.

Читайте так же:
Как включить поддержку High-DPI в Google Chrome для Windows 8 и 8.1

Модерация

Модерация – это в первую очередь контроль над выполнением требований в каком-либо сообществе, группе в соцсети, на форуме или онлайн-конференции. Термин происходит от устаревшего французского слова modération – умеренность, сдержанность. В современном понимании модератор – человек, наделенный более широкими правами, чем обычный интернет-пользователь на сетевых ресурсах.

Модерация – регулярный мониторинг одним модератором или группой соблюдения правил общения на конкретной площадке в сети или офлайне, которые установил владелец или администратор ресурса. Также в обязанности модератора входит проверка материала, который размещается пользователями на площадке.

Например, модератор тематического форума или сообщества в соцсети следит за тем, чтобы участники не нарушали установленные правила общения. То есть не флудили, не оскорбляли друг друга, не рекламировали «левые» товары и сервисы. Словом, всё, что запрещено владельцами и администрацией ресурса, то входит в чек-лист проверки модератора. В зависимости от «тяжести» и систематичности нарушений, он выписывает участнику предупреждение, временный или вечный бан.

Однако у модерации есть ещё одно направление, а точнее цель. Довольно часто живые или онлайн-конференции превращаются в нудные, никому не интересные заседания. В итоге – участники тратят время и энергию, но так и не приходят к единому выводу. Модератор на таких мероприятиях, пожалуй, самое ответственное лицо. Его задача состоит в том, чтобы подключить всех участников в рабочий процесс. И главное – следить за тем, чтобы обсуждение велось в тематическом русле, а члены группы концентрировались на сути.

В этом случае принципы работы модерации следующие:

  • Систематичность. Модератор онлайн-конференций и бизнес-встреч следит, чтобы каждый вопрос обсуждался в логической последовательности.
  • Структурность. Заседание имеет свой регламент и рабочий план. Их соблюдение обеспечивает профессиональная модерация.
  • Прозрачность. Модератор контролирует выполнение установленных правил на конференции. Эти правила находятся в свободном доступе, и ознакомиться с ними может любой участник без ограничений.

Таким образом, модерация необходима для поддержания порядка, проверки информации пользователей на соответствии правилам форума, сайта или группы. Сегодня любая не модерируемая площадка быстро превращается в «клоаку» — скопище спама, чернухи и ссылок на сомнительные сайты. На конференциях, модератор, помимо контроля над соблюдением правил, координирует рабочий процесс.

Виды и способы модерации


На практике используются несколько видов модерации

  1. Предварительная модерация. Любой контент или материал проверяется, прежде чем быть опубликованным на площадке. Что такое модерация сообщений? Например, комментарии или сообщения пользователей могут содержать спам, запрещенные темы или навязчивую рекламу. Такой контент отклоняется. Премодерацию используют на официальных сайтах компаний, в небольших тематических группах в соцсетях, блогах. Преимущества – максимальный контроль над качеством контента на ресурсе. Недостатки – низкая оперативность, то есть сообщения публикуются только после личной проверки. Зачастую премодерация используется как ограничительная мера для некоторых пользователей портала, которые систематически нарушают правила. Их сообщения и комментарии проверяются лично в течение определенного срока.
  2. Постмодерация. Контент проверяется после его размещения на площадке. Преимущество – высокая оперативность коммуникаций пользователей. Недостаток – модератор должен всегда быть на форуме и следить за всем потоком сообщений. Это не просто.
  3. Автоматическая модерация. На портале в сети устанавливаются фильтры и программы, которые проверяют контент по определенным критериям. Автомодерация часто используется в рекламных сервисах для проверки качества баннеров. На различных пабликах к модерации подключают самих пользователей. Например, предлагают им оценить публикацию – «полезно» или «бесполезно». Явным преимуществом пользовательской модерации является высокая объективность оценки. К недостаткам можно отнести возможность накрутки голосов или сговора против одного их пользователей и соответственно простановки большого числа «дизлайков».
  4. Модерация конфликтов. На крупных форумах любой пользователь может пожаловаться на сообщение или нарушения его прав, предъявив письменную жалобу модераторам или администраторам ресурса. Конечно, рассматриваются только аргументированные претензии.

Кто такой модератор?


Модератор, согласно значению своего термина, призван сдерживать и умерять пользователей интернет-ресурса. Как мы уже писали выше – он следит за соблюдением правил сайта, контролирует общение посетителей.

В отличие от администратора, человека с неограниченными полномочиями на площадке, модератор имеет свой перечень обязанностей и прав. По сути, он выступает помощником админа в плане контроля над соблюдением правил форума.

Чтобы успешно выполнять обязанности модерирования, необходимо разбираться в тематике ресурса, обладать достаточным уровнем знаний в веб-программировании. Кроме того, модератор должен уметь разрешать конфликтные ситуации и споры, вести общение с пользователями.

К стандартным правам модератора относят:

  • Редактирование и удаление сообщений пользователей;
  • Блокировка и удаление аккаунтов забаненных участников;
  • Предупреждение юзеров, применение санкций – временный, вечный бан;
  • Ограничение прав – запрет на отправку сообщений, комментирования, просмотра тем площадки;
  • Передача полномочий другому модератору.

В обязанности помощника администратора входят уведомление пользователей о важных событиях, изменениях на площадке и вне её. Кроме того, он должен следить за тематикой сообщений и при необходимости перемещать посты в нужный раздел. Модератор – это связующее звено между обычным пользователем форума и администратором. Именно поэтому он должен оперативно реагировать на просьбы и жалобы участников, а также соблюдать правила площадки.

Читайте так же:
Как в Windows 10 обходным путем включить воспроизведение звука приветствия при старте системы

Модератор применяет следующие виды санкций к нарушителям:

  • Предупреждение;
  • Удаление поста напрямую или выставление требования удалить сообщение, которое содержит недопустимый контент: спам, оскорбления, брань, рекламу;
  • Начисление штрафных баллов;
  • Блокировка пользователей, бан;
  • Разблокировка пользователей после периода ограничений;
  • Оповещение участников о нарушениях, призыв к соблюдению правил ресурса.

Какие модераторы бывают?


Для начала обобщенно рассмотрим типы модераторов, а далее изучим более подробно их обязанности и права.

  • Супермодератор. По сути, это большой босс, который контролирует работу других помощников администратора ресурса. С его согласия и/или по его рекомендации назначаются модераторы среднего звена. Кроме того, в обязанности «главного» входит курирование работы всего сайта, форума, портала. Нередко, на крупных площадках супермодераторы имеют статус, близкий к администратору, со всеми полномочиями.
  • Модератор чата – это такой же «бывший» обыкновенный пользователь, который наделяется полномочиями модерировать подконтрольный ему чат. Например, следить за соблюдением правил общения, контролировать попытки повторной регистрации или ведения мультиаккаунтов.
  • Модератор форума/портала. Пользователь, который помогает админу ресурса, проверять сообщения, комментарии, опросы участников. Чем крупнее портал, тем больше требуется помощников.
  • Модератор новостей. Пользователь ресурса, который проверяет новостную группу сообщений. Обычно это премодерация, но существуют крупные новостные порталы с автоматической или постмодерацией. В таком варианте помощник наделяется правами удалять размещенный контент, если он не соответствует правилам площадки.

Модератор форума


Типовые обязанности и права помощников админа на разных площадках чем-то схожи. Модератор здесь выступает неким «смотрителем» площадки или раздела. Его задача контролировать соблюдение участниками правил и помогать развивать ресурс. Хороший помощник поддерживает на площадке экологичную атмосферу, то есть своевременно решает спорные ситуации, выслушивает просьбы и жалобы пользователей.

  • Проверка публикуемых участниками тем;
  • Перенос постов и тем в нужные разделы;
  • Удаление и редактирование тем;
  • Контроль правил общения на форуме;
  • Реагирование на жалобы и пожелания пользователей;
  • Удаление несанкционированной рекламы;
  • Создание подразделов и другое
  • Участвовать в обсуждениях;
  • Редактирование сообщений пользователей;
  • Предложения по улучшению площадки;
  • Блокировка, предупреждения участников за нарушения;
  • Анонс мероприятий на форуме.

Модератор не0сет ответственность за соблюдение конфиденциальности информации пользователей. Он не должен разглашать данные об администрации и других помощниках портала, а также распространяться о техническом оснащении площадки.

Модератор в соцсетях


Участник сообщества, группы в социальной сети, который имеет полномочия контролировать действия других подписчиков и гостей. В частности он следит за качеством постов, соблюдением правил и норм общения, принимает участие в раскрутке паблика.

  • Наполнение группы тематическим контентом;
  • Оформление страницы;
  • Проверка новостей, которые предлагают к размещению подписчики;
  • Редактирование, удаление постов;
  • Удаления спама в комментариях;
  • Сбор статистики;
  • Проведение конкурсов;
  • Поддержание активности в сообществе.
  • Мониторинг сообщений, постов, комментариев подписчиков;
  • Контроль над соблюдением правил в сообществе;
  • Удаление забаненных пользователей;
  • Закрытие тем, которые не соответствует тематике или правилам сообщества;
  • Выписка штрафных баллов подписчикам, исключение из сообщества;
  • Выставление требований по редактированию постов, которые не соответствует политике паблика.

Главное отличие модератора в соцсетях в том, что он принимает активное участие в развитии группы, сообщества. По сути, он «админ на передовой». От его работы зависит активность в паблике, уровень лояльности подписчиков и их заинтересованность тематикой.

Модератор новостей

В обязанности помощника по этому блоку входит мониторинг новостей, отбор актуальных сообщений и их публикация на портале. Это если проверка выполняется в режиме премодерации. В случае с автоматическим размещением, модератор может удалять неактуальный контент или редактировать его содержимое.

Модератор чата

Модерация чата чем-то схожа с работой в соцсетях. Пользователь с полномочиями курировать сообщения других участников проверяет контент на соответствии тематике и правилам чата. Он имеет право предупреждать или исключать пользователей из переписки за различные нарушения. Например, повторная регистрация, мультиаккаунт, оскорбления и другое.

Преимущества и недостатки профессии


К несомненным плюсам профессии относят:

  1. Удаленная работа. В большинстве случаев модерировать сайты, чаты, форумы и паблики в соцсетях можно вне офиса.
  2. Модератор в России до сих пор ещё новая профессия, поэтому большинство крупных компаний имеют свободные вакансии.
  3. Быстрая прокачка навыков общения и решения спорных ситуаций, что особенно хорошо для фрилансеров и удаленных сотрудников.
  4. Модерация – это дисциплина, которой можно и нужно учиться самостоятельно.
  5. Удобный график работы.
  1. Модерация крупных ресурсов отнимает много времени даже на удаленной работе.
  2. Модератор должен иметь навыки стрессоустойчивости, грамотной устной и письменной речи.
  3. Требуется усидчивость и внимательность.
  4. Необходимо разбираться в тематике площадки.

Резюме

Мы узнали, что такое модерация сайта, а также изучили схожие направления – соцсети, чаты, форумы и онлайн-конференции. Рассмотрели виды и способы модерации, права и обязанности модераторов. В конце статьи сравнили преимущества и недостатки этой профессии.

Технически стать модератором любого ресурса в сети несложно. Специальной подготовки не требуется, диплом не нужен. Главное – это понимать тематику сайта и быть на хорошем счету у администрации ресурса.

Читайте так же:
Что делать, если в Windows окошко «Выполнить» не сохраняет историю команд

Зачем нужен модератор и что он должен делать

Кто такой модератор

На любом ресурсе, где люди общаются друг с другом, предусмотрены специальные правила. Только кто следит за их соблюдением? Таких людей много – в их число входят владельцы ресурса, администраторы, а также модераторы.

Вот о последних и пойдет речь в этой статье – я расскажу, что это за люди и какие задачи они выполняют.

Кто такой модератор

Модератор следит за тем, чтобы люди на сайтах, форумах и в чатах выполняли установленные администрацией правила. Иногда он разрешает конфликтные ситуации и выполняет часть управленческих функций. Модератор стоит где-то между админом и обычным пользователем.

При найме модератора обычно ориентируются на наличие у человека следующих качеств:

  • знания темы (сайта, форума, чата и т.п.),
  • умения разрешать конфликты,
  • молниеносной реакции,
  • умения работать с интерфейсом чата, форума, соцсети, сайта и так далее.

Не помешают и базовые знания в программировании.

Зачем он нужен?

Такой человек выполняет несколько задач, а их количество и тип зависят от того, какие ограничения вводит владелец или администратор ресурса. И вот то, что обычно должен делать модератор:

  • Добавление нового контента, будь то текстовый или графический материал, также редактирование уже размещенных записей.
  • Занесение нарушителей в черные списки и их удаление оттуда.
  • Наблюдение за следованием регламенту в рубриках, за которые его назначили ответственным.
  • Общение с другими юзерами. Проверяющий при этом должен стараться быть вежливым.
  • Ограничение доступа к определенной тематике или беседе, иначе говоря бан.
  • Рассмотрение пожеланий и жалоб, при необходимости принятие соответствующих мер.
  • Редактирование, обрезка, скрытие и удаление сообщений или комментариев.
  • Удаление страниц нарушителей, ботов или фейков.
  • Устранение конфликтов и поддержание нейтральной атмосферы.

Модератор должен знать и соблюдать правила сайта или форума, подавая таким образом пример другим участникам. В некоторых случаях он может отправлять рассылки, договариваться о рекламе, добавлять новые темы или записи, тем самым стимулируя общение и увеличивая популярность сайта или форума.

Какие бывают модераторы?

Обычный модератор выполняет некоторые из перечисленных обязанностей (или все). Но бывает и главный модератор – он находится где-то между обычным проверяющим и администратором. Чаще всего выполняет часть функций администратора, следит за работой коллег, добавляет пользователей, а иногда и исправляет ошибки технического характера.

Виды модерации

Процесс модерации контента тоже подразделяется на несколько видов, все зависит цели. Это деление условно – специалист может иметь более широкий круг полномочий, все зависит от решения администрации.

  • Модерация – здесь надо проверять размещаемые материалы и сообщения, решать непредвиденные проблемы, а также мониторить ресурс на предмет нарушений правил.
  • Автомодерация – проверка на качество проводится с помощью специальных фильтров и программ. Может реализовываться в виде голосования, когда юзеры оценивают пользу контента. Такая система имеет слабые стороны, которые крайне легко обойти, поэтому необходимо постоянно дорабатывать программное обеспечение и следить за алгоритмами и пользователями (например, бороться с накруткой отзывов или голосов).
  • Конфликтная комиссия. Принцип действия ее таков – группа людей принимает от пользователей жалобы, затем проводит разбор. Проверяющие должны реагировать на заявления максимально быстро. Главное требование здесь – объективная оценка ситуации. Комиссия проводит наблюдение и после выяснения обстоятельств подводит итог.
  • Премодерация включает предварительный контроль сообщений для выявления ошибок или нарушений типа нецензурной брани, их редактирование и принятие решения о публикации. Благодаря этому сайты, форумы и соцсети не заполняются фейковой информацией или спамом.
  • Постмодерация – та же проверка контента, но уже после его размещения. Актуально для ресурсов, на которых ожидать долгой публикации коммента или сообщения недопустимо. Модератор должен быть внимательным и удалять оскорбительные сообщения, спам и флуд.

В каких проектах нужен модератор

Модераторов назначают для ведения различных проектов в интернете. Ниже привожу наиболее часто встречаемые и яркие примеры подобных площадок.

  • Группа в социальной сети. Например, в сообществах ВКонтакте такой человек публикует посты с новостями и проверяет все то, что предлагают к размещению обычные пользователи. Если материалы подходят тематике паблика, модератор одобряет их. Он также может мониторить комментарии на наличие в них рекламы, флуда, спама.
  • Сайт. Отвечает за навигацию на сайте, следит за грамотным оформлением описаний товаров и услуг. Такой человек должен разбираться в представляемых продуктах, а также отвечать на вопросы пользователей.
  • Форум. В обязанности модератора здесь входит мониторинг тем, в том числе редактирование и закрытие некоторых веток, добавление приоритетов, проверка сообщений на соответствие тематике, отсутствие бранных выражений или оскорблений.
  • Чат. Тут подразумевается поддержание порядка в беседе, а при наличии нарушений удаление участников. Удалять людей из чата можно временно или навсегда.

Резюмируя, можно сказать, что модераторы – это универсальные люди, которые следят за чистотой сайта, форума или группы в соцсети.

голоса
Рейтинг статьи
Ссылка на основную публикацию