Модерация

Модерация — проверка постов и комментариев и ограничения для нарушителей.

Обзор

JournalPHP работает по модели постмодерации: посты и комментарии публикуются сразу, а проверяются после публикации — вручную в очереди или автоматически AI-модерацией. Пользователи сообщают о нарушениях жалобами.

Нарушителя можно забанить на всей платформе или запретить ему публиковать посты и комментарии. Запрет выдаётся и автоматически, когда у пользователя накапливаются заблокированные посты и комментарии. Баны внутри темы выдаёт её команда — см. Темы.

Разделы модерации находятся в группе Админ-панель → Модерация, настройки AI-модерации — в группе Админ-панель → AI.

Очередь проверки

В очередь попадают опубликованные посты, кроме редакционных, и комментарии, которые ещё не проверены:

• Посты: Админ-панель → Модерация → Очередь → Посты
• Комментарии: Админ-панель → Модерация → Очередь → Комменты

Запись в очереди одобряется или блокируется с указанием причины. Заблокированный пост снимается с публикации, автор получает уведомление с причиной. Заблокированный комментарий показывается под постом как удалённый.

Посты и комментарии, проверенные AI-модерацией, уходят из очереди автоматически.

Пост можно заблокировать и разблокировать также в Админ-панель → Контент → Посты. Блокировка отличается от снятия с публикации: заблокированный пост не попадает в ленты, даже если автор опубликует его снова. Страницу заблокированного поста видят только автор, модераторы платформы и суперадминистратор.

AI-модерация

AI-модерация проверяет текст с помощью языковой модели и изображения с помощью Yandex Vision:

• Посты: проверяются сразу после публикации; редакционные посты и посты суперадминистратора и редакторов платформы не проверяются
• Комментарии: проверяются в течение минуты после публикации

При нарушении пост снимается с публикации и блокируется, комментарий блокируется; причина сохраняется, автор поста получает уведомление с ней. Если модель не вернула ответ или его не удалось разобрать, запись считается одобренной.

Если выключены и проверка текста, и проверка изображений, посты и комментарии не проверяются и остаются в очереди.

Текст

Проверка текста настраивается в Админ-панель → AI → Модерация текста отдельно для постов и комментариев:

• Проверка: включена или выключена
• Промпт: правила, по которым модель оценивает текст

Для проверки текста нужен провайдер языковой модели.

Изображения

Проверка изображений из постов и комментариев настраивается в Админ-панель → AI → Модерация фото и работает через Yandex Vision:

• Провайдер: Yandex Cloud Vision или «Отключено»
• Тип токена: IAM-токен или OAuth-токен Yandex Cloud
• Токен и Folder ID: доступ к каталогу Yandex Cloud
• Пороги: уверенность модели от 0 до 1, начиная с которой изображение отклоняется; задаются для категорий adult и adult_content (по умолчанию 0,9), gruesome, violence, watermarks, text (по умолчанию 0,5)

Жалобы

Жалобу можно подать на пост, комментарий, пользователя или тему, в том числе без входа на платформу. Причина выбирается из списка: спам, оскорбление, нарушение закона, порнографический контент, насилие, авторские права, введение в заблуждение, другое.

Жалобы рассматриваются в группе Админ-панель → Модерация → Жалобы: разделы «Посты», «Комментарии», «Пользователи и темы». Рассмотренная жалоба отмечается просмотренной; после этого новые жалобы на ту же запись не принимаются.

Баны на платформе

Баны выдаются и снимаются в Админ-панель → Модерация → Баны → Пользователи:

• Причина: обязательна
• Срок: от 1 до 3650 дней или бессрочно
• По IP: бан распространяется и на последний IP-адрес пользователя

Бан закрывает доступ к платформе до окончания срока: забаненный пользователь видит страницу с сообщением о бане. Бан по IP закрывает доступ всем, кто заходит с этого адреса. Повторный бан заменяет прежний.

Запрет публикаций

Запрет ограничивает публикацию, не закрывая доступ к платформе. Он выдаётся в Админ-панель → Модерация → Баны → Запрет публикаций на посты, комментарии или всё сразу, с причиной, на срок от 1 до 3650 дней или бессрочно.

Пока запрет действует, пользователь не может сохранять посты или оставлять комментарии.

Автоматические запреты

Правила в Админ-панель → Настройки → Безопасность → Правила банов выдают запрет публикаций автоматически. Нарушение — заблокированный пост или комментарий пользователя. Из подходящих правил применяется самое строгое — с самым долгим запретом. Правило не срабатывает, если у пользователя уже есть действующий запрет на тот же объект или на всё, не короче того, который выдало бы правило.

Правило состоит из:

• Числа нарушений: сколько заблокированных записей нужно для срабатывания
• Периода: день, неделя или месяц
• Объекта запрета: посты, комментарии или всё; для постов считаются заблокированные посты, для комментариев — комментарии, для всего — и те и другие
• Длительности: часы, дни или бессрочно

При установке создаются правила:

Нарушений	За период	Запрет на всё
3	день	1 час
5	неделю	1 день
10	месяц	7 дней
15	месяц	бессрочно

Права модераторов

Глобальная роль модератора даёт права на посты и комментарии прямо на платформе — см. Роли. Доступ к разделам модерации в админ-панели выдаётся администраторам отдельно — см. Админ-панель.