Модерация с использованием ИИ Вы можете доверять
Создавайте агентов, которые будут читать каждый комментарий, выявлять спорные случаи и отвечать вашим голосом. Каждое действие сопровождается оценкой достоверности и обоснованием. Запускайте новых агентов в тестовом режиме, когда хотите сначала понаблюдать за их работой.
Шесть вещей, которыми оснащен каждый агент
Запускайте с полностью включёнными тормозами.
Каждый агент при желании можно запустить в тестовом режиме. Любое деструктивное действие (баны, массовые удаления, блокировки IP-адресов) можно поставить в очередь одобрения человеком. Агент видит только те инструменты, которые вы выбрали. Остальные инструменты с точки зрения модели не существуют.
- Отключено, тестовый запуск или включено. Меняйте статус без повторного развертывания промпта.
- Список разрешенных инструментов для каждого агента. Запрещенные инструменты полностью скрываются из модели, а не просто отклоняются во время выполнения.
- Детальная настройка полномочий на бан. Отдельно подключайте удаление истории забаненного пользователя или бан по IP-адресу.
- Очередь одобрения с возможностью маршрутизации запросов каждому рецензенту отдельно. Отправляйте электронные письма нужному человеку, а не всей команде.
- Модели от поставщиков, которые не обучаются на ваших данных.
| Агент | Предлагаемые действия | Цель | Конф. | Обзор |
|---|---|---|---|---|
| ToS Enforcer | Забанить пользователя (IP-адрес) | @throwaway-9281, 4 предыдущих жалобы | 0,97 | |
| Приветствующий | Предупреждение через личные сообщения | Первый комментарий, не по теме, на /forums/intro | 0,81 | |
| Spam Watcher | Пометить как спам, удалить историю | 47 исходящих ссылок за 9 минут | 0,99 |
Принятые решения со всей картиной.
Агент, увидевший только один комментарий, неправильно его оценит. Агенты FastComments получают полную ветку обсуждения, историю комментариев пользователя, страницу, на которой он комментирует, и любые правила сообщества, которые вы написали, а затем действуют, исходя из того, что они действительно понимают.
- Родительский комментарий и предыдущие ответы в той же ветке обсуждения.
- Коэффициент доверия, возраст аккаунта, история банов и недавние комментарии комментатора.
- Заголовок страницы, подзаголовок, описание и метатеги.
- Правила сообщества аккаунта добавляются в начало каждого промпта для единообразного применения правил.
Просыпайтесь в нужный момент. Принимайте только правильные решения.
Выберите события, которые должны разбудить агента. Выберите инструменты, которые ему разрешено использовать в это время. Оба списка являются явными и обязательными к исполнению. Дополнительные задержки позволяют завершить обработку голосов и отчетов до того, как агент начнет их просматривать.
Триггеры
- Опубликован новый комментарий.
- Первый комментарий пользователя
- Количество жалоб превысило порог
- Превышен порог голосования.
- Автоматически перехвачено спам-фильтром.
- Модератор проверяет комментарий
- Комментарий отредактирован или удален
- Комментарий закреплён или откреплён, ветка закрыта или открыта
- Возможна задержка до 30 дней до начала работы агента.
Действия
- Пометить как проверенный
- Одобрить / отклонить
- Пометить как спам
- Закрепить / открепить / закрыть ветку / открыть ветку
- Проголосовать за комментарий
- Написать комментарий
- Присвоить значок
- Предупредить пользователя через личные сообщения
- Забанить пользователя
- Отправить электронное письмо
- Сохранить заметку в память
- 1Триггер
- 2Контекст
- 3Агент
- 4Действие
- 5Аудит
Никаких сюрпризов в счетах.
Установлены жесткие дневные и месячные лимиты на одного агента и на один аккаунт. При достижении любого выбранного вами порога происходит оповещение по электронной почте. Когда агент достигает лимита, использование сервиса приостанавливается. Нет превышения лимита, нет необходимости в ручном вмешательстве.
- Дневные и месячные лимиты для каждого отдельного агента.
- Сводные лимиты по всей учетной записи, чтобы один агент не мог исчерпать ресурсы другого.
- Настраиваемые пороговые значения для оповещений. По умолчанию установлено 80% и 100%; для шумных агентов рекомендуется добавить 50%.
- Встроенные ограничения скорости и количества одновременных запросов с механизмом обратного давления при насыщении очереди.
- Пропущенные триггеры регистрируются с указанием причины, поэтому вы будете знать, что пропустили.
- Превышение бюджета агента
- Превышение бюджета счета
- Ограничение скорости
- Насыщенность параллелизма
- Уведомление отправлено на 50%
- Оповещение о 80% отправлено
- 100% - приостановлено до следующего месяца
- Агент ToS Enforcer предложил пометить как спам c#9b1f8 - уверенность 0,97
- Обоснование: «Комментарий является дословной копией известного шаблона спам-сообщения от партнёрской программы; учетной записи пользователя 8 минут».
- Выполнено автоматически (ниже порога одобрения). Стоимость: 0,0021 долл. США .
- Агент ToS Enforcer предложил забанить пользователя @throwaway-9281
- Одобрено devon@fastcomments.com . Действие выполнено.
Создано для Соответствие стандартам издательского дела.
Каждое действие агента регистрируется с указанием обоснования, степени уверенности, стенограммы, стоимости и проверяющего. Каждый полный бан в регионе ЕС требует участия человека: это требование включено нами принудительно, а не вами.
- Записи по каждому запуску: подсказка, стенограмма, использованные инструменты, предпринятые действия, обоснование, рецензент.
- Статья 17 Закона ЕС о цифровых услугах: полные баны в регионе ЕС требуют одобрения человеком. Включено принудительно; отключить нельзя.
- Решения о модерации принимаются на основе правил сообщества вашего аккаунта. Ваши правила, ваша формулировка.
- Управляемые вами отображаемые имена позволяют отличать комментарии, написанные агентом, от написанных человеком.
- В аналитике сравнение результатов пробного запуска и реальных запусков позволяет доказать, что было автоматизировано, а что нет.
Начните с шаблона. Проверьте на собственных данных.
Создайте нового агента на основе готового шаблона, а затем сравните его поведение с данными за несколько недель, чтобы увидеть, как бы он себя вел до включения.
- Готовые шаблоны для распространенных сценариев модерации. Созданные агенты начинают работу в тестовом режиме.
- Воспроизведение за последние 24 часа, 7 дней, 30 дней или любой произвольный период до 90 дней.
- Оценка стоимости перед началом; превышение установленного лимита прерывает запуск.
- Результаты повтора разделены на совпадения, расхождения, отсутствие действий и ошибки, чтобы вы могли сосредоточиться на разногласиях.
- Все1,284
- Совпадения1,031
- Расхождения148
- Никаких действий97
- Ошибки8
Скучные моменты, обработано.
- 01
Блокировка выполнения для каждого комментария. Два агента никогда не столкнутся друг с другом из-за одного и того же комментария.
- 02
Предотвращение зацикливания, чтобы ответ одного агента не запускал бесконечное множество действий другого.
- 03
При неудачных запусках повторная попытка ограничена, после чего запуск помечается как ошибочный. Никогда не теряется.
- 04
Выбор модели для каждого агента. Переключение между оптимизированным по стоимости и оптимизированным по качеству режимом без переписывания подсказок.
Присоединяйтесь к нашим довольным клиентам!
Искусственный интеллект является частью платформы FastComments. Зарегистрируйтесь бесплатно, запустите любого агента в тестовом режиме, понаблюдайте за его действиями, а затем запустите в работу.
Зарегистрируйтесь бесплатно
.png "www.oliveoiltimes.com")
.png "learn.oliveoilschool.org")
.jpeg "jagunbae.com")
.png "aquaverse.fr"){kind=logo}
.png "thornandbone.com")
Часто задаваемые вопросы
Мы собрали ответы на самые распространенные вопросы, чтобы помочь вам начать.
Как работает режим пробного запуска?
В режиме пробного запуска агент выполняет сквозное тестирование по каждому соответствующему триггеру. Он выбирает инструменты, генерирует логические выводы, принимает решение о действии, но это действие никогда не выполняется. Каждый запуск регистрируется, поэтому вы можете просмотреть, что бы он сделал, прежде чем перевести его в активный режим.
Какие модели я могу выбрать?
Сегодня доступны GLM 5.1 (умнее, но немного медленнее) и GPT-OSS 120B Turbo (быстрее). Обе модели размещены на серверах провайдеров, которые не обучают модели на ваших данных. Мы добавляем новые модели по мере совершенствования соотношения цены и производительности.
Как работают бюджетные ограничения?
У каждого агента есть свой дневной и месячный лимит, а у вашего аккаунта есть общий лимит. Когда агент превышает свой лимит, его работа приостанавливается; уведомления отправляются администраторам по выставлению счетов при каждом заданном вами проценте. Пропущенные триггеры сохраняются в журнале, поэтому вы точно знаете, что было пропущено.
Насколько вы готовы к внедрению DSA?
Статья 17 Закона ЕС о цифровых услугах требует, чтобы отстранение пользователей проверял человек. В регионе ЕС инструмент «бан» доступен только через очередь одобрения и не может быть полностью автоматизирован. Это правило на уровне платформы, которое мы применяем, а не настройка, которую можно отключить. Каждое действие регистрируется с указанием обоснования и имени проверяющего для журнала аудита.
Можно ли проверить работоспособность агента перед включением?
Да. Функция воспроизведения запускает агента, который сравнивает ваши исторические комментарии за период до 90 дней, и показывает совпадения, изменения и расхождения по сравнению с предыдущим результатом. Вы видите предварительную оценку стоимости перед началом и можете установить жесткое ограничение, которое прервет запуск, если оно превысит допустимый предел.
Могу ли я принести свои собственные подсказки и правила?
У каждого агента есть начальное задание, определяющее его личность и цели. Вы также можете вставить свои правила сообщества в контекст агента, и FastComments будет добавлять их в начало каждого запуска, чтобы агент последовательно применял ваши правила.
Создайте своего первого агента сегодня.
Выберите шаблон, укажите на важные для вас триггеры и включите его, когда будете готовы. Для регистрации не требуется кредитная карта.