AI-модератор · Telegram · «Реальный Новочеркасск»

Тринити — AI-модератор комментариев в Telegram

Бот следит за комментариями под постами Telegram-каналов: удаляет спам и банит спамеров за пару секунд, а владельцу помогает как личный ассистент.

Обсудить задачу

Тринити — AI-модератор комментариев в Telegram

~2 сот спама до бана

~6спамеров в сутки

2×проверка перед баном

Задача

Под постами городского канала в комментарии лезли «работа с зарплатой от 5000 в день», криптовалюта, «пассивный доход» и курсы трейдинга. Модераторы не успевали: пока спам заметят, на него уже кто-нибудь откликнется.

Что получилось

Спам исчезает из комментариев через пару секунд после появления — в среднем шесть спамеров в сутки, — а проверка одного сообщения стоит меньше копейки.

Технологии

PythonTelegram Bot APILLMклассификаторasyncio

Что сделали

Каждое новое сообщение в комментариях Тринити проверяет сама: очевидный спам ловит по признакам, остальное оценивает нейросеть-классификатор — с вероятностью, а не на глаз.
Банит только наверняка: нужны две проверки подряд с высокой уверенностью. Администраторов и доверенных участников не трогает, поэтому обычные комментаторы не страдают.
Спам удаляется молча, без сообщений в группе; автор получает бан на 30 дней, а владелец — отчёт: кто, что написал и почему это спам.
Администратор может ответить на сообщение командой /spam — Тринити удалит его и забанит автора.
Если основная нейросеть недоступна, Тринити переключается на запасную; отдельная проверка раз в час сообщает владельцу, когда основную можно вернуть.
В личных сообщениях Тринити — ассистент владельца: отвечает на вопросы и помнит контекст разговора.