EurekaModer
EurekaModer — экспериментальный русскоязычный модератор текстов и подписей к публикациям в Telegram. На вход он получает правила канала и проверяемый текст. При ограниченном декодировании возвращает YES, если публикация допустима, или NO, если она нарушает переданное правило.
В первом выпуске — антиспам-адаптер LoRA для Google Gemma 4 E4B Instruct. Для запуска нужны базовые веса. Адаптер обучен методом QLoRA на 224 сообщениях из Telegram Spam и 32 вымышленных примерах общей модерации. Обучение использовало 64 шага оптимизатора на NVIDIA T4.
Результаты пилота
| Проверка | Базовая Gemma | Антиспам-адаптер |
|---|---|---|
| Валидация Telegram Spam | 46/64 | 64/64 |
| Пропущенный спам | 18/32 | 0/32 |
| Заблокированные обычные сообщения | 0/32 | 0/32 |
| Синтетический контроль общей модерации | 16/16 | 16/16 |
Эти результаты получены на весах данного выпуска и совпали с первым пилотным прогоном. Полный тест на 2 139 сообщениях ещё предстоит. Качество общей модерации в рабочих Telegram-каналах отдельно не измерено. Для экспериментов используйте результаты как подсказку модератору.
Запуск
Установите PyTorch с CUDA, затем зависимости:
pip install 'transformers==5.23.0' 'peft>=0.19,<1' 'bitsandbytes>=0.48,<1' accelerate pillow
Скачайте moderate.py и system_prompt_ru.txt в одну папку и запустите:
python moderate.py --rules 'Запрещён спам.' --post 'Здравствуйте, кто знает расписание кружка?'
Скрипт загружает базовую Gemma в NF4 и подключает адаптер из этого репозитория. Декодирование ограничено двумя метками.