Не одна система, а пять фильтров подряд

«Контент-завод» - громкое название для довольно простой по структуре вещи: последовательности из пяти шагов, каждый из которых решает одну конкретную задачу и передаёт результат дальше. Ошибка на старте - пытаться сразу написать один большой скрипт, который делает всё сразу. Так сложно и тестировать, и чинить: если что-то пошло не так, непонятно, на каком из пяти шагов. Разбор по отдельным узлам решает обе проблемы.

Пять шагов конвейера

Сбор
Источники (RSS, каналы, сайты) опрашиваются по расписанию, новые материалы складываются в общую очередь необработанных записей.
Дедупликация
Отсекает то, что уже публиковали или что почти дословно совпадает с уже обработанным материалом - без этого шага одна новость может выйти трижды с разных источников.
Переработка
Нейросеть пересобирает материал своими словами под формат канала - длину, тон, структуру. Здесь же добавляется своя реплика или комментарий, если формат это предполагает.
Модерация
Проверка перед публикацией - фактическая точность, тон, отсутствие чувствительных тем. Самый часто пропускаемый шаг ради скорости, и самый рискованный для пропуска.

Где конвейер чаще всего ломается

Интуитивно кажется, что самое сложное - сбор данных или качественная переработка текста. На практике чаще подводит модерация, потому что её проще всего пропустить: конвейер и без неё формально работает, публикации выходят, метрики не сразу показывают проблему. Расплата приходит позже - неловкая публикация в неподходящий момент, фактическая ошибка, которую заметили читатели раньше, чем автор. Модерация не обязана быть ручной на 100% - минимум это отдельный автоматический шаг, который явно проверяет несколько красных флагов (чувствительные темы, явные фактические противоречия), прежде чем публикация уходит дальше.

Ручной шаг или полная автоматизация

Таблица прокручивается вбок на телефоне →

ПараметрМодерация человекомАвтоматическая модерация
СкоростьОграничена доступностью человекаПубликация выходит сразу после проверки
Качество на чувствительных темахВыше - человек чувствует контекстЛовит только заданные заранее правила
МасштабируемостьУпирается в объём внимания одного человекаДержит любой объём без потери скорости
Рекомендуемый вариантДля чувствительных или репутационно важных каналовДля больших объёмов вечнозелёного контента

Чек-лист перед запуском конвейера

Сохраните себе
  1. Разделите пайплайн на отдельные проверяемые шаги, а не один большой скрипт «делает всё».
  2. Не пропускайте дедупликацию - без неё одна новость дублируется из нескольких источников.
  3. Заложите хотя бы автоматическую модерацию на красные флаги, даже если полноценной ручной проверки нет.
  4. Логируйте, какой источник и какой шаг привёл к финальной публикации - пригодится при разборе ошибки.
  5. Начните с малого объёма источников, расширяйте по мере того, как убедитесь в стабильности каждого шага.
Какой шаг контент-конвейера на ИИ чаще всего дают сбой?
Модерация - её проще всего пропустить ради скорости, и именно там чаще всего случаются ошибочные публикации.
Обязательна ли ручная модерация в контент-пайплайне?
Нет, для больших объёмов подходит автоматическая проверка на red flags. Ручная модерация нужна для чувствительных каналов.
С какого объёма источников начинать контент-конвейер?
С малого - убедитесь в стабильности каждого шага на небольшом потоке, прежде чем расширять число источников.
← Все статьи блога