Что такое Fugu

Fugu - не очередная модель, которая пытается сделать всё сама, а мультиагентная система, доступная через единый API. Вместо одной модели она динамически координирует пул мощных моделей под конкретную задачу - по формулировке самой Sakana, «оркеструет разнообразный набор моделей», чтобы справиться со сложной задачей лучше, чем любая отдельная модель в одиночку.

Как это устроено внутри

В основе - два исследовательских подхода. TRINITY - лёгкий координатор, который распределяет роли между несколькими языковыми моделями в несколько раундов: одна модель мыслит (Thinker), другая выполняет (Worker), третья проверяет результат (Verifier) - подходит для задач с кодом, математикой и рассуждениями. The Conductor - система на обучении с подкреплением, которая сама находит стратегии координации на естественном языке: как именно агентам общаться и распределять работу между собой. Ключевое отличие от ручных сценариев - система обучается оптимальным паттернам совместной работы самостоятельно, а не следует прописанному человеком workflow.

Fugu или Fugu Ultra

Fugu приоритизирует скорость и баланс - подходит для повседневного кода и интерактивной работы, где важен быстрый отклик. Fugu Ultra приоритизирует качество ответа на сложных задачах, координируя больше экспертных агентов, ценой заметно более долгого времени ответа - разумный выбор для требовательных задач вроде соревнований на Kaggle или воспроизведения результатов научных статей.

Совместимость с OpenAI API

Fugu использует OpenAI-совместимый API, что позволяет подключить его к уже существующим клиентам без миграции на новый SDK - фактически меняются только несколько параметров подключения, а не сам код обращения к модели.

Сколько это стоит

Доступны два способа оплаты. Подписка стоит от 20 до 200 долларов в месяц и включает доступ и к Fugu, и к Fugu Ultra. При оплате по факту использования Fugu тарифицируется по обычным ставкам задействованной модели, а Fugu Ultra стоит 5 долларов за миллион входных токенов и 30 долларов за миллион выходных. Важный нюанс: если в работе одновременно участвуют несколько агентов, стоимость не складывается по каждому из них - платите по ставке самой дорогой из задействованных моделей, а не по сумме всех.

Три шага первого запроса

  1. Создать аккаунт и получить API-ключ в консоли console.sakana.ai.
  2. Изменить три параметра в существующем клиенте: base_url, api_key и название модели.
  3. Отправить первый запрос на Python через привычную библиотеку OpenAI - без установки отдельного SDK.

Где это недоступно

Fugu пока недоступен в странах Евросоюза и Европейской экономической зоны - ограничение связано с требованиями GDPR по защите данных. Доступ за пределами Японии тоже может быть ограничен локальными регуляторными нормами или условиями сети - актуальный статус доступности стоит проверять напрямую перед тем, как строить на сервисе рабочий процесс.

Зачем это вообще нужно

Обычно выбор конкретной модели под задачу - код одной модели, рассуждения другой, проверку третьей - делает человек вручную. Оркестратор вроде Fugu снимает эту часть работы: вместо того чтобы каждый раз решать, какую модель вызвать, вы отправляете запрос в единую точку входа, а распределение работы между моделями система берёт на себя.

Чек-лист

Первое подключение к Fugu
  1. Проверена доступность сервиса в своей стране - в ЕС и ЕЭЗ Fugu пока не работает
  2. Выбран режим под задачу - Fugu для скорости, Fugu Ultra для качества на сложных задачах
  3. Посчитано, что выгоднее для объёма задач - подписка от 20 долларов в месяц или оплата по факту использования
  4. Учтено, что несколько одновременных агентов не складывают цену - платит по самой дорогой модели
  5. Клиент переключён на OpenAI-совместимый API через смену трёх параметров, без миграции SDK
Fugu - это отдельная модель или что-то другое?
Это система-оркестратор, а не отдельная модель - она координирует пул других моделей под конкретную задачу, а не отвечает на запросы сама по себе.
Чем Fugu Ultra отличается от обычного Fugu?
Fugu приоритизирует скорость и баланс для повседневных задач, Fugu Ultra - качество ответа на сложных задачах ценой более долгого времени ответа, координируя больше экспертных агентов одновременно.
Нужно ли менять SDK, чтобы подключить Fugu к своему коду?
Нет, API совместим с форматом OpenAI - обычно достаточно поменять несколько параметров подключения (адрес, ключ, название модели), не переписывая сам код обращения к модели.
Складывается ли цена, если задачу решают сразу несколько агентов?
Нет, стоимость не суммируется по каждому агенту - оплата идёт по ставке самой дорогой из задействованных моделей.
Доступен ли Fugu в Евросоюзе?
Нет, на данный момент сервис недоступен в странах ЕС и ЕЭЗ из-за требований GDPR по защите данных.
Что выгоднее - подписка или оплата по факту использования?
Зависит от объёма и регулярности задач: подписка от 20 до 200 долларов в месяц имеет смысл при постоянной нагрузке, а оплата по факту (включая отдельную ставку для Fugu Ultra - 5 долларов за миллион входных и 30 за миллион выходных токенов) может обойтись дешевле при редком или нерегулярном использовании.
← Все статьи блога