Размер контекста в Janitor AI: объяснение 2026 года

Janitor AI — это не самостоятельная языковая модель, а интерфейс, который перенаправляет вашу историю чата и подсказки во внешнюю LLM на ваш выбор. Поэтому размер контекста, который вы получаете, полностью зависит от подключённой модели. Например, если вы используете OpenAI GPT-3.5 Turbo, ваше контекстное окно составляет 16 384 токена (примерно 12 000 слов). Перейдите на GPT-4 Turbo — и оно вырастет до 128 000 токенов (около 96 000 слов). Claude 2.1 предлагает 200 000 токенов, а новый Claude 3 Opus тоже обрабатывает 200K. Janitor AI не обрезает и не суммирует историю самостоятельно — он отправляет всю беседу вплоть до лимита модели. Однако ограничения скорости API-провайдера и ваш тарифный план могут накладывать практические потолки. Например, у бесплатных аккаунтов OpenAI API ниже лимит токенов в минуту, что фактически уменьшает объём контекста, который можно отправить в одном запросе. Всегда проверяйте документацию выбранной модели, чтобы узнать точную максимальную длину контекста.

Чтобы увидеть текущий размер контекста Janitor AI, посмотрите на выпадающий список выбора модели в панели настроек. Там указана подключённая LLM и заявленная длина её контекста. Для моделей OpenAI лимит можно проверить на [странице моделей OpenAI](https://platform.openai.com/docs/models). Чтобы максимизировать контекст, выберите модель с большим встроенным окном: Claude 2.1 (200K токенов) или GPT-4 Turbo (128K) — самые большие из широкодоступных. Если вы используете локальную модель через KoboldAI или Text Generation WebUI, размер контекста определяется вашим железом и конфигурацией модели — обычно от 2048 до 4096 токенов для потребительских GPU. Увеличить его можно, взяв модель с большей максимальной длиной последовательности (например, Llama 2 70B изначально поддерживает 4096 токенов) или включив скользящее внимание. Со стороны Janitor AI никакого переключателя нет — интерфейс передаёт то, что принимает модель. Так что единственный рычаг — сама модель.

Большее контекстное окно означает, что ИИ может «помнить» больше из вашей беседы, но у этого есть компромиссы. Во-первых, стоимость: длинные подсказки стоят дороже за каждый вызов API, потому что оплата идёт за токен. GPT-4 Turbo стоит $0.01 за 1000 входных токенов — запрос на 100K токенов обойдётся в $1.00. Во-вторых, задержка: большие контексты увеличивают время ответа, иногда на секунды. В-третьих, качество: модели могут терять фокус на последних инструкциях, когда их заваливают старой историей. [Исследование Liu и соавторов](https://arxiv.org/abs/2307.03172) 2023 года показало, что даже модели с контекстным окном 128K плохо справляются с задачами, требующими извлечения информации из середины длинных входных данных — точность падала с 90% до менее 60%. Для ролевой игры на Janitor AI оптимальный диапазон — 8K–16K токенов: достаточно для многочасовой сессии, не разоряя вас и не теряя связности. Если вам нужна постоянная память сверх этого, подумайте о системе суммирования или о платформе вроде AIAngels, где постоянная память встроена в архитектуру.

Размер контекста в Janitor AI гибкий, потому что он зависит от модели, но большинство конкурирующих платформ предлагают фиксированные окна контекста, которые вы не можете изменить. Character.AI использует проприетарную модель с оценочным контекстом 4K–8K токенов — вы никак не можете на это повлиять. Replika — примерно 3K токенов, и память деградирует уже через несколько дней общения. SpicyChat работает с окном в 4K токенов без возможности настройки. В отличие от них, Janitor AI позволяет подключить модель на 200K токенов, если захотите. Загвоздка в том, что вам нужен собственный API-ключ и оплата за токены, что может обойтись дорого при больших объёмах. AIAngels предлагает золотую середину: бесплатный тариф с чатом и постоянной памятью, которая не деградирует, но размер контекста фиксирован на уровне платформы (около 8K токенов для истории переписки). Для тех, кому нужен огромный контекст для длительного ролеплея, Janitor AI с большой моделью выигрывает. Для повседневного использования, где важна простота настройки, управляемые платформы удобнее.

Чтобы выжать максимум из контекста Janitor AI, следуйте этим советам. Во-первых, используйте кнопку «сброс контекста» (в меню чата), чтобы очистить историю при начале новой темы — это экономит токены и улучшает качество ответов. Во-вторых, настройте параметры API: в OpenAI можно задать параметр «max_tokens», чтобы ограничить длину ответа, но помните, что окно контекста включает как ввод, так и вывод. Частая ошибка — установить max_tokens слишком высоко, не оставив места для истории переписки. В-третьих, используйте модерацию чата: удаляйте старые сообщения, которые больше не актуальны. Janitor AI не суммирует автоматически, поэтому ручная чистка необходима. В-четвёртых, следите за использованием токенов через панель API. Если вы упираетесь в лимиты, сократите контекст, укоротив переписку или используя модель с меньшим окном. Наконец, рассмотрите локальную модель, если хотите неограниченный контекст без затрат на API — KoboldAI с моделью на 4096 токенов справится с большинством обычных ролевых сценариев без ежемесячных счетов.

Когда ваша переписка в Janitor AI превышает окно контекста модели, самые старые сообщения полностью отбрасываются — модель их забывает. Это жёсткое ограничение всех трансформерных LLM. Чтобы обойти его, некоторые пользователи вручную пишут краткое изложение прошлых событий и добавляют его в поля «персона» или «сценарий». Другие используют внешние инструменты вроде расширения «summarize» в SillyTavern, которое сжимает историю в короткую заметку. Но это требует дополнительной настройки и разрушает погружение. Более простое решение — такая платформа, как AIAngels, которая хранит всю историю переписки в базе постоянной памяти, сохраняющейся между сессиями — никакого окна контекста, которое может переполниться. Хотя Janitor AI даёт максимальную гибкость в размере контекста, он перекладывает бремя управления памятью на вас. Для тех, кто хочет память по принципу «настроил и забыл», управляемый сервис со встроенным долговременным запоминанием может стоить того компромисса в кастомизации.