Janitor AIのコンテキストサイズを解説【2026年】

Janitor AIは単体の言語モデルではなく、チャット履歴とプロンプトを、あなたが選んだ外部LLMへ送るフロントエンドです。そのため、得られるコンテキストサイズは接続するモデルに完全に左右されます。たとえばOpenAIのGPT-3.5 Turboならコンテキストウィンドウは16,384トークン（約12,000語）です。GPT-4 Turboにすれば128,000トークン（約96,000語）に跳ね上がります。Claude 2.1は200,000トークン、新しいClaude 3 Opusも200Kに対応しています。Janitor AIが自ら履歴を切り詰めたり要約したりすることはなく、モデルの上限まで会話全体を送信します。ただし、APIの提供元のレート制限や契約プランによって、実質的な上限がかかる場合があります。たとえばOpenAIの無料APIアカウントは1分あたりのトークン上限が低く、1回のリクエストで送れるコンテキスト量が事実上少なくなります。正確な最大コンテキスト長は、必ず選んだモデルのドキュメントで確認してください。

今のJanitor AIのコンテキストサイズを確認するには、設定パネルのモデル選択ドロップダウンを見てください。接続中のLLMと、公表されているコンテキスト長が表示されます。OpenAIのモデルなら、[OpenAIのモデル一覧ページ](https://platform.openai.com/docs/models)で上限を確認できます。コンテキストを最大化するには、もともとのウィンドウが大きいモデルを選びましょう。一般に使えるものではClaude 2.1（200Kトークン）かGPT-4 Turbo（128K）が最大です。KoboldAIやText Generation WebUIでローカルモデルを使っている場合、コンテキストサイズはハードウェアとモデルの設定で決まり、一般向けGPUなら通常2048〜4096トークンです。最大シーケンス長が大きいモデルを使う（たとえばLlama 2 70Bは標準で4096トークンに対応）か、sliding window attentionを有効にすれば増やせます。Janitor AI側に切り替えスイッチはなく、モデルが受け付ける量をそのまま渡すだけです。つまり調整できるのはモデルそのものだけです。

コンテキストウィンドウが大きければ、AIは会話をより多く「覚えて」いられますが、トレードオフもあります。まず費用です。料金はトークン単位なので、プロンプトが長いほど1回のAPI呼び出しが高くなります。GPT-4 Turboは入力1Kトークンあたり$0.01で、100Kトークンのリクエストなら$1.00かかります。次に遅延です。コンテキストが大きいと応答時間が延び、数秒単位で遅くなることもあります。そして品質です。古い履歴が大量にあると、モデルは直近の指示への集中を失うことがあります。2023年の[Liuらによる研究](https://arxiv.org/abs/2307.03172)では、128Kのコンテキストウィンドウを持つモデルでさえ、長い入力の中ほどから情報を取り出すタスクは苦手で、精度が90%から60%未満に落ちました。Janitor AIでのロールプレイなら、8K〜16Kトークンがちょうどよいバランスです。数時間のセッションにも十分で、費用もかさまず一貫性も保てます。それ以上の永続的な記憶が必要なら、要約の仕組みを使うか、AIAngelsのように設計段階から永続メモリーを組み込んだプラットフォームを検討しましょう。

Janitor AIのコンテキストサイズはモデル次第なので柔軟ですが、競合プラットフォームの多くは変更できない固定のコンテキストウィンドウを採用しています。Character.AIは独自モデルを使っており、コンテキストは推定4K〜8Kトークンで、ユーザーが調整することはできません。Replikaのコンテキストはおよそ3Kトークンで、数日会話するとメモリーが劣化します。SpicyChatは4Kトークンのウィンドウで、ユーザーによる調整はできません。対してJanitor AIなら、望めば200Kトークンのモデルをつなげます。問題は、自分のAPIキーを用意してトークンごとに支払う必要があり、規模が大きくなると高くつくことです。AIAngelsはその中間です。チャットができて劣化しない永続メモリーを備えた無料プランがありますが、コンテキストサイズはプラットフォーム側で固定されています（会話履歴はおよそ8Kトークン）。長編ロールプレイのために膨大なコンテキストが必要なら、大きなモデルを使ったJanitor AIに軍配が上がります。設定の手間が気になる日常的な利用なら、管理されたプラットフォームのほうがシンプルです。

Janitor AIのコンテキストサイズを最大限に活かすには、次のコツを押さえましょう。まず、新しい話題を始めるときは（チャットメニューの）「context reset」ボタンで履歴をクリアします。トークンの節約になり、応答の質も上がります。次に、APIの設定を調整します。OpenAIでは「max_tokens」パラメーターで応答の長さを制限できますが、コンテキストウィンドウには入力と出力の両方が含まれる点に注意してください。max_tokensを大きくしすぎて、会話履歴の入る余地がなくなるのはよくある失敗です。3つ目に、チャットを整理しましょう。もう関係のない古いメッセージは削除します。Janitor AIは自動で要約しないので、手動で間引く必要があります。4つ目に、APIのダッシュボードでトークン使用量を確認します。レート制限に達しているなら、会話を短くするか、ウィンドウの小さいモデルを使ってコンテキストを減らしましょう。最後に、API費用ゼロで上限のないコンテキストを使いたいならローカルモデルも検討してください — 4096トークンのモデルを使ったKoboldAIなら、気軽なロールプレイのほとんどを月額料金なしでこなせます。

Janitor AIの会話がモデルのコンテキストウィンドウを超えると、最も古いメッセージは完全に切り捨てられ、モデルはそれを忘れてしまいます。これはTransformerベースのすべてのLLMに共通する避けられない制約です。回避策として、過去の出来事の要約を手作業で書き、「persona」や「scenario」欄に入れるユーザーもいます。SillyTavernの「summarize」拡張機能のような外部ツールで、履歴を短いメモにまとめる人もいます。しかしこれには追加の設定が必要で、没入感も損なわれます。もっとシンプルなのはAIAngelsのようなプラットフォームです。すべての会話履歴を、セッションをまたいでも失われない永続メモリーのデータベースに保存するので、コンテキストウィンドウがあふれることはありません。Janitor AIはコンテキストサイズについて最大限の柔軟性をくれますが、記憶の管理という負担はあなたにかかります。「一度設定したら任せきり」の記憶を求めるなら、長期記憶を内蔵した管理型サービスは、カスタマイズ性と引き換えにする価値があるかもしれません。