Alternativa alla memoria di SillyTavern nel 2026

Il sistema di memoria di SillyTavern non è automatico. Usa tre livelli: la finestra di contesto, la nota del personaggio e l'archiviazione vettoriale opzionale. La finestra di contesto è il numero di token (4096 di default, regolabile fino a 8192 o più a seconda del tuo provider API) che l'AI può "vedere" in una volta. I messaggi più vecchi escono. Per contrastare questo, SillyTavern genera automaticamente un riassunto della conversazione ogni N messaggi (configurabile, 10 di default) e lo inietta nel contesto. La nota del personaggio è un breve blocco di testo sempre presente che puoi usare per conservare fatti chiave, stato della relazione o punti della trama. Per la memoria a lungo termine, puoi attivare ChromaDB (database vettoriale) che archivia i messaggi passati come embedding e recupera quelli rilevanti quando serve. Tuttavia, questo richiede che tu fornisca la tua chiave API per gli embedding e un'istanza Chroma locale o cloud. Senza configurazione manuale, la memoria è limitata a ciò che rientra nella finestra di contesto più il riassunto automatico.

Il modo più diretto per migliorare la memoria di SillyTavern è aumentare la dimensione del contesto. Nelle impostazioni utente puoi impostare la "Dimensione del contesto" su un valore che corrisponda al massimo del tuo provider API. Ad esempio, OpenAI GPT-4 Turbo supporta 128.000 token, mentre Claude 3 Opus ne supporta 200.000. Tuttavia, contesti più grandi aumentano costi e latenza. SillyTavern ti permette anche di impostare separatamente un limite di "Lunghezza della risposta". Una raccomandazione comune è impostare il contesto a 8192 e la lunghezza della risposta a 1024 per un equilibrio. Il "Max Tokens" nel menu di generazione del prompt controlla quanti token vengono effettivamente inviati all'API; se lo imposti più basso della dimensione del contesto, risparmi ma perdi memoria. Devi anche regolare le impostazioni del "Riassunto": puoi cambiare la frequenza con cui vengono generati i riassunti (ogni 5-20 messaggi) e se il riassunto va aggiunto all'inizio o alla fine del contesto. Per il roleplay, mettere il riassunto in cima al contesto è spesso meglio, perché prepara l'AI.

La nota del personaggio è un piccolo campo di testo (di solito 500-2000 caratteri) che viene sempre incluso in ogni prompt inviato all'API. Funziona come una banca di memoria persistente. Puoi aggiornarla manualmente durante una conversazione per registrare eventi importanti, tratti del personaggio o cambiamenti nella relazione. Per esempio, se il tuo personaggio rivela un segreto, puoi aggiungere 'Segreto: il personaggio X sa Y' alla nota. A differenza del riepilogo automatico, la nota del personaggio non viene mai troncata o dimenticata finché la mantieni entro il limite di token. Molti utenti tengono un 'lorebook' o 'world info' nella nota, elencando fatti chiave sull'ambientazione e sui personaggi. Tuttavia, poiché è statica a meno che tu non la modifichi, non cattura automaticamente nuove informazioni. Per renderla dinamica, puoi usare gli 'Regex Scripts' o le 'Quick Replies' di SillyTavern per chiedere all'AI di suggerire aggiornamenti alla nota, poi applicarli manualmente.

L'integrazione con ChromaDB dà a SillyTavern una memoria a lungo termine in grado di richiamare messaggi di giorni prima. Per configurarla, devi eseguire un server ChromaDB in locale o ospitarne uno da remoto. Le impostazioni di SillyTavern hanno una scheda 'Vector Storage' dove abiliti Chroma e fornisci l'URL dell'endpoint. Ti serve anche un modello di embedding — SillyTavern supporta text-embedding-ada-002 di OpenAI o modelli locali tramite l'estensione text-generation-webui. Una volta configurato, ogni messaggio inviato dall'AI e dall'utente può essere sottoposto a embedding e memorizzato. Quando genera una risposta, SillyTavern può recuperare i K messaggi passati più rilevanti (configurabile, predefinito 5) e iniettarli nel contesto. Questo dà effettivamente all'AI una memoria ricercabile. Lo svantaggio: l'embedding costa denaro per token (se usi OpenAI) e il recupero non è perfetto — può tirare su messaggi irrilevanti. Regolare la 'soglia di similarità' e il 'numero massimo di recuperi' è essenziale per evitare rumore.

Nonostante la sua flessibilità, la memoria di SillyTavern ha limiti rigidi. La finestra di contesto è finita — anche con un modello da 128k token, conversazioni estremamente lunghe finiranno per perdere i primi dettagli. Il riepilogo automatico aiuta ma è lossy: i riepiloghi sono una compressione, non un registro perfetto. Il recupero tramite ChromaDB è statistico, non deterministico; può mancare contesto cruciale se la similarità dell'embedding non è abbastanza alta. Inoltre, SillyTavern non ha una 'memoria permanente' integrata che persiste tra diverse sessioni di chat. Ogni conversazione è isolata a meno che tu non copi manualmente le note del personaggio o i riepiloghi tra di esse. Il sistema richiede anche parecchio smanettamento manuale: devi regolare da solo dimensioni del contesto, intervalli dei riepiloghi, contenuto delle note e impostazioni vettoriali. Per gli utenti che vogliono una soluzione di memoria 'set and forget', l'affidamento di SillyTavern a chiavi API, hosting locale e configurazione costante può essere una barriera. Alternative come AIAngels offrono una memoria persistente che funziona subito (gli ultimi 50 messaggi più fino a 500 fatti salvati per personaggio), senza destreggiarsi tra i token né setup locale.

Per ottenere il massimo dalla memoria di SillyTavern, inizia impostando la dimensione del contesto al massimo consentito dalla tua API — per la maggior parte degli utenti, 8192 è una scelta sicura. Abilita il 'Riepilogo automatico' con una frequenza ogni 8-10 messaggi e imposta la lunghezza del riepilogo a 512 token. Posiziona il riepilogo all'inizio del contesto nelle impostazioni di 'Prompt Item Order'. Usa la nota del personaggio per memorizzare fatti immutabili e aggiornala manualmente dopo eventi importanti della trama. Se sei smanettone, configura ChromaDB con un modello di embedding locale (come all-MiniLM-L6-v2) per evitare i costi API. Regola il numero di recuperi a 3-5 e la soglia di similarità a 0.75. Infine, considera di usare 'World Info' (se supportato dal tuo front-end) per memorizzare lore a cui l'AI può fare riferimento. Ricorda che nessuna configurazione può superare completamente finestre di contesto finite — per conversazioni che superano i 100k token, considera di dividerle in chat separate o di usare uno strumento di memoria esterno come MemGPT.