Alternatif Memori SillyTavern di 2026

Sistem memori SillyTavern tidak otomatis. Ia memakai tiga lapisan: jendela konteks, catatan karakter, dan penyimpanan vektor opsional. Jendela konteks adalah jumlah token (default 4096, dapat disesuaikan hingga 8192 atau lebih tergantung penyedia API-mu) yang bisa 'dilihat' AI sekaligus. Pesan lama akan keluar. Untuk mengatasinya, SillyTavern otomatis membuat ringkasan percakapan setiap N pesan (dapat dikonfigurasi, default 10) dan menyisipkan ringkasan itu ke konteks. Catatan karakter adalah blok teks pendek yang selalu ada dan bisa kamu pakai untuk menyimpan fakta penting, status hubungan, atau poin alur cerita. Untuk memori jangka panjang, kamu bisa mengaktifkan ChromaDB (basis data vektor) yang menyimpan pesan lama sebagai embedding dan mengambil yang relevan saat dibutuhkan. Namun, ini mengharuskan kamu menyediakan API key sendiri untuk embedding dan instance Chroma lokal atau cloud. Tanpa konfigurasi manual, memori terbatas pada apa yang muat di jendela konteks plus ringkasan otomatis.

Cara paling langsung untuk meningkatkan memori SillyTavern adalah menaikkan ukuran konteks. Di pengaturan pengguna, kamu bisa mengatur 'Context Size' ke nilai yang sesuai dengan maksimum penyedia API-mu. Misalnya, OpenAI GPT-4 Turbo mendukung 128.000 token, sedangkan Claude 3 Opus mendukung 200.000. Namun, konteks lebih besar menambah biaya dan latensi. SillyTavern juga memungkinkanmu mengatur batas 'Response Length' secara terpisah. Rekomendasi umum adalah mengatur konteks ke 8192 dan panjang respons ke 1024 untuk keseimbangan. 'Max Tokens' di menu pembuatan prompt mengontrol berapa banyak token yang benar-benar dikirim ke API; jika kamu mengaturnya lebih rendah dari ukuran konteks, kamu menghemat uang tetapi kehilangan memori. Kamu juga harus menyesuaikan pengaturan 'Summary': kamu bisa mengubah seberapa sering ringkasan dibuat (setiap 5-20 pesan) dan apakah ringkasan ditambahkan di awal atau akhir konteks. Untuk roleplay, menempatkan ringkasan di atas konteks sering kali lebih baik, karena memancing AI.

Catatan karakter adalah kolom teks kecil (biasanya 500-2000 karakter) yang selalu disertakan dalam setiap prompt yang dikirim ke API. Fungsinya seperti bank memori permanen. Kamu bisa memperbaruinya secara manual selama percakapan untuk mencatat peristiwa penting, sifat karakter, atau perubahan hubungan. Misalnya, jika karaktermu mengungkap rahasia, kamu bisa menambahkan 'Rahasia: karakter X tahu Y' ke catatan. Berbeda dari ringkasan otomatis, catatan karakter tidak pernah terpotong atau terlupakan selama kamu menjaganya dalam batas token. Banyak pengguna menyimpan 'lorebook' atau 'world info' di catatan, berisi fakta penting tentang latar dan karakter. Namun, karena sifatnya statis kecuali kamu edit, ia tidak otomatis menangkap informasi baru. Agar dinamis, kamu bisa memakai 'Regex Scripts' atau 'Quick Replies' SillyTavern untuk meminta AI menyarankan pembaruan catatan, lalu menerapkannya secara manual.

Integrasi ChromaDB memberi SillyTavern memori jangka panjang yang bisa mengingat pesan dari beberapa hari lalu. Untuk menyiapkannya, kamu perlu menjalankan server ChromaDB secara lokal atau menghostingnya dari jarak jauh. Pengaturan SillyTavern punya tab 'Vector Storage' tempat kamu mengaktifkan Chroma dan mengisi URL endpoint. Kamu juga perlu model embedding — SillyTavern mendukung text-embedding-ada-002 dari OpenAI atau model lokal lewat ekstensi text-generation-webui. Setelah dikonfigurasi, setiap pesan yang dikirim AI dan pengguna bisa di-embed dan disimpan. Saat menghasilkan balasan, SillyTavern bisa mengambil K pesan lampau paling relevan (bisa diatur, default 5) dan menyuntikkannya ke konteks. Ini praktis memberi AI memori yang bisa dicari. Kekurangannya: embedding memakan biaya per token (jika memakai OpenAI) dan pengambilannya tidak sempurna — bisa memunculkan pesan yang tidak relevan. Menyetel 'similarity threshold' dan 'max retrieval count' sangat penting untuk menghindari noise.

Meski fleksibel, memori SillyTavern punya batas keras. Jendela konteks terbatas — bahkan dengan model 128k token, percakapan yang sangat panjang akhirnya akan kehilangan detail awal. Ringkasan otomatis membantu tapi bersifat lossy: ringkasan adalah kompresi, bukan catatan sempurna. Pengambilan ChromaDB bersifat statistik, bukan deterministik; ia bisa melewatkan konteks penting jika kemiripan embedding tidak cukup tinggi. Lagipula, SillyTavern tidak punya 'memori permanen' bawaan yang bertahan di berbagai sesi chat. Setiap percakapan terisolasi kecuali kamu menyalin catatan karakter atau ringkasan secara manual antar sesi. Sistem ini juga butuh banyak otak-atik manual: kamu harus menyesuaikan ukuran konteks, interval ringkasan, isi catatan, dan pengaturan vektor sendiri. Bagi pengguna yang ingin solusi memori 'set and forget', ketergantungan SillyTavern pada API key, hosting lokal, dan konfigurasi terus-menerus bisa jadi penghalang. Alternatif seperti AIAngels menawarkan memori permanen yang langsung berfungsi (50 pesan terakhir plus hingga 500 fakta tersimpan per karakter), tanpa mengutak-atik token atau setup lokal.

Untuk memaksimalkan memori SillyTavern, mulai dengan menyetel ukuran konteks ke maksimum yang diizinkan API-mu — bagi sebagian besar pengguna, 8192 adalah pilihan aman. Aktifkan 'Automatic Summary' dengan frekuensi setiap 8-10 pesan dan setel panjang ringkasan ke 512 token. Tempatkan ringkasan di awal konteks pada pengaturan 'Prompt Item Order'. Pakai catatan karakter untuk menyimpan fakta tetap dan perbarui secara manual setelah peristiwa plot besar. Jika kamu paham teknis, siapkan ChromaDB dengan model embedding lokal (seperti all-MiniLM-L6-v2) untuk menghindari biaya API. Setel jumlah pengambilan ke 3-5 dan similarity threshold ke 0.75. Terakhir, pertimbangkan memakai 'World Info' (jika didukung front-end-mu) untuk menyimpan lore yang bisa dirujuk AI. Ingat, sebanyak apa pun konfigurasi tidak bisa sepenuhnya mengatasi jendela konteks yang terbatas — untuk percakapan melebihi 100k token, pertimbangkan memisahkannya ke chat terpisah atau memakai alat memori eksternal seperti MemGPT.