> ## Content Index
> Fetch the complete content index at: https://agentic-engineering.chatlytics.blog/llms.txt
> Use this file to discover other available public pages before exploring further.

# אולי סתם spill to disk על ssd
- URL: https://agentic-engineering.chatlytics.blog/tc2d6b5cb/
- Published: 2026-10-21T09:23:44.000Z
- Updated: 2026-10-21T09:23:44.000Z
- Description: אולי סתם spill to disk על ssd
- Author: Omer Nesher
- Tags: Michael, Avishai Tsabari, Regev

2026-10-21

Michael

אולי סתם spill to disk על ssd

מה אכפת להם לזרוק את זה לאיזה דיסק ושישב שם, גם כמה אתה כבר צריך? כמה אלפי petabyteים?

08:59

Avishai Tsabari

בגלל זה מניות איחסון עולות

השאלה אם השליפה מהדיסק לא משפיעה על המהירות בצורה משמעותית

בקונטקסט ארוך

09:00

Michael

ברור שכן, אתה עושה load balancing על memory mapped files לדברים שהם בhotpath

ואז אתה עושה אלגוריתם decay או פופולריות על המנגנון הזה

09:01

Avishai Tsabari

יכול להיות שהם בדקו זמן תגובה ממוצע/חציוני ומקרי קצה והבינו שמשתמשים עונים אחרים הרבה זמן

רואים שמישהו עובד על 15 סשנים, מתאימים לו ספציפית ניהול kv cache 🤷🏾

09:02

Michael

כנראה ש90% מהסשנים לעולם לא חוזרים אליהם אולי אפילו יותר, עליהם אתה יכול לעשות פרדיקציה (נגיד אם זה subagent אז כנראה לא חוזרים לזה לעולם וכו) ואז על ה10% שכן חוזרים אתה עושה אוסף היוריסטיקות

אז אותם אתה יכול לשים על דיסק ולא אכפת לך כמה זמן יקח למשוך את זה חזרה עד גבול מסויים

09:05

Avishai Tsabari

מעניין מה שאתה אומר

כרגיל 😂

09:06

Michael

אבל אני סתם מנחש, מה הם כבר יכלו לעשות? זה לא שיש להם בעיה חדשה בעולם, זו בערך הבעיה הכי ישנה שיש

09:08

Regev

או שבכלל ההמשך לא מבוסס caching במובן הישן והם בולעים את העלות וזהו

09:21

· +1 short messages