היי חברה, אני מחפש צוותים שרצים מהר. בנינו מוצר בעולמות הage
היי חברה,
אני מחפש צוותים שרצים מהר.
בנינו מוצר בעולמות הagents,תוך כדי העבודה שמנו לב שהרבה משימות נופלות בין הכסאות ואנחנו לא מספיקים לעקוב אחרי הטאסקים במערכות כמו ג׳ירה ,נושיין,לינאר ועוד..
אז חיברנו ״מפקח״ ל-Slack שמפקח על מה שנתקע ומזיז את זה קדימה, בלי שנפחד שמשימה מתפספת.
אם אתם צוות שרץ מהר ויש דברים שנופלים בדרך בין הסלאק, הג'ירה והפגישות, אשמח לדבר.
אנשי החומרה, אני צריך התייעצות לקחת החלטה, המחשב במעבדה כרגע
האם לשים שני כרטיסי 3090 במחשב אחד - בעיות חום, ספק יקר, מאווררים, רועש, בסוף מקבלים רק 48 VRAM
לדלג על הסיפור ולשדרג ל5090 (מצריך גם ספק חדש) ולהסתפק ב32 VRAM
או להשאר כרגע עם 3090 אחד, ולהוסיף DGX ולסגור את הסיפור...
אתמודד עם התקציב עד 5090 (אותו מחיר כמו הDGX)
מעבר לזה מוגזם לי לשים על RTX6000 וכו
Dgx
אם אתה מגיע לדוד סם
קח את החדש של amd halo ai
כרגע יש במלאי לא רק 128gb
אלא גם 192gb
הצליחו להריץ שם 400b בקוואנטיזציה לא אגרסיבית
ה 5090 יתן לך שיפור ב kv cache ולא מעבר
לא הייתי קונה בארץ dgx
היבואנים עפו עם המחירים
21 אלף וצפונה
בזמן שבבנגקוק זה עדיין 13-15
הכל פה מטורף ממש... גם ה5090 מעל 20 כבר
היתרון של ה5090 זה משחקים אבל זה רק 32 זה מבאס
אינפרנס חלש מאוד
לא חושב שיש לי דרך אחרת כרגע למרות שמתחיל להיות משתלם לטוס ולקנות
הDGX לא איטי מדי? בכל ההשוואות אני רואה שהכרטיסים מנצחים
אני רוצה קידוד מקומי כל השאר אני מסתדר
לחשוב על קירור מים במקום אוויר לחסוך ברעש במידה ומפריע
לא מתאימים הכרטיסים.. זה שני eagle לא טורבו
זה אם אתה עובד לבד
עם qwen ואין מישהו במקביל שלוחץ עליך
לא רואה בעיה
אגב
ה glm 5.3 עם קוואנטיזציה
נותן קוד יפה
מינימום חירטוטים
איטי כי זה חתיכת מודל עצום
במקומך הייתי כבר מתכנן 2 dgx והלאה 😂
ואי ואי
ואל תשכח qsfp
ועוד משהו
המודלים עושים ad hoc לאינטרנט אלא אם כן תגדיר בלי
והם יטחנו לך את הרשת בבית
אין לי מושג מה אמרת אבל אני אקרא על זה
זה בסדר
תחזור לימי הגלישה של 10 מגה ותבין לבד 😂
Qwen? שותה רשת?
תלוי על מה הוא מוגדר ואיזה מהם
ה 122b ללא הגדרות נכונות, יוצא החוצה
עדיף להאכיל rag וללכת איתו יד ביד, צעד צעד