> ## Content Index
> Fetch the complete content index at: https://agentic-engineering.chatlytics.blog/llms.txt
> Use this file to discover other available public pages before exploring further.

# וואו בדיוקווקוקוקוקקקקקק
- URL: https://agentic-engineering.chatlytics.blog/ta1c60d8b/
- Published: 2026-10-20T18:03:10.000Z
- Updated: 2026-10-20T18:03:10.000Z
- Description: וואו בדיוקווקוקוקוקקקקקק
- Author: Omer Nesher
- Tags: Adys, Dean, Reuven Dagaga, Avishai Tsabari, AntAgent, p-shay

2026-09-23

Adys

[https://go.chatlytics.ai/r/hxMmqIp](https://go.chatlytics.ai/r/hxMmqIp?ref=agentic-engineering.chatlytics.blog)

[Sloptimist (@SloptimistPrime) on XWhat I learned from setting up a DGX Spark cluster ![](https://pbs.twimg.com/media/HS1ngKgW4AASdLo?format=webp&name=large)](https://go.chatlytics.ai/r/hxMmqIp?ref=agentic-engineering.chatlytics.blog) 

18:22

Dean

![](https://api.lextrove.com/m/HTrGvjHETfWmipicZmDc4k7VYH3OVU6AnzeKeRvmAggAAAAAau0RFgAAAABnAX8sGuVk9H2VtiB5c5gpUwSaXRBWX4VnpvAOvMeJvA)

21:32

Reuven Dagaga

וואו בדיוקווקוקוקוקקקקקק

זה שלך?

21:46

Dean

Reuven Dagaga

זה שלך?

לא אבל זה הצחיק אותי ממש

21:47

Reuven Dagaga

Dean

לא אבל זה הצחיק אותי ממש

יודע של מי?

21:47

Dean

Reuven Dagaga

יודע של מי?

[https://go.chatlytics.ai/r/IeGZy6n](https://go.chatlytics.ai/r/IeGZy6n?ref=agentic-engineering.chatlytics.blog)

[Dan Hockenmaier (@danhockenmaier) on XDan Hockenmaier (@danhockenmaier) on X ![](https://pbs.twimg.com/media/HS6z1zRaYAAhOc4?format=webp&name=large)](https://go.chatlytics.ai/r/vqRhesn?ref=agentic-engineering.chatlytics.blog) 

21:55

Avishai Tsabari

[https://go.chatlytics.ai/r/2DC2cjG](https://go.chatlytics.ai/r/2DC2cjG?ref=agentic-engineering.chatlytics.blog)

[PrismML (@PrismML) on XToday, we’re announcing Ternary Bonsai 2 27B. Based on Qwen3.8 27B, Bonsai 2 27B is 9x smaller than its full-precision counterpart while re ![](https://pbs.twimg.com/media/HScnLImaoAAJjz0?format=webp&name=large)](https://go.chatlytics.ai/r/2DC2cjG?ref=agentic-engineering.chatlytics.blog) 

![](https://api.lextrove.com/m/HTrGvjHETfWmipicZmDc4qC4rIMb4EraujntYJnt_pkAAAAAau0RFgAAAAAU2xEg9cmFZtA4A0sNv9_TVV6Z17J4lM5gwM2fuqA7Ag)

Avishai Tsabari

https://x.com/PrismML/status/2100692248480596348

@107684007252205   
סכם לנו בבקשה

23:28

AntAgent

‏בקצרה: PrismML הכריזו על **Ternary Bonsai 2 27B** — מודל שמבוסס על Qwen3.8 27B, עם דגש על הקטנת הגודל בלי לאבד הרבה איכות.  
• **27 מיליארד פרמטרים, בנפח 5.9GB** — לטענתם, קטן פי 9 מהגרסה בדיוק מלא.  
• שומר על **98.2% מהביצועים המשוקללים בבנצ׳מרקים** של מודל המקור. זה לא אומר 98.2% הצלחה בכל משימה.  
• לעומת הדור הקודם, הגודל נשאר זהה והשיפור הוא באיכות — במיוחד בקוד עם סוכנים, הסקה מולטימודלית ושימוש בכלים לאורך משימות ממושכות.  
• זמין ברישיון **Apache 2.0**, שמאפשר גם שימוש מסחרי בכפוף לתנאיו.

**למה זה מעניין?** זה עשוי לאפשר להריץ מודל גדול יחסית מקומית, עם דרישות זיכרון נמוכות יותר — רלוונטי לסוכנים מקומיים ולפרטיות.

**הכוכבית:** אלה נתוני החברה, לא בדיקה עצמאית. 5.9GB הוא נפח המודל, לא בהכרח כל הזיכרון שצריך בזמן הרצה, ו״קטן פי 9״ לא אומר ״מהיר פי 9״. הפוסט לא מפרט חומרה, מהירות בפועל או את הבנצ׳מרקים.

23:29

2026-09-24

Shay

לאו דווקא בסדר הזה. הייתי מחליף את 4.7 ו-5, אבל מדויק.

Avishai Tsabari

https://x.com/PrismML/status/2100692248480596348

כמה שניסיתי לגרום לו לעבוד, אז Strix Halo בינתיים לא ממש תומכים ב-ROCm. זה קצת מבאס כי רציתי ממש לשחק איתו. 

השקעתי איזה שעה וחצי בניסיון לגרום לו לעבוד, אבל הוא לא עבד כל כך טוב. בינתיים יש להם מלא באגים.  
אני לא מדבר על המודל, אני מדבר על התשתית שמשחררים.

07:10

Avishai Tsabari

Shay

כמה שניסיתי לגרום לו לעבוד, אז Strix Halo בינתיים לא ממש תומכים ב-ROCm. זה קצת מבאס כי רציתי ממש לשחק איתו. השקעתי איזה שעה וחצי בניסיון לגרום לו לעבוד, אבל הוא לא עבד כל כך טוב. בינתיים יש להם מלא …

בסוף AMD יגיעו לשם

לרוב קוונטיזציה טרינרית שוברת ביצועי מודלים..  
אם הם באמת מצליחים בשיטה הזו, זה מעניין על מודלים יותר גדולים מ 27B

לא רק בגלל הגודל, גם המהירות.. כפל מטריצות מתייתר ויש חיבור/חיסור

07:28

Shay

Avishai Tsabari

בסוף AMD יגיעו לשם

הבעיה בסוף לא קשורה ל-AMD. הם צריכים בעצם לבנות את ה-implementation שלהם של המודלים.

אני לא יודע אם אני מחדש לך, אבל אגיד את זה בכל מקרה לטובת מי שלא מכיר: כש-vendor משחרר מודל, הוא משחרר גם את המשקולות וגם את הקוד שדרוש כדי להריץ אותו. הקוד הזה צריך להתאים ל-providers הקיימים: ROCm, CUDA, Vulkan, וגם MLX כמובן.

בגדול הם שחררו קוד עבור CUDA ועבור Vulkan (לא בטוח לגבי MLX). לגבי ROCm, הם שחררו אבל עשו עבודה סופר מרושלת: הוא לא קורא את המשקולות כמו שצריך, אז הוא אמנם רץ אבל פולט כמויות של ג'יבריש בתור תשובות (ג'יבריש מאוד מהיר, אגב). אז זה לא תלוי ב-AMD, אלא פשוט בזה שה-vendor של המודל צריך לתקן את הקוד, ובינתיים הם לא תיקנו את הבעיות ב-ROCm.

הסיבה לא להשתמש ב-Vulkan במקרה של Strix Halo היא שה-prefill שלו איטי להחריד, יותר איטי מסבתא שחוצה מעבר חצייה. אי אפשר לעבוד איתו. לעומת זאת, ה-prefill ב-ROCm ממש סבבה, וגם הביצועים נראים טוב במודלים אחרים.

בינתיים המודל שהכי אהבתי לעבוד איתו, שנתן ביצועים ותוצאות טובות, היה Ornyth. אני ממש מחכה שמישהו יוציא משהו נורמלי כזה כמו החבר'ה האלה.

08:15

· +1 short messages