זול פי 185 מאופוס, דיוק 81.6%: המודל שמשנה את הכללים 🔥
למה לא lamacpp יותר מהיר לספארק
והשאלה הגדולה מה גודל הקונטקסט וכמה חלונות?
הרצתי את qwen3.8 אבל חלון הקונטקסט קשוח
השאלה למה מודלים כאלה ישנים😅
יש qwen 3.8 27b
https://go.chatlytics.ai/r/LSfuQ8k
@turinglabai on Instagram: "OpenAI just got its own Star Wars-style space battle — and the result is pure AI chaos. This Reel turns the AI race into a cinematic sci-fi war, with massive spaceships marked “OPENAI” flying through space, fighter ships attacking, explosions lighting up the battlefield, and bizarre fruit-like characters appearing as part of the story. It’s clearly presented as AI-generated satire, using the visual language of a space opera to turn the competition and drama around AI companies into an exaggerated battle between futuristic forces. What’s fascinating is how AI video generation can now combine completely unrelated ideas — a real technology company, science-fiction spacecraft, recognizable cinematic aesthetics, and absurd characters — into one continuous visual story. A few years ago, creating something like this would have required a serious VFX production. Now, generative AI can produce increasingly elaborate fictional scenes from simple creative concepts. And that changes what “making a movie” can mean. The bigger question is: When anyone can generate cinematic worlds with AI, will the hardest part of filmmaking become the technology — or simply coming up with the idea? 👀 Would you watch a full-length AI-generated sci-fi movie like this? Source: @charliebcurran on X"OpenAI just got its own Star Wars-style space battle — and the result is pure AI chaos. This Reel turns the AI race into a cinematic sci-fi
https://go.chatlytics.ai/r/w2slDEE
Machine & Deep learning Israel | **בואו נדבר רגע לעומק על Jev, המודל החדש של TypeSafe, ועל הטרנד העולה של "System One Models**" | Facebook**בואו נדבר רגע לעומק על Jev, המודל החדש של TypeSafe, ועל הטרנד העולה של "System One Models**". ## ביממה האחרונה הרשת מוצפת בהכרזות על "סו
תכף ייצוצו מלא כאלה
הדברים המרכזיים שמייק מעלה בפוסט:
1. ההבטחה ל"אפס הזיות" - אמינות מבנית אינה ערובה לאמינות לוגית. הוא לא הוזה תשובה שלא קיימת במרחב האפשרויות, אבל הוא בהחלט יכול לטעות.
2. המעבר לג'נרוט מקבילי מביא לביצועים חזקים מאוד ואפס עלות על טוקנים בפלט מצד אחד. מצד שני המחיר הוא שאין שום אפשרות ל-Chain of Thought (CoT). המודל לא יכול "לחשוב בקול", לפרק בעיה לגורמים או להצדיק את הבחירה שלו.
הרצתי בלילה טסטים על בערך 40 פייפליינים שנכשלנו
ניסיתי שיגיד אם זה כישלון בגלל בעיות תשתית או בעיה אפליקטיבית.
Jev הגיע ל-81.6% דיוק מול 86.8% של Opus 5, והוא זול פי 185 ומהיר פי 2.4.
כששולחים ל-Opus רק את המקרים שבהם Jev לא בטוח (18% מהמקרים), מקבלים את הדיוק המלא של Opus ב-19% מהעלות וב-60% מהזמן.
לא בדיקת מעבדה
מגניב מאוד
טירוף
זול פי 185, והגיע לדיוק של 81%
אני רואה בעתיד המאוד קרוב את הסונאט שלי מוחלף ב Jev
בעצם הבחירה היא בלאק בוקס?
עוד בעיה היא בעיות שדורשות רצף של בחירות אחת אחרי השנייה.
הבחירה היא בלאק בוקס לגמרי.
לגבי רצף של בחירות- הוא מתמודד אצלי מדהים עם לוגיקה מורכבת בפרומפט. תנסה.
עוד אלטרנטיבה היא כמובן לשרשר קריאות בקוד. עדיין ממש זול וגם לא רעיון רע בכללי להשען בפייפליין על engineering איפה שאפשר.
(גם קצת מקל את בעית ה explainability)
הם כותבים במפורש שהוא לא טוב בsequencing אמיתי, לא כמו אייג׳נטים מעל המודלים הגדולים, הוא יכול לעשות דברים בזמן אמת אבל אל תשלח אותו לעשות רצף פעולות מעל דפדפן שדורש הרבה שלבים
יש האקים כמו שמעיין כתב למעלה
חלק עבדו לי
אבל לא מושלם יש לזה גבול עליון די בסיסי ביכולות
זה יעבוד אבל בbenchmarkים אמיתיים הוא לא עומד מול המודלים הגדולים. רצף פעולות ארוך זה לא הפורטה של המודל הזה. אבל בגלל המהירות זה קצת משנה את הכללים, כי אולי עכשיו נוח יותר פשוט לדבר בקול רם
כן לגגמרי.
אז השילוב של מודל real time הקודם של openai עם jev מאוד מעניין
בנינו את הבנמצארק הראשון לwebmcp. אני בדיוק מעדכן אותו עם jev.
יש פער גדול בין הדמואים המפוצצים ב-X לבין המציאות.
בערך ב80 אחוז מהתוכן בx חח
הוא לא באמת טוב computer use שהוא general purpose
אה! אתה העידן של webmcp!
כל הכבוד לכם
חח כן the webmcp guy
אנחנו נפרסם היום את התוצאות על הבנצמארק עם jev. מאוד מעניין מה שיצא
בסדר רליס ראשון, עכשיו יש להם את כל הדאטה בעולם
אני חושב שזאת בעיה מבנית אבל אני לא בטוח
בניתי harness שכן יש לו גישה לwebmcp והשתמשתי בmercury 2.5 בנוסף על jev והגעתי לתוצאות משוגעות
אבל בלי webmcp הוא אהבל לגמרי אני לא מצליח לגרום לו להצליח בבנצמארק
משפט אופוס, אבל יש מצב, זה כבר באמת לא הפורטה שלי
בינתיים
בתאוריה אני פשוט יכול לשבור את זה בלתת לו מסע של סוכן שצריך לקרוא ל-10-15 כלים
מה זה מרקורי?
זה מודל קטן שיצא לפני 8 ימים. הוא עושה מעל 1000 טוקנים לשנייה ומשתמש בdefusion
בגלל שג׳ב לא יכול לגנרט טקסט arbitrary אז בשביל לקרוא לכלים עדיף יהיה עוד מודל שעוזר לו
מסתבר שזה יכול להיות מודל ממש קטן וממש מהיר כי רוב הליפט של החשיבה של המודל בסוף היא לבחור את הכלי (ברוב המקרים אני מניח)
אה ואו ואז להשתמש בjev כdriver?
לא חשבתי על זה
כן הוא בוחר את הכלי ואז מרקורי אומר לו את הארוגמנט
אתה כנראה תרצה דבר כזה אם אתה רוצה לאפטם משהו לעלות מאוד מאוד נמוכה
מעניין.
קצת יותר יקר - אבל גם reasoning יותר חזק אם זה נדרש - כדי לנתח טקסטים ב near real time שילבתי jev עם qwen על cerebras שנותן בערך 1500 tps אפקטיבי. (הם מדברים על 2000 אבל לא הגעתי לזה).
אנסה את מרקיורי.
לי היוזקייס הכי מעניין הוא map reduce עם קלאסיפיירים, זה באמת משנה את הכללים של המשחק באיזורים האלו
יש לjev פולבק לllm אם רוצים להעביר לאופוס למשל במצב של חוסר ביטחון
ברור זה דרמה :)
ואו אצלכם זה בכלל משוגע
עכשיו צריך לשכתב מלא שיט 🫣
אני מוכן להתערב שduckdb עם jev יהיה מטורלל
כבר ניסיתי
לא צריך לשכתב ככ הרבה, זה לא טוב לדברים שבאמת צריכים reasoning
זה יותר מאפשר לעשות routing חכם בין מנוע יותר זול למנוע full power
ובעצמו לפעמים יכול להיות המנוע הזול
חח שגעת, זה הולך להיות מנוע הnlp הכי חזק שיש בסביבה
אני עוד צריך לבדוק לעומק את הקליברציה אבל
עשית כבר חשבון כמה יעלה לעשות טאסקים של nlp על דאטה גדול ככה?
אנחנו עושים כבר, זה תלוי כמה קריאות jev צריך בפועל למשימות
הניחוש שלי הוא שהוא יהיה בסדר לקונטקסט קצר מאוד וגרוע ככל שזה מתארך - שזה בעייתי כי דאטא הוא לא 3 משפטים כמו כל הדמואים היפים
ב3 משפטים ומשימת סנטימנט יש מודלים טובים בזה כבר שנים זה לא מועיל
בקיצור זה דורש בדיקות לעומק. בבדיקות שטח על משימות שדורשות ניואנס זה לא עובד
בטח לא multi needle reasoning
אבל לשיפור של משימות deep research לדעתי זה יהיה מעולה
בתור tool זול
שיש סוכן דרייבר שיודע לשאול עם פירוק טוב
טוב, מניח שמפה הדרך היא לעלות אפסית לקונטקסט גדול, אם זה מתקדם בקצב של הסייקלים של המודלים הגדולים אז תוך שנתיים כל התחום נראה אחרת
כן ניתוח אייג׳נטי והוא מפרק את השאילתות לדברים לעיסים
מטריד מאוד :)
פייסבוק יקנו אותם או משהו
https://go.chatlytics.ai/r/PrRNnx0
Kun Chen (@kunchenguid) on XJev gave me $5 of API credit when i signed up when i die, i will pass what's left of it to my son
לדעתי תוך חודש יש מקבילה אופן סורס אין פה שום ip אמיתי
אם היה הם היו מפרסמים קצת יותר פרטים
בדיוק מה שעבר לי בראד
בראש
כנראה שזה לא יקח שנתיים
אין moat ברשתות יותר
יש כל כך הרבה אנשי9 שמתעסקים בזה שתוך שנייה הכל עובא
גופי הביון מאשרים את ההודעה הזו
כמובן רשת ניורונים בכללי וLLM בפרט, כולם לומדים אחד את השני
אפילו הmoat של קרנלים מאופטמים זה הולך ונעלם
מה גם שלא יהיה קשה לייצר מהם דאטא..
החלק היחיד שצריך לפצח זה calibrated confidence, כל השאר כבר יש באופן סורס באיכות דומה
זה בדיוק הבעיה עם moat בllm, תמיד אפשר לעשות distillation ורוב הgain במודלים האלה זה data וtasks
הmoat זה הקונפיגורציה - סקילים, זיכרון, אמון בharness שמספקים אבטחה טובה, זמינות וכו
בharness של חברות 'נותנות בחינם בוודאות אין
אני בדעה שאין moat בכלל, זה הכל gtm וexecution אצל הלקוח
מה שמייצר ערך וקושי לזוז
אני נוטה להסכים עם רגב
באופן כללי
נוטה להסכים, כן יש בנתיים moat בחומרה
וככל הנראה יש moat בתשתיות כבדות של חומרה ותוכנה
יש גם moat בדיסטריביושן
אנשים שהם לא early adopters לא זזים מהר לשום מקום
צריך לזכור גם שהשוק נפתח שוב ל category makers שיהיו שם נרדף לפתרונות מסוגים חדשים כשהשוק יחליט.
המציאות הוכיחה בהתייצבות של עידן האינטרנט/מובייל שגם זה moat.
אתה תכוון ב פעמים?
מפיצים
או בכללי שיווק וgtm?
שיווק וgtm, אבל אם אתה כבר ענק יש לך moat