לתמיכתכם אוד
https://go.chatlytics.ai/r/2Df3KpX
לתמיכתכם אודה 🙂
Ori Levi (@phirex) on Xטוב, קיבלתי קרדיטים מ־@fal למשחק שלי, אז סוף סוף אפשר לשתף אותו :) כל משחק מתחיל מתמונה אחת וקצת רקע לעלילה. משם? אתם מחליטים! בכל סצנה יש H
מעניין אותי אם זה סתם הייפ או שיש כאן משהו
כן אני גם קיבלתי
מה בונים? :)🦫
אתה והנמלים שלך
מה צריך realtime בantseed
תוסיף אותו לראוטר זה כן
בסוף אני לא רוצה לכתוב את הקוד שמגדיר ל jev את סכימת הפלט, אז אני כן צריך llm לעניין..
השאלה אם זה ממש שובר את כל הדינמיות של llm.
למרות שיש מלא use cases באמת שזה נחוץ
לא הבנת מה אנחנו עושים אה? 🙈
זה לא רק סכמת הפלט
מהסתכלות של כמה דקות (גם אני קיבלתי גישה הבוקר) נראה שיש לך בסוף 3 צורות של תשובות בלבד:
כן / לא
אפשרויות
ציון התאמה
זה לא שאתה יכול להגיד לו תוציא לי json של ה-api ליצירת calendar event או דברים כאלה
מרגיש לי (שוב, בהסתכלות של 5 דקות) שזה יותר דומה לאמבדינגס ומה שאתה יכול לעשות איתם
אני אשמח להבין מה לעשות איתו, אבישי תן לי פרומפט
זה לא openrouter רק על בלוקציין?
אבל אין דבר כזה להוסיף, זה כל אחד מוסיף את עצמו, אין שליטה
אה לא ראיתי איך מוסיפים אם צריך תמיכה בפרוטוקול או מה עשית אל תגזים
אבל עוקב
חחח
זה טורנט
במקרה שלך זה קלאסי ל routing לא?
אתה מתכוון routing decision?
לפי רמת מורכבות פרומפט או בקשה
שחף תשתמש בו למודרציה ברילטיים
בגדול כן, אבל זה משהו שמישהו יצטרך לבנות ולהנגיש
או guardrail לספאמרים
וגם לנטר את ספקי המודלים.. שה peers באמת נותנים מודל טוב או תשובה טובה.. מגדיל אמינות ל antseed
מבחינת ארכיטקטורה שום דבר מזה לא מתאים אצלנו אבל אנשים יכולים לבנות דברים כאלו
אין לנו שרתים, כלום לא עובר דרכנו
הבנתי
זה טורנט 🤷♂️
אם שום דבר לא עובר דרככם אז באמת צריך לחשוב
זה אחלה יוסקייס כללי.
לבדוק ש llm עונה כמו שצריך.
בטח ספקי מודלים ישתמשו.
אם זה מהיר וזול.
ניטור בקשת משתמש וניטור מענה למשתמש
כן, הסיוט שלי זה לתמוך בטראפיק בפרודקשן, אחרי כל כך הרבה שנים שכבר נהייתי דבאופס הגיע הזמן לכתוב רק קוד ולא לנהל שרתים
Smart
הטוויטר מוצף עכשיו בשימושים ב jev.
מעניין שם היום
אני מתחיל לשחק גם בדיוק
נראה שלעשות ראוטינג בין מודלים זה קלאסי?
החלטות דיסקרטיות עם משקל גבוה של אימפקט ושצריך מהירות real time
זה פשוט קלאסיפייר חכם מאד בשורה התחתונה
במקום קלאסיפייר טיפש, קלאסיפייר עם מוח של frontier
כמו שLLM זה word completion ברמה ממש גבוהה..
נראה לי זה מתאר את זה בחסר
ממש
אם עד עכשיו הבעיה בקלאסיפיירים היה שהם טיפשים, עכשיו יש אחד מאד חכם
ואם רציתי קלאסיפייר חכם הוא היה יקר
כבר עשיתי כמה שימושים ב LLM כקלאסיפייר.. כדי שזה יעבוד מצויין ובצורה אמינה מהניסיון שלי היה חייב מודלים חזקים
זה הולך לרוקן הרבה תוכן מהמעבדות
בסוף יש הרבה החלטות דיסקרטיות בחיים של סוכן
בחירת מודל, בחירת כלי
אני ניסיתי בעבר בעצמי לעשות routing
בעוזר שלי בוואטסאפ
ומודלים חלשים פשוט היו גרועים בזה אז ויתרתי
כל כלי כתיבת קוד יאמצו את זה כדי להוזיל לעצמם עלויות.. אם באמצע עבודה המודל צריך לעשות curl פשוט, הוא לא ישתמש ב fable בשביל זה