היי חברים, אני מחפש לגייס מהנדס/ת AI לחברה שלנו. מישהו/י עם
היי חברים,
אני מחפש לגייס מהנדס/ת AI לחברה שלנו. מישהו/י עם רקע עמוק ב-sw engineering קלאסי שעכשיו עמוק ב-AI Engineering.
עבודה סופר מעניינת ובליבה של החדשנות בתחום.
אם זה מעניין אתכם או מישהו שאתם מכירים - אשמח ליצירת קשר בפרטי לפרטים נוספים.
בהצלחה
אנשי ה pi - מה ה must have לסטאפ שלכם?
קיבלתי לאחרונה גישה בלתי מוגבלת למודלים פתוחים כמו glm 5.3 ודיפסיק, ואני רוצה להתאים לעצמי את ההארנס בשביל להוציא מזה את המיטב
עד עכשיו חייתי עם CC וקודקס, ובינתיים מה שעשיתי זה לתת לאייגנט שלי את pi והוא רץ על רעיונות עד שהם מספיק טובים להראות לי
תמונה עם הטוקנים על משחק שהוא בנה לי אתמול בלילה להמחשה :)
וואו מבחינת tools הדבר היחידי שמצאתי שבאמת היה לי חסר זה web search.
כל השאר רעש וצלצולים
מה ששני אמרה
כן מאוד שימושי tool שעושה codemode
יש לי מערכת הפעלה 🤷🏽♀️ אף פעם לא הייתי צריכה, אבל אני לא מנסה לעשות דברים מסוכנים מדי. רק גישה חופשית לפרודקשן עם clis להכל
את יכולה לחסוך את השלב של התחזוקה של רשימת כלים וזה מאפשר לך להגדיל את כמות הדברים שיש לו גישה אליהם אינסופית
אה גם יש לי tool שקוראים לו recall שנותן חיפוש מעל כל השיחות ההיסטוריות זה גם מאוד שימושי
אהה התכוונת לrunline? כן אני משתמשת בו גם
נכון
יש גם את executor.sh
ויש את https://github.com/shift-labs-ai/ferrosearch כתחליף לminisearch כי minisearch לא שורד חצי שנה של סשנים בrecall
אז הם יצרו benchmark שבודק האם סרסו מודלים, והם מריצים את ה-benchmark הזה שלוש פעמים בשבוע על כל המודלים הגדולים. אז עכשיו אפשר לעקוב אחרי הביצועים.
https://www.bridgebench.ai/
https://www.bridgebench.ai/nerf-bench
גם בהסתכלות של את מתפתחת ישירות מולו, וגם אייגנט שמפתח לבד end-to-end?
נתתי לopus 5.5 מלא תמונות ממערכות שלי בשטח, הוא תייג אותם עם sonnet 5.5 על ידי subagent (רעיון שלי חייב להגיד), עשה fine tune ל qwen3.5-0.8B, בנה engine מאפס בcuda/c++ כדי שיעבוד על החומרה שלי (jetson מ2017) עם cuda 10.2 בלי תלויות ( cublas לקח 250 מגה זכרון סתם) וזה פשוט פאקינג עובד טוב
accuracy 94% vs sonnet 5.5
לא יודע איך לתאר אותו אבל זה חיה רעה
כן הם נהיו ממש טוביפ בלאמן task specific models אם אתה יודע איך למדוד
מעניין, מישהו כבר עשה מודל ייעודי לפרסור לחשבוניות / תעודות משלוח בעברית?
אם יש לך מספיק דאטא הוא יכול לבנות לך
זה הרבה מעבר, הוא ממש טוב בלייצר גם דאטא (לתייג) זה פסיכי
כן זה באמת נשמע ככה
שתבין, זה מודל של 0.8B
פסיכי, שלב הבא אני רוצה להפוך אותו ל jev
הן סרוקות אני מניח?
וואו
0.8B להבנת תמונה?
Is hotdog
סרוק/מצולם זה גם הרבה פעמים כתב יד
אבל אני בטוח שזה באמת פתיר / השתפר משמעותית בעקבות הדור האחרון של המודלים
כן מודל VLM שסהכ הוא 800 מליון פרמטרים, הויזיון זה איזה 100 לדעתי
אבל לכל השאלות למעלה, ה captioning פחות מעניין
מגניב מאוד
הוא גם מנתח לבד את הכשלים, מציע פתרונות וממש
נגיד הבין ששיש בעיית inbalance, חיפש תמונות קשות ליד אירועים קיימים, שילב מידע של מזג אוויר, לקח את ה encoder שהוא בסוף sigclip לעשות mining על המידע במקום להריץ sonnet למצוא עוד דוגמאות למקרים הנדירים (ערפל, שלג וכו)
זה רמה של איש ML מנוסה
אותי בעיקר מפתיע היכולת של מודל של 800 מליון פרמטרים
מצד שני מודל ה detection שלנו האחרון שהוא cnn+transformer הבאתי אותו ל2 מליון פרמטרים והוא sota לביצועים שלו
קח אותם לopus ישפריץ לך מודל בקלות, בהניתן שהוא מצליח לתייג או assemble של sonnets יכולים זה יעבוד. תבינו תייגתי אלפי תמונות עם sonnet בלי לחרוג מה5h limit תוך כדי פיתוחים אחרים. הטריק זה להגיד לו להרים subagents שיסתכלו, העלות בטוקנים של תמונות מאוד נמוך
מה היה הביצועים של קוון לפני? הם טובים מאוד בדברים האלה
אם צריך הנחיות של מה לעשות e2e זה הוראות בפרומפט או סקיל מבחינתי. לא הייתי צריכה setup מיוחד.
כל הcodebases באותה תיקיה במחשב, הוא מכיר את כולם ויכול לבדוק אותם אם צריך בשביל context, מפתח, מחכה לreview ci ואם משהו חשוב עולה מתקן.
ואם אני כנה - אני לא אוהבת לשלוח אותו למשימות e2e בלי בקרה. אני אוהבת לראות מה הוא עושה. לפעמים מreview רק עולים שטויות
סגור, תודה!
וואו, אני לא יודע מה OpenAI עשו עם המודלים שלהם, אבל אני מהבוקר עם אותם אחוזים. השתמשתי גם ב-o1-pro וגם ב-o1, במה שאתם לא רוצים, ואפילו אחוז אחד לא זז. ממש פסיכי.
מקווה שזה לא איזה תקלה אצלהם שמת להם הקאונטר
CHATGGPT MAKE MEE MONEEEYYY - NO MISTAKES! DONT STOP! GO WILLDD! :D :D :D
הפלאגין עם האיג'נט שעושה בקרה אוטומטית, אש. פשוט אש. כמות הדברים שהוא תפס שיכלו לשרוף חצי יום יום, אפילו שבוע, משמעותית.
לא הרגשתי שהוא שורף יותר מדי טוקנים. הקצב סביר.
74% לעומת 94% אחרי, שמיים וארץ
תזכור זה מודל פיצי ל LLM שלא נדבר על VLM
עובד עם מודלים קטנים ביום יום
האמת שמעניין מה סןג הטעויות שנעלמו
אבל זה חפירה מדי כבר :)
50 TPS roughly
בגדול משבוע לשבוע אני משתכנע שעדיף צוות של אדם אחד או ממש קצת…
והפער רק מחריף
תמיד עדיף יותר מאדם אחד. לפחות שניים או שלושה.
אחד מתפטר / חולה / נפטר וכו.
אין מה לעשות ככה זה עם בני אדם 🙂
ומעבר לזה - סיעור מוחות, עבודה במקביל, התמחויות. יש גבול לכמות הפרטים שאדם מסוגל לעכל, וכמובן שזה תלוי בפרוייקט.
היית יכול לעבוד על העומק של הפרוייקט שלך בחמישה אנשים לדוגמא? מעניין
אצלי כמות הפרטים החשובים וניואנסים כל כך גדולה שהייתי שמח אם מישהו היה עובד איתי על זה.
כל אחד מתמחה בערוץ דאטא שונה. כל ערוץ דאטא - כשאתה נכנס לעומק שלו, זה בערך כמו אוקיינוס. וצריך להבין את הכול היטב. אז לוקח חודשים ארוכים עד שנה להוציא את הכל מכל ערוץ.
ואם אתה רוצה מערכת רב ערוצית, אתה חייב לרוץ במקביל.
ההנחה שזה בלתי תלוי היא בעייתית
ועל כל ערוץ דאטא אני מריץ 5 סשנים במקביל.
לא מכיר הרבה מערכות מורכבות שזו המציאות בהן
👆🏼 בגלל זה אמרתי אצלי.
נניח יצא לי להסתכל לעומק על מערכות כמו טיל מיירט, זה שצריך 7 מומחיויות זה זוועה כי כל אחת באמת משפיעה מאוד על האחרת, ואז נוצר מצב שכל דבר לוקח אינסוף זמן
אבל זו בעיקר הסיבה.
ועושים המון המון פשרות כי אין זמן לעוד איטרציה
זה מה שקורה אצלי. יש השפעות דו כיווניות, מעבר לזה שכל הסביבה משתנה כל שנתיים לערך.
בדיוק. בסופו של יום המצויין זה האוייב של המספיק טוב. וזה בעיקר תלוי מערכת. רוב הפרוייקטים לא ברמת מורכבות כזו, אז אדם אחד או שניים, יכולים להספיק אם זה משהו סטנדרטי. זה בהחלט שינה את העולם. אין צורך בצוות של חמישים איש להרים משהו היום.
זה גם ההרגשה שלי.
מה זה O1 ו O1PRO ?
נראה שהייתה תקלה אתמול. היום זה נראה אחרת, יורדים לי האחוזים שוב ..
It's my dictation tool. It has been a total shitshow for the last week or two.
They did a lot of infrastructure work yesterday, so maybe they just stopped the token measuring until they settled down.
אני לא משתמש בו.. (אולי רעיון טוב להשתמש בו)
אבל אתמול ממש הרגשתי את זה שזה בלתי מוגבל. כי עשיתי משימה שברגיל הייתה מסיימת לי את הטוקנים ל5 שעות והם השאירו אותי על 100%
יצא פוקס..