מהנדס LLM מול מהנדס ML: מה ההבדל?
מהנדס ML מאמן, מעריך ופורס מודלים, לרוב על הנתונים שלכם, והוא הבעלים של הפייפליין מהפיצ׳רים ועד הפרודקשן. מהנדס LLM בונה מוצרים על גבי מודלי שפה גדולים שכבר קיימים: prompting, שליפה (retrieval), שימוש בכלים, הערכה ובקרת עלויות, עם fine-tuning כשהוא מוצדק. מגייסים מהנדס ML כשהיתרון שלכם הוא מודל קנייני; מגייסים מהנדס LLM כשהיתרון שלכם הוא מוצר שמשתמש היטב במודל שפה.
הגרסה הקצרה
שני התפקידים חופפים, ואנשים טובים לרוב מחזיקים בשתי קבוצות הכישורים, אבל העבודה היומיומית שונה. מהנדס ML מבלה את רוב זמנו בנתונים, באימון ובאיכות המודל. מהנדס LLM מבלה את רוב זמנו בתכנון המערכת סביב מודל שהוא לא אימן: איך מנחים אותו (prompting), איזה הקשר הוא רואה, איך בודקים את הפלט שלו וכמה עולה כל בקשה.
גם שמות התפקידים לא עקביים. חלק ממודעות הדרושים כותבות "מהנדס ML" ומתכוונות למי שמשלב APIs; אחרות כותבות "מהנדס LLM" ומצפות לאימון מודלים. המאמר מתאר את המשמעות הנפוצה של כל תפקיד, כדי שתוכלו לכתוב אפיון משרה ברור יותר.
מה עושה מהנדס ML
התפקיד המרכזי של מהנדס ML הוא להפוך נתונים למודל שעובד באופן אמין בפרודקשן.
- נתונים ופיצ׳רים. איסוף, ניקוי ותיוג נתונים, בניית פייפליינים של פיצ׳רים, ובדיקה של דליפה (leakage) ושל drift.
- מידול. בחירת גישה, בין אם למידת מכונה קלאסית, למידה עמוקה או מודל מאומן מראש שעבר fine-tuning, ואז אימון וכוונון.
- הערכה. הגדרת מדדים שמתאימים לבעיה העסקית, בניית סטים לבדיקה שלא נחשפו לאימון וביצוע ניתוח שגיאות.
- פריסה. אריזת מודלים, הגשתם בזמן תגובה מתאים וניטור לאורך זמן. בצוותים גדולים יותר זה משותף עם מהנדס MLOps.
מה עושה מהנדס LLM
התפקיד המרכזי של מהנדס LLM הוא לבנות אפליקציה אמינה סביב מודל שפה.
- תכנון prompts והקשר. ארגון הוראות, דוגמאות והקשר כדי שהמודל יתנהג באופן עקבי.
- מערכות RAG (Retrieval-Augmented Generation). חלוקת מסמכים ל-chunks ואינדוקס שלהם, בחירת embeddings ו-vector store, וכוונון השליפה כך שהמודל יראה את הראיות הנכונות.
- סוכנים ושימוש בכלים. מתן אפשרות למודל לקרוא לפונקציות או ל-APIs, עם פריימוורקים לתזמור, guardrails ו-fallbacks.
- הערכת פלט גנרטיבי. בניית סטי evals, שימוש בשיפוט אוטומטי ואנושי, ותפיסת רגרסיות כשה-prompts או המודלים משתנים.
- עלות, זמן תגובה ובטיחות. Caching, בחירת מודל, תקציבי טוקנים, והגנות מפני prompt injection ודליפת נתונים.
- עשיית fine-tuning כשצריך. התאמת מודל כשה-prompting והשליפה לא מספיקים, וזה חופף לכישורי מהנדס ה-ML.
השוואה צד לצד
| פרמטר | מהנדס ML | מהנדס LLM |
|---|---|---|
| התוצר העיקרי | מודל מאומן, מוערך ופרוס | אפליקציה אמינה סביב מודל שפה |
| נקודת פתיחה | הנתונים שלכם והגדרת בעיה | מודל בסיס קיים וזרימת עבודה של משתמש |
| כישורי ליבה | סטטיסטיקה, הנדסת פיצ׳רים, אימון, הערכת מודלים | Prompting, RAG, תזמור (orchestration), תכנון evals, אינטגרציית APIs |
| כלים אופייניים | PyTorch, scikit-learn, מעקבי ניסויים, feature stores | APIs של LLM, LangChain או LangGraph, מסדי נתונים וקטוריים, ערכות evals |
| איך נמדדת איכות | מדדים על סטים מתויגים לבדיקה | סטי evals, פלט שנשפט, שיעורי הצלחה במשימה, רגרסיות |
| הסיכונים העיקריים | איכות נתונים, overfitting, drift | הזיות (hallucinations), prompt injection, עלות, שינויים במודל |
| לאן הולך הזמן | לרוב מוכנות הנתונים ומחזורי אימון | אב-טיפוס יכול להתגבש מהר; רוב המאמץ מושקע בהפיכתו לאמין |
| מתי לגייס | כשמודל קנייני הוא מה שמבדל אתכם | כשפיצ׳ר מבוסס מודל שפה הוא המוצר שלכם |
הכלים שהוזכרו כאן הם דוגמאות נפוצות, לא המלצה. צוותים משתמשים בהרבה ספריות ושירותים אחרים.
מתי לגייס מי
מגייסים קודם מהנדס ML אם
- יש לכם כמויות גדולות של נתונים קנייניים והמודל עצמו הוא היתרון התחרותי שלכם.
- הבעיה שלכם היא חיזוי, דירוג, תחזית, זיהוי חריגות או ראייה ממוחשבת, ולא יצירת טקסט.
- אתם צריכים שליטה הדוקה בזמן תגובה או בעלות, שאי אפשר להשיג עם API של מודל כללי.
מגייסים קודם מהנדס LLM אם
- אתם בונים פיצ׳ר של צ׳אט, חיפוש, סיכום, חילוץ מידע או סוכן על גבי מודלים קיימים.
- אתם צריכים אב-טיפוס עובד מהר וצופים איטרציות על prompts, שליפה והערכה.
- האתגר המרכזי שלכם הוא להפוך את הפלט לאמין, ולא לאמן משהו חדש.
כנראה תצטרכו את שניהם אם
המוצר שלכם משלב מודל מותאם עם שכבת מודל שפה, כמו בדוגמה של Bridgewise שלהלן, שבה עמוד תווך של דירוג בלמידת מכונה פועל לצד שכבת דיווח גנרטיבית. לעיתים קרובות תרצו גם מהנדס MLOps לפריסה ולניטור ברגע ששני סוגי המערכות פועלות. המדריך שלנו איך בונים צוות הנדסת AI מכסה את הסדר.
דוגמה: שני סטים של כישורים במוצר אחד
Bridgewise, חברת פינטק ישראלית, מתארת את הטכנולוגיה שלה כשני עמודי תווך: אלגוריתם למידת מכונה שאומן על נתוני שוק היסטוריים כדי לדרג ניירות ערך סחירים, ושכבת Generative AI שמפיקה דוחות בסגנון אנליסטים בשפת הקורא. Commit Offshore שילבה בצוות של Bridgewise מהנדסי ML ופלטפורמה מומחים, עם סינון שנבנה סביב שיטות הערכת LLM וניסיון בשווקים פיננסיים. זו תזכורת שימושית לכך שמוצר אחד יכול לדרוש יחד גם ML קלאסי וגם כישורי LLM. ראו את סיפור ההצלחה של Bridgewise.
שאלות לדוגמה לראיון
למהנדס ML
- המודל שלכם מקבל ציון טוב אופליין אבל מציג ביצועים חלשים בפרודקשן. פרטו את חמש הסיבות הראשונות שהייתם בודקים.
- איך הייתם מזהים ומטפלים בדליפת תוויות (label leakage) בסט פיצ׳רים?
- הסבירו איך הייתם בוחרים בין precision ל-recall במודל לזיהוי הונאות, ואיך הייתם קובעים את הסף.
- איך מנטרים data drift, ומה יפעיל אימון מחדש?
- מתי הייתם בוחרים בבסיס פשוט (baseline) במקום במודל למידה עמוקה?
למהנדס LLM
- תכננו מערכת RAG מעל 50,000 מסמכים פנימיים. איך תחלקו ל-chunks, תשלפו ותוודאו שהתשובות מבוססות?
- איך הייתם בונים סט הערכה לפיצ׳ר סיכום, ואיך הייתם תופסים רגרסיות כשגרסת המודל שמתחת משתנה?
- משתמש מדביק טקסט שאומר לעוזר שלכם להתעלם מההוראות שלו. איך המערכת שלכם מגיבה?
- הפיצ׳ר שלכם עולה יותר מדי לכל בקשה. מה אתם משנים, ובאיזה סדר?
- מתי fine-tuning הוא התשובה הנכונה, ומתי מספיקים שליפה או prompting טובים יותר?
תשובות טובות מתארות פשרות ומקרי כשל, לא רק טכניקות. מועמד שלא יכול להסביר איך היה מודד אם שינוי שיפר את המצב הוא סיכון בשני התפקידים.
איך מוצאים כל אחד מהפרופילים
Commit Offshore מספקת מהנדסי AI/ML, מהנדסי LLM ומהנדסי MLOps דרך שירות טאלנט לפי דרישה (On-Demand), בהתאמה לסטאק ולהיקף שלכם, עם מומחים שזמינים עכשיו. להתקשרויות ארוכות יותר, אותם פרופילים זמינים דרך הגדלת צוותים (Staff Augmentation), וקורות החיים הראשונים המאומתים מגיעים בדרך כלל תוך 48 שעות. המועמדים מגיעים ממאגר הכישרון המסונן שלנו (CVCO) ועוברים סינון משולב של אדם ו-AI. לפרטים נוספים ראו גיוס מהנדסי LLM.
שאלות נפוצות
האם מהנדס LLM הוא סוג של מהנדס ML?
במידה מסוימת, כן: שניהם עובדים עם מערכות למידת מכונה, והרבה מהנדסי LLM מגיעים מרקע של ML. ההבדל הוא בדגש. מהנדסי LLM בונים סביב מודלי שפה מאומנים מראש ומתמקדים בשליפה, בתזמור ובהערכה, ואילו מהנדסי ML מתמקדים באימון ובפריסה של מודלים.
אדם אחד יכול לעשות את שני התפקידים?
בחברה בשלב מוקדם, לפעמים, אם יש לו את שני הרקעים. ככל שהמוצר מתבגר, שני עומסי העבודה בדרך כלל נפרדים, כי הכישורים ואופני הכשל שונים. אם אפשר להתחיל רק באדם אחד, גייסו לפי העבודה שתעלה לפרודקשן בחצי השנה הקרובה, ותכננו את התפקיד השני כשהשימוש בפרודקשן יראה איזו מיומנות חסרה.
את מי לגייס קודם?
את מי שמתאים למה שמבדל אתכם. אם המוצר שלכם הוא פיצ׳ר שמופעל על ידי מודל שפה, התחילו במהנדס LLM. אם היתרון שלכם הוא מודל שאומן על הנתונים שלכם, התחילו במהנדס ML. בקומיט אופשור מומחי LLM, RAG וסוכנים מסומנים ברמה 4 בסולם ה-AI-ready, ומהנדסי ML או MLOps ברמה 5, כך שרואים איזה סוג מהנדס מופיע בכל קורות חיים.