מה זה LLM?
LLM (Large Language Model, מודל שפה גדול) הוא מודל בינה מלאכותית שאומן על כמויות עצומות של טקסט, ולומד לנבא איזו מילה או חלק ממילה יבואו בהמשך. מהיכולת הזאת נבנים כלים שכותבים, מסכמים, מתרגמים ועונים על שאלות, כמו Gemini של גוגל ו-GPT שעליו בנוי ChatGPT.
איך LLM עובד
מודל שפה מעריך מה הסיכוי שיחידת טקסט מסוימת תופיע בתוך רצף של טקסט. יחידת הטקסט נקראת טוקן (token), והיא יכולה להיות מילה, חלק ממילה או אפילו תו אחד.
לפי מילון המונחים של גוגל, LLM הוא מודל שפה עם מספר גבוה מאוד של פרמטרים. בשימוש היומיומי, הכוונה היא לכל מודל שפה שמבוסס על ארכיטקטורת Transformer, כמו Gemini או GPT. את ה-Transformer פיתחו בגוגל, והוא הוצג במאמר "Attention Is All You Need" מיוני 2017.
דוגמה
כשאתם כותבים ל-ChatGPT "כתוב פוסט על גיוס עובדים", המודל לא שולף פוסט מוכן. הוא מייצר את הטקסט טוקן אחרי טוקן, לפי מה שהוא למד שמתאים להמשך. לכן שתי בקשות זהות יכולות לתת שתי תשובות שונות.
טעות נפוצה: LLM מול צ'אטבוט
ChatGPT ו-Gemini הם מוצרים. ה-LLM הוא המנוע שבתוכם. המוצר מוסיף ממשק שיחה, זיכרון של השיחה, ולפעמים גם חיפוש ברשת. בלי חיפוש, המודל עונה רק לפי מה שלמד באימון, ולכן מידע חדש לא תמיד יופיע בתשובה.
הקשר ל-Velut
ב-Velut יש שני דברים נפרדים. ללקוחות המנוהלים אני כותב בעבודת יד, בקול שלהם. בנפרד, Velut AI הוא מוצר: מודל AI אישי שלומד מהכתיבה שלך בלינקדאין, למי שמעדיף לכתוב בעצמו. בנוסף, כש-LLM עונה על שאלה עם חיפוש, הוא בוחר מקורות. זה הבסיס של GEO.
שאלות נפוצות
מה ההבדל בין LLM ל-ChatGPT?
LLM הוא המודל. ChatGPT הוא מוצר של OpenAI שבנוי על מודלי GPT ומוסיף להם ממשק שיחה ויכולות נוספות. אותו דבר עם Gemini של גוגל: יש מודל, ויש אפליקציה.
מה זה טוקן?
טוקן הוא יחידת הטקסט הקטנה שהמודל עובד איתה. הוא יכול להיות מילה, חלק ממילה או תו אחד.
LLM יודע מה נכון?
לא בהכרח. הוא מנבא טקסט סביר, ולכן הוא יכול לכתוב משפט שנשמע בטוח אבל שגוי. תמיד כדאי לבדוק עובדות מול מקור.