LLMs - Large Language Models, GPT, Claude
GPT-3 יצא ביוני 2020. Sam Altman כתב ב-Twitter שהוא "feels like a glimpse of the future". בסיליקון ואלי הדיון היה: האם זה AGI? (לא). האם זה שינוי פרדיגמה? (כן). הוא הגיע ל-175 מיליארד parameters - פי 10 מכל מה שהיה לפניו. ב-1 API call היה אפשר לתרגם, לכתוב קוד, לסכם מסמכים, ולענות על שאלות - הכל עם אותו מודל. בלי training. בלי fine-tuning. רק prompt. זה לא היה אפשרי שנה קודם.