Neural Networks - איך רשת נוירונים עובדת
ב-2012 קרה משהו שלא היה אמור לקרות. מודל בשם AlexNet ירד ל-15.3% error בתחרות ImageNet - כשהמתחרים הטובים ביותר היו על 26%. פתאום. בלי אזהרה. ה-ML community היה בהלם. מה הם עשו? Neural Network עמוקה, GPU, ו-Dropout. שלושה רעיונות שהיו קיימים שנים - אבל יחד, בסקייל הנכון, שינו הכל. מאז, כל הישג גדול ב-AI - GPT, AlphaFold, Stable Diffusion - מבוסס על Neural Networks.
parameters משוערים ב-GPT-4 (Semianalysis estimate, 2023)