AI Ethics & Safety - שיקולים אתיים
ב-2018, Amazon גילו שה-AI שלהם לגיוס לא אוהב נשים. המודל אומן על קורות חיים שהתקבלו ב-10 השנים הקודמות - תקופה שרוב המתקבלים היו גברים. המודל למד: "גבר" = עדיף. הוא הוריד ניקוד לקורות חיים שהכילו את המילה "women's" (כמו "women's chess club"). הם ביטלו את הפרויקט. אבל כמה חברות אחרות יש להן AI שעושה בדיוק את זה - ולא יודעות? AI bias הוא לא bug תיאורטי. זה בעיה אמיתית שפוגעת באנשים אמיתיים, ואחד הchallenges הכי קשים שהתחום מתמודד איתו.