רשתות נוירונים ולמידה מדוגמאות

 יצא לי ללמוד ממש קצת על AI ורשתות נוירונים. באמת קצת. הדבר העיקרי שלמדתי הוא כמה זה קשה לאמן רשתות אפילו אם המטרה שאני רוצה שהם יבצעו היא פשוטה. אבל הידע המינימלי הזה גרם לי לקחת קונספט שתיאורטית הכרתי, להבין אותו בעומק אחר, וליישם אותו בחיי.

למידה מדוגמאות. רשתות נוירונים, במובן הבסיסי, לומדות מדוגמאות. נותנים לרשת אובייקטים ששיכים לקבוצה אחת או שנייה, אומרים לה מה הקבוצה הנכונה, ומצפים שהיא תצליח להבין מה הכלל המפריד ביניהן. וזה, במידה רבה, הדרך בה בני אדם לומדים. וזו הסיבה שלמרות הנטייה הטבעית שלי ללודיקה אבסטרקטית, אני חובבת גדולה של דוגמאות. מה שמתקשר לאמונה שלי שבהרבה מקרים בדיקה של העובדות היא הדבר הנכון לעשות.

במתמטיקה אפשר להגדיר קונספטים בצורה חד משמעית – גם אם לפעמים מי שקורה את ההגדרה יתקשה להבין, במובן המהותי של המילה, את המשמעות שלה. כשמדובר על קונספטים בחיי היום יום, אין להם הגדרה מתמטית. ואין כרגע דרך ישירה להעביר הבנה של אדם אחד של הקונספט לאדם אחר. דבר זה לעיתים קרובות גורר שיח חרשים, בו אנשים מדברים בלי להבין אחד את השני, במקרה הטוב, או משתמשים בתעלולים רטוריים (כגון motte and bailey) כדי לרמות את עצמם ואת הסובבים אותם. בעיה נפוצה נוספת היא שפוליטיקה היא קוטלת הבינה, ואנשים היגיוננים רוב הזמן יתנהגו בצורה לא הגיונית ויגנו על דברים הלא ראויים להגנה, כשהמטרה האמיתית היא להגן על השבט שלהם. דוגמאות קונקרטיות ובמידת האפשר נייטרליות מאפשרות לעקוף את הבעיה.

יש עוד דרכים רבות בהן דיונים באוויר, בלי דוגמאות קונקרטיות, יכולים להשתבש. אבל הפתרון להרבה מהמצבים האלו הוא אחד – לדבר על דוגמאות קונקרטיות. במידת האפשר, הרבה דוגמאות קונקרטיות. לכל הפחות, זה מאפשר לצד השני להבין ש"הקונספט X כולל את הדוגמאות A B ו- C", ויש הרבה יותר סיכוי שהבנה מדוייקת יותר של הקונספט תצליח לצלוח את הפער בין אדם אחד לשני. תקשורת זו משימה קשה. אנשים באופן קבוע מעריכים בהערכת חסר כמה קשה זה לתקשר: https://www.lesswrong.com/s/5g5TkQTe9rmPS5vvM/p/sSqoEw9eRP2kPKLCz

 

למידה מדוגמאות היא בעיני אחת הדרכים הטובות לתקשר, ובתור כזו שווה להשתמש בה יותר. לכן, כשראיתי היום משהו וחשבתי עליו,- הו! זו דוגמא ל-failure mode סטנדרטי של  קבוצה מסויימת של אנשים, שמכילה כמעט את כל הקהילה הרציאונלית, חשבתי ששוה לכתוב על זה פוסט. ואולי לעדכן בהמשך עם כל דוגמא. התכוונתי לכתוב הקדמה קצרה על הרעיון, אבל גיליתי שזה ארוך מספיק לפוסט בפני עצמו, אז חילקתי את זה לשניים.