האם למידה עמוקה היא מרכיב הכרחי בבינה מלאכותית?
מחקר חדש מראה שגם ארכיטקטורות רדודות שעוצבו בהשראת המוח משיגות למידה זהה ללמידה עמוקה
למידה עמוקה היא מרכיב מרכזי במימוש משימות הבינה המלאכותית, אולם מאמר שפורסם לאחרונה מראה שניתן לממש משימות אלה באמצעות ארכיטקטורות רדודות יותר המבוססות על מבנה רשתות הנוירונים במוח.
רשת הנוירונים התאורטית הראשונה, "פרספטרון", הוצגה לפני כ-65 שנים וכללה שכבה אחת בלבד. אולם, כדי לספק פתרונות למשימות סיווג מורכבות יותר הוצגו בהמשך ארכיטקטורות רשתות מתקדמות יותר הכוללות שכבות feedforward רבות.
רשתות אלה בנויות כמו עץ סבוך: מכל "ענף" מתפצלים "ענפים" נוספים, כך שכל רמת פיצול היא שכבה נוספת. בכל שכבה מתבצע שלב נוסף ומתקדם בסיווג. ריבוי השכבות הוא מרכיב חיוני ביישום אלגוריתמים של למידה עמוקה. הוא משפר ביצועים ללא התערבות אנושית ומצוי בבסיסם של מוצרי אוטומציה יומיומיים כגון הטכנולוגיות החדשות של כלי רכב אוטונומיים וצ'ט-בוטים אוטונומיים.
שאלת המפתח שהניעה את מחקרו של פרופ' עדו קנטר מהמחלקה לפיזיקה והמרכז הרב-תחומי לחקר המוח באוניברסיטת בר-אילן, שפורסם בכתב העת Scientific Reports, היא האם ניתן להגיע ללמידה יעילה של משימות סיווג מורכבות באמצעות רשתות רדודות, כאשר גם המורכבות החישובית מופחתת. "תשובה חיובית לשאלה הזאת מערערת על הצורך בארכיטקטורות של למידה עמוקה, והיא עשויה לכוון את התפתחותה של חומרה ייחודית להטמעה יעילה ומהירה של למידה בארכיטקטורה רדודה," אומר פרופ' קנטר. "נוסף על כך, היא תדגים כיצד למידה בארכיטקטורה רדודה, המבוססת על מבנה רשתות נוירונים במוח, מקדמת יכולות חישוביות שמורכבותן וצריכת האנרגיה שלהן מופחתות."
"הראינו שלמידה יעילה בארכיטקטורה רדודה עשויה להשיג את אותם שיעורי הצלחה בסיווג כמו אלה אשר הושגו באמצעות ארכיטקטורות של למידה עמוקה המורכבות משכבות רבות, אך עם מורכבות חישובית מופחתת," הוסיף הדוקטורנט ירדן צח, שהיה שותף לעבודת מחקר זו. צח הוסיף כי, "הבנה יעילה של ארכיטקטורות רדודות מחייבת תפנית במאפייני טכנולוגיית המעבדים הגרפיים (GPU) ופיתוחי חומרה בעתיד."
הלמידה היעילה על גבי ארכיטקטורות רדודות בהשראת המוח עולה בקנה אחד עם למידת "עץ" דנדריטית, המבוססת על מחקר ניסויי קודם של פרופ' קנטר. דנדריטים הם זרועות דמויות עצים מסועפים היוצאים מגוף תא העצב, קולטים גירויים ומעבירים אותם אליו. אם מצטבר גירוי חזק דיו, גוף התא מעביר את המידע הלאה לאקסון, שהוא זרוע המוליכה את האות החשמלי לתאי עצב אחרים. המחקר הניסיוני הראה שלמידה מהירה יכולה להתקיים גם ברמת הדנדריט עצמו, ולא רק ברמת גוף התא כפי שמקובל היה להניח.
במשך שנים רבות רשתות נוירונים במוח ובינה מלאכותית נחקרו ללא תלות זו בזו, אך מחקרו של פרופ' קנטר מלמד שרשתות נוירונים מוחיות הן מקור לסוגים חדשים של בינה מלאכותית יעילה.
על בינג, ומהפכת הבינה המלאכותית במנועי החיפוש - הפודקאסט המלא>>>
לסרטון על למידה דנדריטית | למאמר המלא