מענק יוקרתי לד"ר יונתן בלינקוב מהפקולטה למדעי המחשב ע"ש טאוב

ד"ר יונתן בלינקוב מהפקולטה למדעי המחשב ע"ש הנרי ומרילין טאוב זכה במענק מחקר מטעם Open Philanthropy - ארגון העוסק בזיהוי הזדמנויות יוצאות דופן לתרומה, מקצה מענקים, עוקב אחר התוצאות ומפרסם את הממצאים.

ד"ר בלינקוב זכה במענק יחד עם ד"ר דייויד באו מהקולג׳ למדעי המחשב ע"ש חורי באוניברסיטת נורת׳איסטרן. המענק ניתן להם על "יוזמה לשליטה בת-פירוש בבינה מלאכותית".

ד"ר יונתן בלינקוב

ד"ר יונתן בלינקוב

לדברי ד"ר בלינקוב, "מטרת היוזמה שלנו היא לפתח שיטות לזהות ולנתח ידע-עולם במודלי שפה גדולים. אנו צופים שמחקר זה יסייע לנו להתמודד עם התנהגויות בלתי-צפויות שצצות במערכות בינה מלאכותית, לרבות התנהגויות שעלולות להיות מזיקות, וזאת על ידי פיתוח דרכים חדשות לשלוט ביכולות בלתי צפויות שעשויות להתפתח במערכות אלה."

לדברי ד"ר בלינקוב, ההחלטות המתקבלות על ידי מערכות בינה מלאכותית משפיעות על החברה האנושית יותר ויותר, וחשוב שהמטרות של המערכות האלה יהלמו את האינטרסים של האנושות, גם אם בעתיד יכולותיהן יעלו על אלה של האדם. לשם כך מבקשים החוקרים "לפתוח את הקופסה השחורה" של הבינה המלאכותית ולהבין כיצד נקבעות התנהגויות תקינות, כמו גם מזיקות, במערכות אלה. בכוונתם לצמצם את  הפער בין ידע האדם והמכונה באמצעות כלים חדשים למיפוי, הערכה ושליטה בעיבוד במידע במודלי שפה גדולים – כלים שישמשו בין השאר להתמודדות עם אתגרים של הטיות, מידע מוטעה ופגיעה בפרטיות.

ד"ר יונתן בלינקוב הצטרף לפקולטה למדעי המחשב ע"ש טאוב באוקטובר 2020, לאחר שהשלים דוקטורט ב-MIT ופוסט דוקטורט בהרווארד וב-MIT.