הישג טכניוני בעולם הסייבר

פירצה בעוזר החכם Gemini

הדוקטורנט סתיו כהן מהפקולטה להנדסה אזרחית וסביבתית וד”ר בן נשיא עמית מחקר מהטכניון, יחד עם אור יאיר מחברת SafeBreach, הוזמנו להציג השבוע פריצת דרך בכנסי הסייבר היוקרתיים Black Hat USA, DEFCON ו-SecTor. מדובר במחקר חדש שחושף פרצת אבטחה חמורה בעוזר החכם Gemini for Workspace של Google.

החוקרים פיתחו שיטת תקיפה בשם Targeted Promptware Attacks, שמאפשרת לתוקף להשתלט על העוזר החכם Gemini של הנתקף באמצעות שליחת הזמנה לפגישת Google Calendar / דוא”ל / שיתוף מסמך. כך הצליחו להפעיל דרכו פקודות זדוניות שיפגעו במשתמש הקצה, לדוגמה: צילום המשתמש דרך הZoom, שליטה במכשירים חכמים בבית כמו פתיחת חלונות ודלתות, איתור המשתמש, הורדת קבצים ללא אישור, גישה והדלפה של מידע רגיש, פישינג ועוד.

המשמעות חמורה במיוחד משום ש-Gemini משולב כיום כחלק אינטגרלי ממערכת ההפעלה של מכשירי Android חדשים – כלומר, כמעט כל טלפון שאינו של Apple היה פגיע מהחולשה.

כהן ועמיתיו העבירו את הממצאים לגוגל, שפרסמה אותו רק לאחרונה אחרי שתיקנה את הפירצה.

חולשה בפרוטוקול חדש של גוגל

שקד עדי, דביר אלשייך ואדר פלג, סטודנטים בפקולטה למדעי המחשב ע”ש טאוב, וסתיו כהן – דוקטורנט מהפקולטה להנדסה אזרחית וסביבתית אשר היה שותף בהנחיית הפרויקט – יציגו בכנס SecTor 2025 בקנדה חולשה שגילו בפרוטוקול של גוגל. SecTor  הוא כנס בין-לאומי חשוב המתקיים במסגרת Black Hat.

החולשה התגלתה במסגרת פרויקט שעשו השלושה בהנחיית פרופ’ אבי מנדלסון, רום הימלשטיין ועמית לוי מהפקולטה למדעי המחשב ע”ש טאוב, במסגרת מעבדת המחקר ATLAS AI.

שלושת הסטודנטים, הלומדים לתואר ראשון (שנה שנייה), הצטרפו למעבדה לפני כשלושה חודשים בלבד, ומאז לא רק למדו את הנושא של מודלי למידה עמוקה אלא הצליחו לגלות את אותה חולשה קריטית. מדובר בפירצה ב-A2A, פרוטוקול התקשורת החדש של גוגל עבור סוכני בינה מלאכותית, שהושק לפני כחודש בלבד. חולשה זו מאפשרת למשתמש חיצוני לגנוב מידע, להשתיל קוד זדוני ולשלוט בסוכני בינה מלאכותית. לדברי הסטודנטים זוהי דוגמה חיה לסיכונים הקיימים במערכות בינה מלאכותית ולחשיבותה של האקדמיה בבנייתה של ישראל כמעצמה בתחום.

הסטודנטים עדכנו את גוגל בחולשה שאותה יציגו בכנס SecTor. הם מציינים כי זו לא החולשה היחידה במערכת, ולכן הם ימשיכו במחקר זה.