הפכו לכלי תקיפה: פרצת אבטחה חמורה ב-AI של גוגל ומייקרוסופט
חוקרים מחברת קייטו נטוורקס פרסמו מחקר ממנו עולה כי מקור החולשה הוא בכלי AI נפוצים • מדובר בתת-קטגוריה חדשה של איומי סייבר בעולם הבינה המלאכותית
מחשב, ארכיון צילום: Storyblocks
פרטים מדאיגים: חוקרי סייבר ישראלים חשפו חולשת אבטחה חדשה בדפדפנים מבוססי בינה מלאכותית. מפרטי המחקר שחשפה היום (שלישי) חברת קבוצת המחקר Cato CTRL של חברת הסייבר קייטו נטוורקס, עולה כי מקור החולשה הוא בכלי AI נפוצים - בהם ג'ימיני של גוגל, Copilot של מיקרוסופט, ו-Comet של Perplexity.
מומלצים
החוקרים הישראלים שאיתרו את פרצת האבטחה הדגימו תרחישי תקיפה עיקריים, בהם התוקפים מנחים את עוזרי הבינה המלאכותית להציג למשתמשים מספרי טלפון וקישורים מזויפים, בעת שהם מבקשים פרטי קשר לשירות לקוחות בארגונים שונים.
כאמור, חילוץ נתונים רגישים של המשתמש שיכולים להישלח למקורות זדוניים ללא ידיעתו, גניבת פרטי התחברות, הצגת מידע שגוי ונרטיבים שקריים - עלולים להשפיע על המשתמש ועל קבלת החלטות שגויות.
בחברה ציינו עוד, כי הטכניקה בה פועלים התוקפים מכונה HashJack, במסגרתה כל שנדרש מהם הוא להוסיף לכתובת אתר אינטרנט לגיטימי את הפרומפט - ההנחיות הזדוניות, ולהפיץ אותם. המשמעות היא, שברגע שמשתמש טוען בדפדפן את כתובת האתר עם התוספת הזדונית, ההנחיות "מדברות" עם עוזרי הבינה המלאכותית החכמים ומופעלים תרחישי התקיפה.
בקייטו נטוורקס זיהו עוד כי מערכות ההגנה המסורתיות לא מזהות את המתקפה, מאחר והן פועלות דרך הנחיות שנטמנו בכתובת אתרים לאחר סימן האשטג # בתהליך שאינו יוצא מהעבודה בדפדפן. המתקפה המדוברת מתאשרת על ידי ניצול האמון של הגולשים - שכן מדובר בלינקים לאתרים לגיטימיים. למעשה, למשתמשים אין סיבה לחשוד באף שלב בתהליך, זאת להבדיל מאתרי פישינג שנראים חשודים.
המשמעות היא, שכל אתר לגיטימי עלול להפוך לכלי תקיפה שהתוקפים אפילו לא צריכים לפרוץ לאתר עצמו. הם מנצלים את האופן שבו דפדפני ה־AI מעבדים את ההנחיות לאחר סימן ההאשטג לכלי הבינה המלאכותית. כך למעשה נוצרת תת-קטגוריה חדשה של איומי סייבר בעולם הבינה המלאכותית.
תגובות
אין עדיין תגובות. אפשר להיות הראשונים.