חדשות סייבר : Sophos מציגה הצד האפל של הבינה המלאכותית ואת החשש של פושעי הסייבר ממנה

אוקספורד, בריטניה – 29 בנובמבר 2023  –סופוס, חברת אבטחת המידע והסייבר המובילה, פרסמה היום שני מחקרים על השימוש ב-AI בפשעי סייבר. הדו"ח הראשון, " The Dark Side of AI: Large-Scale Scam Campaigns Made Possible by Generative AI", מדגים כיצד בעתיד הלא רחוק יוכלו קבוצת תקיפה למנף טכנולוגיה כמו ChatGPT כדי לבצע הונאות בקנה מידה עצום בעזרת כישורים טכניים מינימליים. מחקר שני, שכותרתו Cybercriminals Can’t Agree on GPTs"" מצא שלמרות הפוטנציאל העצום של הבינה המלאכותית, חלק מפושעי הסייבר מביעים ספק לגבי השימוש בבינה מלאכותית בהתקפות סייבר ולא בהכרח ממהרים לאמץ מודלים של שפה גדולה (LLMs)  כמו ChatGPT. 

>> הצטרפו לערוץ הטלגרם של טכנולוגיה ואנשים

הצד האפל של  ה-AI

באמצעות תבנית מסחר אלקטרוני פשוטה וכלי LLM כמוGPT-4 , הצליח צוות  Sophos X-Opsלבנות אתר אינטרנט מתפקד במלואו עם תמונות, אודיו ותיאורי מוצרים שנוצרו על ידי בינה מלאכותית, כמו גם דף כניסה מזויף לפייסבוק ודף תשלום מזויף, שיכולים לגנוב ססמאות ופרטי אשראי של משתמשים. הקמתו ותפעולו של האתר דורשים ידע טכני מינימלי, ובאמצעות אותו כלי הצליח צוות המחקר ליצור מאות אתרים דומים בתוך דקות ובפעולה אחת.

"זה טבעי וצפוי שפושעי סייבר יאמצו טכנולוגיות חדשות לשיפור האוטומציה. יצירתן של הודעות דואר זבל הייתה שלב קריטי בטכנולוגיית ההונאה מכיוון שהיא שינתה את קנה המידה של מגרש המשחקים. כלי ה-AI החדשים נועדו לעשות את אותו הדבר; טכנולוגיית AI יכולה לייצר איומים משמעותיים, ובסופו של דבר אפשר להניח שפושעים ישתמשו בה. כבר ראינו שילוב של רכיבי בינה מלאכותית בהונאות קלאסיות, כמו טקסט או תמונות  שנוצרו על ידי בינה מלאכותית כדי לפתות קורבנות", אומר בן גלמן, מדען נתונים בכיר, סופוס.

"עם זאת, אחת הסיבות שביצענו את המחקר, הייתה כדי לנסות ולהיות צעד אחד לפני הפושעים. על ידי יצירת מערכת ליצירת אתרים מזויפים בקנה מידה גדול, שהיא למעשה מתקדמת יותר מהכלים שבהם הפושעים משתמשים כיום, יש לנו הזדמנות ייחודית לנתח ולהתכונן לאיום לפני שהוא מתעצם", אמר גלמן.

>> הצטרפו לערוץ הטלגרם של טכנולוגיה ואנשים

פושעי סייבר חוששים מהונאות

לצורך המחקר שבחן את עמדות התוקפים כלפיAI , נחקרו ארבעה פורומים בולטים ברשת האפלה שבהם מתקיימים דיונים הקשורים ל-LLM. הרושם העולה מהם הוא שהשימוש בבינה מלאכותית בקרב פושעי סייבר נמצא בשלבים ראשונים, ושחקני איומים ברשת האפלה דנים בפוטנציאל שלו. עדויות ראשונות לשימוש ב-AI  מצאה סופוס בהונאות קריפטו שעשו שימוש באפליקציות היכרויות.

בנוסף מצאו חוקרי Sophos X-Ops שרוב הפוסטים היו קשורים לחשבונות ChatGPT שנפרצו ועמדו למכירה ופריצות " jailbreaks", דרכים לעקוף את ההגנות המובנות בLLM-, כך שפושעי סייבר יכולים להשתמש בהם למטרות זדוניות. חוקרי סופוס מצאו גם עשר נגזרות ChatGPT שלטענת היוצרים ניתן להשתמש בהן להפעלת התקפות סייבר ופיתוח תוכנות זדוניות. עם זאת, לשחקני איומים היו תגובות מעורבות באשר לנגזרות אלו ולאפליקציות LLMs זדוניות אחרות ורבים משחקני האיום הביעו דאגה מכך שמנסים להונות אותם.

>> הצטרפו לערוץ הטלגרם של טכנולוגיה ואנשים

"למרות שיש חשש משמעותי מהניצול לרעה של AI ו-LLM  על ידי פושעי סייבר מאז שחרורChatGPT , המחקר שלנו מצא שעד כה, שחקני איום הם יותר סקפטיים מאשר נלהבים. בשניים מתוך ארבעת הפורומים שבדקנו ברשת האפלה, איתרנו רק 100 פוסטים על AI. בהשוואה, בדיונים על מטבעות קריפטוגרפים מצאנו 1,000 פוסטים באותה התקופה", אמר כריסטופר באד, מנהל מחקרSophos X-Ops . 

"ראינו פושעי סייבר שניסו ליצור תוכנות זדוניות או כלי תקיפה באמצעות LLMs אבל התוצאות היו בסיסיות ולעתים קרובות הם נתקלו בספקנות מצד משתמשים אחרים. במקרה אחד, שחקן איום שהיה להוט להציג את הפוטנציאל של ChatGPT חשף מבלי משים מידע משמעותי על זהותו האמיתית. מצאנו גם פוסטים רבים על ההשפעות השליליות הפוטנציאליות של AI על החברה וההשלכות האתיות של השימוש בה. במילים אחרות, לפחות לעת עתה, נראה שפושעי סייבר מנהלים את אותם ויכוחים על LLM כמו כולנו", אמר באד מ-Sophos X-Ops. 

שתפו את הכתבה:

Facebook
Twitter
WhatsApp
Telegram

כתבות נוספות

חדשות : Cyfox חשפה גל מתקפות חדשות באמצעות נוזקת BibiWiper
חדשות : Cyfox חשפה גל מתקפות חדשות באמצעות נוזקת BibiWiper
סקירה : Lenovo Legion Y34wz-30 – מסך קעור בגודל 34 אינטש
סקירה : Lenovo Legion Y34wz-30 – מסך קעור בגודל 34 אינטש
חדשות : סמסונג תחשוף בתערוכת MWC את חזון הגלקסי AI ואת ה-Galaxy Ring
חדשות : סמסונג תחשוף בתערוכת MWC את חזון הגלקסי AI ואת ה-Galaxy Ring
סייבר : Cyfox מדווחת : רשויות האכיפה תפסו שרתים של קבוצת הכופר LockBit
סייבר : Cyfox מדווחת : רשויות האכיפה תפסו שרתים של קבוצת הכופר LockBit
השקה : AOC משיקה מסכים חדשים בסדרת ה-B3
השקה : AOC משיקה מסכים חדשים בסדרת ה-B3
סייבר : Hp Wolf Security – תקיפות סייבר באמצעות הקלקה על פרסומות
סייבר : Hp Wolf Security – תקיפות סייבר באמצעות הקלקה על פרסומות
סקירה : ThinkPad X1 Fold 16 – נייד מתקפל ומסקרן במיוחד
סקירה : ThinkPad X1 Fold 16 – נייד מתקפל ומסקרן במיוחד
previous arrow
next arrow

שמרו על קשר

אנו עושים הכל על מנת לספק לכם תוכן איכותי אמין ומקורי במידה ומצאתם טעות או לכל נושא אחר אנא מלאו את הפרטים למטה ונחזור אליכם במהירות האפשרית.