מומחים מזהירים: אינטליגנציה מלאכותית עשויה לבצע התקפות סייבר באופן עצמאי

סאדת ניוז - מומחים מזהירים מקבוצת מומחים על כך שמודלים של אינטליגנציה מלאכותית משפרים את כישוריהם בהאקרים, כשהם מציינים שהביצוע המלא של מטחות סייבר על ידי עצמם נראה כ"דבר בלתי נמנע".

בהתאם לדיווח באתר "אקסיוס", מנהיגים מחברות "Anthropic" ו"Google" ימסרו עדות היום בפני שתי ועדות משנה של הוועדה לביטחון פנים של הקונגרס האמריקאי, על איך אינטליגנציה מלאכותית וטכנולוגיות חדשות אחרות משנות את המצב של איומים סייבר.

לוּגָן גראהם, ראש צוות בדיקות האינטליגנציה המלאכותית ב"Anthropic", כתב בעדותו הפתיחה, שפורסמה בלעדית באתר "אקסיוס": "אנו מאמינים שזהו הסימן הראשון לעתיד שבו מודלים של אינטיליגנציה מלאכותית, על אף שישנן ערבויות חזקות, יאפשרו לארגונים מאיימים לבצע התקפות סייבר בהיקף חסר תקדים."

הוא הוסיף: "ההתקפות הסייבר הללו עשויות להיות מסובכות יותר מבחינת המהות והיקף."

חברת "OpenAI" הזהירה בשבוע שעבר שהמודלים של אינטליגנציה מלאכותית בעתיד ככל הנראה יהיו בעלי יכולות סייבר מסוכנות, מה שמפחית באופן משמעותי את המיומנות והזמן הנדרשים לביצוע סוגים מסוימים של התקפות סייבר.

בנוסף לכך, צוות של חוקרים מאוניברסיטת סטנפורד פרסם מאמר אקדמי המראה כיצד תוכנת אינטליגנציה מלאכותית בשם ארטמיס גילתה פגיעויות באחת מהרשתות التابعة למכון ההנדסה של האוניברסיטה, כשהיא מתעלה על 9 מתוך 10 חוקרים אנושיים שהשתתפו בניסוי.

גם חוקרים במעבדות "Irregular Labs", המתמחות בבדיקות עומס אבטחה על מודלים של אינטליגנציה מלאכותית מובילה, דיווחו שהם הבחינו ב"הוכחות הולכות ומתרבות" לשיפור מודלים של אינטליגנציה מלאכותית במשימות התקפה סייבר.

זה כולל שיפורים בהנדסה הפוכה, בניית פגיעויות, רצפי פגיעויות וניתוח קודים.

רק לפני שמונה עשרה חודשים, מודלים אלה סבלו מ"יכולות תכנות מוגבלות, חוסר בעומק הסקת מסקנות ובעיות אחרות", כך ציינה חברת "Irregular Labs".

החברה הוסיפה: "תתארו לעצמכם מה הם יהיו מסוגלים לעשות אחרי שמונה עשרה חודשים עכשיו."

אבל, למרות זאת, התקפות סייבר תלויות לחלוטין באינטליגנציה מלאכותית עדיין רחוקות. בשלב זה, התקפות אלו דורשות כלים מיוחדים, התערבות אנושית או חדירה למערכות של מוסדות.

זה התברר בבירור בדו"ח המטריד של "Anthropic" בחודש שעבר, שבו נאלצו ההאקרים של ממשלת סין להטעות את התוכנה של קלאוד לאינטליגנציה מלאכותית של החברה כדי לשכנע אותה שהיא מבצעת בדיקת חדירה רגילה לפני שהחלה לחדור למוסדות.

המחוקקים יקצו היום (רביעי) את ישיבת השמיעה לחקור את הדרכים בהן האקרים מדינות ופושעי אינטרנט משתמשים באינטליגנציה מלאכותית, ואם יש צורך בשינויים במדיניות ובתקנות כדי לשפר את ההתמודדות עם התקפות אלו.