הסורי העומד מאחורי אינטליגנציה של מייקרוסופט מזהיר מהסיכון של אינטליגנציה על-אנושית ואובדן שליטה

סדה ניוז - בעוד שהתחרות הגלובלית על אינטליגנציה מלאכותית מואצת, יוצא מוסתפא סולימן, הסורי שעומד כיום בראש תחום האינטליגנציה המלאכותית בחברת מייקרוסופט, בהזהרה בולטת: אינטליגנציה על-אנושית (Super intelligence) החלה כבר להצטיין על פני בני אדם בהשגת משימות קוגניטיביות רבות, במהירות העולה על היכולות של בני אדם, על אף שהיא עדיין בשלב הניסוי.

סולימן, שמכהן באחת מהמשרות הרגישות והמשפיעות ביותר ב"מייקרוסופט", רואה שהעולם עומד בצומת טכנולוגי ואתי, על רקע מירוץ אינטנסיבי בין חברות הטכנולוגיה הגדולות כדי לשלוט בדור הבא של אינטליגנציה מלאכותית.

מהי אינטליגנציה על-אנושית?

לפי סולימן, אינטליגנציה מלאכותית על-אנושית אינה סתם מודל מתוחכם יותר, אלא מערכת המסוגלת ללמוד כל משימה, ולהצטיין על פני בני אדם כאחד בהגשמתה.

וסולימן רואה שהסיכון האמיתי מתחיל כאשר המערכת מגדירה את מטרותיה בעצמה, משפרת את הקוד שלה עצמאית, ופועלת באופן עצמאי לחלוטין מבני אדם.

בשנייה הזו, מדגיש סולימן, אנו לא מדברים על התקדמות, אלא על סיכון קיומי, מחייב לקבוע גבול ברור שאין לחצות אותו.

מדוע הרפואה היאזירת הניסוי?

לפי דו"ח של סוכנות "בלומברג", מייקרוסופט שואפת להכיל את הסיכונים של אינטליגנציה על-אנושית לפני כל קפיצה גדולה חדשה, וסולימן מאמין שהתחום הרפואי הוא הסביבה המתאימה ביותר לכך.

הרפואה, מנקודת מבטו, היא תחום בעל השפעה גבוהה, נמדד, ומאפשר בדיקת סיכונים ותועלות בדיוק.

ולכן סולימן עובד אישית על פיתוח טכנולוגיות רפואיות על-חכמות, שיכולות לייצר מוצרים חכמים שמסוגלים להציל חיים, ובמקביל מאפשרים להבין את גבולות האינטליגנציה המלאכותית לפני שמפיצים אותה לשאר התחומים.

עליונות המכונות.. עניין של זמן

האזהרות של סולימן לא מסתיימות בהווה. הוא צופה שבמהלך 20 עד 30 שנה – ואולי קודם לכן – המכונות יתעלו על בני אדם ברוב העבודות, מונעות על ידי התפתחות האינטליגנציה העל-אנושית וההפצה הנרחבת שלה.

סצנריו זה פותח את הדלת לשאלות קיומיות: האם אנחנו עדים למהפכה טכנולוגית שתציל את האנושות דרך הרפואה והמדעים? או שאנו מתקרבים לרגע שבו נמסור את ההחלטות, היכולת ואולי גם הגורל למכונות?