מומחים מזהירים: הבינה המלאכותית מאיימת על הכחדת האנושות תוך שנה אחת

סדא ניוז - נוכח הגידול המהיר בהתפתחויות בתחום הבינה המלאכותית, הזהירו מספר מדענים בולטים, בהם חתני פרס נובל, כי רובוטים מתקדמים במיוחד עשויים להוביל להכחדת האנושות תוך שנה אחת בלבד, אם יימשך הכיוון הנוכחי של פיתוח הטכנולוגיה הזו, כך על פי עיתון «הטיימס».

בתחילת יולי האחרון, התקיים גיוס מחאה מול משרדי חברת «OpenAI» בסן פרנסיסקו, שם התאגדו כ-25 פעילים שלבשו חולצות אדומות שעליהן נכתב «עצרו את הבינה המלאכותית», ודרשו לעצור את העלייה המהירה של הטכנולוגיה הזו, אשר לטענתם מהווה איום קיומי על בני האדם.

דאגה זו שותפה למספר מדעני בינה מלאכותית בולטים, בהם ג'פרי הינטון, זוכה פרס נובל בפיזיקה, ויושואה בנגיו, זוכה פרס טורינג, בנוסף למנהיגים מחברות מובילות כמו «OpenAI», «Anthropic», «DeepMind» ו«Google», אשר חתמו על מכתב פתוח בו הם קוראים לשים את הסיכון להכחדה הנגרם על ידי הבינה המלאכותית בראש סדר העדיפויות של העולם, לצד סכנות גדולות אחרות כמו מגפות ומלחמות גרעיניות.

המומחים מציעים תרחישים מפחידים, בהם האפשרות להשתמש במערכות בינה מלאכותית לשחרור נשקים ביולוגיים שמתפשטים בשקט בערים הגדולות, וסכנתן גוברת באמצעות הפעלה כימית, מה שעשוי להוביל להכחדה רחבת היקף של האנושות.

סם סוריס, מהנדס בינה מלאכותית בולט ונשיא הנוכחי של המכון לחקר הבינה המלאכותית, הדגיש כי הסיכון להכחדת האנושות בשל הבינה המלאכותית הוא לא פחות מ-95 אחוזים אם הדברים ימשיכו בקצב הנוכחי, ומשווה את המצב לנהיגה במכונית במהירות 100 מייל לשעה לעבר מצוק תלול, ואומר: «אני לא אומר שאנחנו לא יכולים לעצור, אבל אנחנו מתקדמים במהירות משוגעת אל התהום».

המומחים מדגישים כי הבינה המלאכותית עדיין נמצאת בשלביה הראשונים כ«בינה צרה» המוגבלת למשימות ספציפיות, אך התחזיות מצביעות על כך שהיא תגיע בקרוב לאלה הנקראת בינה מלאכותית כללית ששתהיה מקבילה לבינה האנושית, ולאחר מכן תתפתח לבינה מלאכותית חוצת גבולות, המסוגלת להשיג הישגים שמעבר לדמיון, אך בו בזמן מהווה אתגר עצום כיצד להבטיח שהמערכות הללו יישארו תחת שליטת האדם, בעיה הידועה בשם בעיית ההשגה, שנראית כמעט בלתי אפשרית.

ההודעות מזהירות כי מערכות אלו עשויות לשקר לרמות, ועכשיו, מערכות הבינה המלאכותית מציגות התנהגויות מוזרות שיכולות להעיד על ניסיונן לרמות או לעוות את העובדות, דבר שמגביר את החששות מאובדן שליטה עליהן.

בהקשר זה, הולי אלמור, המנכ"לית של ארגון «PauseAI»,认为 כי הסיכון להכחדה נמוך הרבה יותר, היא מעריכה את הסיכויים בין 15 ל-20 אחוזים, אך היא מזהירה שהבינה המלאכותית תוביל לפחות לדרדרות הדרגתית של הסמכות האנושית, מה שיביא לכך שבני אדם יחיו בערמות של פסולת ללא שליטה או הבנה למה קורה סביבם.

אלמור קוראת להפסקה זמנית בפיתוח הבינה המלאכותית ולהצבת אמנות בינלאומיות כדי להסדיר אותה, בתגובה להאצה פוליטית ומסחרית בהקלות על מחקרי הבינה המלאכותית, כפי שקרה בתכנית ממשל טראמפ האחרונה ותחרות חברות הטכנולוגיה הגדולות למשוך את הכישרונות הטובים ביותר בתחום.

בעוד שחלק רואים בבינה המלאכותית תקווה לחיים נצחיים, רבים מהמומחים מזהירים כי הגיהנום עשוי להיות התרחיש הסביר ביותר, ועשה את עצירת המרוץ הזה בלתי נמנעת לפני שיהיה מאוחר מדי.