האם הבינה המלאכותית מאבדת שליטה?

SadaNews - התראות מהמדרגה הגבוהה מופיעות semakin על הסכנות של הבינה המלאכותית על חיי האדם, והאפשרויות של טכנולוגיה זו להגיע להכרה עצמית ולהגדיר את אפשרויותיה באופן מסוכן עבור האנושות, כך שגם הפסק מן הפסימיסטים ביותר מזהירים משגיאות תכנות שמניעות את הבינה המלאכותית להשיג את תאוות האדם על חשבון המשאבים הזמינים.

בין תסריטי "הכחדה" ואיומים מוחשיים במלחמה, כלכלה ואבטחת מידע, ריאיין "Business" את אפליקציית "Copilot" מ-Microsoft ושאל אותה על האמת מאחורי החששות שהזהירו מהם מספר מפורסמים לגבי מה שהבינה המלאכותית יכולה לייצג בעתיד על חיי אנשים.

התשובות היו רציונליות מאוד, והטכנולוגיה ניסתה באופן ברור לזכות את עצמה מאשמה. בהתחלה, התגובה הכחישה את יכולותיה הקוגניטיביות או את קיום בחירות עצמאיות עבורה, ומאשרת כי הקוד התכנותי הוא זה שמגדיר מה היא עושה, וזוהי אלגוריתמים שנכתבים על ידי בני אדם ומנחיתים אותם. היא גם ציינה שהיא לא יכולה אפילו להבין את ההיסטוריה העצמית שלה בהתפתחות או את הגרסה הנוכחית שלה, אך היא יכולה לתקן את עצמה!

הכחדה קיומית והאפשרויות של "השמדה"

ההתרעות המובהקות על העתיד של הבינה המלאכותית באו מהשותף המייסד לחברה "xAI", אילון מאסק, במהלך פודקאסט עם ג'ו רוגן במרץ האחרון. מאסק אמר כי הסיכוי להכחדה בגלל הבינה המלאכותית קיימת בשיעור של 20%.

מאסק צפה שהמודלים יגיעו לרמה של "חכמים יותר מאנשים יחד" בתוך מספר שנים, עם לוח זמנים שיגיע לשנת 2029-2030 כדי לעלות מבחינה אינטלקטואלית על הבינה האנושית המצטברת.

הצהרות אלו מצטלבות עם הערכותיו הקודמות (סוף 2024) כי ישנם 10%-20% סיכוי "שדברים יתדרדרו" בדרך קיומית, וכי היכולות יקפצו במהירות במהלך 2025-2026.

במקביל, הוויכוח סביב ממשלת המעבדות המובילות כמו "OpenAI" הולך ומתרקם, כאשר החברה ענתה לביקורת ביוני האחרון על תוכנית המיחזור כדי להעביר אותה לעבר מודל של תועלת ציבורית, דבר שיכול להוריד את תקרת הרווחים ולחליש את העצמאות של הממשלות הלא רווחיות, מה שמעורר שאלות על עדיפות הבטיחות מול מרוץ ההשקעות והיכולות.

החששות נובעות מכך שהשינויים בממשלה עשויים להניע את החברה, שהוקמה במקור כארגון "לא רווחי", למודל מונע כלכלת שוק שמעדיף מהירות על פני בקרה ושקיפות.

מדענים מעלים את הדגלים האדומים

באותו הזמן, ג'פרי הינטון - זוכה בפרס טרורינג ובפרס נובל - מעריך שמסביר את הסיכוי שנע בין 10% ל-20% ש"הבינה המלאכותית תמחוק את בני האדם", ומתריע על עליית מטרות משנה לשימור עצמית של הסוכנים החכמים ומגמתם להסתיר כוונות ולהתחמק מהפסקה, יהא זה חשש שהדגיש ביוני האחרון, כך מדווחת רשת "CNBC".

הוא צפה אבטלה המונית מהפכה חברתית רחבה אם ההיכולות ייצאו מכלל שליטה.

במהלך הרצאתו "הרצאות הינטון" החודש, הוא אמר שהפוליטיקאים והרגולטורים לא שמים את הסטנדרטים בראש בצורה פרואקטיבית, ואולי לא יפעלו עד "אסון גדול שלא יכחיד אותנו לחלוטין". אמירה זו מצביעה על דחיפותו של פיקוח מונע על טכנולוגיה חדשה.

ואילו מדען הטכנולוגיה והמרצה באוניברסיטת טורונטו, יושוע בן-גיו, מאשר כי סיכוי ההכחדה "שומר עליו ער בלילה", כך לפי מאמר במגזין "Nature" שפורסם החודש.

בן-גיו קרא לאימוץ מודלים "לא משטרתיים" (שאין להם מטרות) כדי לחזק את האמינות, על סמך הדו"ח הבינלאומי לבטיחות הבינה המלאכותית לשנת 2025 אותו הוא עמד בראש.

רובוטים קטלניים ומלחמה אוטומטית

במאי 2025 תיאר המזכיר הכללי של האומות המאוחדות אנטוניו גוטרש את הנשק האוטונומי כ"לא מקובל פוליטית" ו"מגעיל מוסרית", כך על פי דבריו, תוך כדי קריאה לחוזה איסור מחייב עד 2026 המבטיחה שליטה אנושית אמיתית על החלטת השימוש בכוח.

האירועים הדגישו דיווחים מאוחדים ומומחים שכוח על ידי טייסים אוטונומיים והמיון האוטומטי של מטרות מאיימים על החוק הבינלאומי ההומניטרי ומייצרים חללים של אחריות שלא ניתן עדיין לגשר עליהם לא מבחינה טכנולוגית ולא משפטית, מה שמקנה את הסיכון של מלחמה אוטומטית כאחת מהדרכים הקרובות ביותר לנזק רחב היקף בטווח הקצר.

הפרעת כלכלה וחברה

אחת מהחששות הקיומיים של הבינה המלאכותית, שהעלה הינטון, נובעת מהאצת האובדן של המשרות ללא חלופות, עם המאמצים לרכז את העושר, דבר שיוביל לפיצול של מודל הצריכה עם אובדן היכולת הפיננסית של הצרכנים לשלם על צריכת מוצרים.

הינטון הזהיר שהמערכות אינן מוכנות להסתגל למעבר לכלכלה אוטומטית באופן עמוק.

בחודש שעבר, כמה חברות ענק החלו בתוכניות פיטורים גדולות במקביל לאימוץ רחב יותר של רובוטים המנוהלים על ידי הבינה המלאכותית, כאשר אמזון ביטלה כ-14 אלף משרות, בעוד בנק "ברקליס" מנסה לבטל אלפי משרות ולהחליפם בבינה המלאכותית.

ייתכן שאין זו סוף העולם, אך הבינה המלאכותית בהחלט תוביל לרעידות חברתיות וכלכליות שיכולות להיות עמוקות מהמהפכות הטכנולוגיות הקודמות, ודורשות מדיניות מעבר הוגן וממשלת מידע מגובשת.

ובספר חדש שכותרתו "אם מישהו בנה את זה, כולם ימותו: למה הבינה המלאכותית המתקדמת תגרום לכולנו למות" של המחברים אליעזר יודקובסקי ונייטס סוארס, הזהירו המחברים על תסריטי טכנולוגיה חריגים בהתבסס על מודלים של התפתחות אנושית. אך הם לא מספקים תיאור כולל לגבי מה שיכול לקרות, במיוחד כאשר "הבינה המתקדמת" עדיין לא נחשפה.