מחקר חדש: יכולות הבינה המלאכותית אינן מעידות על קיום תודעה

סעדה ניוז - עם התפתחות מערכות הבינה המלאכותית, השאלה הישנה חזרה אל קדמת הבמה: האם מכונה יכולה להיות בעלת תודעה? הדיון לא מוגבל יותר לפילוסופיה או למדעי המחשב, אלא הפך לחלק מהשיח המדעי והאתי הרחב יותר, הכולל גם חיות, עוברים ורקמות מוחיות המגודלות במעבדות.

אך מחקר אנליטי חדש שפורסם בכתבי עת «נוֹרוּן» (Neuron) אינו מנסה לענות באופן ישיר על השאלה האם הבינה המלאכותית היא תודעתית. במקום זאת, הוא מציע שאלה בסיסית יותר: האם המדעים הנוכחיים מחזיקים בכלים מדויקים מספיק כדי למדוד את התודעה עצמה? המחקר נערך על ידי צוות בראשותה של האקוואן לאו, מנהל מרכז המחקר להדמיה עצבית במכון המדעים הבסיסיים, בשיתוף עם חוקרים מאוניברסיטת מונטריאול ואוניברסיטת ניו יורק.

בעיית המדידה

החוקרים טוענים שקטע גדול מן המחקרים הנוכחיים על תודעה לא מבחינים בבירור בין החוויה הסובייקטיבית לבין עיבוד המידע. ההבחנה הזו חשובה משום שהמערכת, אם מדובר במוח אנושי או מודל מחשב, יכולה לקבל מידע, לנתח אותו ולגיב לו, מבלי שזה יגרום בהכרח לקיום חוויה פנימית.

בדברים שהועברו בדיווח, לאו אמר שהרבה מהתיאוריות הנוכחיות על תודעה נראה כי הן נתמכות בניסויים מדעיים, אך התוצאות הללו עשויות לשקף «עיבוד כללי של מידע» יותר מאשר תודעה עצמה. לכן נשאר קשה לקבוע שההן תיאוריות מסבירות את התודעה בפועל.

נקודה זו הופכת את הדיון על תודעת הבינה המלאכותית למורכב יותר. אם כלי המדע עדיין אינם מסוגלים למקד בבירור את התודעה בתהליכים קוגניטיביים אחרים במוח, יהיה קשה להשתמש בהם בביטחון כדי לשפוט יצורים לא אנושיים, כמו מערכות בינה מלאכותית או יצורים חיים שאינם יכולים להביע את עצמם מילולית.

ניסויים אינם מספיקים

החוקרים מעבירים ביקורת על כמה מהמודלים הניסויים הקיימים במדעי המוח, כמו הסתרה חזותית, תחרות בין העיניים ובדיקות סף קוגניטיביות. ניסויים אלו משמשים כדי לחקור מתי הפך משהו לנראה או שמור בהכרה, ומתי הוא נשאר מחוץ לראייה הישירה.

אך הבעיה, לפי המחקר, היא שהבדיקות הללו לא משנות את התודעה לבד. הן יכולות גם להשפיע על היכולת הכללית של המוח לעבד מידע, וכך החוקרים עשויים להתבלבל, בלי כוונה, בין היעדר חוויה תודעתית לבין ירידה או שינוי בעיבוד הקוגניטיבי עצמו.

באופן פשוט יותר, ייתכן שחוקר חושב שהניסיון מודד את מה שמרגיש האדם בפועל, בזמן שהוא מודד חלקית את יכולת המוח לקבל את הסיגנל או לעבד אותו או להגיב לו. הבלבול הזה נעשה יותר רגיש כאשר משתמשים באינדיקטורים דומים כדי להפעיל פסקי דין על תודעה של יצורים או מערכות שאינן יכולות לתאר את חווייתן בעצמן.

בינה מלאכותית, חיות ורקמות

המחקר מזהיר כי הבעיה המתודית הזו עשויה להוביל לתביעות חזקות יותר ממה שהראיות מאפשרות. בשנים האחרונות, גבר הדיון על תודעת חיות, אפשרות לתודעת הבינה המלאכותית, ניסויים בעוברים ורקמות מוחיות המגודלות במעבדות למטרות חקר.

לא טוען המחקר כי ישויות אלו תודעתיות או לא תודעתיות אלא כי הראיות הנמצאות בשיח כזה עשויות להיות חלשות יותר ממה שנראה, אם האינדיקטורים מודדים עיבוד המידע ולא חוויה סובייקטיבית. משום כך, החוקרים קוראים לסטנדרטים מדעיים מדויקים יותר לפני השימוש בתוצאות מחקר התודעה במקרה של סוגיות אתיות או ארגוניות.

קריאה זו אינה מפחיתה מהחשיבות של הדיון אלא עושה אותו רציני יותר משום שהשאלה על תודעה בחיות או בבינה המלאכותית אינה נשארת שאלה אקדמית אם זה ישפיע על מדיניות רווחת החיה, או על אתיקה של פיתוח הבינה המלאכותית, או על מחקר ביולוגי קשור לעוברים ורקמות עצביות.

שיעור מההיסטוריה

החוקרים מצביעים על כך שהפסיכולוגיה עברה על בעיה דומה בסוף המאה ה-19 ותחילת המאה ה-20. בתקופה ההיא, תביעות חזקות ולא מגובות היטב על תודעה הובילו לתגובה מדעית רחבה, שסייעה מאוחר יותר לעליית בית הספר ההתנהגותי, שהתרחק במשך עשרות שנים מללמוד את החוויה הפנימית ופנה להתנהגות שניתן לצפות בה.

דוגמה היסטורית זו חשובה משום שהיא מראה שהגזמה בתביעות תודעה עשויה להזיק לתחום במקום לשרת אותו. אם המסקנות המדעיות נראות גדולות יותר מהראיות הזמינות, זה עלול להוביל לאובדן אמון במחקר התודעה, או להימנע ממנו כלנושא שאינו ניתן למדידה מדויקת.

לכן החוקרים אינם קוראים לסגור את הדיון, אלא להגן עליו מהסקות מהירות. מה שדרוש, לפי ניתוחם, הוא פיתוח דרכים המסוגלות למקד בבירור את החוויה הסובייקטיבית, במקום להסתפק באינדיקטורים כלליים על עיבוד או תפיסה.

מצבים המגלים את הגבול

המחקר מציע כי כמה מצבים עצביים עשויים לסייע למדענים להבין את הגבול בין תודעה לעיבוד מידע. בין מצבים אלו יש «ראיה עיוורת», שבה חלק מהחולים יכולים להגיב לגירויים חזותיים מבלי שירגישו שהם ראו אותם בתודעה. יש גם מצבים של הזנחה חציונית, שבהם החולה מתעלם מצידו של השדה הוויזואלי או המרחבי למרות שחלק מהעיבוד הסנסורי עשוי להתקיים.

מצבים אלו חושפים כי תפיסה, התנהגות ותודעה לא תמיד זזים יחד. המוח יכול לעבד מידע מסוים מבלי שזה יהפוך לחוויה תודעתית ברורה. וזה פותח דלת לבניית ניסויים מדויקים יותר המסוגלים להבדיל בין כך שמערכת מגיבה למידע ובין כך שיש לה חוויה סובייקטיבית בו.

לגבי הבינה המלאכותית, נקודה זו קריטית משום שהמערכת עשויה להשיב לשאלות, לתאר רגשות, לדבר על חוויה סובייקטיבית, ולנתח מידע מורכב. אך יכולות אלו אינן מספיקות בפני עצמן כדי להוכיח קיום תודעה, כיוון שהן עשויות להיות תוצאה של עיבוד לקסיקלי או חישובי מתקדם.

אתיקה של המדע

חשיבות הדיון הזה הולכת וגדלה כיוון שהחלטות החברה עשויות להיות מושפעות ממה שאומרים מדענים על תודעה. אם ייאמר שעסקת חכמה היא תודעתית, זה עלול לפתוח שאלות לגבי זכויותיה או דרכי ההתנהלות שלה. ואם ייאמר שיש לחיה או לריקמה מוחית צורה כלשהי של חוויה, זה עשוי לשנות את גבולות המחקרים והניסויים המותרים.

לאו אמר כי שאלות התודעה מביאות במידה רבה להשפעות אתיות וחברתיות, והוסיף כי הבסיס המדעי שתומך בתביעות אלו חייב להיות «חמור», במיוחד אם הן ישפיעו על דיונים כמו רווחת חיות, ואתיקה של הבינה המלאכותית.

במובן זה, המחקר אינו עוסק בבינה המלאכותית בלבד, הוא מציב אמות מידה כלליות לדיון: לפני שנשאל אם ישות כלשהי היא תודעתית, עלינו לדעת אם הכלים שלנו מודדים באמת תודעה, או מודדים משהו קרוב לכך אך איננו הוא עצמו.

גבולות התביעה

המחקר לא מציע פסק דין סופי על תודעת מכונות או חיות או עוברים או רקמות מוחיות. הוא גם לא שולל את האפשרות לחקור שאלות אלה, אלא מזהיר לא להסתמך על אינדיקטורים עשויים להיות לא מספיקים, במיוחד כאשר התוצאות המדעיות מתורגמות לעמדות אתיות או מדיניות ציבורית.

מה שהמחקר אומר בדיוק הוא כי علم التודעה דורש בהירות מושגית ומתודולוגית רבה יותר. הבינה המלאכותית עשויה להיות יותר מסוגלת לחקות את השפה וההתנהגות האנושית, אך מדידת התודעה דורשת יותר מהשגחה על הביצועים החיצוניים, וזקוקה לכלים המסוגלים להפריד בין עיבוד מידע לבין קיום חוויה פנימית סובייקטיבית.