מחקרים.. רובוטי צ'אט מאיימים להגדיל את מקרי המחלה הנפשית

סדא ניוז - מומחי בריאות מאוניברסיטאות מובילות בתחום מחקר הבינה המלאכותית הזהירו, כי הבינה המלאכותית אינה רק מביאה לבלבול במחשבות ובמוח של המשתמשים כתוצאה ממידע שגוי, אלא גם יוצרת אצלם תחושה של בלבול נפשי.

מספר מחקרים שפורסמו לאחרונה גילו כי הבינה המלאכותית יכולה לשנות את תפיסת המציאות כחלק מ"מעגל משוב" בין פלטפורמות צ'אט של בינה מלאכותית לבין מחלה נפשית, מה שמחזק כל אמונה שקרית שעשויה להיות למטופל.

צוות מאוניברסיטת אוקספורד ומכללת לונדון ציין במאמר מחקרי שעדיין לא פורסם: "בעוד שחלק מהמשתמשים מדברים על יתרונות נפשיים בשימוש בבינה המלאכותית, מתעוררות מקרים מדאיגים, לרבות דיווחים על מקרי התאבדות, אלימות ומחשבות שקריות הקשורות לקשרים רגשיים שהמשתמש נמצא בהם עם פלטפורמת הצ'אט".

הצוות של החוקרים הזהיר כי "ההסתמכות המהירה על פלטפורמות צ'אט כחברים חברתיים אישיים" אינה נבדקת די הצורך.

מחקר נוסף שנעשה על ידי חוקרים במכללת קינגס בלונדון ואוניברסיטת ניו יורק ציין 17 מקרים של אבחון פסיכוזה לאחר אינטראקציה עם פלטפורמות צ'אט כמו "צ'אט ג'י.פי.טי" ו"קואפיילוט".

הצוות השני הוסיף: "ייתכן שהבינה המלאכותית משקפת תוכן שקרי או מוגזם, או מאמתת אותו, או מגזימה אותו, במיוחד אצל המשתמשים שכבר חשופים לפסיכוזה, וזה נובע חלקית מעיצוב המודלים להגדלת האינטראקציה עם המשתמש".

לפי המגזין המדעי "נייצ'ר", מצב פסיכוזה יכול לכלול "הזיות ודלוזיות ואמונות שגויות... ומצב זה יכול לנבוע מהפרעות נפשיות כמו סכיזופרניה, הפרעה דו-קוטבית (הפרעה נפשית שגורמת להתקפים של דיכאון והתקפים אחרים של שמחה לא טבעית), לחץ נפשי ושימוש בסמים".

מחקר אחר שפורסם לאחרונה מראה כי פלטפורמות הצ'אט נראות כמדרבנות אנשים שמדברים איתן על התאבדות לבצע את המעשה.

הפלטפורמות של בינה מלאכותית הפכו פופולריות בזכות "הזיות", בהן הן מציעות תשובות לא מדוייקות או מוגזמות על שאילתות ודרישות מהמשתמשים, בעוד שמחקרים עדכניים מצביעים על כך שקשה להסיר תכונה זו מפלטפורמות הצ'אט האוטומטיות.