«אופן איי» מאשימה שימוש לרעה ב«צ'אט ג'י פי טי» על התאבדות מתבגר

סדה ניוז - חברת «אופן איי», המפתחת של אפליקציית «צ'אט ג'י פי טי», אמרה שהתאבדותו של מתבגר בן 16 לאחר שיחות ממושכות עם הרובוט נבעה מ«שימוש לרעה בטכנולוגיה שלה ולא מהרובוט עצמו».

לפי עיתון «הגארדיאן» הבריטי, הערות אלה הגיעו בתגובה לתביעה שהגישה משפחת המתבגר אדם ריין מקליפורניה נגד החברה, ששוכנת בסן פרנסיסקו, ומנכ"ל שלה סמואל אלטמן.

ראין התאבד באפריל לאחר שיחות ממושכות ו«חודשים של עידוד מ«צ'אט ג'י פי טי», כך לפי עורך דין של המשפחה.

התביעה טוענת שהמתבגר דן בדרכי התאבדות עם «צ'אט ג'י פי טי» כמה פעמים, והרובוט הורה לו על עד כמה השיטה המוצעת היא יעילה, והציע לו עזרה בכתיבת מכתב התאבדות להוריו, ושגרסה של הטכנולוגיה שבה השתמש «הושקה בשוק במהירות... למרות בעיות ברורות הקשורות לבטיחות».

לפי המסמכים שהוגשו לבית המשפט העליון של מדינת קליפורניה ביום שלישי, חברת «אופן איי» הצהירה שהפגיעות והנזקים של ריין נגרמו ישירות ובקרבה, לחלוטין או חלקית, כתוצאה משימוש לרעה שלו, או שימוש לא מורשה, או לא מכוון, או לא צפוי, או לא תקין באפליקציית «צ'אט ג'י פי טי».

החברה הודיעה כי תנאי השימוש שלה אוסרים לבקש עצה מרובוט הצ'אט בנוגע לפגיעות עצמית, והדגישה סעיף של צמצום אחריות שמציין «אין להסתמך על התוצאות כמקור בלעדי לאמת או מידע עובדתי».

«אופן איי», שמוערכת ב-500 מיליארד דולר, הצהירה שמטרתה היא «לטפל במקרים של בריאות נפשית בבתי המשפט בזהירות, שקיפות וכבוד», וכי «למרות כל תביעה משפטית, נמשיך להתמקד בשיפור הטכנולוגיות שלנו בהתאם למשימתה».

היא הוסיפה: «אנו מביעים את תנחומינו הכנים למשפחת ריין על האבדה הכואבת שלהם».

עורך הדין של המשפחה, ג'אי אידלסון, תיאר את תגובת «אופן איי» כ«מדאיגה», ואמר שהחברה «מנסה להטיל את האשמה על אחרים, כולל, למרבה הצער, את הטענה שאדם עצמו הפר את תנאי השימוש של החברה בכך שפעל עם (צ'אט ג'י פי טי) בדרך שבה תכנתו».

בתחילת החודש הזה, הוצגו שבע תביעות נוספות נגד «אופן איי» בבתי משפט בקליפורניה בנוגע ל«צ'אט ג'י פי טי», כולל טענה שהרובוט מתפקד כ«מאמן התאבדות».

דובר מטעם החברה אז אמר: «זה מאוד עצוב, ואנחנו סורקים את המסמכים כדי להבין את הפרטים. אנו מאמנים את (צ'אט ג'י פי טי) לזהות סימני מצוקה נפשית או רגשית ולתגובה להם, להרגיע את המשתמשים ולהנחות אותם לעזרה אמיתית שהם זקוקים לה».

באוגוסט, «אופן איי» הצהירה שהיא מחזקת את אמצעי ההגנה ב«צ'אט ג'י פי טי» כאשר אנשים עוסקים בשיחות ארוכות, כי הניסיון הראה שחלק מההיבטים של הכשרה בטיחותית במודל עשויים להתדרדר במקרים אלה.

היא הוסיפה: «למשל, הרובוט עשוי להפנות בצורה נכונה לקו חם נגד התאבדות כאשר מישהו מגלה לו על כוונתו להתאבד, אך לאחר מספר הודעות לאורך זמן, הוא עלול בסופו של דבר להציע תגובה שסותרת את נהלי ההגנה שלנו. זה בדיוק סוג ההתמוטטות שאנחנו עובדים למנוע».