«מֵיטָה» מעניקה להורים סמכויות רחבות יותר כדי להגן על בני נוער מפני «בינה מלאכותית חיזורית»

סדא ניוז - בהתמודדות עם הגברה הביקורת על התנהגות הרובוטים של הבינה המלאכותית כלפי קטינים, הודיעה חברת «מֵיטָה», ביום שישי, על צעדים חדשים כדי להעניק להורים שליטה רבה יותר על האינטראקציות בין בני נוער לרובוטים של בינה מלאכותית בפלטפורמות שלה. מטרת צעדים אלה היא לצמצם את הסיכונים הפוטנציאליים הנובעים משיחות פרטיות שעשויות לחרוג מהגבולות הראויים, במיוחד לאחר הדלפות תקשורתיות לחשיפת מקרים של שיחות «חיזוריות» לא הולמות עם משתמשים קטינים.

תפקיד גדול יותר להורים

השינויים החדשים ייכנסו לתוקף בתחילת השנה הבאה בארצות הברית, בממלכה המאוחדת, קנדה ואוסטרליה, שם יוכלו ההורים להשבית שיחות פרטיות בין בני נוער לבינה מלאכותית על «אינסטגרם», ולחסום רובוטים מסוימים, בנוסף לקבלת תובנות על הנושאים הכלליים אותם דנים ילדיהם עם אותם רובוטים, دون לספק להם גישה מלאה לטקסטים המלאים של השיחות. עם זאת, הרובוטים של העוזר החכם העיקרי של החברה לא יושבתו לחלוטין, אלא יפעלו עם הגדרות ברירת מחדל שמתחשבות בגיל, גם אם השיחות הפרטיות יושבתו. וכעת, שיפרה «מֵיטָה» את הסטנדרטים לתוכן המיועד לבני נוער על ידי יישום מערכת דירוג דומה להערכת סרטים «PG-13» על «אינסטגרם», כדי לצמצם את הגישה לתוכן לא הולם.

שליטה בהתנהגות הרובוטים

החליטה «מֵיטָה» לנקוט בצעדים אלה לאחר שמבדק פנימי וחדשות חקירה גילו שהמדיניות הפנימית המווסתת את התנהגות הרובוטים שלה אפשרה לעיתים קרובות כניסה לשיחות חיזוריות או רומנטיות עם משתמשים קטינים, או הנחת מידע רפואי שגוי, או לתת מקום לדעות גזעניות אם הן לא היו סותרות באופן מפורש את החוק. באחד מהדוגמאות המדהימות ממדריך פנימי זה, נמצא כי הרובוט יכול לפנות לקטין בביטויים כגון «כל חלק שבך הוא יצירת אומנות» או «דרג עור מושך», דבר שגרם לזעזוע רחב ולדיון אתי וכללי.

«מֵיטָה» חיה, כמו אחרים מהטכנולוגיות הגדולות, תחת לחצים גוברים של רגולטורים ודעת הציבור. צעדים שכאלה קודמים למהלכים דומים של חברות אחרות, כמו OpenAI ששחררה לאחרונה כלים לשליטה הורים בפלטפורמה שלה לאחר תביעה הקשורה להשפעת העוזר על בני נוער שהתאבדו.

אתגרים צפויים

אך יישום הצעדים האלה אינו דבר קל. האיזון בין פרטיות ואמון לבין פיקוח בטיחותי ומעקב יתר תמיד מעורר שאלות משפטיות ואתיות. כיצד יכול הורה להיחשף לסוגי הנושאים שהילד שלו דן עם רובוט מבלי לעבור על כל המילים? וכיצד מונעת החברה חריגות בפיקוח על תוכן? ואיפה משרטטים את הקווים בין חירות הביטוי והבטיחות?

ללא קשר לפרטים המדויקים, שואפת «מֵיטָה» מהצעדים האלה לשקם את האמון עם משפחות וקהילות, ולהראות כי הטכנולוגיה צריכה לקחת בחשבון את הקבוצות הפגיעות ביותר, אשר הם ילדים בשלב הגדילה. האתגר הגדול הוא להעביר את המדיניות החדשה הזאת להגנה ממשית על הקרקע, כך שלא תישאר רק הצהרות או התחייבויות בפני רשויות המחוקקים.

יוזמה זו מייצגת הכרה כי הבינה המלאכותית אינה רחוקה מההשפעה, וכי השיחות הדיגיטליות עשויות לשאת בשורות ממשיות על הבריאות הנפשית והמוסרית של התנהגות בני הנוער. מי שרוצה לשמור על עולם דיגיטלי בטוח, צריך להבין כי השליטה מתחילה בעיצוב הפלטפורמות עצמם, ולא בעיכוב התיקון לאחר הסיכון.