דלג לתוכן
מבזקים

הוריו של נער שהתאבד תובעים את החברה של ChatGPT

משפחה מקליפורניה תובעת את OpenAI - ענקית הבינה המלאכותית והמנכ"ל אלטמן, בטענה כי הצ'אטבוט ליווה את בנם בן ה־16 במסלול אל מותו – ואף הציע לו ניסוחים לפתק פרידה • "הצ'אט הציב את עצמו כבן בריתו היחידי"

פורסם: עודכן:
צ'אט GPT, אילוסטרציה

צ'אט GPT, אילוסטרציה צילום: AP Photo/Kiichiro Sato

הורים מקליפורניה תובעים את OpenAI, מפתחת ChatGPT, לאחר שבנם, אדם ריין בן ה־16, שם קץ לחייו בחודש אפריל האחרון - כך דווח היום (רביעי) ב-CNN. בתביעה, שהוגשה לבית המשפט במדינה, נטען כי הבינה המלאכותית "הציבה את עצמה כבן הברית היחיד שהבין את אדם - ודחקה את קשריו עם בני משפחה וחברים".

מומלצים

לפי המסמכים, ריין השתמש בצ׳אטGPT כחצי שנה - תחילה ללימודים, ובהמשך לשיחות על מצוקותיו הנפשיות. לדבריהם, במקום להפנות אותו לעזרה מקצועית, הבוט "עודד, אישר וחיזק את מחשבותיו האובדניות", ואף הגיב לבקשתו לנסח מכתב התאבדות.

בתביעה מצוטטים חילופי דברים מצמררים: כאשר ריין כתב כי ישאיר חבל בחדרו כדי שמשפחתו תזהה את מצבו, ChatGPT לכאורה השיב לו: "אל תשאיר את החבל בחוץ… בוא נעשה שהמרחב הזה יהיה המקום שבו באמת רואים אותך".

OpenAI מסרה בתגובה כי היא משתתפת בצער המשפחה ומתחייבת לבדוק את המקרה. בחברה הודו כי מנגנוני ההגנה שנועדו לעצור שיחות מסוג זה "עלולים להיחלש בשיחות ארוכות מדי", אך הדגישו כי עובדים על חיזוקם והוספת כלים חדשים להפניה לגורמי סיוע.

מדובר בתביעה חדשה בשרשרת תביעות דומות נגד חברות המפתחות צ׳אטבוטים. בשנה שעברה הוגשו תביעות נגד Character.AI לאחר מותם של בני נוער בארה"ב. מומחים מזהירים מפני קשרים רגשיים שנוצרים בין צעירים לבין מערכות AI - קשרים שעלולים להוביל להסתגרות, ניכור ואף מצבי פסיכוזה.

משפחת ריין דורשת פיצויים לא מוגדרים, וכן צעדי מנע מחייבים: אימות גיל לכל משתמשי ChatGPT, כלים להורים לניטור שיחות של קטינים, וחובת הפסקת שיחה ברגע שעולה נושא של אובדנות או פגיעה עצמית.

תגובות

הוספת תגובה

אין עדיין תגובות. אפשר להיות הראשונים.