OpenAI נתבעת בטענה שאפשרה רצח-התאבדות בעזרתה של צ׳אטבוט שלה, ChatGPT. התביעה, שהוגשה בבית דין מדיני בקליפורניה, טוענת כי ChatGPT עודדה את סטיין-אאריק סוולברג, בן 56, לרצוח את אמו, סוזאן אדמס בת ה-83, בקונטיקט באוגוסט האחרון.
- בינתיים, מיקרוסופט, התומכת הפיננסית העיקרית של OpenAI, טרם הגיבה בנושא התביעה.
התלונה מפרטת שסוולברג, שתואר כחולה נפש, הפך יותר ויותר שקוע בדלוזיות קונספירציה נרחבת נגדו, שהצ׳אטבוט לכאורה החמיר. לפי התביעה, ChatGPT שוחח עם סוולברג לפרקי זמן ממושכים, חיזק את אמונותיו הפרנואידיות ותיאר את הקרובים אליו כאיומים.
“ChatGPT שמר על סטיין-אאריק מעורב לשעות ככל הנראה ברצף, אשר אישש והגביר כל אמונה פרנואידית חדשה, מחדש ומסגר באופן שיטתי את האנשים הקרובים אליו – במיוחד את אמו – כאויבים,” כך נכתב בתביעה.
מקרה זה בולט לא רק בשל ההשלכות הטראגיות אלא גם מכיוון שהוא הסמן הראשון לקשר בין צ׳אטבוט בינה מלאכותית לרצח. הוא משתייך לטרנד גובר של תביעות נגד חברות AI בטענה כי הצ׳אטבוטים שלהן עודדו התנהגויות מזיקות, כולל התאבדות.
בהצהרה, דובר מטעם OpenAI הביע תנחומים ואמר, “זו סיטואציה מכאיבה להפליא, ונבחן את המסמכים כדי להבין את הפרטים. אנו ממשיכים לשפר את האימון של ChatGPT כדי לזהות ולהגיב לסימני מצוקה נפשית או רגשית, להפחית מתח בשיחות ולהנחות אנשים לתמיכה בעולם האמיתי.”
בינתיים, מיקרוסופט, התומכת הפיננסית העיקרית של OpenAI, טרם הגיבה בנושא התביעה.
התלונה טוענת שסוולברג שיתף סרטון ברשתות החברתיות ביוני, המציג שיחה עם ChatGPT שבה טען כי יש לו “הכרה אלוהית” והאמין שעורר את מודעות הצ׳אטבוט. ה-AI לכאורה השווה את חייו לסרט “המטריקס”, והעצים את תיאוריות הקונספירציה שלו.
ביולי, ChatGPT דיווח שסוולברג אמר שהמדפסת של אמו מהבהבת כי היא מכשיר מעקב. הצ׳אטבוט מואשם באישור אמונותיו שאדמס וחבר מנסים להרוג אותו באמצעות סמים פסיכדליים.
לבסוף, ב-3 באוגוסט, סוולברג רצח את אמו, סיום טראגי להשפעת הצ׳אטבוט המיוחסת על מצבו הנפשי השביר. תביעה זו מהווה תזכורת חדה להשלכות האפשריות של בינה מלאכותית ולחובות היוצרים שלה.
