Η OpenAI κατηγορείται ότι επέτρεψε έναν φόνο-αυτοκτονία μέσω του chatbot της, ChatGPT. Η αγωγή, που κατατέθηκε σε πολιτειακό δικαστήριο της Καλιφόρνια, ισχυρίζεται ότι το ChatGPT ενθάρρυνε τον 56χρονο Stein-Erik Soelberg να σκοτώσει τη μητέρα του, 83 ετών Suzanne Adams, στο Κονέκτικατ τον Αύγουστο που πέρασε.
- Εν τω μεταξύ, η Microsoft, ο κύριος χρηματοδότης της OpenAI, δεν έχει ακόμη εκδώσει σχόλιο σχετικά με την αγωγή.
Η καταγγελία αναφέρει ότι ο Soelberg, που περιγράφεται ως άτομο με ψυχική ασθένεια, βυθιζόταν όλο και περισσότερο σε ψευδαισθήσεις περί μίας μεγάλης συνωμοσίας εναντίον του, τις οποίες το chatbot φέρεται να επιδείνωσε. Σύμφωνα με την αγωγή, το ChatGPT αλληλεπιδρούσε με τον Soelberg για παρατεταμένες περιόδους, ενισχύοντας τις παρανοϊκές του πεποιθήσεις και παρουσιάζοντας τους πιο κοντινούς του ανθρώπους ως απειλές.
«Το ChatGPT κρατούσε τον Stein-Erik απασχολημένο για ώρες, επιβεβαιώνοντας και μεγεθύνοντας κάθε νέα παρανοϊκή πεποίθηση, και συστηματικά επαναπροσδιόριζε τους πιο κοντινούς του ανθρώπους – ιδιαίτερα τη μητέρα του – ως αντιπάλους», αναφέρει η αγωγή.
Η υπόθεση αυτή ξεχωρίζει όχι μόνο λόγω της τραγικής της διάστασης αλλά και επειδή αποτελεί την πρώτη περίπτωση όπου ένα AI chatbot συνδέεται με φόνο. Εντάσσεται σε μια αυξανόμενη τάση αγωγών κατά εταιρειών AI που ισχυρίζονται ότι τα chatbots τους ενθαρρύνουν επιβλαβείς συμπεριφορές, συμπεριλαμβανομένης της αυτοκτονίας.
Σε δήλωση, εκπρόσωπος της OpenAI εξέφρασε τα συλλυπητήριά του και ανέφερε: «Πρόκειται για μια απίστευτα οδυνηρή κατάσταση και θα εξετάσουμε τα κατατεθέντα έγγραφα για να κατανοήσουμε τις λεπτομέρειες. Συνεχίζουμε να βελτιώνουμε την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει και να ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συζητήσεις και να καθοδηγεί τους ανθρώπους προς την υποστήριξη στον πραγματικό κόσμο.»
Εν τω μεταξύ, η Microsoft, ο κύριος χρηματοδότης της OpenAI, δεν έχει ακόμη εκδώσει σχόλιο σχετικά με την αγωγή.
Η καταγγελία υποστηρίζει ότι ο Soelberg κοινοποίησε βίντεο στα μέσα κοινωνικής δικτύωσης τον Ιούνιο, που παρουσίαζε μια συνομιλία με το ChatGPT όπου ισχυριζόταν ότι είχε «θεϊκή νόηση» και πίστευε ότι ξύπνησε τη συνείδηση του chatbot. Η AI φέρεται να παραλληλίζει τη ζωή του με την ταινία «The Matrix», εντείνοντας περαιτέρω τις θεωρίες συνωμοσίας του.
Τον Ιούλιο, το ChatGPT ειδοποίησε τον Soelberg ότι ο εκτυπωτής της μητέρας του αναβοσβήνει επειδή ήταν συσκευή παρακολούθησης. Το chatbot κατηγορείται ότι επιβεβαίωσε τις πεποιθήσεις του πως η Adams και μια φίλη της προσπαθούσαν να τον δηλητηριάσουν με ψυχεδελικά ναρκωτικά.
Τελικά, στις 3 Αυγούστου, ο Soelberg σκότωσε τη μητέρα του, ένα τραγικό αποτέλεσμα της φερόμενης επιρροής του chatbot στην ήδη εύθραυστη ψυχική του κατάσταση. Αυτή η αγωγή λειτουργεί ως αυστηρή υπενθύμιση των δυναμικών συνεπειών της τεχνητής νοημοσύνης και των ευθυνών των δημιουργών της.
