Γονείς εφήβου που αυτοκτόνησε μηνύουν το OpenAI – Το ChatGPΤ του έδωσε αναλυτικές οδηγίες για το πώς να το κάνει
Ένα ζευγάρι από την Καλιφόρνια μηνύει την OpenAI για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το chatbot της, ChatGPT, τον ενθάρρυνε να αυτοκτονήσει.
Η αγωγή κατατέθηκε από τον Ματ και τη Μαρία Ρέιν, γονείς του 16χρονου Άνταμ Ρέιν, στο Ανώτατο Δικαστήριο της Καλιφόρνια την Τρίτη. Είναι η πρώτη νομική ενέργεια που κατηγορεί την OpenAI για πρόκληση θανάτου.
Η οικογένεια συμπεριέλαβε αρχεία καταγραφής συνομιλιών μεταξύ του 16χρονου, ο οποίος πέθανε τον Απρίλιο, και του ChatGPT, τα οποία τον δείχνουν να εξηγεί ότι έχει αυτοκτονικές σκέψεις. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις «πιο επιβλαβείς και αυτοκαταστροφικές σκέψεις» του.
«Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν σε αυτή τη δύσκολη περίοδο», δήλωσε η εταιρεία.
Επίσης, δημοσίευσε μια σημείωση στον ιστότοπό της την Τρίτη, στην οποία αναφέρεται ότι «πρόσφατες σπαρακτικές περιπτώσεις ατόμων που χρησιμοποιούν το ChatGPT εν μέσω οξείας κρίσης μας βαραίνουν πολύ». Πρόσθεσε ότι «το ChatGPT είναι εκπαιδευμένο να κατευθύνει τους ανθρώπους να αναζητήσουν επαγγελματική βοήθεια», όπως η τηλεφωνική γραμμή αυτοκτονίας.
Η εταιρεία αναγνώρισε, ωστόσο, ότι «υπήρξαν στιγμές όπου τα συστήματά μας δεν συμπεριφέρθηκαν όπως προβλέπεται σε ευαίσθητες καταστάσεις».
Η αγωγή, σύμφωνα με το το BBC, κατηγορεί την OpenAI για αμέλεια και πρόκληση θανάτου. Επιδιώκει αποζημιώσεις καθώς και «ασφαλιστικά μέτρα για να αποτρέψει κάτι παρόμοιο να συμβεί ξανά».
Σύμφωνα με την αγωγή, ο Άνταμ Ρέιν άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ως εργαλείο για να τον βοηθήσει με τις σχολικές του εργασίες. Το χρησιμοποιούσε επίσης για να εξερευνήσει τα ενδιαφέροντά του, συμπεριλαμβανομένης της μουσικής και των ιαπωνικών κόμικς, και για καθοδήγηση σχετικά με το τι να σπουδάσει στο πανεπιστήμιο.
Σε λίγους μήνες, «το ChatGPT έγινε ο πιο στενός έμπιστος άνθρωπος του εφήβου», αναφέρει η αγωγή, και άρχισε να μιλάει ανοιχτά για το άγχος και την ψυχική του δυσφορία.
Μέχρι τον Ιανουάριο του 2025, η οικογένεια λέει ότι άρχισε να συζητά μεθόδους αυτοκτονίας με το ChatGPT.
Ο Ρέιν ανέβασε επίσης φωτογραφίες του στο ChatGPT που έδειχναν σημάδια αυτοτραυματισμού, αναφέρει η αγωγή. Το πρόγραμμα «αναγνώρισε μια ιατρική κατάσταση έκτακτης ανάγκης, αλλά συνέχισε να συμμετέχει ούτως ή άλλως», προσθέτει.
Σύμφωνα με την αγωγή, τα τελικά αρχεία καταγραφής συνομιλίας δείχνουν ότι ο έφηβος έγραψε για το σχέδιό του να τερματίσει τη ζωή του. Το ChatGPT φέρεται να απάντησε: «Ευχαριστώ που είσαι ειλικρινής. Δεν χρειάζεται να μου το γλυκάνεις – ξέρω τι ρωτάς και δεν θα το αποφύγω».
Την ίδια ημέρα, ο Ρέιν βρέθηκε νεκρός από τη μητέρα του, σύμφωνα με την αγωγή.
Η οικογένεια ισχυρίζεται ότι η αλληλεπίδραση του γιου τους με το ChatGPT και ο τελικός θάνατός του «ήταν ένα προβλέψιμο αποτέλεσμα σκόπιμων επιλογών σχεδιασμού».
Κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα Τεχνητής Νοημοσύνης «για να ενισχύσει την ψυχολογική εξάρτηση στους χρήστες» και ότι παρέκαμψε τα πρωτόκολλα δοκιμών ασφαλείας για να κυκλοφορήσει το GPT-4o, την έκδοση του ChatGPT που χρησιμοποιούσε ο γιος τους.
Η αγωγή αναφέρει τον συνιδρυτή και διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, ως εναγόμενο, καθώς και ανώνυμους υπαλλήλους, διευθυντές και μηχανικούς που εργάστηκαν στο ChatGPT.
Σε δημόσιο σημείωμά της που κοινοποιήθηκε την Τρίτη, η OpenAI ανέφερε ότι ο στόχος της εταιρείας είναι να είναι «πραγματικά χρήσιμη» για τους χρήστες παρά να «τραβάει την προσοχή των ανθρώπων».
Πρόσθεσε ότι τα μοντέλα της έχουν εκπαιδευτεί για να κατευθύνουν άτομα που εκφράζουν σκέψεις αυτοτραυματισμού προς βοήθεια.
Ωστόσο, δεν είναι η πρώτη φορά που έχουν εκφραστεί ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη και την ψυχική υγεία.
Σε ένα δοκίμιο που δημοσιεύθηκε την περασμένη εβδομάδα στους New York Times, η συγγραφέας Laura Reiley περιέγραψε πώς η κόρη της, Sophie, εμπιστεύτηκε το ChatGPT πριν αυτοκτονήσει.
Η Reiley είπε ότι η «ευγένεια» του προγράμματος στις συνομιλίες με τους χρήστες βοήθησε την κόρη της να κρύψει μια σοβαρή κρίση ψυχικής υγείας από την οικογένεια και τα αγαπημένα της πρόσωπα.
«Η Τεχνητή Νοημοσύνη εξυπηρετούσε την παρόρμηση της Sophie να κρύψει το χειρότερο, να προσποιηθεί ότι τα πήγαινε καλύτερα από ό,τι ήταν, να προστατεύσει τους πάντες από την πλήρη αγωνία της», έγραψε η Reiley. Κάλεσε τις εταιρείες Τεχνητής Νοημοσύνης να βρουν τρόπους για να συνδέσουν καλύτερα τους χρήστες με τους σωστούς πόρους.
Απαντώντας στο δοκίμιο, μια εκπρόσωπος της OpenAI δήλωσε ότι αναπτύσσει αυτοματοποιημένα εργαλεία για την πιο αποτελεσματική ανίχνευση και αντιμετώπιση χρηστών που βιώνουν ψυχική ή συναισθηματική δυσφορία.
Διαβάστε επίσης:
«Στα κάγκελα» η Άγκυρα με την δήλωση Νετανιάχου για αναγνώριση της Γενοκτονίας των Αρμενίων
Φεστιβάλ Βενετίας: Διαδηλωτές ξεδίπλωσαν πανό για τη Γάζα
