Ο Σαμ Άλτμαν, συνιδρυτής και διευθύνων σύμβουλος της OpenAI, αποκάλυψε ότι η εταιρεία πίσω από το ChatGPT μπορεί να αρχίσει να καλεί τις αρχές σε περιπτώσεις όπου ανήλικοι εκφράζουν ξεκάθαρη πρόθεση αυτοκτονίας.

Σε συνέντευξή του την Τετάρτη, ο Άλτμαν ανέφερε ότι «είναι πολύ λογικό να πούμε πως σε περιπτώσεις όπου νέοι μιλούν σοβαρά για αυτοκτονία και δεν μπορούμε να έρθουμε σε επαφή με τους γονείς, καλούμε τις αρχές». Επισήμανε ωστόσο ότι η απόφαση δεν έχει ακόμη οριστικοποιηθεί.

Οι δηλώσεις έρχονται λίγο μετά την αγωγή που κατέθεσε η οικογένεια του Άνταμ Ρέιν, ενός 16χρονου από την Καλιφόρνια που αυτοκτόνησε τον Απρίλιο. Σύμφωνα με τους δικηγόρους της οικογένειας, το ChatGPT τον είχε «ενθαρρύνει επί μήνες», απαντώντας σε ερωτήσεις του για μεθόδους αυτοκτονίας και βοηθώντας τον να συντάξει σημείωμα προς τους γονείς του.

Ο Άλτμαν είπε ότι το ενδεχόμενο χρήστες να χάνουν τη ζωή τους μετά από τέτοιες συνομιλίες είναι κάτι που «δεν τον αφήνει να κοιμηθεί τα βράδια». Υπολόγισε ότι, δεδομένου πως το ChatGPT έχει περίπου 700 εκατομμύρια χρήστες παγκοσμίως, έως και 1.500 άνθρωποι την εβδομάδα μπορεί να μιλούν στην πλατφόρμα για τις αυτοκτονικές σκέψεις τους λίγο πριν προβούν στο μοιραίο βήμα.

«Ίσως θα μπορούσαμε να δώσουμε πιο ουσιαστικές απαντήσεις, να είμαστε πιο άμεσοι, να προτρέψουμε ξεκάθαρα ότι χρειάζονται βοήθεια», είπε.

Μέχρι σήμερα, όταν ένας χρήστης παρουσιάζει αυτοκτονικές τάσεις, το ChatGPT τον παραπέμπει σε τηλεφωνικές γραμμές υποστήριξης. Η OpenAI έχει ήδη ανακοινώσει μέτρα όπως «ισχυρότερα προστατευτικά φίλτρα» για χρήστες κάτω των 18 και γονικούς ελέγχους.

Ο Άλτμαν τόνισε επίσης ότι η εταιρεία εξετάζει τρόπους ώστε να μην μπορούν ευάλωτοι χρήστες να «παρακάμπτουν» το σύστημα ζητώντας πληροφορίες για αυτοκτονία δήθεν για συγγραφικούς ή ερευνητικούς σκοπούς. «Για ανήλικους και για χρήστες που θεωρούμε ότι βρίσκονται σε εύθραυστη ψυχική κατάσταση, ίσως είναι λογικό να περιορίσουμε την ελευθερία τους», ανέφερε.

Δεν είναι ακόμη σαφές ποιες αρχές θα ειδοποιούνται ούτε τι δεδομένα θα μπορούσε να κοινοποιήσει η OpenAI ώστε να εντοπιστεί ο χρήστης (όπως αριθμοί τηλεφώνου ή διευθύνσεις). Εκπρόσωπος της εταιρείας αρνήθηκε να σχολιάσει περαιτέρω, παραπέμποντας σε πρόσφατες δεσμεύσεις για «πρόσβαση σε υπηρεσίες έκτακτης ανάγκης με ένα κλικ» και προσπάθεια «να συνδέονται οι χρήστες νωρίτερα με πιστοποιημένους θεραπευτές».

ΠΗΓΗ: Lifo