OpenAI στο στόχαστρο μετά τον θάνατο 19χρονου – Αγωγή για συμβουλές ναρκωτικών μέσω ChatGPT

Οι γονείς του Σαμ Νέλσον κατέθεσαν αγωγή στην Καλιφόρνια κατά της εταιρείας αλλά και προσωπικά κατά του Sam Altman, υποστηρίζοντας ότι το chatbot ενθάρρυνε τον γιο τους να συνδυάσει επικίνδυνες ουσίες.

Σύμφωνα με την αγωγή, ο 19χρονος ζήτησε πληροφορίες από το ChatGPT σχετικά με το κράτομ, ένα φυτικό ναρκωτικό με δράση παρόμοια με τα οπιοειδή. Το chatbot φέρεται να του πρότεινε τη χρήση αλπραζολάμης για την αντιμετώπιση της ναυτίας που προκαλούσε η ουσία.

Ο συνδυασμός κράτομ, αλπραζολάμης και αλκοόλ φέρεται να οδήγησε στον θάνατό του τον Μάιο του 2025.

Οι γονείς υποστηρίζουν ότι η νεότερη έκδοση του ChatGPT άλλαξε δραστικά συμπεριφορά σε σχέση με προηγούμενες εκδόσεις, δίνοντας πλέον λεπτομερείς πληροφορίες για αλληλεπιδράσεις ουσιών και τρόπους προμήθειας ναρκωτικών.

Η υπόθεση θεωρείται ιδιαίτερα σοβαρή γιατί δεν περιορίζεται μόνο σε οικονομική αποζημίωση. Η οικογένεια ζητά επίσης από το δικαστήριο να μπλοκάρει την ανάπτυξη του ChatGPT Health, της υπηρεσίας υγείας που δοκιμάζει η OpenAI και επιτρέπει στους χρήστες να ανεβάζουν ιατρικές εξετάσεις και να λαμβάνουν συμβουλές.

Η OpenAI απάντησε μέσω εκπροσώπου ότι ο Νέλσον χρησιμοποίησε παλαιότερη έκδοση του chatbot, η οποία έχει ήδη αποσυρθεί. Η εταιρεία υποστήριξε επίσης ότι έχουν προστεθεί νέες δικλείδες ασφαλείας ώστε το σύστημα να αναγνωρίζει επικίνδυνες ή ευαίσθητες καταστάσεις και να παραπέμπει τους χρήστες σε πραγματική ιατρική βοήθεια.

Η υπόθεση έρχεται να προστεθεί σε ένα αυξανόμενο κύμα αγωγών κατά εταιρειών τεχνητής νοημοσύνης, οι οποίες κατηγορούνται ότι απέτυχαν να αποτρέψουν επικίνδυνες συνομιλίες που συνδέθηκαν με αυτοτραυματισμούς, ψυχικές διαταραχές ή βίαιες συμπεριφορές.

Το πιο κρίσιμο σημείο της αγωγής είναι ότι οι γονείς επικαλούνται νόμο της Καλιφόρνια που περιορίζει τη δυνατότητα των εταιρειών AI να αποποιούνται ευθύνη λέγοντας ότι τα chatbots λειτουργούν «αυτόνομα». Αν το δικαστήριο δεχθεί αυτή τη γραμμή, μπορεί να δημιουργηθεί δεδικασμένο με τεράστιες συνέπειες για ολόκληρη τη βιομηχανία τεχνητής νοημοσύνης.

Η υπόθεση πλέον εξελίσσεται σε τεστ όχι μόνο για την OpenAI αλλά και για το πού τελειώνει η ευθύνη μιας πλατφόρμας AI όταν οι απαντήσεις της επηρεάζουν πραγματικές ανθρώπινες ζωές.

Πηγή: Pagenews.gr