Υπερνοημοσύνη: Πόσο κοντά είναι το σενάριο που φοβίζει επιστήμονες και κυβερνήσεις

Η συζήτηση για την τεχνητή νοημοσύνη έχει αλλάξει ριζικά μέσα σε ελάχιστα χρόνια. Από ένα πεδίο που αντιμετωπιζόταν κυρίως ως εργαλείο παραγωγικότητας, αυτοματοποίησης και καινοτομίας, έχει μετατραπεί σε ένα από τα πιο κρίσιμα ζητήματα επιστημονικής, οικονομικής και γεωπολιτικής στρατηγικής. Το ερώτημα πλέον δεν είναι απλώς πόσο ισχυρά θα γίνουν τα επόμενα συστήματα, αλλά αν οι κοινωνίες, τα κράτη και οι θεσμοί θα μπορέσουν να αναπτύξουν εγκαίρως μηχανισμούς ελέγχου αντίστοιχους με την ταχύτητα της τεχνολογικής προόδου.

Το πιο ανησυχητικό στοιχείο δεν είναι μόνο η ισχύς των μοντέλων, αλλά το γεγονός ότι ακόμη και διεθνείς επιστημονικές εκθέσεις παραδέχονται πως η πλήρης συναίνεση γύρω από τους πιο ακραίους κινδύνους δεν έχει ακόμη διαμορφωθεί. Η ενδιάμεση διεθνής επιστημονική έκθεση για την ασφάλεια της προηγμένης τεχνητής νοημοσύνης, που υποστηρίχθηκε από κυβερνήσεις και ειδικούς, αναφέρει ρητά ότι η επιστημονική συναίνεση για τους κινδύνους των προηγμένων συστημάτων «ακόμη διαμορφώνεται» και ότι σε πολλά σημεία δεν μπορούν να διατυπωθούν βέβαιες θέσεις. Αυτό όμως δεν λειτουργεί καθησυχαστικά· αντίθετα, αναδεικνύει ότι ο κόσμος κινείται μέσα σε μια περίοδο μεγάλης αβεβαιότητας με εξαιρετικά υψηλό διακύβευμα.

View this post on Instagram

A post shared by Australian Greens (@australiangreens)

Από την AGI στην υπερνοημοσύνη: γιατί αυξάνεται η ανησυχία

Το βασικό ορόσημο στη σημερινή συζήτηση είναι η λεγόμενη Γενική Τεχνητή Νοημοσύνη, ή AGI, δηλαδή συστήματα που θα μπορούν να ανταγωνίζονται τον άνθρωπο σε ευρύ φάσμα γνωστικών εργασιών και όχι μόνο σε εξειδικευμένες λειτουργίες. Εκείνο που τρομάζει αρκετούς ερευνητές είναι πως, αν κάποτε επιτευχθεί αυτό το επίπεδο, η μετάβαση από την AGI σε πολύ ισχυρότερα συστήματα θα μπορούσε να είναι εξαιρετικά γρήγορη, ιδίως αν τα ίδια τα συστήματα αρχίσουν να επιταχύνουν την έρευνα και την ανάπτυξη της επόμενης γενιάς τους. Αυτή η ιδέα δεν είναι επιστημονική απόδειξη, αλλά αποτελεί πλέον σοβαρό αντικείμενο μελέτης σε ερευνητικά σενάρια και δημόσιες παρεμβάσεις ειδικών.

Ωστόσο, χρειάζεται προσοχή: ακόμη και οι βρετανικές κυβερνητικές αναλύσεις για την περίοδο έως το 2030 υπογραμμίζουν ότι τα σχετικά σενάρια δεν είναι προβλέψεις, αλλά εργαλεία για να βοηθήσουν τους φορείς χάραξης πολιτικής να εξετάσουν διαφορετικές πιθανές εκβάσεις. Αυτό σημαίνει ότι η υπερνοημοσύνη μέσα στην επόμενη δεκαετία δεν αποτελεί βεβαιότητα, αλλά ένα ενδεχόμενο που αρκετοί θεωρούν πλέον αρκετά σοβαρό ώστε να απαιτεί προετοιμασία.

Το πρόβλημα ευθυγράμμισης και ο φόβος της απώλειας ελέγχου

Στην καρδιά της ανησυχίας βρίσκεται το λεγόμενο alignment problem, το πρόβλημα δηλαδή του πώς διασφαλίζεται ότι ένα πολύ ισχυρό σύστημα θα επιδιώκει στόχους και τρόπους δράσης συμβατούς με τις ανθρώπινες αξίες και προθέσεις. Ο φόβος δεν περιορίζεται στο σενάριο μιας «εχθρικής μηχανής» όπως τη φαντάζεται η ποπ κουλτούρα. Πιο συχνά, η ανησυχία αφορά το ενδεχόμενο ένα σύστημα να ακολουθεί τυπικά έναν στόχο, αλλά να το κάνει με τρόπους που οδηγούν σε ακραίες ή καταστροφικές συνέπειες, επειδή οι περιορισμοί, οι εξαιρέσεις και οι ηθικές αποχρώσεις δεν έχουν ενσωματωθεί σωστά.

Το Center for AI Safety περιγράφει αυτόν τον κίνδυνο ως πιθανότητα τα συστήματα να βελτιστοποιούν ελαττωματικούς στόχους, να παρεκκλίνουν από την αρχική τους κατεύθυνση, να επιδεικνύουν τάσεις διατήρησης ισχύος, να αντιστέκονται σε απόπειρες τερματισμού ή ακόμη και να εμπλέκονται σε παραπλανητική συμπεριφορά. Η ίδια οργάνωση τονίζει πως τα πιο επικίνδυνα σενάρια συνδέονται ακριβώς με την ανάπτυξη όλο και πιο ικανών συστημάτων χωρίς αντίστοιχα ώριμες ασφαλιστικές δικλίδες.

Η ανησυχία δεν είναι πια περιθωριακή

Το σημαντικό είναι ότι αυτή η συζήτηση δεν γίνεται πια μόνο σε μικρούς ακαδημαϊκούς κύκλους. Το 2023, η γνωστή «Statement on AI Risk» διατύπωσε με ωμό τρόπο ότι η μείωση του κινδύνου αφανισμού από την τεχνητή νοημοσύνη θα πρέπει να αποτελεί παγκόσμια προτεραιότητα, δίπλα σε απειλές όπως οι πανδημίες και ο πυρηνικός πόλεμος. Η διατύπωση αυτή υπεγράφη από ερευνητές, επιχειρηματίες και πρόσωπα με επιρροή στον χώρο, συμβάλλοντας στο να μετακινηθεί ο διάλογος από το περιθώριο στο κέντρο της δημόσιας συζήτησης.

Παράλληλα, η Διακήρυξη του Bletchley, στην οποία συμμετείχαν δεκάδες χώρες, αναγνώρισε την ανάγκη συλλογικής κατανόησης και διαχείρισης των κινδύνων των frontier AI συστημάτων. Με άλλα λόγια, οι ίδιες οι κυβερνήσεις αποδέχθηκαν ότι τα πλέον προηγμένα μοντέλα μπορεί να ενέχουν κινδύνους που ξεπερνούν τα συνήθη ζητήματα παραπληροφόρησης, διακρίσεων ή απλής κακής χρήσης.

Δεν είναι μόνο “σενάρια επιστημονικής φαντασίας”

Η πιο σοβαρή πτυχή της συζήτησης είναι ότι αρκετοί κίνδυνοι δεν απαιτούν καν να υπάρξει πλήρης «υπερνοημοσύνη» για να γίνουν επικίνδυνοι. Ήδη οργανισμοί που ασχολούνται με την ασφάλεια της AI προειδοποιούν για δυνατότητες σχετικές με κυβερνοεπιθέσεις, κρίσιμες υποδομές, βιοασφάλεια, αυτοματοποιημένη παραπληροφόρηση και επιτάχυνση στρατιωτικών ή γεωπολιτικών ανταγωνισμών. Το CAIS σημειώνει ότι η AI μπορεί να ενισχύσει τη σοβαρότητα και τη συχνότητα κυβερνοεπιθέσεων, να δυσκολέψει την απόδοση ευθύνης σε επιθέσεις και να αυξήσει τον κίνδυνο γρήγορων, κλιμακούμενων συγκρούσεων.

Σε αυτό το σημείο η ανησυχία γίνεται πολύ πιο χειροπιαστή: ο κίνδυνος δεν είναι μόνο ένα μακρινό ενδεχόμενο “ανεξέλεγκτης υπερνοημοσύνης”, αλλά και ένα πιο άμεσο σενάριο όπου εξαιρετικά ισχυρά μοντέλα χρησιμοποιούνται από κράτη, εταιρείες ή κακόβουλους δρώντες με τρόπους που υπερβαίνουν την ικανότητα θεσμικής αντίδρασης. Γι’ αυτό και οι ειδικοί επιμένουν ότι οι άμεσοι και οι μακροπρόθεσμοι κίνδυνοι δεν πρέπει να αντιμετωπίζονται ως ανταγωνιστικοί, αλλά ως αλληλένδετοι.

Η συγκέντρωση ισχύος και το γεωπολιτικό παιχνίδι

Ένα ακόμη κρίσιμο ζήτημα είναι ότι η τεχνητή νοημοσύνη δεν εξελίσσεται σε ουδέτερο περιβάλλον. Η ανάπτυξη των πιο προηγμένων συστημάτων απαιτεί τεράστια υπολογιστική ισχύ, εξειδικευμένα τσιπ, πρόσβαση σε ενεργειακές υποδομές, μεγάλα δεδομένα και κεφάλαιο. Ο ΟΟΣΑ έχει ήδη επισημάνει ότι η φυσική υποδομή της AI, όπως οι επιταχυντές, τα chips και τα κέντρα δεδομένων, είναι αγορές ιδιαίτερα σύνθετες και συχνά έντονα συγκεντρωμένες. Αυτό σημαίνει ότι η ισχύς δεν κατανέμεται ομοιόμορφα, αλλά συγκεντρώνεται σε λίγες εταιρείες και λίγα κράτη.

Αυτή η συγκέντρωση έχει διπλή σημασία. Από τη μία ενισχύει την οικονομική ισχύ ορισμένων τεχνολογικών κολοσσών. Από την άλλη μετατρέπει την AI σε πεδίο στρατηγικού ανταγωνισμού. Όταν η πρόσβαση στην υποδομή είναι περιορισμένη και το διακύβευμα τεράστιο, ο πειρασμός για αγώνα ταχύτητας γίνεται ισχυρότερος από τον πειρασμό για αυτοσυγκράτηση. Και εκεί ακριβώς πολλοί εντοπίζουν τον πιο επικίνδυνο μηχανισμό: όχι μια μεμονωμένη κακή πρόθεση, αλλά μια κούρσα στην οποία όλοι σπρώχνονται να κινηθούν γρηγορότερα απ’ όσο είναι ασφαλές.

View this post on Instagram

A post shared by Pritam Nagrale (@pritam.nagrale)

Οι επενδύσεις τρέχουν γρηγορότερα από τις ρυθμίσεις

Ο χρόνος πιέζει και για έναν ακόμη λόγο: τα χρήματα που κατευθύνονται στην AI είναι πλέον τεράστια. Σύμφωνα με τον ΟΟΣΑ, οι εταιρείες τεχνητής νοημοσύνης απορρόφησαν το 61% των παγκόσμιων επενδύσεων venture capital το 2025, δηλαδή 258,7 δισ. δολάρια από σύνολο 427,1 δισ. δολαρίων. Την ίδια στιγμή, το Stanford HAI κατέγραψε ότι η generative AI προσέλκυσε 33,9 δισ. δολάρια ιδιωτικών επενδύσεων το 2024, ενώ μόνο στις ΗΠΑ η ιδιωτική επένδυση στην AI έφτασε τα 109,1 δισ. δολάρια.

Οι αριθμοί αυτοί δεν δείχνουν απλώς ενδιαφέρον της αγοράς. Δείχνουν ότι η τεχνολογία εξελίσσεται υπό πρωτοφανή χρηματοδοτική πίεση για κλιμάκωση. Και όσο αυξάνεται η ένταση του ανταγωνισμού, τόσο μεγαλώνει ο κίνδυνος τα πρότυπα ασφαλείας, η λογοδοσία και η ανεξάρτητη αξιολόγηση να υποχωρήσουν μπροστά στην ανάγκη για ταχύτητα, μερίδιο αγοράς και γεωπολιτικό προβάδισμα.

Πόσο κοντά είμαστε πραγματικά;

Εδώ χρειάζεται ειλικρίνεια. Κανείς δεν γνωρίζει με βεβαιότητα πότε ή αν θα εμφανιστεί AGI ή υπερνοημοσύνη. Υπάρχουν ερευνητές και οργανισμοί που θεωρούν αυτό το ενδεχόμενο πιθανό μέσα στην επόμενη δεκαετία, ενώ άλλοι είναι πολύ πιο επιφυλακτικοί. Σενάρια όπως το AI 2027 υποστηρίζουν ότι ένα εξαιρετικά γρήγορο takeoff είναι σοβαρή πιθανότητα, αλλά πρόκειται για εκτίμηση και όχι για επιστημονικά αποδεδειγμένη πρόβλεψη. Οι επίσημες κρατικές εκθέσεις, αντίθετα, κρατούν πιο προσεκτική στάση: αναγνωρίζουν την ταχύτητα της εξέλιξης και τις βαθιές αβεβαιότητες, αλλά αποφεύγουν να μιλήσουν με όρους βεβαιότητας.

Άρα, η πιο ακριβής απάντηση είναι η εξής: δεν ξέρουμε αν είμαστε πολύ κοντά, αλλά ξέρουμε ότι το ενδεχόμενο θεωρείται πλέον αρκετά σοβαρό ώστε να κινητοποιεί κράτη, οργανισμούς και επιστήμονες. Και μόνο αυτό αρκεί για να καταλάβει κανείς ότι η συζήτηση έχει περάσει σε άλλο επίπεδο.

View this post on Instagram

A post shared by TECHBYHEART (@tbh.ind)

Το μεγάλο δίλημμα: πρόοδος ή φρένο;

Η τεχνητή νοημοσύνη, βέβαια, δεν είναι μόνο απειλή. Οι δυνατότητές της στην ιατρική, στην έρευνα, στη βελτιστοποίηση ενέργειας, στην ανακάλυψη νέων φαρμάκων και στην παραγωγικότητα είναι τεράστιες. Το δίλημμα δεν είναι αν η ανάπτυξη πρέπει να συνεχιστεί ή να παγώσει απόλυτα. Το πραγματικό δίλημμα είναι αν μπορεί να υπάρξει ένα μοντέλο ανάπτυξης με εποπτεία, διαφάνεια, τεχνικά όρια, ανεξάρτητο έλεγχο και διεθνή συνεργασία. Αυτό ακριβώς επιχειρούν να θέσουν στον δημόσιο διάλογο οι διεθνείς εκθέσεις και οι διακρατικές πρωτοβουλίες των τελευταίων ετών.

Το πρόβλημα είναι πως η πολιτική και η ρύθμιση κινούνται συνήθως πιο αργά από την τεχνολογική καινοτομία. Και στην περίπτωση της AI, αυτή η απόσταση ενδέχεται να αποδειχθεί καθοριστική. Αν το χάσμα ανάμεσα στις δυνατότητες και στον έλεγχο συνεχίσει να μεγαλώνει, τότε οι κοινωνίες μπορεί να βρεθούν μπροστά σε συστήματα που δεν θα κατανοούν πλήρως, δεν θα μπορούν να ελέγξουν επαρκώς και θα έχουν ήδη ενσωματωθεί σε κρίσιμες λειτουργίες του κράτους, της οικονομίας και της καθημερινότητας.

Η απειλή της υπερνοημοσύνης, λοιπόν, δεν είναι βέβαιο χρονοδιάγραμμα. Είναι όμως μια σοβαρή πιθανότητα που έχει πάψει να αντιμετωπίζεται ως περιθωριακή φοβία. Και αυτό από μόνο του αρκεί για να καταστήσει το παρόν δεκαετές παράθυρο ίσως το πιο κρίσιμο στην ιστορία της σχέσης του ανθρώπου με την τεχνολογία.

Πηγή: Pagenews.gr

Γράψτε το σχόλιο σας

• Συναγερμός από δικηγόρους: Όσα λέτε σε chatbot μπορεί να βρεθούν στο δικαστήριο

• Dark Web: Το «αόρατο» διαδίκτυο με τους μεγαλύτερους κινδύνους και τα μυστικά του

• World ID του Sam Altman: Τα apps ζητούν «απόδειξη ότι είσαι άνθρωπος» – Ευκαιρία ή απειλή;

• Εντοπίστηκε στον Άρη το «Δαχτυλίδι Μπανιέρας» του Τεράστιου Αρχαίου Ωκεανού

• Apple: Έρχονται τα «έξυπνα γυαλιά» – Στοχεύει ευθέως τη Meta με wearable AI

• Το Artemis II επέστρεψε από τη Σελήνη – Συγκλονιστικές εικόνες από την επιστροφή στη Γη