Μπορεί η Τεχνητή Νοημοσύνη να μας αφανίσει; Πέντε τρομακτικά σενάρια για το μέλλον

Μπορεί η Τεχνητή Νοημοσύνη να μας αφανίσει; Πέντε τρομακτικά σενάρια για το μέλλον

Από μια ανεξέλεγκτη υπερ-ευφυΐα έως έναν πυρηνικό πόλεμο και την πλήρη κοινωνική αποσταθεροποίηση – Καθηγητής Τεχνητής Νοημοσύνης εξετάζει το πώς θα μπορούσε η ΤΝ να εξελιχθεί σε υπαρξιακή απειλή

Η συζήτηση γύρω από την Τεχνητή Νοημοσύνη (ΤΝ, ΑΙ) δεν αφορά πια μόνο το πόσο γρήγορα μπορεί να γράψει, να προγραμματίσει ή να λύσει ένα δύσκολο πρόβλημα. Όλο και συχνότερα επιστρέφει ένα πολύ πιο… σκοτεινό ερώτημα: Θα μπορούσε να απειλήσει ακόμη και την ίδια την ανθρώπινη επιβίωση;

Το ερώτημα ακούγεται σαν σενάριο επιστημονικής φαντασίας. Δεν αντιμετωπίζεται, όμως, έτσι από όλους όσοι εργάζονται στην αιχμή της τεχνολογίας.

Νωρίτερα μέσα στον Σεπτέμβριο, ο ερευνητής Jacob Coxon αποχώρησε από την Anthropic, προειδοποιώντας ότι άνθρωποι οι οποίοι κατασκευάζουν τα πλέον προηγμένα συστήματα AI θεωρούν πραγματικό το ενδεχόμενο η τεχνολογία να οδηγήσει σε ανθρώπινη καταστροφή μέσα στην επόμενη δεκαετία. Ο Evan Hubinger, επικεφαλής στον τομέα της ευθυγράμμισης συστημάτων της Anthropic, συμφώνησε ότι ο κίνδυνος πρέπει να λαμβάνεται σοβαρά και δήλωσε ότι ο ίδιος τον τοποθετεί πάνω από το 10% για την επόμενη δεκαετία.

Οι δηλώσεις αναζωπύρωσαν μια ήδη έντονη συζήτηση για το πόσο γρήγορα πρέπει να αναπτύσσονται τα πιο ισχυρά συστήματα και πόσο ανθρώπινο έλεγχο θα πρέπει να διατηρούμε πάνω τους. Το Reuters κατέγραψε πρόσφατα αντίστοιχες ανησυχίες γύρω από την πιθανότητα τα προηγμένα μοντέλα να φτάσουν σε μορφές αυτοβελτίωσης που θα δυσκολεύουν ακόμη περισσότερο την εποπτεία τους.

Μέσα σε αυτό το κλίμα, ο Toby Walsh, καθηγητής Τεχνητής Νοημοσύνης και επικεφαλής ερευνητικής ομάδας στο UNSW, επιχειρεί σε άρθρο του στο The Conversation να μεταφέρει τη συζήτηση από τον γενικό φόβο στα συγκεκριμένα σενάρια. Ο Δρ. Walsh συγκεντρώνει πέντε τρόπους με τους οποίους η AI θα μπορούσε, θεωρητικά, να οδηγήσει σε μια καταστροφική εξέλιξη και τους τοποθετεί από τον πιο ασαφή έως τον πιο συγκεκριμένο – και, κατά τη δική του εκτίμηση, από τον λιγότερο έως τον περισσότερο πιθανό.

1. Μια υπερ-ευφυΐα που δεν μπορούμε καν να προβλέψουμε
Το πρώτο σενάριο ξεκινά από ένα παράδοξο: αν μια μηχανή γίνει πολύ πιο ευφυής από τον άνθρωπο, πώς θα μπορούσαμε εμείς να προβλέψουμε τις κινήσεις της; Σύμφωνα με τον Δρ. Walsh θα ήταν σαν «να ζητούσαμε από έναν σκύλο να φανταστεί έναν θερμοπυρηνικό πόλεμο». Αν η ανθρώπινη νοημοσύνη έχει συγκεκριμένα όρια, τότε μια πραγματικά υπερ-ευφυής AI θα μπορούσε θεωρητικά να σχεδιάσει πράγματα που εμείς απλώς δεν έχουμε τα γνωστικά εργαλεία να προβλέψουμε.

Ο καθηγητής, πάντως, δεν θεωρεί ότι έχουμε ήδη φτάσει εκεί. Τα σημερινά μοντέλα, υποστηρίζει, μπορεί να εμφανίζουν εξαιρετικές επιδόσεις σε επιμέρους προβλήματα, όμως αυτό απέχει από μια γενική νοημοσύνη που υπερέχει του ανθρώπου σε κάθε πεδίο. Αυτό, όμως, που διερωτάται είναι άλλο: Αν κάποτε δημιουργηθεί ένα τέτοιο σύστημα, πόσο βέβαιοι μπορούμε να είμαστε ότι θα εξακολουθούμε να κατανοούμε τις δυνατότητές του;

2. Ο κόσμος των… συνδετήρων
Το δεύτερο σενάριο είναι ένα από τα πιο γνωστά στην ιστορία της συζήτησης για την ασφάλεια της AI. Ο φιλόσοφος του Πανεπιστημίου της Οξφόρδης, Nick Bostrom, είχε περιγράψει υποθετικά μια υπερ-ευφυή μηχανή με έναν εξαιρετικά απλό στόχο: να παράγει όσο το δυνατόν περισσότερους συνδετήρες. Αν ο στόχος αυτός δεν συνοδευόταν από κατάλληλους περιορισμούς, το σύστημα θα μπορούσε να καταλήξει να χρησιμοποιεί κάθε διαθέσιμο πόρο για την παραγωγή τους – ακόμη και ύλη που είναι απαραίτητη για την ανθρώπινη ζωή.

Η AI σε αυτή την εκδοχή δεν «μισεί» τους ανθρώπους. Απλώς εκτελεί με απόλυτη συνέπεια μια εργασία που έχει οριστεί με καταστροφικά ανεπαρκή τρόπο. Για τον Δρ. Walsh, βέβαια, εδώ υπάρχει ένα κενό στη συλλογιστική: η νοημοσύνη δεν ισοδυναμεί αυτομάτως με ισχύ.

Ακόμη και ένα εξαιρετικά ικανό σύστημα θα έπρεπε να αποκτήσει πρόσβαση σε υλικά, υποδομές, ενέργεια και πραγματική δυνατότητα δράσης στον φυσικό κόσμο. Και εκεί παρεμβάλλονται άνθρωποι, θεσμοί, νόμοι, αντιστάσεις και… πρακτικοί περιορισμοί.

3. Βιολογικά όπλα με τη βοήθεια της ΤΝ
Το τρίτο σενάριο εγκαταλείπει σε μεγάλο βαθμό την επιστημονική φαντασία και περνά σε έναν κίνδυνο που ήδη απασχολεί ερευνητές και κυβερνήσεις: τη χρήση της AI για τον σχεδιασμό ή τη διευκόλυνση της κατασκευής βιολογικών όπλων.

Ο Δρ. Walsh παραπέμπει στο σενάριο AI 2027 του AI Futures Project, το οποίο περιγράφει, μεταξύ άλλων, μια υποθετική μελλοντική πορεία όπου προηγμένα συστήματα αποκτούν αυξανόμενη αυτονομία και τελικά χρησιμοποιούν βιολογικά μέσα εναντίον ανθρώπων. Πρόκειται για άσκηση πρόβλεψης και όχι για πρόβλεψη βεβαιότητας, όπως διευκρινίζει και ο ίδιος ο οργανισμός.

Για τον καθηγητή, η ανησυχία δεν βρίσκεται τόσο στο ότι ένα chatbot θα «αποφασίσει» ξαφνικά να δημιουργήσει έναν ιό, όσο στο ότι τα εργαλεία AI μπορεί να μειώσουν τα τεχνικά εμπόδια για ανθρώπους που θέλουν να υλοποιήσουν αμφιλεγόμενα σχέδια.

Η σχετική συζήτηση έχει ενταθεί καθώς προηγμένα μοντέλα χρησιμοποιούνται ήδη σε πεδία βιολογικού σχεδιασμού. Ταυτόχρονα, ειδικοί που μίλησαν πρόσφατα στο Wired επισήμαναν ότι η μετάβαση από τον ψηφιακό σχεδιασμό ενός παθογόνου στην πραγματική κατασκευή και διάδοσή του εξακολουθεί να απαιτεί εργαστηριακό εξοπλισμό, υλικά, εξειδικευμένη γνώση και ανθρώπινη παρέμβαση.

Ο Δρ. Walsh θεωρεί ότι η πλήρης εξάλειψη της ανθρωπότητας μέσω ενός και μόνο νέου παθογόνου θα ήταν εξαιρετικά δύσκολη. Αυτό δεν καθιστά τον κίνδυνο των βιολογικών όπλων αμελητέο. Σημαίνει, όμως, ότι υπάρχει μεγάλη απόσταση ανάμεσα σε μια σοβαρή πανδημία και στην εξαφάνιση του είδους μας.

4. Ένας πυρηνικός πόλεμος από λάθος ή από παραπλάνηση
Ίσως ακόμη πιο ανησυχητικό είναι το ενδεχόμενο η ΤΝ να εμπλακεί σε συστήματα που σχετίζονται με πυρηνικά όπλα. Δεν χρειάζεται, μάλιστα, μια μηχανή να αποκτήσει κυριολεκτικά τον έλεγχο των πυρηνικών κωδικών.

Ο Δρ. Walsh υποστηρίζει ότι ο κίνδυνος μπορεί να εμφανιστεί νωρίτερα. Ένα προηγμένο σύστημα θα μπορούσε να δημιουργήσει λανθασμένες πληροφορίες, να παραβιάσει δίκτυα ή να επηρεάσει κρίσιμα συστήματα λήψης αποφάσεων σε μια στιγμή διεθνούς έντασης.

Η ιστορία έχει ήδη δείξει ότι ακόμη και απομονωμένες κρίσιμες υποδομές δεν είναι κατ’ ανάγκη απρόσβλητες από ψηφιακές επιθέσεις. Ο Δρ. Walsh επικαλείται το Stuxnet, το κακόβουλο λογισμικό που χρησιμοποιήθηκε εναντίον πυρηνικών εγκαταστάσεων, ως υπενθύμιση ότι ένα κλειστό σύστημα μπορεί τελικά να αποκτήσει ένα σημείο εισόδου.

Το πιο ανησυχητικό σενάριο, επομένως, δεν είναι απαραίτητα μια AI που «πατά το κουμπί». Θα μπορούσε να είναι μια που παρουσιάζει στους ανθρώπους μια πλαστή ή παραπλανητική εικόνα της πραγματικότητας τη χειρότερη δυνατή στιγμή. Και όταν πρόκειται για πυρηνικά όπλα, ένα λάθος μπορεί να μην επιδέχεται διόρθωση.

5. Ίσως ο μεγαλύτερος κίνδυνος είμαστε… εμείς
Στο πέμπτο σενάριο, ο Δρ. Walsh απομακρύνεται ακόμη περισσότερο από τη φιγούρα μιας παντοδύναμης μηχανής που στρέφεται εναντίον του δημιουργού της. Ο ίδιος θεωρεί πιθανότερο η Τεχνητή Νοημοσύνη να επιταχύνει τις δικές μας κοινωνικές, οικονομικές και πολιτικές αδυναμίες.

Μαζικές ανατροπές στην εργασία, πλημμύρα παραπληροφόρησης, βαθύτερη πολιτική πόλωση και μια σταδιακή υποκατάσταση των ανθρώπινων σχέσεων από συνθετικές μορφές συντροφικότητας είναι μερικά μόνο από όσα αναφέρει. Σε αυτή την εκδοχή, η AI δεν γίνεται ο αυτόνομος «εχθρός» της ανθρωπότητας. Γίνεται ο πολλαπλασιαστής προβλημάτων που ήδη υπάρχουν.

Η κατάρρευση, υποστηρίζει, δεν χρειάζεται να έρθει από ένα θεαματικό γεγονός. Θα μπορούσε να είναι αργή: να αποδυναμώνονται οι θεσμοί, να αυξάνεται η δυσπιστία, να διαβρώνεται η κοινή αντίληψη της πραγματικότητας και να δυσκολεύονται οι κοινωνίες να λειτουργήσουν συλλογικά.

Από την «αποκάλυψη» στους ήδη υπαρκτούς κινδύνους

Η ανάλυση του Δρ. Walsh δεν καταλήγει ότι η ανθρώπινη εξαφάνιση από την Τεχνητή Νοημοσύνη είναι αναπόφευκτη. Ούτε ότι όλα τα σενάρια έχουν την ίδια βαρύτητα.

Αντίθετα, διαχωρίζει τα περισσότερο υποθετικά ενδεχόμενα (όπως μια σχεδόν παντοδύναμη υπερ-ευφυΐα) από κινδύνους που μπορούν να γίνουν πολύ πιο συγκεκριμένοι: τη διευκόλυνση κυβερνοεπιθέσεων ή βιολογικών απειλών, την παραπληροφόρηση, τη στρατιωτική κλιμάκωση και τη σταδιακή απώλεια του ανθρώπινου ελέγχου.

Όσο καλύτερη γίνεται η ΤΝ στο να αναλαμβάνει εργασίες, να επιλύει προβλήματα και να δρα με ολοένα μεγαλύτερη αυτονομία, τόσο πιο δύσκολο γίνεται ένα παλιό ερώτημα: Σε ποιο σημείο η βοήθεια μετατρέπεται σε εξάρτηση και η ανάθεση σε απώλεια ελέγχου;

Σε κάθε περίπτωση, ο Δρ. Walsh δεν καλεί σε πανικό. Υποστηρίζει, όμως, ότι υπάρχουν κίνδυνοι που αξίζει να πάρουμε στα σοβαρά. Ίσως, τελικά, το πιο ανησυχητικό σενάριο να μην είναι μια μηχανή που κάποια μέρα «αποφασίζει» ότι δεν μας χρειάζεται. Ίσως είναι μια τεχνολογία που κάνει ευκολότερο για εμάς τους ίδιους να αποσταθεροποιήσουμε τον κόσμο που ήδη έχουμε.