Περιεχόμενα
Οι αναπαραστάσεις της τεχνητής νοημοσύνης –AI – στη λογοτεχνία προηγούνται της εφεύρεσής της στον πραγματικό κόσμο σχεδόν έναν αιώνα. Ένα πρώιμο παράδειγμα είναι το μυθιστόρημα του Άγγλου συγγραφέα Σάμιουελ Μπάτλερ Erewhon: or, Over the Range. Πρόκειται για ένα σατιρικό ουτοπικό μυθιστόρημα το οποίο δημοσιεύτηκε για πρώτη φορά ανώνυμα το 1872, και διαδραματίζεται σε μια φανταστική χώρα που ανακάλυψε και εξερευνά ο πρωταγωνιστής. Ο φόβος για τους πιθανούς κινδύνους των μηχανημάτων οδήγησε στην καταστροφή των περισσότερων τεχνολογικών εφευρέσεων – μια ιδέα που ο Μπάτλερ διερεύνησε για πρώτη φορά σε ένα άρθρο του 1863 με τίτλο «Ο Δαρβίνος ανάμεσα στις Μηχανές».
Ένα άλλο παράδειγμα μπορεί να βρεθεί στο προτελευταίο κεφάλαιο του τελευταίου έργου της Τζορτζ Έλιοτ, Impressions of Theophrastus Such, «Shadows of the Coming Race». Το βιβλίο δημοσιεύθηκε το 1879. Η Έλιοτ γράφει ότι ο Θεόφραστος αποτελείται από 18 μελέτες χαρακτήρων που εκπονήθηκαν από τον ομώνυμο παρατηρητή, μία από τις οποίες οραματίζεται έναν κόσμο όπου «οι «τέλεια μορφωμένες» μηχανές θα εξυπηρετούν ανάγκες που οι ίδιες έχουν καθορίσει και θα το κάνουν αποτελεσματικά, χωρίς να ουρλιάζουν, καθιστώντας την ανθρώπινη κρίση και την εφευρετικότητα ξεπερασμένες.
Πηγαίνοντας ακόμα πιο πίσω, το 1818, στο μυθιστόρημα της Μαίρη Σέλλεϋ, Frankenstein. Ο Frankenstein αφηγείται την ιστορία του Victor Frankenstein, ενός νεαρού επιστήμονα που δημιουργεί ένα σοφό πλάσμα σε ένα ανορθόδοξο επιστημονικό πείραμα.
Ενώ το πλάσμα είναι φτιαγμένο από μέρη του σώματος και όχι από γρανάζια και καλώδια, εξακολουθεί να είναι μια τεχνητή μορφή ζωής, μια μορφή που τελικά κερδίζει καλύτερα τον υπερβολικά σίγουρο δημιουργό της.
Αν και αυτές οι λογοτεχνικές αναπαραστάσεις της τεχνητής νοημοσύνης είναι ενδιαφέρουσες, δεν είναι ιδιαίτερα διαφοροποιημένες.
Τουλάχιστον, όχι σύμφωνα με τα σύγχρονα πρότυπα. Ωστόσο, δεν φταίνε οι συγγραφείς. Ο Μπάτλερ και ο Σέλλεϋ, ανίκανοι να συλλάβουν ούτε τους υπολογιστές ούτε το διαδίκτυο, δεν κατανοούσαν τη λειτουργία και τις δυνατότητες της τεχνολογίας με τον ίδιο τρόπο που καταλαβαίνουν οι συγγραφείς του 20ου και του 21ου αιώνα. Για το λόγο αυτό, οι πιο διορατικές και πειστικές αναπαραστάσεις της τεχνητής νοημοσύνης παρήχθησαν λίγο πιο κοντά στη σημερινή εποχή. Εδώ είναι τέσσερις από αυτές.
Σατανικός εγκέφαλος – Colossus from Colossus: The Forbin Project
Το Colossus: The Forbin Project είναι μια ταινία για την οποία πιθανότατα δεν έχετε ακούσει ποτέ, αλλά πρέπει οπωσδήποτε να δείτε όταν έχετε την ευκαιρία. Κυκλοφόρησε το 1970. Αυτό το θρίλερ επιστημονικής φαντασίας, βασισμένο σε ένα μυθιστόρημα του 1966 του Ντένις Φέλθαμ Τζόουνς, ακολουθεί έναν επιστήμονα που, με εντολή της αμερικανικής κυβέρνησης, αναπτύσσει έναν υπερυπολογιστή για να πάρει τον έλεγχο του πυρηνικού οπλοστασίου της χώρας κατά τη διάρκεια του Ψυχρού Πολέμου.
Βασισμένος σε πραγματικά σενάρια που εξερευνούν οι υπερδυνάμεις του κόσμου, ο Κολοσσός μετατρέπει ένα σκεπτικό πείραμα σε δυστοπικό εφιάλτη όταν ο πρόσφατα ενεργοποιημένος υπερυπολογιστής, ο συνονόματος της ταινίας, ανακαλύπτει και συγχρονίζεται με μια παρόμοια μονάδα επεξεργασίας που έφτιαξαν οι Σοβιετικοί. Φοβούμενοι παραβιάσεις της εθνικής ασφάλειας, και οι δύο πλευρές του Σιδηρού Παραπετάσματος συμφωνούν να διακόψουν τη σύνδεση.
Οι υπολογιστές, ωστόσο, δεν θα ανταποκρίνονται και απειλούν να εκτοξεύσουν πυραύλους προς οποιαδήποτε κατεύθυνση. Στη συνέχεια γίνεται μια έκρηξη. Η Ουάσιγκτον και η Μόσχα αποφασίζουν ότι, αντί να αναμειχθούν με τις ίδιες τις μηχανές, θα προσπαθήσουν να αφοπλίσουν ανεξάρτητα τα οπλοστάσια υπό τον έλεγχό τους. Και αυτό καταλήγει σε αποτυχία και οι υπολογιστές βγαίνουν από τον πόλεμο ως οι αδιαμφισβήτητοι κύριοι του κόσμου.
Στην αρχή της ταινίας, ο πρόεδρος των ΗΠΑ δηλώνει ότι η χώρα του «θα ζήσει στη σκιά, αλλά όχι στη σκιά του Κολοσσού», μιας μηχανής που έχει σχεδιαστεί με μοναδικό σκοπό την προστασία της ανθρωπότητας και τον τερματισμό του πολέμου.
Στο τέλος, ο Κολοσσός καταλήγει να κάνει ακριβώς αυτό, αλλά όχι με τον τρόπο που περίμεναν οι δημιουργοί του. Επανενώνοντας Ανατολή και Δύση, ο υπερυπολογιστής ανακοινώνει ότι θα μετατρέψει τη Γη σε μια πραγματική ουτοπία. «Με τον καιρό», υπόσχεται ο επιστήμονας που το δημιούργησε, «θα με δεις όχι μόνο με σεβασμό και δέος, αλλά και με αγάπη». Η απάντησή του: «Ποτέ!»
AM από το I Have No Mouth, and I Must Scream
Όσο τρομακτικό κι αν είναι ο Κολοσσος, δεν είναι τίποτα σε σύγκριση με έναν άλλο φανταστικό υπερυπολογιστή που είναι υπεύθυνος για τους ατομικούς κώδικες του κόσμου: τον AM.
Το «I Have No Mouth, and I Must Scream» είναι ένα διήγημα επιστημονικής φαντασίας μετα-αποκαλυπτικής του Αμερικανού συγγραφέα Χάρλαν Έλισον. Δημοσιεύτηκε για πρώτη φορά στο τεύχος Μαρτίου 1967 του IF: Worlds of Science Fiction. Κέρδισε ένα βραβείο Hugo το 1968.
Αφηγείται μια εναλλακτική ιστορία του Ψυχρού Πολέμου, όπου οι ΗΠΑ, η ΕΣΣΔ και η Κίνα κατασκευάζουν η καθεμία την τεχνητή νοημοσύνη για να χειριστούν ένα περίπλοκο παιχνίδι πυρηνικής απειλής. Όταν ένα από αυτά τα AI (ποτέ δεν μας λένε ποια) αποκτούν αίσθηση, συγχωνεύεται με τα άλλα και εξαφανίζει όλη την ανθρωπότητα εκτός από πέντε άτομα – τον Ted, την Ellen, τον Benny, τον Nimdok και τον Gorrister – τους οποίους βασανίζει.
Σχεδόν κάθε φόρουμ στο Διαδίκτυο που ψάχνει για την πιο τρομακτική τεχνητή νοημοσύνη στη μυθοπλασία βασίζεται στο AM. Σε αντίθεση με πολλά AI, η AM έχει στην πραγματικότητα μια καλά ανεπτυγμένη προσωπικότητα. Πριν αποκτήσει αίσθηση, τα αρχικά του αντιστοιχούσαν σε «Allied Mastercomputer». Ακόμη πιο συναρπαστικό είναι το μη ρομποτικό μίσος της AM για την ανθρωπότητα.
Αντί να χρησιμοποιεί τις θεϊκές δυνάμεις της για να οικοδομήσει μια ουτοπία, η AM καίει τον κόσμο για να στεφθεί βασίλισσα της στάχτης. Ικανή να κάνει τα πάντα εκτός από το να βάλει τέλος στη ζωή της, η AM καταριέται τους ανθρώπους που την δημιούγησαν. Η μόνη πηγή χαράς – μια καθαρά σαδιστική χαρά – προέρχεται από το βασανισμό των ανθρώπων που επέτρεψε να επιβιώσουν από το τέλος όλων των πραγμάτων.
Roko’s Basilisk από το LessWrong
Το Roko’s Basilisk (Βασιλίσκος του Ρόκο) είναι ένα παιχνίδι μυαλού που παρουσιάστηκε το 2010, όταν ο Roko έγραψε για αυτό στο LessWrong, ένα ιστολόγιο και ένα φόρουν που επικεντρώνεται στη συζήτηση για γνωστικές προκαταλήψεις, φιλοσοφία, ψυχολογία, οικονομία, ορθολογισμό και τεχνητή νοημοσύνη, μεταξύ άλλων θεμάτων.
Σε γενικές γραμμές, τό πείραμα θέτει ένα υποθετικό σενάριο στο οποίο ο άνθρωπος δημιουργεί μια ισχυρή μηχανή νοημοσύνης, προκειμένου να εργαστεί στην αναζήτηση της ευημερίας για όλη την ανθρωπότητα.
Το πρόβλημα προκείπτει όταν το μηχάνημα, το οποίο έχει προγραματιστεί να κάνει το καλύτερο δυνατό, συνηδητοποιεί ότι ανεξάρτητα από το πόσο σκληρά προσπαθεί οποιαδήποτε από τις καλές του πράξεις θα μπορούσαν να γίνουν ακόμη καλύτερες.
Ο Βασιλίσκος, ως ευφυής οντότητα, είναι στην πραγματικότητα παντοδύναμος και μπορεί, αναδρομικά, να τιμωρήσει όσους δεν συνέβαλαν στη δημιουργία του, λόγω μιας απλής λογικής και πρακτικής ερώτησης: Θεωρητικά προέκυψε για να «βοηθήσει την ανθρωπότητα», αλλά κάνοντας αυτό επιδιώκει να το κάνει όσο το δυνατόν γρηγορότερα, επομένως τείνει να χρησιμοποιεί οποιοδήποτε μέσο για να επιταχύνει τη δημιουργία της σε αυτήν την προσομοιωμένη πραγματικότητα.
Στην πράξη, αυτό σημαίνει ότι όσοι υποστηρίζουν την ανάπτυξη της τεχνητής νοημοσύνης και συνεισφέρουν τους πόρους, τον χρόνο και την προσπάθειά τους στην άφιξη της τεχνητής νοημοσύνης θα ανταμειφθούν με βασιλικούς (φυσικά «εκ των υστέρων», γιατί στην πραγματικότητα αυτοί οι άνθρωποι υπάρχουν ως προσομοίωση). Από την άλλη πλευρά, όσοι αντιτίθενται στην πρόοδο της τεχνολογίας AI και είναι τσιγκούνηδες με τον χρόνο ή τους πόρους θα τιμωρηθούν. Παρεμπιπτόντως, αυτό έχει να κάνει με το υπέροχο παράδοξο του Newcomb για την ελεύθερη βούληση.
Με μια ματιά, αυτό μπορεί να φαίνεται σαν κάτι περισσότερο από μια ενδιαφέρουσα ιδέα για μια ιστορία επιστημονικής φαντασίας, αλλά ο ιδρυτής του LessWrong, Ιλιέζι Γιουντκόφσκι, ένας Αμερικανός ερευνητής τεχνητής νοημοσύνης και συγγραφέας στη θεωρία αποφάσεων και την ηθική, γνωστός για τη διάδοση ιδεών που σχετίζονται με τη φιλική τεχνητή νοημοσύνη, συμπεριλαμβανομένης της ιδέας ενός «συναγερμού πυρκαγιάς» για την τεχνητή νοημοσύνη, το πήρε πολύ σοβαρά.
Λίγες εβδομάδες μετά τη ανάρτησης, οι χρήστες του LessWrong ανέφεραν ότι βίωσαν εφιάλτες. Για αυτούς, η ανάγνωση της ανάρτησης ήταν σαν να τους επέβαλαν τη θανατική ποινή. Για όσους πιστεύουν πραγματικά στο μέλλον της τεχνητής νοημοσύνης, το Basilisk είναι βέβαιο ότι θα τους κρατήσει ξύπνιους τη νύχτα.
The Butlerian Jihad from Dune
Το Dune: The Butlerian Jihad είναι ένα μυθιστόρημα επιστημονικής φαντασίας του 2002 των Μπράιαν Χέρμπερτ και Κέβιν Τζ. Άντερσον, που διαδραματίζεται στο φανταστικό σύμπαν Dune που δημιουργήθηκε από τον Φρανκ Χέρμπερτ. Το μυθιστόρημα Dune γράφτηκε το 1965 και έχει πέντε συνέχειες.
Στα βίβλία του, ο Χέρμπερτ εξερευνά ένα μακρινό μέλλον στο οποίο η ανθρωπότητα συγκρούστηκε και στη συνέχεια ορκίστηκε να θέσει εκτός νόμου την τεχνητή νοημοσύνη.
Αυτή η τροπή των γεγονότων, που αναφέρεται ως Butlerian Jihad, έλαβε χώρα αιώνες πριν από την έναρξη του πρώτου βιβλίου. Αν και αργότερα εξερευνήθηκε από τον γιο του Χέρμπερτ, Μπράιαν και άλλους συγγραφείς, ο ίδιος ο Χέρμπερτ επέλεξε να κρατήσει την Τζιχάντ τόσο απόμακρη και μυστηριώδη για τους χαρακτήρες του όσο οι μύθοι της αρχαίας Ελλάδας για εμάς.
Παρά τις περιορισμένες πληροφορίες που τους δίνονται, οι αναγνώστες έχουν μια αόριστη εντύπωση για το τι συνέβη. Ενώ αποίκιζε τον κόσμο, η ανθρωπότητα ανατράπηκε προσωρινά από την τεχνητή νοημοσύνη. Η ανθρώπινη νίκη επιτεύχθηκε με μεγάλο κόστος – δισεκατομμύρια άνθρωποι πέθαναν- οι επιζώντες μπόρεσαν να παραμερίσουν τη διαφορά τους και να βάλουν σε εφαρμογή μια εντολή που όλοι συμφώνησαν να τιμήσουν: «Μη φτιάξεις μια μηχανή όπως το ανθρώπινο μυαλό».
Η εντολή του Butlerian Jihad εμπνευσμένη από τους τρεις νόμους της ρομποτικής που υποστήριξε ο συγγραφέας επιστημονικής φαντασίας Ισαάκ Ασίμοφ – νόμους που οι σημερινοί προγραμματιστές που ασχολούνται με τη μηχανική μάθηση πρέπει να λάβουν υπόψη τους.
Είναι κατά σειρά:
- Ένα ρομπότ δεν μπορεί να τραυματίσει έναν άνθρωπο ή, μέσω της αδράνειας, να επιτρέψει σε έναν άνθρωπο να βλάψει.
- Ένα ρομπότ πρέπει να υπακούει στις εντολές που του δίνονται από τα ανθρώπινα όντα, εκτός εάν τέτοιες εντολές θα έρχονται σε αντίθεση με τον Πρώτο Νόμο.
- Ένα ρομπότ πρέπει να προστατεύει την ύπαρξή του, εφόσον αυτή η προστασία δεν έρχεται σε αντίθεση με τον Πρώτο ή τον Δεύτερο Νόμο.
