Περιεχόμενα
Από την εποχή που δημοσιεύθηκε το διάσημο έργο «Frankenstein» το 1818, οι ευφάνταστοι μικροί ανθρώπινοι εαυτοί μας φοβούνται τη στιγμή που οι εφευρέσεις μας θα επικρατήσουν σε όλο τον πλανήτη και το είδος μας θα εξαφανιστεί, κάνοντας ουσιαστικά την πρώτη αναφορά σχετικά με την τεχνητή νοημοσύνη στην ιστορία.
Στην ποπ κουλτούρα, οι ιστορίες τεχνολογικής προόδου και επακόλουθης καταστροφής έχουν αντέξει ακριβώς για την ικανότητά τους να «γαργαλούν» τον εγκέφαλό μας ακριβώς σε αυτό το γλυκό σημείο όπου το θαύμα μετατρέπεται σε φρίκη.
Τις προηγούμενες δεκαετίες είχαμε τη Mary Shelley και τον H.G. Wells, το Fahrenheit 451 και το A Space Odyssey. Στην εποχή μας, δεν γίνεται να υπάρξει συζήτηση για καταστροφές που προκαλεί τεχνολογία χωρίς να αναφέρετε τουλάχιστον μία φορά το Black Mirror, το Truman Show ή το ρομπότ Arnold Schwarzenegger.
Ο Ted Chiang, συγγραφέας των πιο διάσημων ιστοριών επιστημονικής φαντασίας της εποχής μας (τέσσερα βραβεία Hugo, τέσσερα βραβεία Nebula) κατανοεί αυτή την ανθρώπινη παρόρμηση. Στη μυθοπλασία του Chiang, οι χαρακτήρες σε όλα τα είδη των συμπάντων παλεύουν με τα όρια του είδους μας καθώς οδεύουν προς την υπέρβαση μέσω των αυτόματων και των εξωγήινων γλωσσών.
Τον τελευταίο καιρό, ο διάσημος συγγραφέας σκέφτεται αυτή την τρέχουσα πραγματικότητα: Μέσω viral δοκιμίων για το The New Yorker, μπαίνει στη φετινή δημόσια συζήτηση για να εξηγήσει το ChatGPT και τη γενετική τεχνητή νοημοσύνη με όρους που μπορεί πραγματικά να επεξεργαστεί οποιοσδήποτε χρήστης smartphone.
Κάποια στιγμή μεταξύ του Marc Andreessen που γράφει blog για το πώς η τεχνητή νοημοσύνη θα σώσει τον κόσμο και την κυκλοφορία της νέας σεζόν Black Mirror, ο Chiang και η δημοσιογραφική ομάδα του «Vanity Fair» συζήτησαν μέσω Zoom τη θέση μας απέναντι στην τεχνολογία και τις μεταφορές που χρησιμοποιούμε για να κατανοήσουμε όλα αυτά.
Ted Chiang admits he isn't totally plugged into the daily churn of tech news—“I'm not super interested in what Marc Andreessen has to say.” https://t.co/uAcU0UvSHh
— VANITY FAIR (@VanityFair) June 30, 2023
«Θέλει προσπάθεια για να μην αναφερθείς στην τεχνητή νοημοσύνη»
Όσον αφορά τα πολιτιστικά στοιχεία, ποιες ήταν οι πρώτες σας επιρροές;
Όταν ήμουν ίσως 11 ετών, άρχισα να διαβάζω τον Isaac Asimov, την επιστημονική φαντασία του και τη δημοφιλή επιστημονική του γραφή. Διαβάζοντας και τα δύο μου έδωσε μια πολύ ξεκάθαρη αίσθηση της διαφοράς μεταξύ των δύο.
Όταν ήμουν νεότερος, ας πούμε στην τετάρτη δημοτικού, είχα ασχοληθεί πολύ με βιβλία για τα θαλάσσια φίδια και τους Μεγαλοπόδαρους και τους αρχαίους αστροναύτες. Αυτό που δεν συνειδητοποίησα ήταν το μείγμα γεγονότων και μυθοπλασίας που εμπλέκονται σε αυτά τα θέματα, οπότε όταν άρχισα να διαβάζω τον Asimov, μου ξεκαθάρισε τη φύση του ενδιαφέροντός μου.
Επειδή, ναι, υπάρχουν ωραία πράγματα στην επιστήμη, και υπάρχουν πολύ ωραία πράγματα στις εικασίες για την επιστήμη, αλλά όταν φτιάχνετε τα φανταστικά σας σενάρια εμπνευσμένα από την επιστήμη, θα πρέπει να είστε πολύ ξεκάθαροι με ποιον ασχολείστε ανά πάσα στιγμή.
Ξεκινήσατε να γράφετε και να υποβάλλετε διηγήματα στο λύκειο. Θυμάστε ακόμα το πρώτο που στείλατε;
Ήταν μια περιπέτεια που διαδραματιζόταν στο διάστημα, για μια απόπειρα διάσωσης ενός πλοίου που είχε βυθιστεί. Έκανα μια γελοία έρευνα γι’ αυτό. Θυμάμαι ότι έψαξα «Ποιο είναι το μήκος κύματος της ακτινοβολίας γάμμα από τις συγκρούσεις ηλεκτρονίων ποζιτρονίων;»
Κατά τη διάρκεια της καριέρας σας στην επιστημονική φαντασία, ο μέσος όρος σας είναι μάλλον θρυλικός όσον αφορά την αναλογία ιστοριών προς τα βραβεία και την αναγνώριση. Γνωρίζατε ότι σας κάνουν αναφορά στην τελευταία σεζόν της σειράς «You» του Netflix;
Έχω ενημερωθεί.
Υπάρχει ένα μόνο βραβείο ή διάκριση που έχετε λάβει και ξεχωρίζετε;
Δεν νομίζω ότι έχω καλή απάντηση σε αυτό. Ήταν μια μακρά σειρά από εντελώς απροσδόκητα γεγονότα.
Πόσο συνδεδεμένος είστε στην καθημερινή ανατροπή των ειδήσεων τεχνολογίας; Είμαι περίεργος αν παρακολουθείτε πράγματα όπως η αναρτήσεις του Marc Andreessen σχετικά με την τεχνητή νοημοσύνη.
Δεν είμαι, αν και υποθέτω ότι θα πω ότι δεν με ενδιαφέρει πολύ τι έχει να πει ο Marc Andreessen. Γενικά, δεν μπορώ να πω ότι συμβαδίζω με συστηματικό τρόπο. Αλλά στις μέρες μας, σχεδόν πρέπει να κάνετε μια σκόπιμη προσπάθεια για να αποφύγετε να ακούσετε για AI.
Θα θεωρούσατε τον εαυτό σας ως πρώιμο «υιοθέτη» νέων τεχνολογιών;
Όχι όσον αφορά τις περισσότερες τεχνολογίες. Με ενδιαφέρει να δω τι συμβαίνει στην τεχνολογία, αλλά όσον αφορά την καθημερινή μου εργασία, δεν ψάχνω για νέο λογισμικό εκτός και αν υπάρχει πραγματικό πρόβλημα που αντιμετωπίζω. Μακάρι να μπορούσα να χρησιμοποιήσω ακόμα μια πολύ παλαιότερη έκδοση του Word από ό,τι έπρεπε.
Η τεχνητή νοημοσύνη σαν καπιταλισμός
Πώς προέκυψε η σχέση σας με το The New Yorker; Τα πρώτα δύο πράγματα που τους γράψατε το 2016 και το 2017 δεν αφορούσαν την τεχνολογία αυτή καθαυτή. Ποιος σας πρότεινε να ασχοληθείτε στα κείμενά σας με την τεχνητή νοημοσύνη;
Το πρώτο πράγμα που έγραψα ήταν για κινέζικους χαρακτήρες. Με πλησίασαν και έμεινα τελείως έκπληκτος. Ξέρετε, προέρχομαι από ένα υπόβαθρο επιστημονικής φαντασίας και μέσα στην κοινότητα επιστημονικής φαντασίας, υπάρχει ένα πολύ σαφές όριο μεταξύ της επιστημονικής φαντασίας και του λογοτεχνικού κατεστημένου.
Υπάρχει ένα άρθρο από το 2021, «Γιατί οι υπολογιστές δεν θα γίνουν πιο έξυπνοι;», που αφορά μερικές σκέψεις που είχα για πολύ καιρό σχετικά με την όλη συζήτηση γύρω από την ιδιαιτερότητα και την έκρηξη στη νοημοσύνη των μηχανών, την οποία αντιμετωπίζω με μεγάλο σκεπτικισμό.
Νωρίτερα φέτος, διάβαζα για το ChatGPT, προσπαθώντας να το καταλάβω για τους δικούς μου σκοπούς, και περίπου εκείνη την περίοδο, ο συντάκτης μου μου έστειλε email και μου είπε, «Έχεις κάποιες σκέψεις για το ChatGPT;»
Όσο για το πιο πρόσφατο κομμάτι, ξεκίνησε τον Οκτώβριο, όταν με προσκάλεσαν να δώσω μια ομιλία σε ένα συνέδριο για την τεχνητή νοημοσύνη. Αρχικά σκόπευα να μιλήσω για το γιατί ένιωσα ότι η απειλή της τεχνητής νοημοσύνης να γίνει πιο έξυπνη από εμάς.
Αλλά καθώς το έγραφα, απλώς στρεφόμουν όλο και περισσότερο προς αυτό που πίστευα ότι είναι τα πραγματικά ζητήματα, οπότε μίλησα για την τεχνητή νοημοσύνη ως καπιταλισμό. Και μερικά άτομα στην εκδήλωση πρότειναν να δημοσιεύσω αυτήν την ομιλία ως δοκίμιο.
Πώς βρίσκετε την εμπειρία της συγγραφής σε αυτό το δημοσιογραφικό σχήμα;
Δεν μπορώ να πω ότι είμαι πολύ άνετος με αυτό. Όταν σκέφτομαι την επιθυμία μου για σαφή εξήγηση, τα περισσότερα από αυτά είναι στο πλαίσιο της προσπάθειας να κάνω μια ιδέα κατανοητή σε ανθρώπους που δεν ξέρουν πώς λειτουργεί κάτι αλλά ενδιαφέρονται. Αυτό είναι κάτι που κάνουν τα σχολικά βιβλία και τα βιβλία δημοφιλούς επιστήμης.
Αυτός είναι ένας τρόπος γραφής. Αλλά αυτά τα δοκίμια δεν είναι απλώς με στόχο την επεξήγηση. Στην πραγματικότητα είναι δοκίμια με την αρχική έννοια της λέξης: μια προσπάθεια να γίνει επιχείρημα. Αυτό είναι λίγο διαφορετικό για μένα.
Η τεχνητή νοημοσύνη σαν σύστημα
Στο πιο πρόσφατο δοκίμιο, «Will AI Become the New McKinsey;», μιλάτε για την εξάρτησή μας σε προβληματικές μεταφορές, όπως η σύγκριση της τεχνητής νοημοσύνης με ένα τζίνι σε ένα μπουκάλι.
Έχω σκεφτεί πώς μας αρέσει επίσης να χρησιμοποιούμε τις ίδιες προεπιλεγμένες δοκιμές της ποπ κουλτούρας όταν πρόκειται να μιλήσουμε για τεχνολογία που δεν καταλαβαίνουμε. Τι πιστεύετε για τους περιορισμούς του να έχετε αυτές τις προεπιλεγμένες αναφορές σε ετοιμότητα;
Προσωποποιώντας πράγματα, είναι εύκολο να πεις μια δραματική ιστορία. Αν σκεφτείτε αυτό που σήμερα ονομάζεται AI, μοιάζει περισσότερο με ένα σύστημα. Υπάρχουν ιστορίες για τις επιπτώσεις της γραφειοκρατίας και των συστημάτων που συνθλίβουν τους ανθρώπους, αλλά αυτά είναι λίγο πιο δύσκολα. Δεν είναι τόσο σπλαχνικά.
Ίσως η μεγαλύτερη δημοφιλής αφήγηση των τελευταίων ετών για τη γραφειοκρατία είναι το The Wire. Είναι μια υπέροχη τηλεοπτική εκπομπή, αλλά είναι μάλλον πιο δύσκολο να πούμε, εντάξει, αυτό που συμβαίνει με την τεχνητή νοημοσύνη είναι ακριβώς όπως η σεζόν 2 του The Wire ή η σεζόν 4, όπου οι επιλογές των χαρακτήρων περιορίζονταν ή οι προσπάθειές τους ματαιώθηκαν από το σύστημα.
Δεν είναι εύκολο να συνοψιστούν ως η Sarah Connor στο The Terminator. Δεν είναι τόσο κολλώδες ή αξέχαστο.
Παρακολουθείτε προσωπικά αυτές τις ταινίες και τις εκπομπές; Θα δείτε τη νέα σεζόν του Black Mirror;
Αν οι κριτικές είναι καλές, ναι.
Τελικά το καινούριο είναι καλύτερο από το παλιό;
Το κομμάτι «AI as McKinsey» διατυπώνει επίσης μια υποκείμενη καπιταλιστική κριτική στο έργο σας. Σαφώς έχετε πολύ σκεπτικισμό σχετικά με την ιδέα ότι η Silicon Valley μπορεί να προσφέρει μαγικές λύσεις για κοινωνικά προβλήματα.
Διαβάζοντας το «Εβδομήντα δύο Γράμματα», το διήγημά σας από το 2000, παίρνω σαν ερέθισμα τη συζήτηση μεταξύ ενός τεχνίτη και ενός εφευρέτη που προσπαθεί να δημιουργήσει ρομπότ που εξοικονομούν εργασία, όπου ο τεχνίτης λέει στον εφευρέτη:
«Η επιθυμία σας για μεταρρύθμιση σας πιστώνει. Επιτρέψτε μου να προτείνω, ωστόσο, ότι υπάρχουν απλούστερες θεραπείες για τα κοινωνικά δεινά που αναφέρετε: μείωση των ωρών εργασίας ή βελτίωση των συνθηκών. Δεν χρειάζεται να διαταράξετε ολόκληρο το σύστημα παραγωγής μας».
Σε μια στιγμή που μας υπόσχονται ότι «τεχνητή νοημοσύνη σημαίνει εξοικονόμησης εργασίας», αυτό φαίνεται… σχετικό.
Υπάρχει αυτό το ρητό, «Υπάρχουν δύο είδη ηλίθιων. Ο πρώτος λέει πως αυτό είναι παλιό και επομένως καλό. Και ο δεύτερος λέει πως αυτό είναι νέο και επομένως καλύτερο». Το σκέφτομαι συνεχώς. Τι ισχύει τελικά;
Πιθανότατα υπήρξε μια περίοδος στην ιστορία όπου οι περισσότεροι άνθρωποι σκέφτονταν, «Αυτό είναι παλιό και επομένως καλό». Τώρα νομίζω ότι ζούμε σε μια εποχή όπου όλοι λένε: «Αυτό είναι νέο και επομένως καλύτερο».
Δεν πιστεύω ότι οι άνθρωποι που το λένε αυτό έχουν συνεχώς δίκιο, αλλά είναι πολύ δύσκολο να τους επικρίνεις και να τους προτείνεις ότι ίσως κάτι που είναι καινούργιο δεν είναι καλύτερο.
Ή είναι σαν «καλύτερο για ποιον;»
Ναί. Γιατί και εμείς ζούμε σε μια εποχή που υπάρχει πολύς κόσμος που έχει οικονομικά κίνητρα για να μας πείσει ότι κάτι είναι καλύτερο γιατί είναι καινούργιο. Υπάρχει ένα άλλο απόσπασμα όπου ο Upton Sinclair είπε ότι είναι πολύ δύσκολο να κάνεις ένα άτομο να καταλάβει κάτι αν ο μισθός του εξαρτάται από το ότι δεν το καταλαβαίνει.
Μπορούμε να συνυπάρξουμε με «μεταανθρώπους»;
Η τελευταία ερώτησή μου αφορά την πολύ σύντομη ιστορία σας, «The Evolution of Human Science», επίσης από το 2000. Το διάβασα ως μια αρκετά αισιόδοξη ιστορία για ένα σύμπαν όπου οι άνθρωποι μπορούν να υπάρχουν ειρηνικά και παραγωγικά δίπλα σε «μεταανθρώπους», που είναι αυτές οι υπερέξυπνες οντότητες έχουν δημιουργήσει.
Υπάρχει αυτό το υπέροχο απόσπασμα στο οποίο αναφέρεται: «Πρέπει πάντα να θυμόμαστε ότι οι τεχνολογίες που έκαναν δυνατούς τους μεταανθρώπους επινοήθηκαν αρχικά από τους ανθρώπους και δεν ήταν πιο έξυπνοι από εμάς».
Είναι μια δίκαιη ερμηνεία; Και ισχύει αυτή η αισιοδοξία για το πού πιστεύετε ότι βρισκόμαστε στον πραγματικό κόσμο σε σχέση με κάτι σαν την τεχνητή νοημοσύνη;
Αυτή η ιστορία γράφτηκε ως απάντηση σε μια ιδέα που υπήρχε γύρω στο 2000, όταν οι άνθρωποι μιλούσαν για τη μοναδικότητα και ότι θα υπερβαίναμε σε κάτι πολύ μεγαλύτερο. Σκεφτόμουν κυρίως, γιατί όλοι είναι τόσο σίγουροι ότι θα είναι αυτοί που θα ξεπεράσουν;
Ίσως η υπέρβαση δεν θα είναι διαθέσιμη σε όλους μας, οπότε πώς θα ήταν να ζεις σε έναν κόσμο όπου συμβαίνουν αυτά τα ακατανόητα πράγματα και είσαι κάπως στο περιθώριο;
Αλλά δεν νομίζω ότι αυτό ισχύει στην πραγματικότητα για την τρέχουσα κατάστασή μας εδώ, επειδή δεν υπάρχουν εξαιρετικά έξυπνες μηχανές. Δεν υπάρχει λογισμικό που έχει κατασκευάσει κάποιος που να είναι πιο έξυπνο από τους ανθρώπους.
Αυτό που δημιουργήσαμε είναι τεράστια συστήματα ελέγχου. Ολόκληρη η οικονομία μας είναι αυτό το είδος κινητήρα που δεν μπορούμε πραγματικά να σταματήσουμε. Αυτό είναι διαφορετικό από το να λέμε ότι έχουμε δημιουργήσει μηχανές πιο έξυπνες από εμάς. Έχουμε φτιάξει έναν τεράστιο διάδρομο που δεν μπορούμε να κατεβούμε.
Πιθανότατα είναι δυνατό να κατέβουμε, αλλά πρέπει να αναγνωρίσουμε ότι είμαστε όλοι σε αυτόν τον διάδρομο της δικής μας κατασκευής και μετά πρέπει να συμφωνήσουμε ότι όλοι θέλουμε να κατέβουμε.
Υπάρχουν άλλες χώρες που έχουν μια πιο υγιή σχέση με την αφήγηση της προόδου. Υπάρχουν χώρες όπου έχουν πολύ πιο υγιείς στάσεις απέναντι στην εργασία από ό,τι εμείς στις ΗΠΑ. Επομένως, νομίζω ότι αυτά τα πράγματα είναι πιθανά.
Αλλά έχουμε δημιουργήσει ένα σύστημα, και τώρα είναι το μόνο που ξέρουμε. Είναι δύσκολο για εμάς να φανταστούμε τη ζωή έξω από αυτό. Και χτίζουμε μόνο περισσότερα εργαλεία που ενισχύουν και ενισχύουν αυτό το σύστημα.
Είναι κάποια από αυτή τη δουλειά που κάνετε γύρω από την τρέχουσα κατάστασή μας με την τεχνητή νοημοσύνη μέρος της προετοιμασίας σας για μια μελλοντική σύντομη ιστορία;
Όχι.
