Περιεχόμενα
Όσοι νομίζετε ότι η τεχνητή νοημοσύνη των υπολογιστών εξελίχθηκε σχετικά πρόσφατα, ασφαλώς δεν έχετε ακούσει για τον Τζόζεφ Βαϊζενμπάουμ. Από τις αρχές της δεκαετίας του 1960 ο καθηγητής του διάσημου πανεπιστημίου ΜΙΤ στη Μασσαχουσέτη των ΗΠΑ είχε πειραματιστεί με αυτή την λειτουργία. Κι έφτασε σε τέτοιο σημείο, ώστε το 1966 παρουσίασε στους φοιτητές του το πρώτο chatbot!
Τι ήταν αυτό; Ένα λογισμικό που έδινε «λογικές» απαντήσεις σε οποιαδήποτε ερώτηση. Δεχόταν μηνύματα μέσω μιας ηλεκτρικής γραφομηχανής (πρόγονος του πληκτρολογίου) και απαντούσε «ανάλογα», λίγο μετά την ερώτηση.
Ο Βαϊζενμπάουμ έδωσε στο λογισμικό του ρόλο ενός «ψυχοθεραπευτή» και το ονόμασε Eliza. Πήρε την έμπνευση από την Ελάιζα Ντουλίτλ, τον χαρακτήρα του «Πυγμαλίωνα», του πασίγνωστου έργου του Τζορτζ Μπέρναρντ Σο. Όπως η Ελάιζα στο έργο κατάφερε από μια ταπεινή πωλήτρια λουλουδιών του δρόμου να «ξεγελάσει» την κοινωνία απλά με την αριστοκρατική χροιά που έδινε στη φωνή της, έτσι και ο υπολογιστής μπορούσε να «ξεγελάσει» τα ανθρώπινα όντα, ότι μπορούσε να ακούσει τα προβλήματά τους, να τους καταλάβει και να προτείνει λύσεις.
Το εντυπωσιακό εγχείρημα βρήκε πολλούς υποστηρικτές, ακόμα και δημοσιογράφους που το χρησιμοποίησαν και το διαφήμισαν. Η ίδια η γραμματέας του Βαϊζενμπάουμ συνελήφθη από τον ίδιο να… συμβουλεύεται το λογισμικό για τα προσωπικά της! Κι όμως, το πράγμα δεν προχώρησε. Διότι ο ίδιος ο δημιουργός του αποφάσισε να μην το προχωρήσει. Έγινε, μάλιστα, ένας από τους μεγαλύτερους πολέμιους της Τεχνητής Νοημοσύνης (AI). Από φόβο; Από ενσυναίσθηση; Από επαναστατική διάθεση; Δεν μπορεί κανείς να απαντήσει πριν ρίξει μια ματιά στη ζωή του.
Γιος Εβραίου γουναρά που αγάπησε τα μαθηματικά
Γεννήθηκε το 1923 στο Βερολίνο, γιος μιας οικογένειας Εβραίων που ανήκε στα ανώτερα στρώματα της μεσαίας τάξης. Ο πατέρας του Ζεσιέλ είχε μεταναστεύσει από πιο ανατολικά, την περιοχή της Γαλικίας, όπου τελειοποίησε τις γνώσεις του στο εμπόριο γουναρικών. Τα χρήματα του και η άνετη ζωή τον οδήγησαν σε γάμο με μία Βιεννέζα. Στο Βερολίνο διατηρούσε ένα κατάστημα με σταθερή και ευκατάστατη πελατεία. Για τον γιο του ανέπτυξε μια ισχυρή περιφρόνηση από τα μικρά του χρόνια. Τον θεωρούσε ηλίθιο, επειδή ο Τζόζεφ δεν είχε κανένα ενδιαφέρον για τις γούνες και το εμπόριο.
Μετά την άνοδο των Ναζί στην εξουσία, τα πράγματα δυσκόλεψαν τόσο πολύ για την οικογένεια Βαϊζενμπάουμ. Ο Τζόζεφ αναγκάστηκε να φύγει από το ακριβό του ιδιωτικό σχολείο ως γόνος Εβραίου και να ενταχθεί σ’ ένα γυμνάσιο αρρένων Εβραιόπουλων. Εκεί γνώρισε πολύ φτωχότερους συμμαθητές του, με τους οποίους όμως το σπίτι του απαγόρευε να κάνει παρέα. Κοινώς, αισθανόταν παρίας όπου κι αν πήγαινε.
Το 1936 η οικογένεια αποφάσισε να μεταναστεύσει και πάλι, αυτή τη φορά στο Ντιτρόιτ των ΗΠΑ, όπου η θεία του Τζόζεφ διατηρούσε ένα αρτοποιείο. Χωρίς να γνωρίζει καν αγγλικά, ο Τζόσεφ μπήκε στο εκπαιδευτικό σύστημα των ΗΠΑ κι ανέπτυξε μια ιδιαίτερη αγάπη για τα μαθηματικά. Ήταν τα μόνα σύμβολα που καταλάβαινε. Κι αυτά που, εν τέλει, τον βοήθησαν να γίνει ευρύτερα αποδεκτός σε μια ξένη κοινωνία.
Κατά τη διάρκεια της φοίτησής του στο πανεπιστήμιο του Ντιτρόιτ ο Βαϊζενμπάουμ γνώρισε τις αριστερές ιδέες. Είδε ομοιότητες στην αντιμετώπιση των μαύρων από τους λευκούς, όπως και στη δική του φυλή από τους Ναζί. Η πρώτη του σύζυγος ήταν μια Εβραία ακτιβίστρια, μαχήτρια υπέρ των εργατικών δικαιωμάτων. Αυτές οι πεποιθήσεις τον συντρόφευσαν σε όλη τη ζωή του κι επηρέασαν βαθιά όχι μόνο τη σκέψη του, αλλά και την στάση του απέναντι στα πράγματα.
Στις αρχές της δεκαετίας του 1950 μπήκε στη ζωή του η πληροφορική. Έπεσε με τα μούτρα, ως μέλος μιας ομάδας που είχε φτιάξει ένας καθηγητής του στο πανεπιστήμιο, με στόχο να δημιουργήσουν από το μηδέν έναν υπολογιστή. Εκεί εντυπωσίασε με το πρακτικό και κοφτερό μυαλό του, που τον βοήθησε να δίνει λύσεις εκεί που οι άλλοι έβλεπαν αδιέξοδα.
Ήδη από τις αρχές του 1960 βρέθηκε σε επιτελική θέση στην General Electric. Κατασκεύασε δύο υπολογιστές, έναν για το Αμερικάνικο Ναυτικό που εκτόξευε πυραύλους κι έναν για την Bank of America που διαχειριζόταν επιταγές. Το 1963 δέχτηκε την πρόταση του διάσημου ΜΙΤ και έγινε επισκέπτης καθηγητής. Με χρηματοδότηση από το Πεντάγωνο τελειοποίησε το σύστημα εισαγωγής δεδομένων στον υπολογιστή μέσω γραφομηχανής (πληκτρολογίου). Επινόησε τις πρώτες ρουτίνες για την αποστολή και λήψη των πασίγνωστων πια e-mail, του ηλεκτρονικού ταχυδρομείου.
Το πρώτο στάδιο της AI
Ήταν μοιραίο να ασχοληθεί και με το πρώιμο στάδιο της Τεχνητής Νοημοσύνης (AI). Ήθελε να προχωρήσει παραπέρα. Τι θα γινόταν αν μπορούσατε να συνομιλήσετε με έναν υπολογιστή σε μια λεγόμενη φυσική γλώσσα, όπως τα αγγλικά; Αυτό τον έφερε στην τροχιά του Έργου Τεχνητής Νοημοσύνης (AI) του MIT, το οποίο είχε συσταθεί το 1958 από τους Τζον Μακάρθι και Μάρβιν Μίνσκι.
Ο Μακάρθι είχε επινοήσει τη φράση «τεχνητή νοημοσύνη» (AI) λίγα χρόνια νωρίτερα, όταν χρειαζόταν έναν τίτλο για ένα ακαδημαϊκό εργαστήριο. Η φράση ήταν αρκετά ουδέτερη για να αποφευχθεί η επικάλυψη με υπάρχοντες τομείς έρευνας όπως η κυβερνητική, αρκετά άμορφη για να προσελκύσει διεπιστημονικές συνεισφορές και αρκετά τολμηρή για να μεταδώσει τον ριζοσπαστισμό.
Από το 1967, λίγους μήνες μετά την παρουσίαση της Eliza, ο ίδιος ο Βαϊζενμπάουμ αποφάσισε να αποδομήσει το έργο του. Στο πρώτο του δημοσιευμένο άρθρο για την ανακάλυψή του, υποστήριξε ότι κανένας υπολογιστής δεν θα μπορούσε ποτέ να καταλάβει πλήρως έναν άνθρωπο. Μετά προχώρησε ένα βήμα παραπέρα: κανένας άνθρωπος δεν θα μπορούσε ποτέ να καταλάβει πλήρως άλλον άνθρωπο. Η ψυχανάλυση τον ενδιέφερε όλο και περισσότερο. Παραδέχτηκε ότι ήταν εκπληκτικά… εύκολο να ξεγελάσεις τους ανθρώπους ώστε να νιώσουν ότι ένας υπολογιστής τους γνώριζε, και να δουν αυτόν τον υπολογιστή ως άνθρωπο. Κι εκεί αρχίζουν οι κίνδυνοι της AI.
Αποφάσισε να πάει και κάποια βήματα παρακάτω, λόγω και της γενικότερης κουλτούρας του. Πρωτοστάτησε στην διαμαρτυρία των φοιτητών του ΜΙΤ κατά του πολέμου στο Βιετνάμ. Άρχισε να σκέφτεται τους Γερμανούς επιστήμονες που είχαν δανείσει την τεχνογνωσία τους στο ναζιστικό καθεστώς και δεν ήθελε να παίξει τέτοιο ρόλο. Έφτασε στο σημείο να υποστηρίξει ότι οι επιστήμονες ευθύνονται και για τους βομβαρδισμούς με βόμβες ναπάλμ στο Βιετνάμ, επειδή οι στρατιωτικοί ενήργησαν με βάση επιστημονικά δεδομένα και μελέτες.
Αυτές του οι πεποιθήσεις άρχισαν να τον απομονώνουν και μεταξύ των συναδέλφων του. Πλέον θεωρούνταν περιθωριακός της AI, δεν έχαιρε της προηγούμενης εκτίμησης.
Ένα βιβλίο-κριτική στην AI από μέσα
Το 1976 ο Βαϊζενμπάουμ δημοσίευσε το εμβληματικό του έργο, ένα βιβλίο Computer Power and Human Reason: From Judgment to Calculation. (Η Δύναμη του Υπολογιστή και ο Ανθρώπινος Λόγος: Από την Κρίση στον υπολογισμό). Μια σειρά από συνομιλίες, όχι μόνο με συναδέλφους του καθηγητές για την AI, αλλά και κριτικούς θεωρητικούς, πολιτικούς φιλοσόφους, μέχρι και τον ανατρεπτικό συγγραφέα Ευγένιο Ιονέσκο.
Το βιβλίο έχει δύο βασικά επιχειρήματα. Πρώτον: υπάρχει διαφορά μεταξύ ανθρώπου και μηχανής. Δεύτερον: υπάρχουν ορισμένες εργασίες για τις οποίες δεν θα έπρεπε να είναι φτιαγμένοι οι υπολογιστές, ανεξάρτητα από το αν οι υπολογιστές μπορούν να γίνουν για να τις κάνουν.
Για τον Βαϊζενμπάουμ, οι ανθρώπινες αξίες που αποκτώνται μέσα από την πορεία της εμπειρίας της ζωής μας και είναι αναγκαστικά ποιοτικές: δεν μπορούν να αποτυπωθούν σε κώδικα. Ο υπολογισμός, αντίθετα, είναι ποσοτικός. Χρησιμοποιεί έναν τεχνικό λογισμό για να καταλήξει σε μια απόφαση. Οι υπολογιστές είναι ικανοί μόνο για υπολογισμούς, όχι για κρίση. Αλλά χάρη σε μεγάλο βαθμό σε μια επιτυχημένη ιδεολογική εκστρατεία που πραγματοποιήθηκε από αυτό που ονόμασε «τεχνητή διανόηση» (AI), οι άνθρωποι έβλεπαν όλο και περισσότερο τους ανθρώπους και τους υπολογιστές ως εναλλάξιμους. Ως αποτέλεσμα, οι υπολογιστές είχαν εξουσιοδοτηθεί για θέματα στα οποία δεν είχαν καμία αρμοδιότητα.
Οι αντιδράσεις ήταν θυελλώδης. Ο Μακάρθι τον χαρακτήριζε «ηθικό και ασυνάρτητο», και το έργο του ένα «νέο αριστερό σλόγκαν». Ο Μπέντζαμιν Κάιπερς από το Εργαστήριο Τεχνητής Νοημοσύνης του MIT παραπονέθηκε για τις «σκληρές και μερικές φορές σκληρές κατηγορίες του Βάιζενμπαουμ εναντίον της ερευνητικής κοινότητας της τεχνητής νοημοσύνης (AI)». Η μάχη έγινε και αντικείμενο ρεπορτάζ μεγάλων εφημερίδων, όπως οι New York Times, με άρθρα όπως «Μπορούν οι μηχανές να σκεφτούν; Κι αν μπορούν, θα έπρεπε να σκέφτονται»;
Το έργο προκάλεσε τόση εντύπωση επειδή ο συγγραφέας του ήταν ένας άνθρωπος της επιστήμης, μάλιστα της συγκεκριμένης επιστήμης. Η ισχύς των υπολογιστών και η ανθρώπινη λογική του έδωσαν εθνική φήμη. Ήταν ευχαριστημένος. Οι αμφιβολίες, όμως, και οι αγωνίες που τον βασάνιζαν από την παιδική ηλικία δεν έφυγαν ποτέ. Απλά, μεταφέρθηκαν στο επίπεδο της AI.
Οι δύο σχολές της κριτικής
Το 1988, στα 65 του, αποσύρθηκε από το MIT. Αισθανόταν ξένος. Το 1996, επέστρεψε στο Βερολίνο, την πόλη από την οποία είχε εγκαταλείψει 60 χρόνια νωρίτερα. Ήταν όλο και πιο απαισιόδοξος για το μέλλον, πολύ περισσότερο απ’ ό,τι ήταν τη δεκαετία του 1970. Η κλιματική αλλαγή τον τρόμαξε. Ωστόσο, διατηρούσε ελπίδες για το ενδεχόμενο ριζικής αλλαγής. Στις 5 Μαρτίου 2008, ο Βαϊζενμπάουμ πέθανε από καρκίνο του στομάχου, στα 85 του χρόνια.
Ο Βαϊζενμπάουμ και οι ιδέες του θεωρούνται εν πολλοίς υπεύθυνες για την καθυστέρηση ανάπτυξης της τεχνητής νοημοσύνης (AI) τις δεκαετίες μετά το 1960. Το να κάνεις τους υπολογιστές να εκτελούν εργασίες που σχετίζονται με τη νοημοσύνη, όπως η μετατροπή ομιλίας σε κείμενο ή η μετάφραση από τη μια γλώσσα στην άλλη, αποδείχθηκε πολύ πιο δύσκολο από ό,τι αναμενόταν. Σήμερα, βεβαίως, το λογισμικό υπάρχει κι έχει εξελιχθεί πολύ περισσότερο απ’ όσο φοβόταν ο Βαϊζενμπάουμ.
Για την ακρίβεια, ορισμένοι από τους εφιάλτες του όσον αφορά την AI έχουν γίνει πραγματικότητα: τα λεγόμενα όργανα αξιολόγησης κινδύνου χρησιμοποιούνται από δικαστές σε όλες τις ΗΠΑ για τη λήψη κρίσιμων αποφάσεων σχετικά με την εγγύηση, την καταδίκη, την αποφυλάκιση υπό όρους και την αναστολή. Τα chatbot που λειτουργούν με τεχνητή νοημοσύνη διαφημίζονται συνήθως ως μια αυτοματοποιημένη εναλλακτική λύση στην επίσκεψη σε έναν άνθρωπο θεραπευτή.
Από την άλλη, ο Βαϊζενμπάουμ αν ζούσε τώρα δεν θα αισθανόταν μόνος. Υπάρχει μια διαρκώς αυξανόμενη και φωνασκούσα επιστημονική κοινότητα που στέκεται κριτικά απέναντι στην AI.
Σε γενικές γραμμές, υπάρχουν δύο σχολές σκέψης σήμερα σχετικά με τους κινδύνους της τεχνητής νοημοσύνης. Το πρώτο, επηρεασμένο από τον Βαϊζενμπάουμ, επικεντρώνεται στους κινδύνους που υπάρχουν τώρα. Για παράδειγμα, τα μεγάλα γλωσσικά μοντέλα στα οποία βασίζεται το ChatGPT μπορούν να απηχούν οπισθοδρομικές απόψεις, όπως ο ρατσισμός και ο σεξισμός, επειδή εκπαιδεύονται σε δεδομένα που προέρχονται από το Διαδίκτυο. Τέτοια μοντέλα θα πρέπει να γίνουν κατανοητά ως ένα είδος «παπαγάλου», καμία σχέση με νοημοσύνη και AI.
Η δεύτερη σχολή σκέψης προτιμά να σκέφτεται με κερδοσκοπικούς όρους. Οι υποστηρικτές του ενδιαφέρονται λιγότερο για τις βλάβες που υπάρχουν ήδη εδώ παρά για αυτές που μπορεί να προκύψουν κάποια μέρα. Στέκονται ιδιαίτερα στον «υπαρξιακό κίνδυνο» μιας τεχνητής νοημοσύνης που γίνεται «υπερευφυής» και εξαφανίζει την ανθρώπινη φυλή.
Σε γενικές γραμμές, ο Βαϊζενμπάουμ ένιωσε ότι συμμετείχε σε μια τεχνολογική επανάσταση, μέχρι που κατάλαβε ότι αυτή ήταν στην πραγματικότητα μια αντεπανάσταση. Η εξέλιξη των υπολογιστών ενίσχυσε τις κατασταλτικές δομές εξουσίας αντί να τις ανατρέψει. Ώθησε τους ανθρώπους να θεωρούν τον εαυτό τους κάτι περισσότερο από μηχανές. Σκέφτηκε ότι με το να εκχωρούμε τόσες πολλές αποφάσεις στους υπολογιστές μέσω της AI έχουμε δημιουργήσει έναν κόσμο πιο άνισο και λιγότερο ορθολογικό. Και γι’ αυτό θα πρέπει να είμαστε πολύ πιο προσεκτικοί.
** Με πληροφορίες από Guardian.