Η τεχνητή νοημοσύνη δεν παράγει «παραισθήσεις» στα chatbot, αλλά στα μυαλά (όσων την δημιούργησαν)

Αν κάποιοι από εσάς μπήκατε στον πειρασμό να τεστάρετε τα όρια των μηχανών τεχνητής νοημοσύνης, όπως το ChatGPT, σίγουρα μπήκατε στον πειρασμό: Το 83% όσων ρώτησαν τέτοιες μηχανές τους πρώτους μήνες ζωής τους ζήτησαν ορισμούς για έννοιες που δεν υπάρχουν ή το βιογραφικό προσώπων που δεν υπήρξαν ποτέ ή δεν υπάρχουν αρκετές καταγεγραμμένες πληροφορίες γι’ αυτά.

Οι μηχανές έδωσαν απαντήσεις, βέβαια. Λανθασμένες απαντήσεις, επίσης βέβαια. Όσο κι αν έψαξαν, όσο κι αν χρησιμοποίησαν τους ηλεκτρονικούς νευρώνες τους, δεν βρήκαν κάτι ακριβώς όπως αυτό που τους ζητήθηκε. Οπότε μεταφέρθηκαν σ’ αυτό που τους φάνηκε πιο κοντινό, σαν έννοια ή σαν πρόσωπο.

Το λάθος αυτό, διότι για λάθος πρόκειται και μάλιστα κραυγαλέο, μπορεί να μας διασκέδασε προς στιγμή. Μας προβλημάτισε, όμως, καθόλου; Μήπως θα έπρεπε να μας προβληματίσει; Και μήπως θα έπρεπε να μας προβληματίσει ακόμα περισσότερο ότι οι ίδιες οι εταιρείες που δημιούργησαν αυτές τις μηχανές τεχνητής νοημοσύνης αρνούνται να αποκαλέσουν αυτή τη διαδικασία με το όνομά της, δηλαδή «λάθος»;

Αντ’ αυτού, χρησιμοποιούν την πολύ πιο ήπια – και μάλλον αποπροσανατολιστική –  λέξη «παραίσθηση» (hallucination). Το επέβαλλε ο ίδιος ο Σουντάρ Πιτσάι, ο διευθύνων σύμβουλος της Google και της Alphabet, σε μια πρόσφατη συνέντευξή του, με την υποσημείωση ότι όσο περνάει ο καιρός, οι «παραισθήσεις» θα μειώνονται. Ο ορισμός της παραίσθησης, βέβαια, αναφέρεται στη μυστηριώδη ικανότητα του ανθρώπινου εγκεφάλου να αντιλαμβάνεται φαινόμενα που δεν είναι παρόντα, τουλάχιστον όχι με συμβατικούς, υλιστικούς όρους. Οικειοποιείται μια λέξη που χρησιμοποιείται συνήθως στην ψυχολογία, τα ψυχεδελικά και τις διάφορες μορφές μυστικισμού, για να περιγράψει στην ουσία ένα μηχανικό σφάλμα.

Τέλος η φτώχεια, τέλος οι ασθένειες…

Παραισθήσεις και ψευδαισθήσεις προφανώς υπάρχουν στον κόσμο της τεχνητής νοημοσύνης, ωστόσο είναι άδικο να τις ρίχνουμε όλες στα ρομπότ. Περισσότερο αυτές ανιχνεύονται στους διάφορους CEO και αρχιμηχανικούς που έριξαν αυτά τα προϊόντα στην αγορά, αλλά και στους θαυμαστές τους, που υποστηρίζουν ότι η τεχνητή νοημοσύνη είναι ό,τι ακριβώς μας έλειπε για να ζήσουμε ονειρεμένα. Βλέπουν, δηλαδή, στοιχεία που δεν υπάρχουν καθόλου.

Η τεχνητή νοημοσύνη, λέει, θα δώσει τέλος στη φτώχεια. Θα θεραπεύσει όλες τις ασθένειες. Θα λύσει την κλιματική αλλαγή. Θα κάνει τις δουλειές μας πιο ουσιαστικές και συναρπαστικές. Θα απελευθερώσει μια ζωή με ελεύθερο χρόνο για αναψυχή και περισυλλογή, Θα τελειώσει η μοναξιά. Θα κάνει τις κυβερνήσεις μας ορθολογικές και αποτελεσματικές.

Πόση αλήθεια κρύβεται πίσω απ’ αυτά; Οι υπέρμαχοι της AI μας λένε να κάνουμε λίγη υπομονή και θα τα δούμε να συμβαίνουν, ωστόσο οι ψευδαισθήσεις που καλλιεργούνται και οι κίνδυνοι που υπάρχουν είναι περισσότεροι απ’ όσους φαντάζεται ο καθένας.

Για την ώρα, αυτό που παρακολουθούμε είναι μια μονομερής δέσμευση του συνόλου της ανθρώπινης γνώσης που υπάρχει σε ψηφιακή μορφή «για το καλό μας». Τέτοια δεν είναι η διαδικασία που χρησιμοποιούν η Microsoft, η Apple, η Google, η Meta, η Amazon; Μα, έτσι εκπαιδεύονται οι μηχανές. Από την συσσωρευμένη γνώση που αποθηκεύουν και επεξεργάζονται προκύπτουν οι απαντήσεις που δίνουν, σωστές ή λανθασμένες.

Η μεγαλύτερη ληστεία τέχνης στην ιστορία

Αυτό δεν είναι παράνομο; Όλα τα κείμενα, οι εικόνες, τα προσωπικά δεδομένα που μπαίνουν στην τεράστια μνήμη των μηχανών αυτών δεν προστατεύονται από τα πνευματικά δικαιώματα και από πολύ αυστηρή νομοθεσία; Με ποιο δικαίωμα, λοιπόν, όλη αυτή η γνώση συσσωρεύθηκε σε ιδιωτικές εταιρίες, που δεν μπορεί κανείς να ανιχνεύσει ούτε τις προθέσεις τους, ούτε να τις ελέγξει αποτελεσματικά;

Η ζωγράφος Μόλι Κράπαμπλ μπήκε μπροστά στην ηγεσία ενός κινήματος καλλιτεχνών που αμφισβητούν αυτήν την κλοπή. «Οι γεννήτριες τέχνης τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστια σύνολα δεδομένων, που περιέχουν εκατομμύρια εικόνες. Αυτές οι εικόνες προστατεύονται από πνευματικά δικαιώματα, που έχουν συλλεχθεί χωρίς τη γνώση του δημιουργού τους, χωρίς αποζημίωση ή συναίνεση. Αυτή είναι ουσιαστικά η μεγαλύτερη ληστεία τέχνης στην ιστορία».

Σ’ αυτή την κλοπή έχει δοθεί επίσης ένα νέο όνομα: «Διαταραχή». Την έδωσε η ίδια η Silicon Valley και οι εταιρίες της. Το ζήτημα είναι πως όταν θα γίνει ένας απολογισμός των κοινωνικών, πολιτικών και οικονομικών συνεπειών, η τεχνολογία θα έχει προχωρήσει τόσο που τα δικαστήρια θα σηκώσουν τα χέρια ψηλά.

Κάτι τέτοιο είδαμε να συμβαίνει με τη σάρωση βιβλίων και έργων τέχνης της Google. Με τον διαστημικό αποικισμό του Μασκ. Με την επίθεση της Uber στη βιομηχανία ταξί. Με την επίθεση της Airbnb στην αγορά ενοικίων. Με την συσσώρευση των προσωπικών μας δεδομένων στο Facebook.

Οι χάρτες Street View της Google, για παράδειγμα, ξεπέρασαν τους κανόνες απορρήτου, στέλνοντας τα αυτοκίνητά της με κάμερα για να φωτογραφίσουν τους δημόσιους δρόμους και το εξωτερικό των σπιτιών μας. Όταν κυκλοφόρησαν οι αγωγές για την υπεράσπιση των δικαιωμάτων απορρήτου, το Street View ήταν ήδη τόσο πανταχού παρόν στις συσκευές μας  που λίγα δικαστήρια εκτός Γερμανίας ήταν πρόθυμα να παρέμβουν.

Τώρα το ίδιο που συνέβη στο εξωτερικό των σπιτιών μας συμβαίνει με τα ανθρώπινα κείμενα, τη μουσική, τα τραγούδια, καθώς και ολόκληρη την ψηφιακή μας ζωή. Όλα κατασχέθηκαν επί του παρόντος και χρησιμοποιούνται για την εκπαίδευση των μηχανών για την προσομοίωση της σκέψης και της δημιουργικότητας.

Ο κίνδυνος είναι υπαρκτός και μετρήσιμος ακόμα και από τους δημιουργούς της ΑΙ. Είναι γνωστή, πλέον, η έρευνα που ζητούσε από ερευνητές και προγραμματιστές τεχνητής νοημοσύνης να εκτιμήσουν την πιθανότητα τα προηγμένα συστήματα τεχνητής νοημοσύνης να προκαλέσουν «ανθρώπινη εξαφάνιση ή παρόμοια μόνιμη και σοβαρή αποδυνάμωση του ανθρώπινου είδους». Η μέση απάντηση ήταν ανατριχιαστική: Η πιθανότητα υπήρχε και εκτιμήθηκε γύρω στο 10%. Είναι λογικό κάποιος να εργάζεται πάνω σε τέτοια πρότζεκτ, που απειλούν, έστω και μ’ αυτά τα ποσοστά, την ανθρωπότητα;

Παραίσθηση #1: Η τεχνητή νοημοσύνη θα αντιμετωπίσει την κλιματική κρίση

Στην κορυφή των καταλόγων με τα θετικά της τεχνητής νοημοσύνης είναι ο ισχυρισμός ότι αυτά τα συστήματα θα λύσουν την κλιματική κρίση. Έχει ακουστεί από το Παγκόσμιο Οικονομικό Φόρουμ μέχρι το Συμβούλιο Εξωτερικών Σχέσεων μέχρι το Boston Consulting Group. Η εξήγηση που δίνουν όλοι αυτοί είναι ότι η τεχνητή νοημοσύνη «μπορεί να χρησιμοποιηθεί για την υποστήριξη όλων των ενδιαφερομένων στην υιοθέτηση μιας πιο ενημερωμένης και βασισμένης σε δεδομένα προσέγγισης για την καταπολέμηση των εκπομπών άνθρακα και την οικοδόμηση μια πιο πράσινη κοινωνία».

Για να το καταλάβουμε καλύτερα, η ως τώρα αποτυχία εξεύρεσης λύσεων στα μεγάλα προβλήματα όπως η κλιματική αλλαγή οφείλεται αποκλειστικά στην έλλειψη δεδομένων, κι αν τα έχουμε αυτά τα δεδομένα θα αποφασίσουμε καλύτερα. Υπάρχει κανείς που να το πιστεύει αυτό; Δεν έχουν δημοσιευτεί χιλιάδες μελέτες, δεν υπάρχουν εκατομμύρια εκατομμυρίων δεδομένων και αναλύσεις από ανθρώπους βραβευμένους και με Νόμπελ; Δεν λένε όλοι αυτοί ότι πρέπει να μειωθούν οι εκπομπές άνθρακα, να σταματήσουν οι εξορύξεις και να αντιμετωπιστεί η υπερκατανάλωση των πλουσίων και η υποκατανάλωση των φτωχών;

Τι θα αλλάξει αν αντί για τους επιστήμονες θα το υποστηρίξουν αυτό οι μηχανές; Πιστεύει κανείς ότι οι κερδοσκοπικές κυβερνήσεις θα ακούσουν τις μηχανές και όχι τους ανθρώπους; Κι αυτό περίμεναν για να αλλάξουν άποψη; Τα δεδομένα των μηχανών; Ή μήπως δεν υπάρχει η πολιτική βούληση παγκοσμίως να γίνουν κινήσεις για να σωθεί το περιβάλλον; Με λίγα λόγια, το πρόβλημα δεν είναι η έλλειψη δεδομένων. Όλοι τα ξέρουν όλα. Απλά δεν θέλουν.

Παραίσθηση #2: Η τεχνητή νοημοσύνη θα προσφέρει σοφή διακυβέρνηση

Περισσότερο ψευδαίσθηση είναι αυτή, παρά παραίσθηση: Οι πολιτικοί και οι γραφειοκράτες, βασιζόμενοι στην τεράστια συγκεντρωτική νοημοσύνη των συστημάτων τεχνητής νοημοσύνης, θα είναι σε θέση, λέει, «να δουν πρότυπα ανάγκης και να αναπτύξουν προγράμματα βασισμένα σε στοιχεία» που έχουν μεγαλύτερα οφέλη για τους ψηφοφόρους τους. Αυτός ο ισχυρισμός προέρχεται από ένα έγγραφο που δημοσιεύτηκε από το ίδρυμα του Boston Consulting Group, αλλά επαναλαμβάνεται σε πολλά κέντρα σκέψης και συμβούλους διαχείρισης.

Κι εδώ ο αντίλογος είναι ο ίδιος: Είναι ο λόγος που οι πολιτικοί επιβάλλουν σκληρές και αναποτελεσματικές πολιτικές η έλλειψη αποδεικτικών στοιχείων; Χρειάζονται την τεχνητή νοημοσύνη για να τους κάνουν αποτελεσματικότερους; Θα ήταν εξαιρετικά χρήσιμο αν η τεχνητή νοημοσύνη μπορούσε πραγματικά να κόψει τη σχέση μεταξύ εταιρικού χρήματος και απερίσκεπτης χάραξης πολιτικής,  αλλά αυτός ο σύνδεσμος έχει να κάνει με το γιατί εταιρείες όπως η Google και η Microsoft έχουν επιτραπεί να κυκλοφορήσουν τα chatbots τους στο κοινό παρά τις προειδοποιήσεις και γνωστούς κινδύνους.

Παραίσθηση #3: Οι γίγαντες της τεχνολογίας μπορούν να εμπιστευτούν ότι δεν θα στραφούν εναντίον του ανθρώπου

Όταν ρωτήθηκε αν ανησυχεί για την ξέφρενη πορεία που έχει ήδη εξαπολύσει το ChatGPT, ο ίδιος ο δημιουργός τους Σαμ Άλτμαν είπε ότι φυσικά ανησυχεί κι ευχήθηκε απλώς «όλα να πάνε καλά». Η ίδια η Google, φυσικά, απέλυσε πολλά στελέχη της επειδή δημοσίευαν επικριτικά έγγραφα σχετικά με την τεχνητή νοημοσύνη ή προκαλούσαν την εταιρεία για ρατσισμό και σεξουαλική παρενόχληση στο χώρο εργασίας. Αυτό συμβαίνει επειδή, σε αντίθεση με τις ψευδαισθήσεις των ανθρώπων που επωφελούνται περισσότερο από την τεχνητή νοημοσύνη, η Google δεν λαμβάνει αποφάσεις με βάση το καλύτερο για τον κόσμο, αλλά με βάση το καλύτερο για τους μετόχους της Alphabet.

Παραίσθηση #4: Η τεχνητή νοημοσύνη θα μας απελευθερώσει από τις δουλειές-αγγαρείες

Αυτή η παραίσθηση είναι η πιο δημοφιλής. Οι μηχανές θα κάνουν τις βαρετές δουλειές και θα αφήσουν στους ανθρώπους τις πιο δημιουργικές και τις πιο ευχάριστες. Αλλά η διαδρομή, όπως φάνηκε, είναι κάπως διαφορετική: Δημιουργήστε ένα ελκυστικό προϊόν (μια μηχανή αναζήτησης, ένα εργαλείο χαρτογράφησης, ένα κοινωνικό δίκτυο, μια πλατφόρμα βίντεο), δώστε το δωρεάν ή σχεδόν δωρεάν για μερικά χρόνια, παρακολουθήστε τους ανθρώπους να γαντζώνονται πάνω του  και μετά εισαγάγετε τις στοχευμένες διαφημίσεις, τη συνεχή επιτήρηση, τις αστυνομικές και στρατιωτικές συμβάσεις και τις κλιμακούμενες συνδρομές.

Με την επανάσταση της τεχνητής νοημοσύνης οι απώλειες σε ολόκληρους τομείς θα μπορούσαν να είναι τρομακτικές: δασκάλοι, κωδικοποιητές, καλλιτέχνες, δημοσιογράφοι, μεταφραστές, μουσικοί, μπορεί να δουν την δουλειά τους να αντικαθίσταται από τις μηχανές και οι ίδιοι να μην έχουν αυτή την ελευθερία. Η τεχνητή νοημοσύνη δεν θα είναι το τέλος της απασχόλησης, προφανώς. Αλλά το όνειρο μιας πιο όμορφης, χαλαρής ζωής, δεν μπαίνει στο ίδιο ζύγι. Κάποιες βαρετές δουλειές θα γίνουν από τις μηχανές, αλλά υπάρχει σοβαρός κίνδυνος να γίνουν κι άλλες δουλειές, πολύ πιο δημιουργικές, από μηχανές που δουλεύουν δωρεάν και δεν απαιτούν τίποτα.