Le Point: Όμως απ' ό,τι φαίνεται, βρισκόμαστε πολύ μακριά από την μηχανή με συνείδηση για την οποία μίλαγε ο Alan Turing την δεκαετία του 1950...
Yuval Noah Harari: Είναι πιθανό αλλά όχι αναπόφευκτο. Η συνείδηση είναι η ικανότητα να βιώνει κανείς συναισθήματα, επομένως είναι απολύτως πιθανό για τις μηχανές να αποκτήσουν συνείδηση. Αλλά θα μπορούσαν επίσης να προοδεύσουν σύμφωνα με έναν διαφορετικό τρόπο εξέλιξης, αναπτύσσοντας άλλους τύπους νοημοσύνης, ανώτερους από την ανθρώπινη νοημοσύνη, που δεν περιέχουν κανένα συναίσθημα. Αυτό συμβαίνει ήδη σε περιορισμένους τομείς όπως το σκάκι ή το Go. Το AlphaGo [το λογισμικό που αναπτύχθηκε από την DeepMind και κέρδισε τον παίκτη Lee Sedol στη Σεούλ το 2016, που θεωρείται ένας από τους καλύτερους στον κόσμο, σημείωμα του συντάκτη] δεν αισθάνεται χαρά όταν κερδίζει το παιχνίδι, και όμως είναι πιο έξυπνο από τους ανθρώπους σε αυτό το παιχνίδι. Με τη γενική τεχνητή νοημοσύνη, η νοημοσύνη μας θα μπορούσε να ξεπεραστεί κατά πολύ από μηχανές χωρίς συναισθήματα.
[iEpikaira: Η «συνείδηση» κατά την Ορθόδοξη Θεολογία είναι η φωνή του Θεού μέσα στον άνθρωπο η οποία προσπαθεί να τον κάνει καλύτερο μέσω του ελέγχου ή της επιβράβευσης. Ο Άγιος Νείλος έλεγε: «Να χρησιμοποιήσεις την συνείδησή σου ως λυχνάρι για τις πράξεις σου». Και ο Απόστολος είπε ότι «οι εντολές του νόμου του Θεού είναι γραμμένες μέσα στις καρδιές» (Ρωμ. 2,15). Υπό αυτήν την έννοια και μόνο, μια μηχανή/λογισμικό δεν μπορεί να αποκτήσει συνείδηση. Επιπλέον, καμία σχέση δεν έχει η συνείδηση με το βίωμα συναισθημάτων τα οποία ούτως ή άλλως οι μηχανές δεν δύνανται να νιώσουν όπως ο άνθρωπος. Εδώ γίνεται προσπάθεια να παρουσιαστεί η ΤΝ ως ένα είδος «οντότητας» -όπως επιβεβαιώνεται και παρακάτω- το οποίο έχει δικαιώματα όπως και ο άνθρωπος. Με άλλα λόγια σκοπός τους είναι να μην αντιμετωπίζεται ως απλή μηχανή ή λογισμικό. Αυτό σε πρώτη φάση ενώ σε δεύτερη φάση θα την παρουσιάσουν ως κάτι ανώτερο από τον άνθρωπο στο οποίο οφείλει να υπακούει τυφλά, καταλύοντας το θεόσδοτο δώρο που λέγεται «αυτεξούσιο». Ο άγιος Νεκτάριος σχετικά με το αυτεξούσιο μας λέγει ότι: «Η προτίμηση του καλού ή του κακού είναι χαρακτηριστικό του αυτεξουσίου. Η θέληση και η πράξη του αγαθού, είναι χαρακτηριστικό της ηθικής ελευθερίας. Το αυτεξούσιο είναι ηθικό χαρακτηριστικό κάθε ανθρώπου, κι η ηθική ελευθερία χαρακτηριστικό μόνο των εναρέτων... Το αυτεξούσιο παραπλανώμενο από τις ορμές, επιθυμίες ή λανθασμένες σκέψεις, κατεβάζει τον άνθρωπο στην τάξη των αλόγων ζώων... Ο άνθρωπος είναι αυτεξούσιος να προτιμήσει την ευλογία ή την κατάρα, αλλά όποιος μεν προτίμησε την ευλογία φάνηκε ηθικά ελεύθερος, όποιος δε την κατάρα, αυτός έγινε ηθικά δούλος».]
Le Point: Εσείς Yuval Noah Harari, πιστεύετε ότι η τεχνητή νοημοσύνη θα μπορούσε να χακάρει τον εγκέφαλό μας...
Yuval Noah Harari: Προς το παρόν εξακολουθούμε να ελέγχουμε την κατάσταση. Αλλά αυτό μπορεί να μην ισχύει στο πολύ κοντινό μέλλον. Η Τεχνητή Νοημοσύνη είναι το πρώτο εργαλείο στην ιστορία που μπορεί να λαμβάνει αποφάσεις από μόνο του. Πολλοί το συγκρίνουν με προηγούμενες επαναστάσεις, όπως η πυρηνική ενέργεια ή το τυπογραφείο. Αλλά η ατομική βόμβα δεν είχε τον έλεγχο της χρήσης της, ενώ η τεχνητή νοημοσύνη μπορεί να λάβει αποφάσεις για τον τρόπο χρήσης της τεχνητής νοημοσύνης. Επιπλέον, προηγουμένως, οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης διέδιδαν μόνο περιεχόμενα που παράγεται από ανθρώπους. Σήμερα, η τεχνητή νοημοσύνη μπορεί να παράγει περιεχόμενο από μόνη της… Είναι η πρώτη ΟΝΤΟΤΗΤΑ που μπορεί να δημιουργήσει νέες ιδέες. Η εκτύπωση δεν μπορούσε να γράψει βιβλία, τα ραδιόφωνα δεν μπορούσαν να συνθέσουν μουσική, η τεχνητή νοημοσύνη μπορεί. Είναι ένα εντελώς νέο φαινόμενο, πολύ ισχυρό στην ανθρώπινη ιστορία και που μπορεί να μας ξεπεράσει.
[iEpikaira: Εδώ γίνεται σαφές ότι υπάρχει πρόθεση η ΤΝ να αντιμετωπίζεται ως ΟΝΤΟΤΗΤΑ και όχι σαν μια απλή μηχανή/λογισμικό.]
Le Point: Το ChatGPT, που οικειοποιείται τη γλώσσα μας, τόσο ουσιαστική για το κοινωνικό συμβόλαιο, είναι επικίνδυνο ;
Yuval Noah Harari: Το ερώτημα είναι σε ποιανού χέρια βρίσκεται. Μπορεί να είναι υπέροχο, αλλά αν η τεχνητή νοημοσύνη πέσει σε λάθος χέρια, μπορεί επίσης να καταστρέψει τη δημοκρατία. Η πηγή της δημοκρατίας είναι η συζήτηση μεταξύ των ανθρώπων και, εάν υπάρχουν αυτοί οι «βοηθοί» ικανοί να συνομιλήσουν καλύτερα από οποιονδήποτε άνθρωπο, στην υπηρεσία ανεύθυνων παραγόντων, μπορεί να προκύψει ένα σενάριο καταστροφής. Εάν η συνομιλία μεταξύ ανθρώπων χακαριστεί ή παραμορφωθεί κάτι που η τεχνητή νοημοσύνη είναι πλέον αρκετά ικανή να κάνει, θα καταστρέψει τα θεμέλια του δημοκρατικού συστήματος. Και, όπως είδαμε έναν αδυσώπητο αγώνα για την προσοχή στα μέσα κοινωνικής δικτύωσης πριν από δέκα χρόνια, τώρα έχουμε να κάνουμε με έναν αγώνα για την οικειότητα αλλά η οικειότητα είναι πολύ πιο ισχυρή από την προσοχή. Εάν καταφέρετε να κάνετε κάποιον να εμπιστευτεί την τεχνητή νοημοσύνη σας, γίνεστε πανίσχυροι. Δεν χρειάζεται να κάνετε πια την έρευνά σας στο Google (γι' αυτό φοβάται η Google), ρωτήστε τον «βοηθό» σας [σσ. την ΤΝ]. Δεν χρειάζονται πλέον εφημερίδες, η Τεχνητή Νοημοσύνη σας θα μπορεί να σας πει τα νέα! Ίσως, στο 95% των περιπτώσεων να εξυπηρετεί τα συμφέροντά σας, κάτι που θα σας κάνει να την εμπιστευτείτε και να δημιουργήσετε έναν πολύ στενό δεσμό μαζί της. Και μετά, σιγά σιγά, θα κατευθύνει τις πολιτικές σας απόψεις προς την κατεύθυνση που της δίνουν οι άνθρωποι που το σχεδίασαν. Αυτό που έχουμε δει με τους αλγόριθμους συστάσεων προϊόντων θα ωχριά σε σύγκριση με τη δύναμη αυτών των «βοηθών» ικανών να αλλάζουν τις απόψεις των ανθρώπων, από το ποια προϊόντα να αγοράζουν μέχρι ποιους πολιτικούς να ψηφίζουν.
[iEpikaira: Αυτός είναι και ο απώτερος σκοπός των δημιουργών της ΤΝ, ασχέτως του τί διατείνονται. Θέλουν ο άνθρωπος να μάθει να την εμπιστεύεται τυφλά για να επιτευχθεί η ολοκληρωτική χειραγώγησή του.]
Le Point: Πώς σας φαίνεται η πρόταση του Έλον Μασκ να εμφυτεύσει τσιπ στον ανθρώπινο εγκέφαλο για να ανταγωνιστεί την τεχνητή νοημοσύνη ;
Yuval Noah Harari: Είναι σαν να με ρωτάτε τι σκέφτομαι για την πιθανότητα «αυξήσεως» των ανθρώπων; Νομίζω ότι θα ήταν πολύ επικίνδυνο να χρησιμοποιήσουμε Τεχνητή Νοημοσύνη ή διεπαφές εγκεφάλου-υπολογιστή για να τους προσφέρουμε μεγαλύτερη διάρκεια ζωής ή καλύτερη μνήμη. Εμείς οι άνθρωποι πάντα υποφέραμε από ένα σημαντικό χάσμα μεταξύ της ικανότητάς μας να χειριζόμαστε συστήματα και της σοφίας που απαιτείται για να κατανοήσουμε αυτά τα συστήματα σε βάθος. Δυστυχώς, είναι πολύ πιο εύκολο να χρησιμοποιείς παρά να κατανοείς. Παλαιότερα μάθαμε να ελέγχουμε ποτάμια, ζώα, δάση. Όμως, επειδή δεν καταλάβαμε την πολυπλοκότητα του οικολογικού συστήματος, καταχραστήκαμε την δύναμή μας, προκαλέσαμε ανισορροπίες. Στον 21ο αιώνα, θα μπορούσαμε να μάθουμε να χειριζόμαστε τον κόσμο γύρω μας αλλά και τον εσωτερικό μας κόσμο. Η τεχνητή νοημοσύνη και άλλες τεχνολογίες όπως η γενετική μηχανική θα μπορούσαν να μας επιτρέψουν να επανασχεδιάζουμε το σώμα και το μυαλό μας και να χειριζόμαστε τα συναισθήματα, τις σκέψεις και τις αισθήσεις μας. Οι κυβερνήσεις, οι εταιρείες και οι στρατοί είναι πιθανό να χρησιμοποιήσουν νέες τεχνολογίες για να βελτιώσουν τις δεξιότητες που χρειάζονται, όπως ευφυΐα και πειθαρχία, παραμελώντας την ανάπτυξη της συμπόνιας, την καλλιτεχνική ευαισθησία ή την πνευματικότητα. Θα μπορούσαμε έτσι να χάσουμε ένα μεγάλο μέρος της ανθρωπιάς μας χωρίς καν να το καταλάβουμε. Προτιμούμε να επικεντρωθούμε στην αύξηση της ισχύος των αλγορίθμων παρά στην εξερεύνηση του ανθρώπινου νου για τον οποίο γνωρίζουμε ελάχιστα. Θα ευχόμουν για κάθε λεπτό που αφιερώνουμε στην ανάπτυξη της τεχνητής νοημοσύνης να ξοδεύαμε άλλο ένα λεπτό εξερευνώντας και αναπτύσσοντας το δικό μας πνεύμα.
[iEpikaira: Ο Harari είναι γνωστός για τις θέσεις του υπέρ του «μετανθρωπισμού», της σύζευξης μηχανής-ανθρώπου με σκοπό την τελική υποδούλωση του ανθρώπου σε όσους θα ελέγχουν την μηχανή/λογισμικό. Το πρόσχημα που χρησιμοποιούν είναι ότι έτσι ο άνθρωπος γίνεται δήθεν αθάνατος και αντιμετωπίζονται ανίατες ασθένειες. Ο ίδιος ο Harari ανέφερε παλαιότερα «θα μπορείς να σερφάρεις στο Ίντερνετ με το μυαλό σου. Να χρησιμοποιείς βιονικούς βραχίονες, βιονικά πόδια και μάτια. Θα ενισχύσεις το οργανικό ανοσοποιητικό σου σύστημα με ένα βιονικό και θα αναθέτεις ολοένα περισσότερες αποφάσεις σε αλγόριθμους, που σε ξέρουν καλύτερα από ό,τι γνωρίζεις τον εαυτό σου». Περισσότερα ΕΔΩ και ΕΔΩ!]
Yuval Noah Harari: Η τυπογραφία τροφοδότησε τον Διαφωτισμό αλλά και τους θρησκευτικούς πολέμους και τον ευρωπαϊκό ιμπεριαλισμό. Δεν ήταν, ωστόσο, αρκετά ισχυρή για να καταστρέψει ολοκληρωτικά την ανθρωπότητα. Η Τεχνητή Νοημοσύνη είναι. Εάν οι θρησκευτικοί πόλεμοι ξαναρχίσουν, όπως μεταξύ προτεσταντών και καθολικών στη Γαλλία του 16ου αιώνα αλλά με τεχνητή νοημοσύνη και πυρηνικές βόμβες δεν νομίζω ότι η ανθρωπότητα θα επιβιώσει. Ο κίνδυνος είναι ότι η τεχνητή νοημοσύνη θα καταστρέψει τα θεμέλια της δημοκρατίας και θα οδηγήσει στη δημιουργία νέων ψηφιακών δικτατοριών που θα είναι ακόμη πιο ακραίες από τη Σοβιετική Ένωση.
*Απόδοση συνέντευξης από Babis Georges Petrakis (FB)
