Δευτέρα, 4 Ιουνίου 2018

Πως τελειώνει ο διαφωτισμός



Του Χένρυ Κίσινγκερ

Πληθαίνουν οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης από εκπροσώπους της επιστήμης και των μονοπωλίων της τεχνολογίας και των υπολογιστών και της αστικής πολιτικής.

Προφανώς γνωρίζοντας και το αντικείμενο και τις τεράστιες αντιφάσεις, αντιθέσεις και ανεπάρκειες του καπιταλιστικού συστήματος αυτές αποκτούν έναν ειδικό χαρακτήρα. Ειδικά η τελευταία, του Χ. Κίσινγκερ που δημοσιεύουμε έχει μια ειδική αξία για ορισμένες επισημάνσεις που κάνει.

Η ανθρώπινη κοινωνία είναι απροετοίμαστη για την ανάδυση και εξάπλωση της τεχνητής νοημοσύνης, προειδοποιεί ο Χένρι Κίσινγκερ. Ο «γερόλυκος» της αμερικανικής πολιτικής, ο οποίος φημιζόταν πάντα για το ρεαλισμό και για τον κυνισμό του, παρά την προχωρημένη ηλικία του των 95 ετών, έκρινε σκόπιμο να παρέμβει στο αμερικανικό περιοδικό "Atlantic", με άρθρο του που έχει τον δυσοίωνο τίτλο «Πώς τελειώνει ο Διαφωτισμός».

Το κεντρικό μήνυμα του είναι απλό: φιλοσοφικά, διανοητικά, τεχνολογικά και με κάθε άλλο τρόπο η ανθρωπότητα δεν είναι καθόλου έτοιμη να διαχειρισθεί την τεχνητή νοημοσύνη. Ο πρώην υπουργός Εξωτερικών (1973-77) και σύμβουλος εθνικής ασφαλείας των ΗΠΑ, καθώς επίσης κάτοχος του Νόμπελ Ειρήνης 1973 (παρόλο που στα μάτια των περισσοτέρων είναι εγκληματίας πολέμου) δηλώνει ανήσυχος ότι οι έξυπνες μηχανές που μαθαίνουν και επικοινωνούν μόνες τους, χωρίς πλέον καμία ανθρώπινη παρέμβαση, μπορεί να εγκαινιάσουν μια τελείως νέα φάση στην ανθρώπινη ιστορία.

"Τρία χρόνια πριν , σε ένα συνέδριο για τις διατλαντικές υποθέσεις, το θέμα της τεχνητής νοημοσύνης εμφανίστηκε στην ημερήσια διάταξη. Ήμουν στα πρόθυρα να παραλείψω αυτή τη σύνοδο - βρισκόταν έξω από τις συνήθεις ανησυχίες μου - αλλά η αρχή της παρουσίασης με κράτησε στη θέση μου.

Ο ομιλητής περιέγραψε τη λειτουργία ενός προγράμματος ηλεκτρονικού υπολογιστή που σύντομα θα προκαλούσε διεθνείς πρωταθλητές στο παιχνίδι Go. Ήμουν έκπληκτος ότι ένας υπολογιστής θα μπορούσε να κυριαρχήσει στο Go, το οποίο είναι πιο περίπλοκο από το σκάκι. Σε αυτό, κάθε παίκτης τοποθετεί 180 ή 181 τεμάχια (ανάλογα με το χρώμα που επιλέγει), τοποθετημένα εναλλάξ σε μια αρχικά κενή σανίδα. Η νίκη πηγαίνει στην πλευρά που, εφαρμόζοντας τις καλύτερες στρατηγικές αποφάσεις, ακινητοποιεί τον αντίπαλό του με τον πιο αποτελεσματικό έλεγχο του εδάφους.
Ο ομιλητής επέμεινε ότι αυτή η δυνατότητα δεν μπορούσε να προγραμματιστεί εκ των προτέρων. Το μηχάνημά του, όπως είπε, έμαθε να μαθαίνει το Go προβαίνοντας σε πρακτική εξάσκηση. Με βάση τους βασικούς κανόνες της Go, ο υπολογιστής έπαιξε αμέτρητα παιχνίδια εναντίον του εαυτού του, μαθαίνοντας από τα λάθη του και βελτιώνοντας τους αλγορίθμους ανάλογα. Στη διαδικασία ξεπέρασε τις δεξιότητες των ανθρωπίνων μέντορών του. Και μάλιστα, τους μήνες που ακολούθησαν την ομιλία, ένα πρόγραμμα AI που ονομάζεται AlphaGo θα νικήσει αποφασιστικά τους μεγαλύτερους παίκτες Go του κόσμου.
Καθώς άκουσα τον ομιλητή να γιορτάζει αυτή την τεχνική πρόοδο, η εμπειρία μου ως ιστορικός και περιστασιακά ασκούμενος πολιτικός μου έδωσε ανάπαυλα περίσκεψης. Ποιος θα ήταν ο αντίκτυπος στην ιστορία των μηχανών αυτοεκπαίδευσης-μηχανών που απέκτησαν γνώση με διαδικασίες που ήταν ιδιαίτερες για τον εαυτό τους και εφάρμοζαν αυτή τη γνώση σε σκοπούς για τους οποίους μπορεί να μην υπάρχει καμιά κατηγορία ανθρώπινης κατανόησης; Θα μάθουν οι μηχανές αυτές να επικοινωνούν μεταξύ τους; Πώς θα γίνουν οι επιλογές μεταξύ αναδυόμενων επιλογών;Μήπως είναι δυνατό η ανθρώπινη ιστορία να πάρει το δρόμο των Ίνκας, όταν αντιμετώπισαν μια ακατανόητη γι' αυτούς ισπανική κουλτούρα, που τους προκαλούσε δέος;», αναρωτιέται. Με άλλα λόγια, μήπως είμαστε οι Ίνκας των μηχανών και άρα μας περιμένει η εξαφάνιση;

Αφού αναφέρει ότι η σύγχρονη παγκόσμια τάξη διαμορφώθηκε από την Εποχή του Ορθού Λόγου που αντικατέστησε την Εποχή της Θρησκείας, τονίζει ότι αυτή η διεθνής τάξη βρίσκεται σήμερα σε μεγάλη αναταραχή εν μέσω μιας ακόμη πιο ριζοσπαστικής τεχνολογικής επανάστασης, «της οποίας τις συνέπειες έχουμε έως τώρα αποτύχει να αντιμετωπίσουμε και που η κορύφωσή της μπορεί να είναι ένας κόσμος εξαρτώμενος από μηχανές, που θα βασίζονται στα δεδομένα και στους αλγόριθμους και ο οποίος δεν θα κυβερνάται πλέον από ηθικούς ή φιλοσοφικούς κανόνες».

Η αρχή έγινε, όπως λέει, με το Ίντερνετ που μετέτρεψε τους ανθρώπους σε δεδομένα, με συνέπεια η ανθρώπινη σκέψη να χάσει τον προσωπικό χαρακτήρα της. Η «σοφία» των αλγόριθμων και ο κατακτυσμός των ανθρώπων από πλήθος απόψεων χάρη στα μέσα κοινωνικής δικτύωσης κάνουν τους ανθρώπους πιο ρηχούς. «Η αλήθεια έχει γίνει πια σχετική, η πληροφορία απειλεί να εξαφανίσει τη σοφία», γράφει.

Η πολυδιάσπαση αυτή κάνει ολοένα πιο δύσκολη τη συναίνεση στο πολιτικό επίπεδο, ενώ οι πολιτικοί ηγέτες όλο και πιο δύσκολα σκέφτονται με μακροπρόθεσμο ορίζοντα και όραμα. Το «κερασάκι» είναι πια η τεχνητή νοημοσύνη. Ο Κίσινγκερ υπογραμμίζει ότι αυτή διαφέρει από την παλαιότερη αυτοματοποίηση, η οποία απλώς ήταν ένα μέσο για κάποιο στόχο προγραμματισμένο από τους ανθρώπους. «Η τεχνητή νοημοσύνη, αντίθετα, αφορά τους στόχους, βάζει τους δικούς της στόχους» και, γι΄αυτό, «είναι εγγενώς ασταθής» και επικίνδυνη, σύμφωνα με τον Κίσινγκερ.

Κίνδυνος για μεγάλα λάθη

Όπως λέει, «η τεχνητή νοημοσύνη αναπτύσσει μια ικανότητα, την οποία προηγουμένως είχαν μόνο τα ανθρώπινα όντα. Κάνει στρατηγικές κρίσεις για το μέλλον». Αναπόφευκτα, προσθέτει, «πρέπει να περιμένουμε ότι θα κάνει λάθη ταχύτερα και μεγαλύτερης κλίμακας από ό,τι κάνουν οι άνθρωποι».

«Πώς θα ζήσουμε σε αυτό το νέο κόσμο; Πώς θα διαχειρισθούμε την τεχνητή νοημοσύνη, πώς θα τη βελτιώσουμε ή τουλάχιστον πώς θα την αποτρέψουμε από το να μας βλάψει», αναρωτιέται και δεν αποκλείει ότι η τεχνητή νοημοσύνη, όπως έχει προβλέψει η επιστημονική φαντασία προ πολλού, θα παρερμηνεύσει τις ανθρώπινες εντολές και θα στραφεί ενάντια στους δημιουργούς της.

Προειδοποιεί ότι «αν η τεχνητή νοημοσύνη αφεθεί μόνη της, αναπόφευκτα θα αναπτύξει ελαφριές παρεκκλίσεις, οι οποίες μπορεί σταδιακά να διογκωθούν σε καταστροφικά αποτελέσματα». Στην πορεία, μπορεί επίσης να αλλάξει ακόμη και τις ανθρώπινες αξίες, π.χ. κάνοντάς τις ακόμη πιο ανταγωνιστικές από ό,τι ήδη είναι. «Θέλουμε τα παιδιά να μαθαίνουν τις αξίες, συζητώντας με ανεξέλεγκτους αλγόριθμους;», ρωτά ο Κίσινγκερ.

Κάτι ακόμη πιο ανησυχητικό, όπως λέει, είναι ότι η τεχνητή νοημοσύνη μπορεί όντως να επιφέρει βελτιώσεις σε διάφορα πράγματα και διαδικασίες, αλλά θα αδυνατεί να εξηγήσει με ανθρώπινα κατανοητό τρόπο πώς και γιατί κάνει κάτι τέτοιο. «Μήπως η διαδικασία λήψης αποφάσεων από την τεχνητή νοημοσύνη ξεπεράσει τις ερμηνευτικές δυνατότητες της ανθρώπινης γλώσσας και λογικής;» και, σε αυτή την περίπτωση, όπως το θέτει, «τι θα γίνει η ανθρώπινη συνείδηση, αν η εξηγητική δύναμή της υπερκερασθεί από την τεχνητή νοημοσύνη και άρα οι κοινωνίες δεν είναι σε θέση πλέον να ερμηνεύουν τον κόσμο γύρω τους;».

Ο Κίσινγκερ, αφού βάλει και άλλα ερωτήματα, όπως «ποιος είναι υπεύθυνος για τις πράξεις της τεχνητής νοημοσύνης και για τα λάθη της;», θέτει το πρακτικό πρόβλημα του «τι κάνουμε». Επικρίνει τον επιστημονικό και τον τεχνολογικό κόσμο ότι σκέφτονται μόνο με τεχνικούς και οικονομικούς όρους, αλλά και τον πολιτικό κόσμο ότι ασχολείται κυρίως με τις εφαρμογές της τεχνητής νοημοσύνης σε θέματα ασφάλειας, κατασκοπείας κ.α. Από την άλλη, λέει, οι φιλόσοφοι και οι κοινωνικοί επιστήμονες -οι οποίοι έπαιξαν καθοριστικό ρόλο στο παρελθόν- είναι τώρα απόντες, επειδή δεν καταλαβαίνουν την τεχνητή νοημοσύνη.

«Βρισκόμαστε αντιμέτωποι με μια δυνητικά κυριαρχική τεχνολογία, που αναζητά μια καθοδηγητική φιλοσοφία», τονίζει και προσθέτει ότι για κάθε χώρα αποτελεί πλέον εθνική προτεραιότητα να μελετήσει την τεχνητή νοημοσύνη και τις επιπτώσεις της, κυρίως σε σχέση με τις ανθρωπιστικές παραδόσεις, συστήνοντας μια επιτροπή ειδικών στο ανώτατο κυβερνητικό επίπεδο.

Παράλληλα, καλεί τους ειδικούς στην τεχνητή νοημοσύνη να βγουν από το καβούκι τους και να θέσουν οι ίδιοι τέτοια ερωτήματα, ώστε μετά να ενσωματώσουν τις κατάλληλες απαντήσεις στα έξυπνα μηχανήματα που θα φτιάξουν. Και καταλήγει: «Ένα πράγμα είναι βέβαιο: Αν δεν ξεκινήσουμε αυτή την προσπάθεια σύντομα, δεν θα αργήσουμε να ανακαλύψουμε ότι ξεκινήσαμε υπερβολικά αργά».

Εύφορη πεδιάδα: Μερικοί "φωτισμένοι" εκπρόσωποι της αστικής τάξης ανησυχούν σήμερα λιγότερο για έναν καταστρεπτικό πόλεμο λόγο ανταγωνισμών ή για επαναστατικές εξεγέρσεις της εργατικής τάξης... Αν βασικοί εκπρόσωποι της ελίτ του καπιταλισμού ανησυχούν για τις επιπτώσεις ανάπτυξης της τεχνητής νοημοσύνης οι εργαζόμενοι και οι διανοούμενοι μήπως πρέπει να ασχοληθούν σοβαρότερα με αυτή τη δυνατότητα να αλλάξει απρόβλεπτα ο κόσμος;

Επιμέλεια: Νίκος Πυλιώτης

αναδημοσίευση από: https://eforipediada.blogspot.com

Πηγή: Atlantic, ΑΠΕ-ΜΠΕ

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου