Τα δυστοπικά σενάρια που αφορούν την απόκτηση ελέγχου του κόσμου από υπερνοήμονες μηχανές-υπερυπολογιστές έχουν πολλές φορές μεταφερθεί στον κινηματογράφο, σκιαγραφώντας ένα ζοφερό μέλλον για τους ανθρώπους.
Στο βιβλίο του «Συμβατή με τον άνθρωπο; Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου», που κυκλοφόρησε στα ελληνικά από τις καλές Εκδόσεις Τραυλός, ο καθηγητής της Επιστήμης των Υπολογιστών Στιούαρτ Ράσελ περιγράφει αυτή την κατάσταση ως «το πρόβλημα του γορίλα», καθώς στο παρελθόν οι πρόγονοι του γορίλα ήρθαν αντιμέτωποι με τους ανθρώπους, οι οποίοι ήταν πολύ πιο ευφυείς και έτσι κυριάρχησαν.
Ο φόβος λοιπόν όσο εξελίσσεται η έρευνα για την Τεχνητή Νοημοσύνη (ΤΝ) είναι μήπως ο άνθρωπος στο κοντινό μέλλον βρεθεί στη θέση του γορίλα και χάσει κάθε έλεγχο πάνω στα δημιουργήματά του. Μήπως δηλαδή πάθει αυτό που περιγράφει ο Γκέτε στο έργο του «Μαθητευόμενος μάγος», ο οποίος απελευθερώνει δυνάμεις που στη συνέχεια δεν μπορεί με τίποτα να ελέγξει.
Οι κίνδυνοι είναι υπαρκτοί:
● Πρώτα και κύρια τα λεγόμενα ΦΑΟΣ, τα Φονικά Αυτόνομα Οπλικά Συστήματα. Ηδη γνωρίζουμε τα πάσης φύσεως drones, τα οποία ενδεχομένως σε λίγο καιρό θα καλούνται να πάρουν τα ίδια απόφαση εάν θα εξαπολύσουν επίθεση εναντίον ανθρώπινων στόχων.
Προ ημερών η ισραηλινή πολεμική βιομηχανία παρουσίασε το REX MKII, ένα ρομπότ που προορίζεται να χρησιμοποιείται αντί στρατιωτών στα σύνορα και σε πολεμικά μέτωπα και θα μπορεί να αντιμετωπίζει αντιπάλους ανοίγοντας πυρ. Ο ίδιος ο Ράσελ, κατανοώντας αυτούς τους κινδύνους, δουλεύει ήδη ως σύμβουλος στον ΟΗΕ για τον έλεγχο των εξοπλισμών.
● Τα αυτόνομα αυτοκίνητα, παρά την πρόοδο στην παραγωγή τους, εξακολουθούν να προκαλούν δυστυχήματα, με θύματα δεκάδες ανθρώπους.
● Σήμερα, με την ύπαρξη του ίντερνετ και τα δορυφορικά δίκτυα, εξελιγμένοι υπερυπολογιστές μπορούν να διασυνδέονται μεταξύ τους, φτιάχνοντας ασύλληπτου μεγέθους δίκτυα παρακολούθησης και επιτήρησης, πλησιάζοντας στην υλοποίηση του «οράματος» κάθε ολοκληρωτικού καθεστώτος για ένα ΠΑΝΟΠΤΙΚΟΝ, καθώς θα μπορούν να βλέπουν τα πάντα, παντού και ταυτοχρόνως!
Μηχανές που θα ξέρουν τα πάντα, που θα μπορούν, όπως λέει χαρακτηριστικά ο Ράσελ, να διαβάσουν μέχρι το μεσημέρι ό,τι έχει γραφτεί μέχρι σήμερα από την ανθρωπότητα και το απόγευμα να ψάχνουν κάτι άλλο να κάνουν.
● Οι αλγόριθμοι, βάσει των οποίων γίνεται η εκπαίδευση της ΤΝ, το λεγόμενο deep learning, εμφανίζουν σαφή προβλήματα. Πρόσφατα ο αλγόριθμος του Facebook ρωτούσε χρήστες που παρακολουθούσαν ένα βίντεο εφημερίδας με μαύρους άνδρες εάν ήθελαν «να συνεχίσουν να βλέπουν βίντεο για πρωτεύοντα όντα», δηλαδή πιθήκους. Οταν έγινε σάλος στα ΜΜΕ, η εταιρεία έκανε λόγο για «ένα σαφώς απαράδεκτο λάθος».
Ομως η ΤΝ, διά της λεγόμενης «ενισχυτικής μάθησης», δηλαδή της συσσώρευσης γνώσεων μέσω της εμπειρίας, προσλαμβάνει ως πραγματικότητα ακόμα και τις φυλετικές, ταξικές ή έμφυλες προκαταλήψεις που προκύπτουν από τα δεδομένα που συλλέγει από την καθημερινή ζωή, έτσι όπως αυτή εκδηλώνεται σήμερα.
● Ενα επιπλέον πρόβλημα που έχουμε να αντιμετωπίσουμε είναι και αυτό που θα προκύψει όταν οι μηχανές με δυνατότητες και νοημοσύνη ανώτερες από τις δικές μας θα αρχίσουν να θέτουν τους δικούς τους στόχους, οι οποίοι ενδεχομένως θα είναι αντίθετοι από εκείνους των ανθρώπων.
Σ’ αυτή την περίπτωση θα μπορούσαμε ίσως να τις απενεργοποιήσουμε, όπως πρότεινε πριν από πολλά χρόνια ο πρωτοπόρος της Επιστήμης των Υπολογιστών Αλαν Τιούρινγκ. Ομως εάν οι μηχανές αρνηθούν να απενεργοποιηθούν ή μπλοκάρουν τη δική μας δυνατότητα να τις απενεργοποιήσουμε;
Οι απαντήσεις του Ράσελ σε κάποια απ’ αυτά τα ερωτήματα επιχειρούν να εξασφαλίσουν ορισμένες εγγυήσεις. Λέει για παράδειγμα ότι «ο μόνος στόχος των μηχανών θα είναι να ωφελούν τους ανθρώπους». Επειδή όμως δεν γνωρίζουν τι σημαίνει «ωφέλιμο», θα πρέπει πάντα να συμμορφώνονται με τον ανθρώπινο έλεγχο.
Προσθέτει ότι θα πρέπει να «ενσταλάξουμε», κατά τη διάρκεια της μάθησης, στην ΤΝ ένα ποσοστό αβεβαιότητας, έτσι ώστε να μπορεί να «κρίνει» πώς πρέπει να τοποθετηθεί σε εξαιρετικές περιπτώσεις λήψης κρίσιμων αποφάσεων.
Ο Ράσελ, πέραν των κινδύνων, επιχειρεί να στοχαστεί πάνω και στις θετικές επιδράσεις εξέλιξης της ΤΝ. Με δεδομένη την απώλεια εκατομμυρίων θέσεων εργασίας εξαιτίας της ρομποτοποίησης, προτείνει τη θέσπιση του Παγκόσμιου Βασικού Εισοδήματος, το οποίο θα χρηματοδοτείται «από τον φόρο προστιθέμενης αξίας ή από φόρους στο εισόδημα που προέρχεται από το κεφάλαιο, εξασφαλίζοντας σε κάθε ενήλικο ένα αξιοπρεπές εισόδημα, ανεξάρτητα από τις όποιες συνθήκες».
Αυτή η πρόταση αποκτά όλο και μεγαλύτερη δημοσιότητα, αφού προτείνεται όχι μόνο από κεϊνσιανούς οικονομολόγους, αλλά και από σοβαρές προοδευτικές δεξαμενές σκέψης.
Το κοινωνικό κέρδος θα προέλθει από την απελευθέρωση δισεκατομμυρίων ανθρώπων από τα δεσμά της εργασίας και την ενασχόλησή τους με την ανάπτυξη ελεύθερων δεσμών μεταξύ τους, αλλά και με τη διαμόρφωση μιας καλλιεργημένης προσωπικότητας.
Το βιβλίο του Ράσελ δεν είναι γραμμένο σε ακαδημαϊκό ή σοβαροφανές ύφος. Το διακρίνουν το χιούμορ και τα εκατοντάδες εύστοχα παραδείγματα που κάνουν το διάβασμά του απολαυστικό. Ισως το μειονέκτημά του να είναι ότι διακρίνεται από κάποιον επιστημονικό οπτιμισμό, όμως τα προβλήματα με τα οποία καταπιάνεται και τα ερωτήματα που θέτει είναι επιπέδου φιλοσοφίας της επιστήμης και απολύτως χρήσιμα για τη συζήτηση που βρίσκεται σε εξέλιξη για τη σχέση ανθρώπου-μηχανής.
Ο Ράσελ βλέπει ότι η περίπλοκη, δύσκολη και προβληματική αυτή σχέση, που μέχρι σήμερα έχει παραγάγει αλλοτρίωση, μπορεί να εξελιχθεί πολύ καλύτερα στο μέλλον, όταν η ΤΝ ενταχθεί στην εκπαίδευση και βοηθήσει στη μετάδοση της γνώσης με τρόπους που δεν έχουμε ξαναδεί.
Η μελέτη του βιβλίου μπορεί να συνοδευτεί και από τα δεκάδες βιντεάκια με τον Ράσελ στο youtube, τα οποία μπορείτε να αναζητήσετε με τους όρους Stuart Russell και AI (Artificial Intelligence).
ΠΗΓΗ
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου