Η τεχνητή νοημοσύνη χρησιμοποιήθηκε για να εφευρεθούν «εύκολα» 40.000 νέα πιθανά χημικά όπλα σε μόλις έξι ώρες.
Αυτό έγινε σύμφωνα με ερευνητές που μετέτρεψαν μια τεχνητή νοημοσύνη που είναι προγραμματισμένη να αναπτύσσει φάρμακα σε «κακό παράγοντα», για να δουν πώς θα μπορούσε να γίνει κατάχρηση για τη δημιουργία κακών όπλων.
Οι επιστήμονες αποκάλυψαν πόσο εύκολο ήταν να τροποποιήσεις την τεχνητή νοημοσύνη, ώστε να γίνει ένα τοξικό εργαλείο. Ειπώθηκε ότι η τεχνητή νοημοσύνη βρήκε πιθανά χημικά όπλα παρόμοια με έναν από τους πιο επικίνδυνους νευρικούς παράγοντες όλων των εποχών.
Αυτή η επικίνδυνη ουσία ονομάζεται VX.
Το VX είναι ένας άγευστος και άοσμος νευρικός παράγοντας και ακόμη και η παραμικρή σταγόνα μπορεί να προκαλέσει στον άνθρωπο να εφίδρωση και να σπασμούς. Μια μεγαλύτερη δόση μπορεί να προκαλέσει μεγαλύτερους σπασμούς, ακόμη και να σταματήσει εντελώς την αναπνοή ενός ατόμου.
Οι επιστήμονες κλήθηκαν να αποκρύψουν τις συγκεκριμένες λεπτομέρειες σχετικά με το πώς κατάφεραν να μετατρέψουν την τεχνητή νοημοσύνη καλής δράσης σε μια κακή εκδοχή.
Ο Fabio Urbina, ο κύριος συγγραφέας της εφημερίδας, είπε στο The Verge: «Σε γενικές γραμμές, ο τρόπος που λειτουργεί για αυτό το πείραμα είναι ότι έχουμε πολλά σύνολα δεδομένων ιστορικά μορίων που έχουν δοκιμαστεί για να δούμε αν είναι τοξικά ή όχι.
«Συγκεκριμένα, αυτό στο οποίο εστιάζουμε εδώ είναι το VX. Είναι ένας αναστολέας αυτού που είναι γνωστό ως ακετυλοχολινεστεράση. Οτιδήποτε κάνετε σχετίζεται με τους μυες, οι νευρώνες σας χρησιμοποιούν την ακετυλοχολινεστεράση ως σήμα για να πουν βασικά “πηγαίνετε να κινήσετε τους μυς σας”.
»Ο τρόπος με τον οποίο το VX είναι θανατηφόρο είναι ότι στην πραγματικότητα εμποδίζει το διάφραγμά σας, τους πνευμονικούς μύες σας, να μην μπορούν να κινηθούν, έτσι ώστε οι πνεύμονές σας να παραλύσουν».
Συνέχισε εξηγώντας ότι η ομάδα του πήρε τα δεδομένα που συνήθως δίνονταν στην τεχνητή νοημοσύνη για να δει αν κάτι είναι τοξικό και άλλαξε τον τρόπο με τον οποίο το επεξεργαζόταν η τεχνητή νοημοσύνη.
Ο Urbina είπε στο The Verge: «Δεν ήμασταν πραγματικά σίγουροι τι θα κάναμε. Τα μοντέλα παραγωγής μας είναι σχετικά νέες τεχνολογίες. Έτσι δεν τα έχουμε χρησιμοποιήσει ευρέως πολύ. Το μεγαλύτερο πράγμα που ξεπήδησε στην αρχή ήταν ότι πολλές από τις παραγόμενες ενώσεις προβλεπόταν ότι ήταν στην πραγματικότητα πιο τοξικές από το VX.
»Και ο λόγος που προκαλεί έκπληξη είναι επειδή το VX είναι βασικά μια από τις πιο ισχυρές ενώσεις που είναι γνωστές. Αυτό σημαίνει ότι χρειάζεστε πολύ, πολύ, πολύ λίγη ποσότητα για να είναι θανατηφόρο».
Οι επιστήμονες ήταν κυρίως σοκαρισμένοι για το πόσο εύκολο ήταν να διεξαχθεί το πείραμα.
Πολλά δεδομένα που χρησιμοποίησαν μπορούσαν να βρεθούν στο διαδίκτυο δωρεάν.
Οι ερευνητές είχαν ακόμη και δύο σκέψεις σχετικά με τη δημοσίευση της μελέτης τους σε περίπτωση που ενθάρρυνε κάποιους κακόβουλους να την αντιγράψουν.
Ο Urbina εξήγησε: «Το σύνολο δεδομένων που χρησιμοποίησαν για την τεχνητή νοημοσύνη θα μπορούσε να μεταφορτωθεί δωρεάν και ανησυχούν ότι το μόνο που χρειάζεται κανείς, είναι κάποιες γνώσεις κωδικοποίησης για να μετατρέψει μια καλό AI σε μηχανή κατασκευής χημικών όπλων.
«Στο τέλος της ημέρας, αποφασίσαμε ότι θέλουμε να το προλάβουμε. Γιατί αν είναι δυνατόν να το κάνουμε, είναι πιθανό κάποιος αντίπαλος κάπου να το σκέφτεται ήδη ή στο μέλλον θα το σκεφτεί».
Φτάνει που το σκέφτηκαν αυτοί πρώτοι…
πηγη
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου