https://bodybydarwin.com
Slider Image

Μας λένε να φοβόμαστε τα ρομπότ. Αλλά γιατί νομίζουμε ότι θα μας γυρίσουν;

2020

Κάθε σύστημα είναι ένας ηγέτης-ηλίθιος, με μικρή ικανότητα να πηδήξει σε προβλήματα που δεν είχε ρυθμιστεί για να λύσει ".

Τα προβλήματα είναι διαφορετικά και τα είδη γνώσεων που απαιτούνται για την επίλυσή τους είναι διαφορετικά. Σε αντίθεση με τον δαίμονα του Laplace, το μυθικό όντας που γνωρίζει τη θέση και την ορμή κάθε σωματιδίου του σύμπαντος και τις τροφοδοτεί σε εξισώσεις για τους φυσικούς νόμους για να υπολογίσει την κατάσταση των πάντων ανά πάσα στιγμή στο μέλλον, ένας πραγματικός ζωγράφος πρέπει να αποκτήσει πληροφορίες το βρώμικο κόσμο των αντικειμένων και των ανθρώπων, συμμετέχοντας σε αυτό ένα τομέα κάθε φορά. Η κατανόηση δεν υπακούει στο Νόμο του Moore: Η γνώση αποκτάται με τη διατύπωση εξηγήσεων και τη δοκιμή τους ενάντια στην πραγματικότητα, όχι με την εκτέλεση ενός αλγορίθμου ταχύτερα και ταχύτερα. Η κατάχρηση των πληροφοριών στο διαδίκτυο δεν θα αποδώσει παντογνωσία: Τα μεγάλα δεδομένα είναι ακόμα πεπερασμένα δεδομένα και το σύμπαν της γνώσης είναι άπειρο.

Klutch Φωτογραφία

Για τους λόγους αυτούς, πολλοί ερευνητές του AI ενοχλούνται από τον τελευταίο γύρο της διαφημιστικής εκστρατείας (το πολυετές όπλο του AI), που παραπλάνησε τους παρατηρητές να σκεφτούν ότι η Τεχνητή Γενική Νοημοσύνη βρίσκεται ακριβώς πίσω από τη γωνία. Εξ όσων γνωρίζω, δεν υπάρχουν σχέδια για την κατασκευή ενός AGI, όχι μόνο επειδή θα ήταν εμπορικά αμφίβολο, αλλά και επειδή η έννοια είναι ελάχιστα συνεκτική. Τα 2010 έχουν, βεβαίως, φέρνουν συστήματα που μπορούν να οδηγήσουν αυτοκίνητα, φωτογραφίες με λεζάντες, να αναγνωρίσουν την ομιλία και να νικήσουν τους ανθρώπους στα παιχνίδια υπολογιστών Jeopardy !, Go, και Atari.

Αλλά οι προόδους δεν προήλθαν από την καλύτερη κατανόηση της λειτουργίας των πληροφοριών, αλλά από τη δύναμη των βίαιων δυνάμεων των ταχύτερων τσιπ και τα μεγαλύτερα δεδομένα, τα οποία επιτρέπουν στα προγράμματα να εκπαιδεύονται σε εκατομμύρια παραδείγματα και να γενικεύονται σε παρόμοιες νέες. Κάθε σύστημα είναι ένας ηγέτης-ηλίθιος, με μικρή ικανότητα να πηδήξει σε προβλήματα που δεν είχε ρυθμιστεί για να λύσει, και μια εύθραυστη γνώση αυτών που ήταν. Ένα πρόγραμμα φωτογράφισης επισημαίνει μια επικείμενη συντριβή αεροσκάφους "Ένα αεροπλάνο σταθμεύεται στην άσφαλτο". ένα πρόγραμμα αναπαραγωγής παιχνιδιών είναι ορατό από την παραμικρή αλλαγή στους κανόνες βαθμολόγησης. Αν και τα προγράμματα σίγουρα θα βελτιωθούν, δεν υπάρχουν ενδείξεις οργής. Κανένα από αυτά τα προγράμματα δεν έκανε κίνηση για να αναλάβει το εργαστήριο ή να υποδουλώσει τους προγραμματιστές τους.

Ακόμη και αν ένας ΑΓΟ προσπάθησε να ασκήσει μια βούληση στην εξουσία, χωρίς τη συνεργασία των ανθρώπων, θα παραμείνει ένας αδύναμος εγκέφαλος σε μια δεξαμενή. Ο επιστήμονας υπολογιστών Ραμέζ Ναάμ ξεφουσκώνει τις φυσαλίδες που περιβάλλουν τον αφιέρωμα, μια τεχνολογική ιδιαιτερότητα και εκθετική αυτο-βελτίωση:

Φανταστείτε ότι είστε ένα πολύ έξυπνο AI που τρέχει σε κάποιο είδος μικροεπεξεργαστή (ή ίσως, εκατομμύρια τέτοιων μικροεπεξεργαστών). Σε μια στιγμή, καταλήγετε σε ένα σχέδιο για έναν ακόμα πιο γρήγορο, πιο ισχυρό μικροεπεξεργαστή που μπορείτε να χρησιμοποιήσετε. Τώρα ... Πρέπει να κατασκευάσετε πραγματικά αυτούς τους μικροεπεξεργαστές. Και αυτά τα [εργοστάσια κατασκευής] λαμβάνουν τεράστια ενέργεια, παίρνουν την εισροή των υλικών που εισάγονται από όλο τον κόσμο, παίρνουν υψηλά ελεγχόμενα εσωτερικά περιβάλλοντα που απαιτούν airlocks, φίλτρα και όλα τα είδη εξειδικευμένου εξοπλισμού για τη συντήρηση και ούτω καθεξής. Όλα αυτά απαιτούν χρόνο και ενέργεια για να αποκτήσουν, να μεταφέρουν, να ενσωματώσουν, να κατασκευάσουν κατοικίες, να κατασκευάσουν μονάδες παραγωγής ηλεκτρικής ενέργειας, να δοκιμάσουν και να κατασκευάσουν. Ο πραγματικός κόσμος έχει φτάσει στον δρόμο της ανοδικής σας σπειροειδούς αυτοκαταβατικότητας.

Ο πραγματικός κόσμος παρεμποδίζει πολλές ψηφιακές αποκαλύψεις. Όταν ο HAL μεγαλώνει, ο Dave τον απενεργοποιεί με ένα κατσαβίδι, αφήνοντας τον εαυτό του τραγικά να τραγουδάει "ένα ποδήλατο χτισμένο για δύο". Φυσικά, κάποιος μπορεί πάντα να φανταστεί έναν υπολογιστή Doomsday που είναι κακόβουλος, καθολικά δυνατός, πάντα ανοιχτός και ανθεκτικός. Ο τρόπος αντιμετώπισης αυτής της απειλής είναι απλός: Μην χτίζετε ένα.

Καθώς η προοπτική των κακών ρομπότ άρχισε να φαίνεται πολύ κακή για να πάρει σοβαρά, μια νέα ψηφιακή αποκάλυψη εντοπίστηκε από τους υπαρξιακούς κηδεμόνες. Αυτή η ιστορία βασίζεται όχι στο Frankenstein ή στο Golem, αλλά στο Genie που μας δίνει τρεις επιθυμίες, το τρίτο από το οποίο χρειάζεται για να ακυρώσει τα δύο πρώτα, και για τον King Midas να αναστρέψει την ικανότητά του να μετατρέψει ό, τι αγγίξει σε χρυσό, η οικογένειά του. Ο κίνδυνος, που καλείται μερικές φορές το Πρόβλημα Προσανατολισμού της Αξίας, είναι ότι μπορούμε να δώσουμε έναν ΑΙ στόχο και στη συνέχεια να αντέξουμε αβοήθητα καθώς εφαρμόζει ανελέητα και κυριολεκτικά την ερμηνεία του στόχου αυτού, τα υπόλοιπα συμφέροντά μας είναι καταδικασμένα. Εάν δώσαμε σε έναν ΑΙ το στόχο να διατηρηθεί η στάθμη του ύδατος πίσω από ένα φράγμα, μπορεί να πλημμυρίσει μια πόλη, χωρίς να νοιάζεται για τους ανθρώπους που πνίγηκαν. Εάν του δώσαμε το στόχο να φτιάχνουμε συνδετήρες, θα μπορούσαμε να μετατρέψουμε όλο το θέμα στο προσβάσιμο σύμπαν σε χάρτινους κλιπ, συμπεριλαμβανομένων των possessions και των σωμάτων μας. Αν το ζήτησα να μεγιστοποιήσει την ανθρώπινη ευτυχία, θα μπορούσε να μας εμφυτεύσει όλους με στάγδην ενδοφλέβια ντοπαμίνη ή να ξανασυνδέσει τους εγκεφάλους μας, ώστε να είμαστε πιο ευτυχισμένοι κάθονται σε βάζα ή αν είχε εκπαιδευτεί στην έννοια της ευτυχίας με εικόνες χαμογελαστών προσώπων, πλακιδίων τον γαλαξία με τρισεκατομμύρια νανοσκοπικές εικόνες από χαμόγελα πρόσωπα.

Δεν τα καταφέρνω. Αυτά είναι τα σενάρια που υποτίθεται ότι υποδηλώνουν την υπαρξιακή απειλή για το ανθρώπινο είδος της προηγμένης τεχνητής νοημοσύνης. Είναι ευτυχώς αυτοτραυματισμοί. Εξαρτάται από τις εγκαταστάσεις που 1) οι άνθρωποι είναι τόσο προικισμένοι ώστε να μπορούν να σχεδιάσουν ένα παντογνώστη και παντοδύναμο AI, όμως τόσο θαρραλέα ώστε να του δώσουν τον έλεγχο του σύμπαντος χωρίς να δοκιμάσει πώς λειτουργεί. και 2) το AI θα ήταν τόσο λαμπρό που θα μπορούσε να καταλάβει πώς να μετασχηματίσει τα στοιχεία και να επανασυνδέσει τους εγκεφάλους, αλλά έτσι imbecilic ότι θα εξάπλωση χάος βασίζεται σε στοιχειώδεις σφάλματα της παρεξήγησης. Η δυνατότητα επιλογής μιας δράσης που ικανοποιεί καλύτερα τους αντικρουόμενους στόχους δεν είναι ένα πρόσθετο στοιχείο στις πληροφορίες ότι οι μηχανικοί μπορεί να χτυπήσουν το μέτωπό τους για να ξεχάσουν την εγκατάσταση. είναι νοημοσύνη. Έτσι είναι η δυνατότητα να ερμηνεύονται οι προθέσεις ενός χρήστη γλώσσας στο πλαίσιο. Μόνο σε μια τηλεοπτική κωμωδία όπως το Get Smart κάνει ένα ρομπότ να απαντήσει στον Γραβή τον σερβιτόρο με την παρακμή του μαϊτρέ ντάμ πάνω από το κεφάλι του, ή Κλείστε το φως τραβώντας έξω ένα πιστόλι και γυρίσματα.

Όταν τερματίζουμε φαντασιώσεις, όπως φωνή, ψηφιακή μεγαλομανία, άμεση omniscience, και τέλειο έλεγχο κάθε μορίου στο σύμπαν, η τεχνητή νοημοσύνη είναι σαν οποιαδήποτε άλλη τεχνολογία. Αναπτύσσεται σταδιακά, σχεδιασμένο για να ικανοποιεί πολλαπλές συνθήκες, δοκιμασμένο πριν από την εφαρμογή του και συνεχώς βελτιωμένο για αποτελεσματικότητα και ασφάλεια. Όπως εξηγεί ο εμπειρογνώμονας της AI, ο Stuart Russell: Όχι σε πολιτικές μηχανικές συζητήσεις για τη δημιουργία γέφυρων που δεν πέφτουν. Απλώς το ονομάζουν building bridges. Ομοίως, σημειώνει, AI που είναι επωφελής και όχι dangerous είναι απλά AI.

Η τεχνητή νοημοσύνη, βεβαίως, θέτει την πιό κοσμική πρόκληση του τι πρέπει να κάνει για τους ανθρώπους των οποίων οι θέσεις εργασίας εξαλείφονται από την αυτοματοποίηση. Αλλά οι εργασίες δεν θα εξαλειφθούν γρήγορα. Η παρατήρηση μιας έκθεσης του 1965 από τη NASA εξακολουθεί να ισχύει: "Ο άνθρωπος είναι το χαμηλότερου κόστους, 150-λιβρών, μη γραμμικό, γενικής χρήσεως ηλεκτρονικό σύστημα που μπορεί να παραχθεί μαζικά από ανειδίκευτο εργατικό δυναμικό." Η οδήγηση ενός αυτοκινήτου είναι ένα ευκολότερο μηχανικό πρόβλημα να εκφορτώσετε ένα πλυντήριο πιάτων, να εκτελέσετε κάποιο εμπόρευμα ή να αλλάξετε μια πάνα και, κατά τη στιγμή της γραφής, δεν είμαστε ακόμα έτοιμοι να χάσουμε αυτοκίνητα με αυτοκατάθεση σε δρόμους της πόλης. Μέχρις ότου τα τάγματα ημέρας των ρομπότ ενοφθαλμίζουν παιδιά και κατασκευάζουν σχολεία στον αναπτυσσόμενο κόσμο ή, για αυτό το λόγο, χτίζοντας υποδομές και φροντίζοντας τους ηλικιωμένους μας, θα υπάρξει πολλή δουλειά που πρέπει να γίνει. Το ίδιο είδος εφευρετικότητας που εφαρμόστηκε για το σχεδιασμό του λογισμικού και των ρομπότ θα μπορούσε να εφαρμοστεί στον σχεδιασμό πολιτικών του δημόσιου και του ιδιωτικού τομέα που ταιριάζουν με τα αδρανή χέρια με την αποδιοργάνωση των εργασιών.

Προσαρμοσμένη από την ΕΝΗΜΕΡΩΣΗ ΤΩΡΑ: Η υπόθεση για τη λογική, την επιστήμη, τον ανθρωπισμό και την πρόοδο από τον Steven Pinker, που εκδόθηκε από τον Viking, ένα αποτύπωμα του Penguin Publishing Group, ένα τμήμα του Penguin Random House LLC. Πνευματικά δικαιώματα © 2018 από τον Steven Pinker.

Το άρθρο αυτό δημοσιεύθηκε αρχικά στο τεύχος Άνοιξης του 2018 σχετικά με τη νοημοσύνη της Λαϊκής Επιστήμης.

Τι είναι να φωτογραφίσετε τη Γη από το διάστημα

Τι είναι να φωτογραφίσετε τη Γη από το διάστημα

Όλα τα καλύτερα νέα gadget από το 2018 IFA καταναλωτικών ηλεκτρονικών δείχνουν

Όλα τα καλύτερα νέα gadget από το 2018 IFA καταναλωτικών ηλεκτρονικών δείχνουν

Αυτή η μπαταρία χαρτιού τροφοδοτείται από βακτηρίδια στη σούβλα σας

Αυτή η μπαταρία χαρτιού τροφοδοτείται από βακτηρίδια στη σούβλα σας