https://bodybydarwin.com
Slider Image

Τα μαθηματικά της δολοφονίας: Πρέπει ένα ρομπότ να θυσιάσει τη ζωή σας για να σώσετε δύο;

2021

Αυτό συμβαίνει γρήγορα - πιο γρήγορα από ό, τι μπορείτε, είναι ανθρώπινη, μπορεί να επεξεργαστεί πλήρως.

Ένα μπροστινό λάστιχο χτυπάει και το αυτόνομο SUV σας περιστρέφεται. Αλλά αντί να φτάνει αριστερά, στην αντίθετη λωρίδα κυκλοφορίας, το ρομποτικό όχημα κατευθύνεται δεξιά. Τα φρένα δεσμεύονται, το σύστημα προσπαθεί να διορθωθεί, αλλά υπάρχει υπερβολική δυναμική. Όπως μια κούρσα σε μια κακή ταινία δράσης, είστε πάνω από το βράχο, σε ελεύθερη πτώση.

Το ρομπότ σας, αυτό που πληρώσατε καλά χρήματα για, έχει επιλέξει να σας σκοτώσει. Καλύτερα, οι αλγόριθμοι απόκρισης σε σύγκρουση-απόκριση, από μια υψηλής ταχύτητας, επικεφαλής σύγκρουση με μικρότερο, μη ρομποτικό compact. Υπήρχαν δύο άτομα σε αυτό το αυτοκίνητο, στο δικό σας. Το μάθημα δεν θα μπορούσε να είναι απλούστερο.

Αυτό, κατά προσέγγιση, είναι το πρόβλημα που παρουσιάστηκε από τον Patrick Lin, καθηγητή φιλοσοφίας και διευθυντή της Ομάδας της Ηθικής + Αναδυόμενων Επιστημών στο Πολιτειακό Πανεπιστήμιο της Καλιφόρνιας. Σε ένα πρόσφατο κομμάτι γνώμης για το Wired, ο Λιν διερεύνησε μία από τις πιο ανησυχητικές ερωτήσεις στη δεοντολογία των ρομπότ: Εάν μια σύγκρουση είναι αναπόφευκτη, θα έπρεπε ένα αυτόνομο αυτοκίνητο να επιλέξει σε ποιον χτυπάει;

Θα μπορούσε να φανεί σαν ένα απλό πείραμα σκέψης, μια συστροφή στο κλασικό "τρόλεϊ πρόβλημα ένα ηθικό αίνιγμα που ρωτά αν θα σώσει πέντε ανθρώπους σε ένα τρέξιμο τρόλεϊ, με την τιμή να σκοτώσει ένα άτομο στις διαδρομές. τα σκηνικά σύγκρουσης παίρνουν, τόσο πιο δύσκολο είναι να περιηγηθείτε.Απολογιστεί ότι το ρομπότ έχει αυτό που μπορεί να χαρακτηριστεί ως υπεραφανικές αισθήσεις και ταχύτητα αντίδρασης, χάρη στα μηχανικά του αντανακλαστικά και τη σουίτα προηγμένων αισθητήρων.Σε αυτή την στιγμή της αλήθειας πριν από τη σύγκρουση, το όχημα στοχεύει σε ένα μικρό αυτοκίνητο, αντί για ένα μεγάλο αυτοκίνητο, να στραφεί προς την κατεύθυνση της προστασίας του κυρίου του; Ή μήπως πρέπει να κάνει το αντίθετο, στοχεύοντας στο SUV, ακόμα κι αν σημαίνει μείωση των πιθανών επιβίωσης του ιδιοκτήτη του αυτοκινήτου; η επιλογή ανάμεσα στην οδήγηση σε ένα σχολικό λεωφορείο ή στο όργωμα σε ένα δέντρο; Το ρομπότ επιλέγει μια σφαγή ή μια προδοσία;

Ο βασικός παράγοντας, και πάλι, είναι η υπεράνθρωπη κατάσταση του αυτοκινήτου. "Με μεγάλη δύναμη έρχεται μεγάλη ευθύνη", λέει ο Λιν. "Αν αυτά τα μηχανήματα έχουν μεγαλύτερη χωρητικότητα από ό, τι κάνουμε, υψηλότερες ταχύτητες επεξεργαστών, καλύτεροι αισθητήρες, που φαίνεται να συνεπάγονται μεγαλύτερη ευθύνη για λήψη καλύτερων αποφάσεων".

Τα σημερινά αυτόνομα αυτοκίνητα είναι περισσότερο οδηγός φοιτητών από τον Spider-Man, ανίκανοι να παρατηρήσουν έναν ανθρώπινο οδηγό να τους κουνάει μέσα από μια διασταύρωση, πολύ λιγότερο να περάσει μέσα από ένα σύνθετο πλέγμα προβλεπόμενων επιπτώσεων, διοδίων θανάτου και αυτό που ο Lin ονομάζει «ηθικό μαθηματικά "σε στιγμές πριν από μια σύγκρουση. Αλλά οι αισθητήρες, οι επεξεργαστές και το λογισμικό είναι τα σπάνια στοιχεία της ρομποτικής που τείνουν να προχωρούν γρήγορα (ενώ η ενεργοποίηση και η πυκνότητα ισχύος, για παράδειγμα, λιποθύμησαν μαζί με την τυπική αναλογία πεισματάρης). Ενώ το χρονικό πλαίσιο είναι ασαφές, τα αυτόνομα αυτοκίνητα είναι εγγυημένα ότι τελικά κάνουν ό, τι οι άνθρωποι δεν μπορούν, είτε ως μεμονωμένες αισθητήρες φορτωμένες συσκευές, είτε γιατί επικοινωνούν με άλλα οχήματα και συνδεδεμένες υποδομές και προβλέπουν γεγονότα όπως μόνο ένα κυψέλη μπορεί.

Αν λοιπόν υποθέσουμε ότι η υπερ-ικανότητα είναι το φανερό πεπρωμένο των μηχανών, τότε είμαστε αναγκασμένοι να θέσουμε μια ερώτηση μεγαλύτερη απ 'ό, τι θα πρέπει να συντρίψουν. Αν τα ρομπότ πρόκειται να είναι υπεράνθρωπος, δεν είναι καθήκον τους να είναι υπερήρωες και να χρησιμοποιήσουν αυτές τις δυνάμεις για να σώσουν όσο το δυνατόν περισσότερους ανθρώπους;

* * *

Αυτή η δεύτερη υποθετική είναι πιο αιματηρή από την πρώτη, αλλά λιγότερο θανατηφόρα.

Μια ομάδα στρατιωτών έχει περιπλανηθεί στο θανάσιμο κουτί. Αυτή είναι η περιοχή που έχει οριστεί από το GPS, εντός του οποίου έχει δοθεί άδεια για αυτόνομο ρομπότ στρατιωτικού εδάφους για να ασχοληθεί με όλους τους στόχους. Οι αισθητήρες του μηχανήματος υπολογίζουν την ταχύτητα ανέμου, την υγρασία και τη βαρομετρική πίεση. Στη συνέχεια πηγαίνει στη δουλειά.

Οι λήψεις προσγειώνονται καθαρά, ως επί το πλείστον. Όλοι οι στόχοι έχουν μειωθεί.

Αλλά μόνο ένας από αυτούς βρίσκεται σε άμεσο θανάσιμο κίνδυνο - αντί να υποφέρει από τραυματισμό στα πόδια, όπως και τα υπόλοιπα, πήρε ένα γύρο στην κοιλιά. Ακόμη και ο στόχος του ρομπότ δεν είναι τέλειος.

Το μηχάνημα τραβά πίσω και κρατάει τη φωτιά ενώ οι στόχοι εκκενώνονται.

Κανείς δεν θα αποκαλούσε αυτό το είδος ρομπότ ως σωσίβιο. Αλλά σε μια παρουσίαση στην DARPA και στην Εθνική Ακαδημία Επιστημόνων πριν από δύο χρόνια, ο Λιν παρουσίασε το αντίθετο σενάριο: Ένα ρομπότ δολοφόνων που είναι αρκετά ακριβές για να πυροβολήσει ουσιαστικά κάθε στόχο του.

Σύμφωνα με τον Λιν, ένα τέτοιο σύστημα θα κινδύνευε να παραβιάσει το άρθρο των Συμβάσεων της Γενεύης σχετικά με τον περιορισμό "των όπλων που προκαλούν περιττό τραυματισμό ή περιττό πόνο". Η Διεθνής Επιτροπή Ερυθρού Σταυρού ανέπτυξε πιο συγκεκριμένες κατευθυντήριες γραμμές σε μια μεταγενέστερη πρόταση, ζητώντας την απαγόρευση των όπλων με "θνησιμότητα πεδίου πάνω από 25% ή θνησιμότητα νοσοκομείου άνω του 5%". Με άλλα λόγια, τα νέα συστήματα δεν πρέπει να σκοτώνουν έναν στόχο εντελώς περισσότερο από το ένα τέταρτο του χρόνου, ή έχουν περισσότερες από πέντε τοις εκατό πιθανότητες να οδηγήσουν στο θάνατό του σε νοσοκομείο.

"Είναι σιωπηλός στον πόλεμο, ότι θέλουμε να δώσουμε σε όλους μια καλή ευκαιρία, " λέει ο Lin. Η άλλη πλευρά πιθανώς δεν είναι όλοι οι εθελοντές. Θα μπορούσαν να στρατολογηθούν. Έτσι, οι νόμοι του πολέμου δεν σας επιτρέπουν να σκοτώσετε, αλλά να καταστήσετε τους εχθρικούς μαχητές αδύνατον να πολεμήσουν. Ένα ρομπότ που ειδικεύεται στον πυροβολισμό ανθρώπων στο κεφάλι ή σε κάποια άλλη απίστευτα αποτελεσματική αλλά συντριπτικά θανατηφόρα ικανότητα - όπου ο θάνατος είναι μια βεβαιότητα, εξαιτίας της υπεράνθρωπης ανδρείας - θα μπορούσε σίγουρα να οριστεί ως απάνθρωπη.

Όπως συμβαίνει και με το αυτόματο σενάριο συντριβής αυτοκινήτου, όλα εξαρτώνται από αυτό το επίπεδο τεχνολογικής βεβαιότητας. Ένας άνθρωπος στρατιώτης ή αστυνομικός δεν αναμένεται νομικά ή δεοντολογικά να στοχεύει στο πόδι ενός στόχου. Η ακρίβεια, σε οποιοδήποτε εύρος ή επίπεδο δεξιοτήτων, δεν είναι ποτέ βέβαιο για τους απλούς θνητούς, πολύ λιγότερο για αυτούς που είναι γεμάτοι αδρεναλίνη. Ομοίως, δεν μπορεί να αναμένεται να εκτελέσει ο τέλειος ελιγμός ή η ηθικά "σωστή" απόφαση, ακόμη και στον πιό έμπειρο, επαγγελματία οδηγό, στο χωριστό δευτερόλεπτο πριν από μια ξαφνική σύγκρουση αυτοκινητόδρομου.

Αλλά αν είναι δυνατό να δημιουργηθεί αυτό το επίπεδο ακρίβειας σε μια μηχανή, οι προσδοκίες θα αλλάζονταν πάντοτε. Οι κατασκευαστές ρομπότ που κάνουν σωματική βλάβη (αν και πρόθεση ή ατύχημα) θα πρέπει να αντιμετωπίσουν μια σειρά προβλημάτων τρόλεϊ κατά τη διάρκεια της ανάπτυξης και να παρέχουν σαφείς αποφάσεις για καθένα. Οι ένοπλοι σχεδιαστές bot μπορεί να το έχουν σχετικά εύκολο, αν είναι σε θέση να προγραμματίζουν συστήματα για να παρασύρουν στόχους αντί να τους εκτελούν. Αλλά αν αυτή είναι η σαφής επιλογή - ότι τα ρομπότ θα πρέπει να μειώνουν ενεργά τους θανάτους του ανθρώπου, ακόμα και στον εχθρό - δεν θα έπρεπε να δεχτείτε ότι το αυτοκίνητό σας σας σκότωσε, αντί για δύο ξένους;

* * *

Ακολουθήστε αυτή τη λογική μέχρι το λογικό της συμπέρασμα, και τα πράγματα αρχίζουν να παίρνουν λίγο sci-fi, και περισσότερο από λίγο ανησυχητικό. Εάν τα ρομπότ αποδεικνύονται ικανά να σώζουν ανθρώπινες ζωές, θυσιάζοντας τους λίγους για το καλό των πολλών, τι είδους τέρας θα τους προγραμμάτιζε να κάνουν διαφορετικά;

Και όμως, κανείς με το σωστό μυαλό τους δεν θα αγοράσει ένα αυτόνομο αυτοκίνητο που προειδοποιεί ρητά τον πελάτη ότι η ασφάλεια του δεν είναι η πρώτη του προτεραιότητα.

Αυτό είναι το δίλημμα που οι κατασκευαστές οχημάτων ρομπότ θα μπορούσαν τελικά να αντιμετωπίσουν αν παίρνουν τον ηθικό και ηθικό υψηλό δρόμο και σχεδιάζουν τους για να περιορίσουν τον τραυματισμό ή το θάνατο χωρίς διακρίσεις. Για να πούμε ότι μια τέτοια εισαγωγή θα επιβραδύνει την υιοθέτηση αυτόνομων αυτοκινήτων είναι μια υποτίμηση. "Αγοράστε το αυτοκίνητό μας", αστειεύεται ο Michael Cahill, καθηγητής δικαίου και αντιπρύτανης στο Brooklyn Law School, "αλλά να γνωρίζετε ότι μπορεί να οδηγήσει πάνω από ένα βράχο και όχι να χτυπήσει ένα αυτοκίνητο με δύο άτομα".

Εντάξει, έτσι ήταν το υποθετικό Cahill, όχι δικό μου. Αλλά τόσο δύσκολο όσο θα ήταν να πείσει τους κατασκευαστές αυτοκινήτων να ρίξουν τους πελάτες τους κάτω από το παροιμιώδες λεωφορείο, ή να πιέσουν το χέρι τους με κανονισμούς, ίσως είναι η μόνη επιλογή που τους προστατεύει από τις ευρείες προσφυγές. Επειδή ό, τι κι αν επιλέξουν να κάνουν - σκοτώνουν το ζευγάρι ή τον οδηγό ή επιλέγουν τυχαία έναν στόχο - πρόκειται για αποφάσεις ηθικής που εκπορεύονται μπροστά. Ως εκ τούτου, θα μπορούσαν να είναι πολύ πιο ευάλωτοι σε αγωγές, λέει ο Cahill, καθώς τα θύματα και τα μέλη των οικογενειών τους τεμαχίζουν και κατηγορούν αποφάσεις που δεν έγιναν στο κίνημα της στιγμής ", αλλά πολύ νωρίς, στην άνεση των εταιρικών γραφείων. "

Επειδή δεν υπάρχει καθολικό πρότυπο για την ενσωματωμένη δεοντολογία πριν από τη σύγκρουση, τα υπεράνθρωπα αυτοκίνητα θα μπορούσαν να μοιάζουν με επιτραπέζια αυτοκίνητα, με στόχο τον ηλικιωμένο οδηγό και όχι τον νεότερο επενδυτικό τραπεζίτη - η οικογένειά του θα μπορούσε ενδεχομένως να μηνύσει για πολύ μεγαλύτερους μισθούς. Ή, λιγότερο ghoulishly, οι σχεδιαστές του οχήματος θα μπορούσαν να επιλέξουν στόχους που βασίζονται μόνο στη μάρκα και το μοντέλο του αυτοκινήτου. "Μην κατευθύνετε προς το Lexus λέει ο Cahill. "Αν χρειαστεί να χτυπήσετε κάτι, θα μπορούσατε να το προγραμματίσετε χτυπήσει ένα φθηνότερο αυτοκίνητο, αφού ο οδηγός είναι πιο πιθανό να έχει λιγότερα χρήματα."

Το μεγαλύτερο καλό σενάριο φαίνεται καλύτερα και καλύτερα. Στην πραγματικότητα, θα υποστήριζα ότι από νομική, ηθική και ηθική άποψη, είναι η μόνη βιώσιμη επιλογή. Είναι τρομακτικό να πιστεύετε ότι ο ρομπότ σας δεν μπορεί να έχει την πλάτη σας και ότι χωρίς δισταγμό θα επιλέξει να σας ξεκινήσει από το βράχο. Ή ακόμα πιο περίεργο, να σχεδιάσετε ένα σχέδιο μεταξύ των συναδέλφων σας, να συνδέσετε το αυτοκίνητό σας στο δρόμο ενός υπερφορτωμένου φορτηγού, να το απομακρύνετε από ένα σχολικό λεωφορείο. Αλλά αν τα ρομπότ αναπτύξουν αυτόν τον βαθμό εξουσίας πάνω από τη ζωή και το θάνατο, δεν θα έπρεπε να το χειριστούν υπεύθυνα;

"Αυτός είναι ένας τρόπος να το εξετάσουμε, ότι η ομορφιά των ρομπότ είναι ότι δεν έχουν σχέσεις με κανέναν. Μπορούν να κάνουν αποφάσεις που είναι καλύτερες για όλους ", λέει ο Cahill. "Αν όμως ζούσατε σε αυτόν τον κόσμο, όπου τα ρομπότ έκαναν όλες τις αποφάσεις, ίσως να νομίζετε ότι είναι μια δυστοπία".

Ο Πλανήτης Εννέα ίσως δεν είναι πραγματικά ένας πλανήτης

Ο Πλανήτης Εννέα ίσως δεν είναι πραγματικά ένας πλανήτης

Οι πιο συναρπαστικές καινοτομίες αεροδιαστημικής του 2018

Οι πιο συναρπαστικές καινοτομίες αεροδιαστημικής του 2018

Πώς να αποφύγετε αυτά τα τυπογραφικά μηνύματα ανεπιθύμητης αλληλογραφίας

Πώς να αποφύγετε αυτά τα τυπογραφικά μηνύματα ανεπιθύμητης αλληλογραφίας