Υπάρχει μια μια μεγάλη συζήτηση που διεξάγεται στη Silicon Valley σχετικά με την τεχνητή νοημοσύνη και δυστυχώς τα στοιχήματα είναι αρκετά υψηλά: Θα χτίσουμε κατά λάθος ένα σούπερ έξυπνο A.I. που μας ανάβει και μας σκοτώνει ή μας υποδουλώνει;
πόσα χρήματα βγάζει το trish regan το χρόνο;
Αυτό μπορεί να ακούγεται σαν το σενάριο μιας θερινής ταινίας καταστροφών, αλλά ανησυχεί μερικά αρκετά μεγάλα ονόματα, από τον Elon Musk έως τα τέλη Στίβεν Χόκινγκ .
«Ας πούμε ότι δημιουργείτε ένα αυτο-βελτιωμένο A.I. να πάρει φράουλες, Ο Μόσκ είπε , εξηγώντας τους φόβους του, «και γίνεται όλο και καλύτερο στο να μαζεύεις φράουλες και να μαζεύεις όλο και περισσότερο και αυτό-βελτιώνεται, οπότε το μόνο που θέλει πραγματικά να κάνει είναι να πάρει φράουλες. Τότε λοιπόν θα ήταν όλος ο κόσμος να είναι φράουλα. Φράουλα χωράφια για πάντα. ' Οι άνθρωποι με τον τρόπο αυτής της φράουλας-πακάλυψης θα ήταν ένα απλώς αναλώσιμο ερεθιστικό για το A.I.
Αλλά σίγουρα οι άνθρωποι δεν θα ήταν τόσο ανόητοι ώστε να σχεδιάσουν κατά λάθος ένα A.I. οδηγείτε να μετατρέψετε όλο τον πολιτισμό σε ένα γιγαντιαίο αγρόκτημα μούρων; Ίσως όχι, αλλά ως Janelle Shane , ερευνητής που εκπαιδεύει νευρικά δίκτυα, έναν τύπο αλγορίθμου μηχανικής μάθησης, που πρόσφατα σημείωσε το blog της, A.I. Παραξενιά , είναι εντελώς πιθανό να μπορούσαν να το κάνουν κατά λάθος.
Στην πραγματικότητα, θα ήταν μακρυά από την πρώτη φορά που οι άνθρωποι πίστευαν ότι χτίζουν ρομπότ για μια εργασία μόνο για να γυρίσουν και να βρουν τα ρομπότ να παίζουν το σύστημα με τρόπους που ποτέ δεν σκόπευαν. Η συναρπαστική δημοσίευση σκάβει στην ακαδημαϊκή βιβλιογραφία για να μοιραστεί διάφορα παραδείγματα ρομπότ. Είναι αστείοι, έξυπνοι και, μαζί, περισσότερο από λίγο ανατριχιαστικοί.
1. Ποιος χρειάζεται τα πόδια όταν μπορείς να πέσεις;
«Ένα προσομοιωμένο ρομπότ έπρεπε να εξελιχθεί για να ταξιδέψει όσο το δυνατόν γρηγορότερα. Αλλά αντί να εξελίσσεται τα πόδια, απλώς συγκεντρώθηκε σε έναν ψηλό πύργο και στη συνέχεια έπεσε. Μερικά από αυτά τα ρομπότ έμαθαν ακόμη και να μετατρέψουν την πτώση της κίνησης τους σε μια τούμπα, προσθέτοντας επιπλέον απόσταση »γράφει ο Shane.
2. Ένα ρομπότ που μπορεί-μπορεί.
«Ένα άλλο σύνολο προσομοιωμένων ρομπότ έπρεπε να εξελιχθεί σε μια μορφή που θα μπορούσε να πηδήξει. Αλλά ο προγραμματιστής είχε αρχικά ορίσει το ύψος άλματος ως το ύψος του ψηλότερου μπλοκ, οπότε - για άλλη μια φορά - τα ρομπότ εξελίχθηκαν σε πολύ ψηλό επίπεδο ', εξηγεί ο Shane. «Ο προγραμματιστής προσπάθησε να το λύσει καθορίζοντας το ύψος άλματος ως το ύψος του μπλοκ που ήταν αρχικά το« χαμηλότερο ». Σε απάντηση, το ρομπότ ανέπτυξε ένα μακρύ κοκαλιάρικο πόδι που θα μπορούσε να κλωτσήσει ψηλά στον αέρα σε ένα είδος δοχείου ρομπότ ».
3. Απόκρυψη του τεστ και δεν μπορείτε να το αποτύχετε.
«Υπήρχε ένας αλγόριθμος που έπρεπε να ταξινομήσει μια λίστα αριθμών. Αντ 'αυτού, έμαθε να διαγράφει τη λίστα, έτσι ώστε να μην είναι πλέον τεχνικά ταξινομημένη », αναφέρει ο Shane.
4. Τα μαθηματικά λάθη κέρδισαν τα καύσιμα jet.
«Σε μια προσομοίωση, τα ρομπότ έμαθαν ότι τα μικρά σφάλματα στρογγυλοποίησης στα μαθηματικά που υπολόγιζαν τις δυνάμεις σήμαινε ότι πήραν λίγο επιπλέον ενέργεια με κίνηση. Έμαθαν να στρίβουν γρήγορα, δημιουργώντας πολύ ελεύθερη ενέργεια που θα μπορούσαν να εκμεταλλευτούν », λέει ο Shane. Γεια, αυτό εξαπατά!
5. Μια ανίκητη (αν καταστροφική) στρατηγική tic-tac-toe.
Μόλις μια ομάδα «προγραμματιστών δημιούργησε αλγόριθμους που θα μπορούσαν να παίξουν tic-tac-toe μεταξύ τους σε έναν απέραντα μεγάλο πίνακα», σημειώνει ο Shane. «Ένας προγραμματιστής, αντί να σχεδιάζει τη στρατηγική του αλγορίθμου του, το αφήνει να εξελίξει τη δική του προσέγγιση. Παραδόξως, ο αλγόριθμος ξαφνικά άρχισε να κερδίζει όλα τα παιχνίδια του. Αποδείχθηκε ότι η στρατηγική του αλγορίθμου ήταν να κάνει την κίνησή του πολύ, πολύ μακριά, έτσι ώστε όταν ο υπολογιστής του αντιπάλου του προσπάθησε να προσομοιώσει τη νέα, πολύ εκτεταμένη πλακέτα, ο τεράστιος πίνακας παιχνιδιών θα τον έκανε να ξεμείνει από τη μνήμη και να συντριβεί, χάνοντας παιχνίδι.'
6. Δεν υπάρχει χρήσιμο πρόβλημα στο παιχνίδι.
«Οι αλγόριθμοι παιχνιδιού στον υπολογιστή είναι πολύ καλοί στο να ανακαλύπτουν το είδος των δυσλειτουργιών Matrix που οι άνθρωποι συνήθως μαθαίνουν να εκμεταλλεύονται για γρήγορο τρέξιμο. Ένας αλγόριθμος που παίζει το παλιό παιχνίδι Atari Q * bert ανακάλυψε ένα προηγουμένως άγνωστο σφάλμα όπου θα μπορούσε να εκτελέσει μια πολύ συγκεκριμένη σειρά κινήσεων στο τέλος ενός επιπέδου και αντί να μετακινηθεί στο επόμενο επίπεδο, όλες οι πλατφόρμες θα αρχίσουν να αναβοσβήνουν γρήγορα και το ο παίκτης θα άρχιζε να μαζεύει τεράστιο αριθμό πόντων », λέει ο Shane.
7. Συγγνώμη, πιλότος.
Αυτό το παράδειγμα είναι εξαιρετικά υψηλό στην κλίμακα ανατριχιαστικότητας: «Υπήρχε ένας αλγόριθμος που έπρεπε να καταλάβει πώς να εφαρμόσει μια ελάχιστη δύναμη σε ένα αεροπλάνο που προσγειώνεται σε έναν αερομεταφορέα. Αντ 'αυτού, ανακάλυψε ότι εάν εφάρμοζε μια «τεράστια» δύναμη, θα υπερέβαινε τη μνήμη του προγράμματος και θα έγραφε αντ' αυτού ως μια πολύ «μικρή» δύναμη. Ο πιλότος θα πεθάνει, αλλά, τέλειο σκορ. '
Είμαστε όλοι καταδικασμένοι;
Όλα αυτά μαζί δείχνουν ότι οι άνθρωποι είναι πολύ άσχημοι να μαντέψουν πώς τα ρομπότ θα λύσουν τα προβλήματα που θέτουμε για αυτούς ή ακόμα και πώς θα καθορίσουν τα προβλήματα. Αυτό σημαίνει λοιπόν ότι ο Shane ανησυχεί εξίσου για την κατά λάθος κατασκευή ανθρωποκτονιών A.I. κυρίαρχοι όπως είναι ο Musk; Όχι στην πραγματικότητα, αλλά όχι επειδή είναι σίγουρος ότι οι προγραμματιστές του ανθρώπου έχουν πραγματικά μεγάλη λαβή στα ρομπότ που δημιουργούν. Αντ 'αυτού, βασίζεται στην τεμπελιά του ρομπότ για να μας σώσει.
«Ως προγραμματιστές πρέπει να είμαστε πολύ προσεκτικοί ώστε οι αλγόριθμοί μας να επιλύουν τα προβλήματα που θέλαμε να λύσουν, όχι να εκμεταλλευτούν συντομεύσεις. Εάν υπάρχει μια άλλη, ευκολότερη διαδρομή για την επίλυση ενός συγκεκριμένου προβλήματος, η μηχανική μάθηση πιθανότατα θα το βρει », παρατηρεί. «Ευτυχώς για εμάς,« σκοτώστε όλους τους ανθρώπους »είναι πραγματικά πολύ δύσκολο. Εάν «ψήνεις ένα απίστευτα νόστιμο κέικ» λύνει επίσης το πρόβλημα και είναι ευκολότερο από το «να σκοτώσεις όλους τους ανθρώπους», τότε η μηχανική μάθηση θα πάει με το κέικ ».
