Μόνο εννέα γιγαντιαίες εταιρείες τεχνολογίας στις ΗΠΑ και την Κίνα βρίσκονται πίσω από τη συντριπτική πλειονότητα των εξελίξεων στην τεχνητή νοημοσύνη παγκοσμίως. Στο νέο της βιβλίο, The Big Nine: Πώς οι τεχνολογικοί τιτάνες και οι μηχανές σκέψης τους θα μπορούσαν να παραμορφώσουν την ανθρωπότητα (PublicAffairs, 5 Μαρτίου), η Amy Webb οραματίζεται τρία πιθανά συμβόλαια μελλοντικής εκπλήρωσης, που κυμαίνονται από αισιόδοξα έως αποκαλυπτικά, που θα μπορούσαν να προκύψουν από τις ενέργειες που κάνουμε - ή δεν λαμβάνουμε - για τον έλεγχο της ανάπτυξης του A.I. και να διαμορφώσει τον παγκόσμιο αντίκτυπό του. Σε αυτό το απόσπασμα, παρουσιάζει μια σειρά από σκληρά ηθικά ερωτήματα που οι άνθρωποι χτίζουν A.I. τα συστήματα πρέπει να χρησιμοποιούν για να καθοδηγήσουν την εργασία τους.
Οι κανόνες - ο αλγόριθμος - με τον οποίο ζει και έχει ζήσει κάθε πολιτισμός, κοινωνία και έθνος, δημιουργήθηκαν πάντα από λίγα άτομα. Δημοκρατία, κομμουνισμός, σοσιαλισμός, θρησκεία, veganism, nativism, αποικιοκρατία - αυτές είναι κατασκευές που έχουμε αναπτύξει σε όλη την ιστορία για να βοηθήσουμε στην καθοδήγηση των αποφάσεών μας. Ακόμα και στις καλύτερες περιπτώσεις, δεν είναι μελλοντικές. Οι τεχνολογικές, κοινωνικές και οικονομικές δυνάμεις παρεμβαίνουν πάντα και μας κάνουν να προσαρμοζόμαστε.
Οι Δέκα Εντολές αποτελούν έναν αλγόριθμο που σκοπό έχει να δημιουργήσει μια καλύτερη κοινωνία για τους ανθρώπους που ζουν περισσότερο από 5.000 χρόνια πριν. Μία από τις εντολές είναι να παίρνετε μια ολόκληρη μέρα ανάπαυσης την εβδομάδα και να μην κάνετε καθόλου εργασία εκείνη την ημέρα. Στη σύγχρονη εποχή, οι περισσότεροι άνθρωποι δεν εργάζονται ακριβώς τις ίδιες μέρες ή ώρες από εβδομάδα σε εβδομάδα, οπότε θα ήταν αδύνατο να μην παραβιάσουμε τον κανόνα. Ως αποτέλεσμα, τα άτομα που ακολουθούν τις Δέκα Εντολές ως καθοδηγητική αρχή είναι ευέλικτα στην ερμηνεία τους, δεδομένης της πραγματικότητας των μεγαλύτερων ημερών εργασίας, του ποδοσφαίρου και του email Η προσαρμογή είναι μια χαρά - λειτουργεί πολύ καλά για εμάς και για τις κοινωνίες μας, επιτρέποντάς μας να παραμείνουμε σε καλό δρόμο. Η συμφωνία με ένα βασικό σύνολο οδηγιών μας επιτρέπει να βελτιστοποιήσουμε τον εαυτό μας.
φωτογραφία του συζύγου της Emily Compagno
Δεν θα υπήρχε τρόπος να δημιουργήσετε ένα σύνολο εντολών για το A.I. Δεν μπορούσαμε να γράψουμε όλους τους κανόνες για τη σωστή βελτιστοποίηση για την ανθρωπότητα, και αυτό γιατί ενώ οι μηχανές σκέψης μπορεί να είναι γρήγορες και ισχυρές, δεν διαθέτουν ευελιξία. Δεν υπάρχει ένας εύκολος τρόπος προσομοίωσης εξαιρέσεων, ή να δοκιμάσετε εκ των προτέρων κάθε περίσταση. Όποιοι κανόνες θα μπορούσαν να γραφτούν, θα υπήρχε πάντα μια περίσταση στο μέλλον κατά την οποία ορισμένοι θα ήθελαν να ερμηνεύσουν τους κανόνες διαφορετικά, ή να τους αγνοήσουν εντελώς, ή να δημιουργήσουν τροποποιήσεις προκειμένου να διαχειριστούν μια απρόβλεπτη περίσταση.
Γνωρίζοντας ότι δεν μπορούμε ενδεχομένως να γράψουμε ένα σύνολο αυστηρών εντολών που πρέπει να ακολουθήσουμε, πρέπει, αντίθετα, να εστιάσουμε την προσοχή μας στους ανθρώπους που χτίζουν τα συστήματα; Αυτοί οι άνθρωποι - οι φυλές του A.I. - θα έπρεπε να αναρωτιούνται άβολα, ξεκινώντας με:
ποια είναι η καθαρή αξία της Julie Chrisley
- Ποιο είναι το κίνητρό μας για το A.I. Ευθυγραμμίζεται με τα καλύτερα μακροπρόθεσμα συμφέροντα της ανθρωπότητας;
- Ποιες είναι οι δικές μας προκαταλήψεις; Ποιες ιδέες, εμπειρίες και αξίες δεν έχουμε συμπεριλάβει στη φυλή μας; Ποιοι έχουμε αγνοήσει;
- Έχουμε συμπεριλάβει ανθρώπους σε αντίθεση με εμάς με σκοπό να δημιουργήσουμε το μέλλον του A.I. καλύτερα - ή έχουμε συμπεριλάβει απλώς την ποικιλομορφία στην ομάδα μας για να ικανοποιήσουμε συγκεκριμένες ποσοστώσεις;
- Πώς μπορούμε να διασφαλίσουμε ότι η συμπεριφορά μας είναι περιεκτική;
- Πώς είναι οι τεχνολογικές, οικονομικές και κοινωνικές επιπτώσεις του A.I. κατανοητό από εκείνους που εμπλέκονται στη δημιουργία του;
- Ποια θεμελιώδη δικαιώματα πρέπει να έχουμε για να ανακρίνουμε τα σύνολα δεδομένων, τους αλγόριθμους και τις διαδικασίες που χρησιμοποιούνται για τη λήψη αποφάσεων για λογαριασμό μας;
- Ποιος μπορεί να καθορίσει την αξία της ανθρώπινης ζωής; Σε σχέση με την οποία ζυγίζεται αυτή η αξία;
- Πότε και γιατί αυτοί που βρίσκονται στις φυλές του A.I. πιστεύουν ότι είναι ευθύνη τους να αντιμετωπίσουν τις κοινωνικές επιπτώσεις του A.I.
- Μήπως η ηγεσία του οργανισμού μας και του A.I. οι φυλές αντικατοπτρίζουν πολλά διαφορετικά είδη ανθρώπων;
- Τι ρόλο κάνουν αυτοί που εμπορεύονται το A.I. παίζουν στην αντιμετώπιση των κοινωνικών επιπτώσεων του A.I.;
- Πρέπει να συνεχίσουμε να συγκρίνουμε το A.I. στην ανθρώπινη σκέψη, ή είναι καλύτερο για εμάς να το κατηγοριοποιήσουμε ως κάτι διαφορετικό;
- Είναι εντάξει η κατασκευή του A.I. που αναγνωρίζει και ανταποκρίνεται στο ανθρώπινο συναίσθημα;
- Είναι εντάξει να φτιάξεις το A.I. συστήματα ικανά να μιμούνται το ανθρώπινο συναίσθημα, ειδικά αν μαθαίνει από εμάς σε πραγματικό χρόνο;
- Ποιο είναι το αποδεκτό σημείο στο οποίο είμαστε όλοι εντάξει με το A.I. εξελίσσεται χωρίς ανθρώπους στον βρόχο;
- Υπό ποιες συνθήκες θα μπορούσε ένα A.I. προσομοίωση και εμπειρία κοινών ανθρώπινων συναισθημάτων; Τι γίνεται με τον πόνο, την απώλεια και τη μοναξιά; Είμαστε εντάξει προκαλώντας αυτό τον πόνο;
- Αναπτύσσουμε το A.I. να αναζητήσουμε μια βαθύτερη κατανόηση του εαυτού μας; Μπορούμε να χρησιμοποιήσουμε το A.I. για να βοηθήσουμε την ανθρωπότητα να ζήσει μια πιο εξεζητημένη ζωή;
Υπάρχουν εννέα μεγάλες εταιρείες τεχνολογίας - έξι Αμερικανοί και τρεις Κινέζοι - που είναι εξαιρετικά υπεύθυνες για το μέλλον της τεχνητής νοημοσύνης. Στις ΗΠΑ, είναι Google, Microsoft, Amazon, Facebook, IBM και Apple («G-MAFIA»). Στην Κίνα, είναι το BAT: Baidu, Alibaba και Tencent.
Το G-MAFIA άρχισε να αντιμετωπίζει το πρόβλημα των κατευθυντήριων αρχών μέσω διαφόρων ομάδων έρευνας και μελέτης. Μέσα στη Microsoft υπάρχει μια ομάδα που ονομάζεται FATE - για Δίκαιο, Ευθύνη, Διαφάνεια και Δεοντολογία στο A.I. Μετά το σκάνδαλο Cambridge Analytica, το Facebook ξεκίνησε μια ομάδα δεοντολογίας που ανέπτυξε λογισμικό για να βεβαιωθεί ότι το A.I. τα συστήματα απέφυγαν την προκατάληψη. (Συγκεκριμένα, το Facebook δεν προχώρησε στο να δημιουργήσει έναν πίνακα δεοντολογίας που να εστιάζει στο A.I.) Η IBM δημοσιεύει τακτικά σχετικά με τη δεοντολογία και το A.I. Μετά από σκάνδαλο στο Baidu - η μηχανή αναζήτησης έδωσε προτεραιότητα σε παραπλανητικούς ιατρικούς ισχυρισμούς από ένα στρατιωτικό νοσοκομείο, όπου μια θεραπεία είχε ως αποτέλεσμα τον θάνατο ενός 21χρονου φοιτητή - ο Διευθύνων Σύμβουλος της Baidu Robin Li παραδέχθηκε ότι οι εργαζόμενοι είχαν κάνει συμβιβασμούς για χάρη της αύξησης των κερδών του Baidu και υποσχέθηκε να επικεντρωθεί στην ηθική στο μέλλον.
florinka pesenti και dan abrams
Το Big Nine παράγει μελέτες δεοντολογίας και λευκές βίβλους, καλεί εμπειρογνώμονες για να συζητήσουν την ηθική και φιλοξενεί πάνελ σχετικά με την ηθική - αλλά αυτή η προσπάθεια δεν είναι αρκετά αλληλένδετη με τις καθημερινές λειτουργίες των διαφόρων ομάδων που εργάζονται στο A.I.
The Big Nine's A.I. Τα συστήματα αποκτούν όλο και μεγαλύτερη πρόσβαση στα δεδομένα μας στον πραγματικό κόσμο για τη δημιουργία προϊόντων που παρουσιάζουν εμπορική αξία. Οι κύκλοι ανάπτυξης επιταχύνονται για να συμβαδίζουν με τις προσδοκίες των επενδυτών. Ήμασταν πρόθυμοι - αν δεν το θέλαμε - συμμετέχοντες στο μέλλον που δημιουργούνται βιαστικά και χωρίς να απαντήσουμε πρώτα σε όλες αυτές τις ερωτήσεις. Ως A.I. τα συστήματα προχωρούν και όλο και περισσότερο η καθημερινή ζωή γίνεται αυτοματοποιημένη, τόσο λιγότερος έλεγχος έχουμε στις αποφάσεις που λαμβάνονται και για εμάς.
Η Amy Webb θα εμφανιστεί στο Ιδρυμα Σπίτι στο Ώστιν στις 11 Μαρτίου.
