Γιατί στιγμή να σταματήσει πιστεύουν τυφλά σε μεγάλες δεδομένων
Ζωή / / December 19, 2019
αλγόριθμοι αποφασίσει τώρα που εγκρίνει το δάνειο, ασφαλιστική ή που λαμβάνουν πρόσκληση για συνέντευξη, αλλά συχνά κάνουν άδικα. Και μόνο αυξάνει το χάσμα μεταξύ των στρωμάτων του πληθυσμού.
Katie O'Neill (Cathy O'Neil)
Ο μαθηματικός, από την ανάλυση των χρηματοπιστωτικών αγορών ειδικός, συγγραφέας του βιβλίου «Όπλα των μαθηματικών ήττα.»
Για την κατασκευή ενός αλγορίθμου, χρειαζόμαστε δύο πράγματα: τα δεδομένα (ό, τι συνέβη στο παρελθόν) και τον ορισμό της επιτυχούς έκβασης (ό, τι θέλετε να βρείτε χρησιμοποιώντας αυτόν τον αλγόριθμο). Στη συνέχεια, καθορίζει ποια κριτήρια οδηγήσει σε επιτυχή έκβαση. Αλλά ο ορισμός της επιτυχίας δεν μπορεί να είναι καθολική.
Αλγόριθμος - είναι η γνώμη κάποιου άλλου, το ενσωματωμένο κωδικό.
Συνηθίζαμε να πιστεύουμε ότι οι αλγόριθμοι είναι αντικειμενικές και αξιόπιστες, αλλά είναι μόνο ένα τέχνασμα μάρκετινγκ σχεδιαστεί για να μας εκφοβίσει και να μας εμπιστεύονται σε αλγόριθμους και μαθηματικά δεδομένα.
O'Neill αναφέρει παραδείγματα όπου οι αλγόριθμοι μπορούν να προκαλέσουν σοβαρή βλάβη. Αυτό συμβαίνει κατά την αξιολόγηση των εργαζομένων. Για παράδειγμα, το 2011 σε ένα σχολείο στην Ουάσιγκτον County έχουν απολυθεί περισσότεροι από 200 καθηγητές από τους
απομακρύνετε τις αλγόριθμοΑκόμα κι αν είχε εξαιρετικές συστάσεις από τους γονείς και τους συνομηλίκους τους.Επιπλέον, οι αλγόριθμοι είναι συχνά η αιτία για την απομάκρυνση των προκατειλημμένη ετυμηγορίες. Νέα οργάνωση ProPublica διεξήγαγε πρόσφατα μια έρευνα και βρέθηκανΌτι οι αλγόριθμοι που καθορίζουν τον κίνδυνο υποτροπής, λειτουργεί αντικειμενικά. Την ίδια εγκλήματα ποινές λαμβάνονται συχνά από μαύρους Αμερικανούς.
Είμαστε όλοι υπόκεινται σε προκαταλήψεις, και θα τους φέρει στα αλγόριθμους που αποφασίζουν ποια ανάγκες δεδομένων που πρέπει να ληφθούν υπόψη.
Αλγόριθμοι είναι απλά επαναλαμβάνοντας τα λάθη του παρελθόντος μας, αυτοματοποιούν την υπάρχουσα τάξη. Γι 'αυτό και δεν μπορούμε να τους εμπιστευόμαστε τυφλά, θα πρέπει να τα δοκιμάσετε για να είναι στόχος: να επανεξετάσουμε τον ορισμό της επιτυχούς έκβασης, λάθος, δεν είναι ασφαλισμένοι από κάθε αλγόριθμο. Πόσο συχνά εμφανίζονται και οι οποίοι επηρεάζονται; Ποιο είναι το κόστος αυτών των λαθών;
Οι επαγγελματίες που εργάζονται με τα δεδομένα, δεν θα πρέπει να είναι οι ρυθμιστές της δικαιοσύνης. Ήρθε η ώρα να σταματήσει να πιστεύουν τυφλά μεγάλα δεδομένα.