Όλα ξεκίνησαν όταν η καθηγήτρια του Χάρβαρντ, Latanya Sweeney, ανακάλυψε κάτι ασυνήθιστο μετά από μια αναζήτηση του ονόματός της στο Google: επρόκειτο για μια διαφήμιση που ανήκε σε μια υπηρεσία ονόματι Instant Checkmate και εμφάνιζε το όνομά της ακολουθούμενο από την ερώτηση “arrested?” (συνελήφθη).
Για την ιστορία, η Instant Checkmate αναλαμβάνει, έναντι αντιτίμου, να αναζητήσει δημόσια αρχεία ώστε να εντοπίσει παραβάσεις του νόμου. Η Sweeney πλήρωσε το αντίτιμο, αλλά δεν βρήκε κάποια αναφορά που να λέει ότι έχει συλληφθεί.
Παρόλα αυτά, όντας ειδική σε θέματα ιδιωτικότητας στο διαδίκτυο, αποφάσισε να το ψάξει παραπάνω. Έτσι, πραγματοποίησε ένα πείραμα για να δοκιμάσει το κατά πόσο η τεχνολογία του Google AdSense έφερνε διαφορετικές διαφημίσεις ανάλογα με το αν το όνομα που αναζητούσε κανείς έμοιαζε να ανήκει σε λευκό ή μαύρο. Πιο συγκεκριμένα, μήπως ονόματα όπως Latisha ή Rasheed, που είναι πιο πιθανό να ανήκουν σε μαύρους, επέστρεφαν διαφημίσεις διαφορετικού ύφους από ότι ονόματα όπως το Greg ή το Meredith που ανήκουν συνήθως σε λευκούς;
Η Sweeney συγκέντρωσε πάνω από 2.000 τέτοια ονόματα, τα οποία στη συνέχεια εισήγαγε στο google.com και το reuters.com, για να δει τις διαφημίσεις που θα επέστρεφαν. Τα αποτελέσματα του πειράματος ήταν αρκετά ενδιαφέροντα, αφού μπορεί τα περισσότερα ονόματα να δημιούργησαν διαφημίσεις για ποινικό μητρώο, αλλά τα «μαύρα» ονόματα ήταν πολύ πιθανότερο να επιτρέψουν διαφημίσεις που περιλάμβαναν τη λέξη “arrested”, σε σχέση με τα «λευκά» (60% έναντι 48%). Όλα τα αποτελέσματα προήλθαν από το instantcheckmate.com.
Σύμφωνα με την καθηγήτρια τα αποτελέσματα είναι άξια προσοχής, καθώς θεωρεί πως οι πιθανότητες να συνέβησαν κατά τύχη είναι μικρότερες από 0,1%.
Στο Reuters, μάλιστα, τα ονόματα που είναι πιθανότερο να ανήκουν σε μαύρους ήταν κατά 25% πιθανότερο να συνοδεύονται από διαφήμιση που σχετίζεται με σύλληψη.
Αν και τα αποτελέσματα προκάλεσαν αρκετά ερωτηματικά, η Sweeney στην έρευνά της (κατεβάστε τη σε PDF) αποφεύγει να πάρει θέση για το ποιος τελικά ευθύνεται. Ίσως το πιο ενδιαφέρον, όμως, είναι η υποψία ότι τελικά μπορεί τόσο η Instant Checkmate όσο και η Google να μην έκαναν κάτι λάθος ή με σκοπιμότητα. Ίσως, δηλαδή, ο αλγόριθμος του AdSense να αντικατοπτρίζει απλώς τον εγγενή ρατσισμό της κοινωνίας.
Πιο συγκεκριμένα, η Sweeney περιγράφει τον τρόπο με τον οποίο λειτουργεί ο αλγόριθμος του AdSense ως εξής:
Η Google καταλαβαίνει ότι ένας διαφημιζόμενος μπορεί να μην ξέρει ποια εκδοχή της διαφήμισής του θα είναι πιο αποτελεσματική. Έτσι, μπορεί να δώσει πολλά διαφορετικά πρότυπα (templates) για τον ίδιο όρο αναζήτησης και ο αλγόριθμος της Google μαθαίνει με τον καιρό ποιο κείμενο παίρνει τα περισσότερα κλικ από τους χρήστες που βλέπουν τη διαφήμιση. Αυτό το κάνει προσδίδοντας διαφορετική βαρύτητα (ή διαφορετικές πιθανότητες) βάσει του ιστορικού των κλικ κάθε εκδοχής. Στην αρχή όλες οι εκδοχές της διαφήμισης έχουν την ίδια βαρύτητα και, συνεπώς, ίσες πιθανότητες να πάρουν κλικ. Με τον καιρό, όμως, και καθώς οι άνθρωποι τείνουν να κάνουν κλικ σε μία εκδοχή και όχι σε άλλη, η βαρύτητα αλλάζει και το κείμενο που παίρνει τα περισσότερα κλικ εμφανίζεται πιο συχνά.
Φανταστείτε, για παράδειγμα, το εξής σενάριο: ένας εργοδότης ψάχνει στο Google τα ονόματα των υποψηφίων υπαλλήλων του. Κάποιοι από αυτούς έχουν ονόματα που είναι πιθανότερο να ανήκουν σε μαύρους. Λόγω της προσωπικής του προκατάληψης, ο εργοδότης αυτός είναι πιο πιθανό να κάνει κλικ στην διαφήμιση της Instant Checkmate που τον παροτρύνει να δει αν ο άνθρωπος έχει συλληφθεί. Με τον καιρό, ο αλγόριθμος του AdSense μαθαίνει ότι οι διαφημίσεις που αφορούν τον εντοπισμό ποινικού μητρώου αποδίδουν καλύτερα όταν συνδέονται με ονόματα που συνήθως προσδιορίζουν μαύρους ανθρώπους.
Η ίδια η Google, πάντως, έχει φροντίσει να τοποθετηθεί ήδη στο θέμα, εξηγώντας πως το AdWords δεν πραγματοποιεί κανενός είδους ρατσιστική κατηγοριοποίηση. Εκπρόσωπός της, μάλιστα, αναφέρει πως η εταιρεία διαθέτει ειδική πολιτική που δεν επιτρέπει διαφημίσεις που καταφέρονται εναντίον οργανισμών, προσώπων ή ομάδων ανθρώπων και καταλήγει λέγοντας πως εξαρτάται από τον κάθε διαφημιζόμενο να αποφασίσει ποιές λέξεις θα επιλέξει να συνδέσει με τις διαφημίσεις του.
Πηγές: Salon, MIT Technology Review
Το παραπάνω άρθρο είναι αρκετά παλιό, αφού δημοσιεύτηκε στις 5 Φεβρουαρίου 2013. Εάν κάποια από τις πληροφορίες που
αναφέρονται σε αυτό δεν ισχύει πια, ενημερώστε με μέσω της
φόρμας επικοινωνίας
για να το τροποποιήσω.
Συντάκτης άρθρου: Γιώργος Σαρηγιαννίδης
Ο Γιώργος Σαρηγιαννίδης είναι απόφοιτος του τμήματος Επικοινωνίας, Μέσων και Πολιτισμού του Παντείου και κάτοχος μεταπτυχιακού διπλώματος από το ίδιο τμήμα. Αυτή τη στιγμή εργάζεται ως freelancer σύμβουλος σε έργα διαδικτύου και intranets, με κύρια αντικείμενα την Αρχιτεκτονική της Πληροφορίας, την κατασκευή ιστοσελίδων και την διαχείριση περιεχομένου. Έχει ειδικευτεί στη μελέτη και τον αρχιτεκτονικό σχεδιασμό portals, intranets και δικτυακών εφαρμογών, ενώ στο παρελθόν έχει ασχοληθεί και με τη δημοσιογραφία.
ΑΚΟΛΟΥΘΗΣΤΕ ΤΟ FREEWEIRD