Επαλήθευση υποσχέσεων #BigTech

Το μοτίβο στη Silicon Valley είναι πολύ οικείο. Κινηθείτε γρήγορα, σπάστε πράγματα, ζητήστε συγγνώμη, υποσχεθείτε ότι θα τα καταφέρετε καλύτερα και επαναλάβετε. Μετά από σχεδόν δύο δεκαετίες αυτού του μοτίβου, είμαστε εξαντλημένοι, γράφει Δρ Χάνι Φαρίντ.

Έχουμε εξαντληθεί από θεαματικές αποτυχίες στην προστασία του απορρήτου των χρηστών, επιτρέποντας στους διαφημιστές να στοχεύουν παράνομα διαφημίσεις κατοικιών και θέσεων εργασίας με βάση τη φυλή και την ηλικία, προωθώντας ψεύτικες ειδήσεις που έχουν σχεδιαστεί για να υποκινούν τη βία και να διαταράσσουν τις εκλογές και επιτρέποντας σε τρομοκρατικές ομάδες να συνεχίσουν να ριζοσπαστικοποιούνται και να στρατολογούν στο διαδίκτυο. Είμαστε εξαντλημένοι από τις συγγνώμες και τις υποσχέσεις να τα πάμε καλύτερα.

Οι υπεύθυνοι χάραξης πολιτικής και οι διαφημιστές είναι όλο και πιο έντονοι για την απογοήτευσή τους για την έλλειψη επιθετικής αντιμετώπισης των εταιρειών κοινωνικής δικτύωσης, από ριζοσπαστικό υλικό που σχετίζεται με τον τρόμο έως σεξουαλικό περιεχόμενο που απευθύνεται σε παιδιά. Σε απάντηση, το YouTube μόλις την περασμένη εβδομάδα ανακοίνωσε ότι είχε αφαιρέσει πάνω από 8 εκατομμύρια βίντεο τους προηγούμενους τρεις μήνες, η πλειονότητα των οποίων ήταν ανεπιθύμητο περιεχόμενο ή περιεχόμενο για ενηλίκους. Συνολικά 6.7 εκατομμύρια από το διαγραμμένο περιεχόμενο αναγνωρίστηκαν αυτόματα από μηχανήματα, το 76% των οποίων αφαιρέθηκαν πριν λάβουν μία μόνο προβολή.

Το YouTube αναφέρει επίσης ότι περισσότερα από τα μισά βίντεο βίαιου εξτρεμισμού αφαιρέθηκαν με λιγότερες από 10 προβολές. Ωστόσο, δεν μας λένε πόσα από αυτά τα βίντεο καταργήθηκαν και, φυσικά, δεν γνωρίζουμε πόσα βίντεο παραμένουν στο διαδίκτυο, αφού χάθηκαν από τους αλγόριθμους του YouTube ή τους ανθρώπινους επόπτες.

Επιφανειακά, αυτοί οι αριθμοί ακούγονται πολλά υποσχόμενοι, αλλά μια πιο προσεκτική ματιά δίνει μια διαφορετική εικόνα. Σε μια περίοδο επτά εβδομάδων από τις 8 Μαρτίου έως τις 26 Απριλίου του τρέχοντος έτους, χρησιμοποιήσαμε τη δική μας τεχνολογία για να εντοπίσουμε την παρουσία στην πλατφόρμα του YouTube μόλις 256 βίντεο που είχαν δημιουργηθεί από το ISIS που σχετίζονται με τον τρόμο. Να τι μάθαμε:

1. Τουλάχιστον 942 βίντεο του ISIS ανέβηκαν στο YouTube.

   Διαφήμιση

2. Αυτά τα 942 βίντεο συγκέντρωσαν συνολικά 134,644 προβολές.

3. Αν και το 74% των βίντεο παρέμειναν στο YouTube για λιγότερο από δύο ώρες, μέσα σε αυτό το χρονικό διάστημα, αυτά τα βίντεο συγκέντρωσαν κατά μέσο όρο 12 προβολές το καθένα, με μέγιστο αριθμό προβολών 252.

4. Για βίντεο που ήταν διαθέσιμα για περισσότερες από δύο ώρες, ο μέσος αριθμός προβολών σε ένα παράθυρο 48 ωρών ήταν 515 με μέγιστο αριθμό προβολών 9,589 (διακόψαμε την παρακολούθηση προβολών μετά από ένα παράθυρο 48 ωρών).

5. Αυτά τα 942 βίντεο ανέβηκαν από 157 διαφορετικούς λογαριασμούς YouTube, μερικοί από τους οποίους ανέβασαν έως και 70 βίντεο πριν το κανάλι είτε καταργηθεί από τους διαχειριστές του YouTube είτε διαγραφεί από τον χρήστη.

6. Περίπου το 91% των βίντεο που βρήκαμε μεταφορτώθηκαν περισσότερες από μία φορές και παρέμειναν στο διαδίκτυο τουλάχιστον αρκετό καιρό για να τα βρούμε.

Για να δώσω μόνο ένα συγκεκριμένο παράδειγμα - ένα βίντεο με τίτλο Hunt Them O' Monotheist, που κυκλοφόρησε αρχικά από τη σομαλική θυγατρική του ISIS στις 25 Δεκεμβρίου 2017, ενθαρρύνει επιθέσεις με πυροβόλα όπλα και οχήματα σε δυτικές χώρες, συμπεριλαμβανομένου του Παρισιού και του Λονδίνου. Αυτό το βίντεο ανέβηκε στο YouTube στις 10 Μαρτίου 2018, ήταν διαθέσιμο για 29 ώρες και έλαβε 405 προβολές πριν καταργηθεί. Αυτό το βίντεο ανέβηκε ξανά στις 11 Μαρτίου από διαφορετικό λογαριασμό και ήταν διαθέσιμο για 39 ώρες και έλαβε 113 προβολές προτού αφαιρεθεί ξανά. Αυτό το βίντεο στη συνέχεια ανέβηκε ξανά και διαγράφηκε τουλάχιστον άλλες έξι φορές κατά τη διάρκεια του παραθύρου των επτά εβδομάδων, λαμβάνοντας συνολικά άλλες 875 προβολές.

Από την ανάλυσή μας προέκυψαν μερικά μοτίβα. Παρά τους ισχυρισμούς ότι χρησιμοποιεί αυτόματα εργαλεία για την εύρεση και την κατάργηση περιεχομένου που σχετίζεται με τρομοκρατία, βλέπουμε το ίδιο περιεχόμενο να ανεβάζεται επανειλημμένα στο YouTube, συχνά από τον ίδιο λογαριασμό. Αυτό το περιεχόμενο παραμένει στο διαδίκτυο οπουδήποτε από ώρες σε ημέρες και προβάλλεται εκατοντάδες έως χιλιάδες φορές. Αφού αφαιρεθεί, το ίδιο περιεχόμενο απλώς ανεβάζεται ξανά, πράγμα που σημαίνει ότι είναι ουσιαστικά διαθέσιμο όλη την ώρα. Εάν ένας μικρός μη κερδοσκοπικός οργανισμός όπως το Counter Extremism Project με περιορισμένους οικονομικούς και υπολογιστικούς πόρους, μπορεί να βρει περιεχόμενο σε αυτές τις πλατφόρμες, δεν βλέπουμε κανένα λόγο για τον οποίο οι ίδιες οι πλατφόρμες δεν μπορούν να κάνουν το ίδιο.

Η ουσία είναι ότι πάρα πολύ περιεχόμενο που σχετίζεται με τον τρόμο βρίσκει το δρόμο του στο διαδίκτυο, παραμένει στο διαδίκτυο για πάρα πολύ καιρό και συνεχίζει να επανεμφανίζεται ακόμα κι αν τελικά καταργηθεί.

Αν και έχουμε δει κάποια πρόοδο σε σύγκριση με πριν από μερικά χρόνια, εξακολουθούν να υπάρχουν σημαντικά κενά στην ανάπτυξη και την ανάπτυξη τεχνολογίας για την ταχεία και ακριβή εύρεση και κατάργηση περιεχομένου που σχετίζεται με τον τρόμο. Εκτός από τη βελτίωση των υπαρχουσών τεχνολογιών, η βιομηχανία πρέπει να κάνει περισσότερα για να αναπτύξει και να αναπτύξει νέα τεχνολογία για να αντιμετωπίσει ένα συνεχώς μεταβαλλόμενο τοπίο — και αυτό πρέπει να υπερβεί τις αόριστες υποσχέσεις χρήσης τεχνητής νοημοσύνης σε πέντε έως δέκα χρόνια από τώρα για την επίλυση των προβλημάτων που αντιμετωπίζουμε που αντιμετωπίζει σήμερα.

Οι υπεύθυνοι χάραξης πολιτικής, οι διαφημιστές και το κοινό πρέπει να συνεχίσουν να πιέζουν τις εταιρείες τεχνολογίας να αναλάβουν μεγαλύτερη ευθύνη για την άμεση και μετρήσιμη βλάβη που προέρχεται από τις καταχρήσεις στις πλατφόρμες τους. Εάν αυτές οι εταιρείες τεχνολογίας δεν ανταποκριθούν πιο αποτελεσματικά, τότε οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να εξετάσουν το ενδεχόμενο επιβολής προστίμων (όπως έκαναν οι Γερμανοί) και οι διαφημιστές θα πρέπει να εξετάσουν το ενδεχόμενο παρακράτησης δολαρίων διαφήμισης (όπως έχει απειλήσει να κάνει η Unilever).

Ο Δρ Hany Farid είναι ο Albert Bradley 1915 Καθηγητής του Τρίτου Αιώνα και Πρόεδρος Επιστήμης Υπολογιστών στο Dartmouth College και ανώτερος σύμβουλος στο Counter Extremism Project.

Μοιραστείτε αυτό το άρθρο: