Το Facebook θα λάβει μια σειρά μέτρων κατά του περιεχομένου που προέρχεται από τρομοκράτες

| upd 9 Αυγούστου 2017 19:18
0
2

Μια σει­ρά από μέτρα με σκο­πό την απο­μά­κρυν­ση του περιε­χο­μέ­νου που προ­έρ­χε­ται από τρο­μο­κρά­τες ανα­κοί­νω­σε το Facebook, καθώς οι εται­ρεί­ες τεχνο­λο­γί­ας δέχο­νται όλο και μεγα­λύ­τε­ρες πιέ­σεις από κυβερ­νή­σεις για να κάνουν περισ­σό­τε­ρα σε αυτόν τον τομέα.

 

Σε μια σει­ρά από blog posts κορυ­φαί­ων στε­λε­χών του και με συνέ­ντευ­ξη στο BBC, το κοι­νω­νι­κό δίκτυο τονί­ζει την επι­θυ­μία του να είναι πιο ανοι­κτό και «δια­φα­νές» σχε­τι­κά με τη δου­λειά που κάνει σε αυτόν τον τομέα.

Όπως ανέ­φε­ρε η εται­ρεία στο BBC, χρη­σι­μο­ποιεί τεχνη­τή νοη­μο­σύ­νη για τον εντο­πι­σμό εικό­νων, βίντεο και κει­μέ­νων που σχε­τί­ζο­νται με τρο­μο­κρα­τία, καθώς και δικτύ­ων από ψεύ­τι­κους λογα­ρια­σμούς με στό­χο τον έγκαι­ρο εντο­πι­σμό του περιε­χο­μέ­νου αυτού, πριν το εντο­πί­σουν οι χρήστες.

«Θέλου­με να είμα­στε πολύ ανοι­χτοί με την κοι­νό­τη­τά μας σχε­τι­κά με το τι προ­σπα­θού­με να κάνου­με για να δια­σφα­λί­σου­με πως το Facebook είναι ένα πραγ­μα­τι­κά εχθρι­κό περι­βάλ­λον για τις τρο­μο­κρα­τι­κές οργα­νώ­σεις» είπε η Μόνι­κα Μπί­κερτ, διευ­θύ­ντρια global policy management, στο BBC.

Οι τεχνο­λο­γί­ες που χρη­σι­μο­ποιού­νται για τον σκο­πό αυτό περι­λαμ­βά­νουν δυνα­τό­τη­τες image matching: Εάν κάποιος προ­σπα­θή­σει να ανε­βά­σει μια φωτο­γρα­φία ή βίντεο τρο­μο­κρα­τι­κού περιε­χο­μέ­νου, τα συστή­μα­τα προ­σπα­θούν να δια­πι­στώ­σουν εάν αντι­στοι­χεί σε παλαιό­τε­ρο υλι­κό, για να παρε­μπο­δι­στεί εξαρ­χής το upload του υλι­κού αυτού. Ένας άλλος τομέ­ας στον οποίο το Facebook δρα­στη­ριο­ποιεί­ται είναι ο πει­ρα­μα­τι­σμός με τεχνη­τή νοη­μο­σύ­νη για τον εντο­πι­σμό κει­μέ­νου που ίσως προ­ω­θεί την τρο­μο­κρα­τία, μέσω ανά­λυ­σης κει­μέ­νων που έχουν ήδη απο­μα­κρυν­θεί επει­δή δια­πι­στώ­θη­κε πως το έκα­ναν επι­βε­βαιω­μέ­να. Η χρή­ση machine learning σημαί­νει πως η δια­δι­κα­σία αυτή θα βελ­τιώ­νε­ται με τον καιρό.

Ακό­μη, η εται­ρεία ανα­φέ­ρει πως χρη­σι­μο­ποιεί αλγο­ρίθ­μους για τον εντο­πι­σμό δικτύ­ων λογα­ρια­σμών η εικό­νων που έχουν να κάνουν με τη στήριξη/ προ­ώ­θη­ση της τρο­μο­κρα­τί­ας. Σε αυτό το πλαί­σιο, διε­ρευ­νά­ται η ανα­ζή­τη­ση ενδεί­ξε­ων όπως το αν ένας λογα­ρια­σμός έχει ως «φίλους» μεγά­λο αριθ­μό λογα­ρια­σμών που έχουν απε­νερ­γο­ποι­η­θεί επει­δή στή­ρι­ζαν την τρο­μο­κρα­τία κ.α. Το Facebook επί­σης λέει πως δου­λεύ­ει πάνω σε τρό­πους εντο­πι­σμού και παρα­κο­λού­θη­σης χρη­στών που δημιουρ­γούν κατά συρ­ροή λογα­ρια­σμούς για τη δημο­σί­ευ­ση τρο­μο­κρα­τι­κού περιε­χο­μέ­νου και ανα­ζη­τούν μεθό­δους παραπλάνησης/ παρά­καμ­ψης των υπαρ­χό­ντων συστη­μά­των ελέγχου.

Παρό­λα αυτά, η εται­ρεία ανα­γνω­ρί­ζει πως οι αλγό­ριθ­μοι δεν έχουν το ίδιο καλές επι­δό­σεις με τους ανθρώ­πους όσον αφο­ρά στη διά­κρι­ση μετα­ξύ του περιε­χο­μέ­νου από τρο­μο­κρά­τες και του περιε­χο­μέ­νου αντί­στοι­χου χαρα­κτή­ρα που ανε­βαί­νει για ενη­με­ρω­τι­κούς σκο­πούς (πχ αναρ­τή­σεις ειδή­σε­ων που περιέ­χουν στιγ­μιό­τυ­πα από βίντεο κλπ). Για αυτό, επι­ση­μαί­νει το Facebook, έχει ενι­σχυ­θεί η ομά­δα των ειδι­κών του που δου­λεύ­ουν πάνω στο αντι­κεί­με­νο- με 150 άτο­μα που δου­λεύ­ουν ειδι­κά πάνω σε θέμα­τα αντιτρομοκρατίας.

Αξί­ζει να σημειω­θεί ότι, σύμ­φω­να με έρευ­να του Guardian, πρό­βλη­μα λογι­σμι­κού (bug) είχε ως απο­τέ­λε­σμα να εκτε­θούν στοι­χεία content moderators του Facebook σε υπό­πτους για τρο­μο­κρα­τία. Όπως ανα­φέ­ρε­ται, το συγκε­κρι­μέ­νο bug, που απο­κα­λύ­φθη­κε κατά τα τέλη του 2016, είχε απο­τέ­λε­σμα τα προ­σω­πι­κά προ­φίλ content moderators να εμφα­νί­ζο­νται ως ενη­με­ρώ­σεις (notifications) στο αρχείο δρα­στη­ριο­τή­των ομά­δων στο Facebook των οποί­ων οι δια­χει­ρι­στές είχαν μπλοκαριστεί/ απο­μα­κρυν­θεί, λόγω παρα­βί­α­σης των όρων χρή­σης. Ως εκ τού­του, τα στοι­χεία τους ήταν εκτε­θει­μέ­να στους ενα­πο­μεί­να­ντες δια­χει­ρι­στές των γκρουπ αυτών.

Το πρό­βλη­μα αυτό επη­ρέ­α­σε πάνω από 1.000 εργα­ζο­μέ­νους σε 22 τμή­μα­τα της εται­ρεί­ας, που χρη­σι­μο­ποιού­σαν το λογι­σμι­κό moderation της για να εξε­τά­ζουν και να κατε­βά­ζουν ακα­τάλ­λη­λο περιε­χό­με­νο, περι­λαμ­βα­νο­μέ­νου υλι­κού που έχει σχέ­ση με σεξ, ρητο­ρι­κή μίσους και τρο­μο­κρα­τι­κή προ­πα­γάν­δα. Από τους 1.000 που επη­ρε­ά­στη­καν, περί­που 40 ανή­καν σε μια ειδι­κή ομά­δα με αντι­κεί­με­νο θέμα­τα τρο­μο­κρα­τί­ας, με έδρα στα ευρω­παϊ­κά κεντρι­κά της εται­ρεί­ας στο Δου­βλί­νο. Έξι από αυτούς κρί­θη­καν πως είναι «υψη­λής προ­τε­ραιό­τη­τας», επει­δή εξή­χθη το συμπέ­ρα­σμα ότι τα προ­σω­πι­κά τους προ­φίλ είχαν μάλ­λον δει δυνά­μει τρομοκράτες.

Πηγή: naftemporiki.gr
*Οι από­ψεις του ιστο­λο­γί­ου δεν συμπί­πτουν απα­ραί­τη­τα με το περιε­χό­με­νο του άρθρου

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

Παρακαλώ εισάγετε το σχόλιό σας
Παρακαλώ εισάγετε το όνομά σας