Το Meta, το Snapchat και το TikTok ενώνονται επιτέλους για να κάνουν κάτι για τις βλαβερές συνέπειες ορισμένου περιεχομένου που φιλοξενείται στις πλατφόρμες τους – και ήρθε η ώρα.
Σε συνεργασία με την Συνασπισμός Ψυχικής Υγείαςοι τρεις μάρκες χρησιμοποιούν ένα πρόγραμμα που ονομάζεται Thrive το οποίο έχει σχεδιαστεί για να επισημαίνει και να μοιράζεται με ασφάλεια πληροφορίες σχετικά με επιβλαβές περιεχόμενο, στοχεύοντας περιεχόμενο γύρω από την αυτοκτονία και τον αυτοτραυματισμό.
ΕΝΑ Meta blog post διαβάζει: «Όπως πολλοί άλλοι τύποι δυνητικά προβληματικού περιεχομένου, το περιεχόμενο αυτοκτονίας και αυτοτραυματισμού δεν περιορίζεται σε καμία πλατφόρμα… Γι’ αυτό συνεργαστήκαμε με τον Συνασπισμό Ψυχικής Υγείας για να δημιουργήσουμε το Thrive, το πρώτο πρόγραμμα κοινής χρήσης σημάτων για κοινή χρήση σημάτων σχετικά με την παραβίαση περιεχομένου αυτοκτονίας και αυτοτραυματισμού.
«Μέσω του Thrive, οι συμμετέχουσες εταιρείες τεχνολογίας θα μπορούν να μοιράζονται μηνύματα σχετικά με την παραβίαση περιεχομένου αυτοκτονίας ή αυτοτραυματισμού, έτσι ώστε άλλες εταιρείες να μπορούν να διερευνήσουν και να αναλάβουν δράση εάν το ίδιο ή παρόμοιο περιεχόμενο κοινοποιείται στις πλατφόρμες τους. Η Meta παρέχει την τεχνική υποδομή που στηρίζει το Thrive… που επιτρέπει την ασφαλή κοινή χρήση των σημάτων.»
Όταν μια συμμετέχουσα εταιρεία όπως η Meta ανακαλύπτει επιβλαβές περιεχόμενο στην εφαρμογή της, μοιράζεται hashes (ανώνυμος κώδικας που σχετίζεται με κομμάτια περιεχομένου που σχετίζονται με αυτοτραυματισμό ή αυτοκτονία) με άλλες εταιρείες τεχνολογίας, ώστε να μπορούν να εξετάζουν τις δικές τους βάσεις δεδομένων για το ίδιο περιεχόμενο, όπως τείνει να εξαπλώνεται σε πλατφόρμες.
Ανάλυση: Καλή αρχή
Όσο υπάρχουν πλατφόρμες που βασίζονται στο ότι οι χρήστες ανεβάζουν το δικό τους περιεχόμενο, θα υπάρχουν και εκείνες που παραβιάζουν τους κανονισμούς και διαδίδουν επιβλαβή μηνύματα στο διαδίκτυο. Αυτό θα μπορούσε να εμφανιστεί με τη μορφή παραποιητών που προσπαθούν να πουλήσουν πλαστά μαθήματα, ακατάλληλο περιεχόμενο σε κανάλια που απευθύνονται σε παιδιά και περιεχόμενο που σχετίζεται με αυτοκτονία ή αυτοτραυματισμό. Οι λογαριασμοί που δημοσιεύουν τέτοιου είδους περιεχόμενο είναι γενικά πολύ καλοί στο να παρακάμπτουν τους κανόνες και να πετούν κάτω από το ραντάρ για να προσεγγίσουν το κοινό-στόχο τους. το περιεχόμενο συχνά αφαιρείται πολύ αργά.
Είναι καλό να βλέπεις πλατφόρμες μέσων κοινωνικής δικτύωσης – οι οποίες χρησιμοποιούν ολοκληρωμένους αλγόριθμους και αρχιτεκτονική παρόμοια με το καζίνο για να κρατούν τους χρήστες τους εθισμένους και να προσφέρουν αυτόματα περιεχόμενο με το οποίο θα ασχοληθούν – να αναλαμβάνουν στην πραγματικότητα κάποια ευθύνη και να συνεργάζονται. Αυτό το είδος ηθικής συνεργασίας μεταξύ των πιο δημοφιλών εφαρμογών κοινωνικών μέσων είναι απολύτως απαραίτητο. Ωστόσο, αυτό θα πρέπει να είναι απλώς το πρώτο βήμα στο δρόμο προς την επιτυχία.
Το πρόβλημα με το περιεχόμενο που δημιουργείται από τους χρήστες είναι ότι πρέπει να ελέγχεται συνεχώς. Η τεχνητή νοημοσύνη μπορεί βεβαίως να βοηθήσει στην αυτόματη επισήμανση επιβλαβούς περιεχομένου, αλλά ορισμένα θα εξακολουθήσουν να ξεφεύγουν – μεγάλο μέρος αυτού του περιεχομένου είναι διαφοροποιημένο, περιέχει υποκείμενο που ένας άνθρωπος κάπου στην αλυσίδα θα πρέπει να δει και να επισημάνει ως επιβλαβές. Σίγουρα θα παρακολουθώ τη Meta, την TikTok και άλλες εταιρείες όταν πρόκειται για τις εξελισσόμενες πολιτικές τους για επιβλαβές περιεχόμενο.
VIA: TechRadar.com/
