Οι τελευταίες αποκαλύψεις για τις πρακτικές ελέγχου περιεχομένου της Meta και του TikTok φέρνουν στην επιφάνεια μια δυστοπική πραγματικότητα: η "κακή" είδηση, η διχαστική ρητορική, ακόμα και το "οριακά" επιβλαβές υλικό, φαίνεται να ευνοούνται σιωπηρά, αρκεί να κρατούν τους χρήστες κολλημένους στις οθόνες. Εσωτερικά έγγραφα και μαρτυρίες "ανθρώπων από μέσα" υποδεικνύουν μια συνειδητή ανοχή, μια ας πούμε, "στρατηγική" αύξηση της τοξικότητας, με μοναδικό σκοπό την αύξηση της αλληλεπίδρασης και, κατ' επέκταση, της κερδοφορίας.
Στην καρδιά του σκανδάλου βρίσκεται η Meta, η μητρική εταιρεία του Facebook και του Instagram. Έρευνες της ίδιας της εταιρείας, όπως φαίνεται, κατέληξαν στο συμπέρασμα ότι η "οργή" και η "αγανάκτηση" είναι ισχυροί κινητήρες για την αλληλεπίδραση. Αυτό το "εύρημα" φέρεται να οδήγησε σε αποφάσεις για την ευκολότερη διείσδυση "οριακά" επιβλαβούς περιεχομένου στις ροές των χρηστών. Η στρατηγική αυτή έγινε ιδιαίτερα εμφανής με την κυκλοφορία του Instagram Reels, της απάντησης της Meta στην εκρηκτική άνοδο του TikTok.
Η πίεση για να ανταγωνιστεί το TikTok αποδείχθηκε τόσο ισχυρή, που η ανάπτυξη του Reels προχώρησε χωρίς να έχουν ολοκληρωθεί οι απαραίτητες διαδικασίες ασφαλείας. Εσωτερικές εκθέσεις της Meta, που πλέον βλέπουν το φως της δημοσιότητας, έδειξαν σημαντικά αυξημένα περιστατικά εκφοβισμού, παρενόχλησης, ρητορικής μίσους και βίας στο Reels, σε σύγκριση με άλλες λειτουργίες του Instagram. Παρά τα ανησυχητικά αυτά δεδομένα, η εταιρεία φέρεται να προτίμησε την επέκταση του κοινού του Reels έναντι της ενίσχυσης των ομάδων ασφαλείας. Ένας μηχανικός της Meta φέρεται να δικαιολόγησε τις αποφάσεις αυτές λέγοντας: "Μας είπαν ουσιαστικά ότι είναι επειδή η τιμή της μετοχής πέφτει".
Οι κατηγορίες επεκτείνονται και στο TikTok. Ένας "εσωτερικός" πληροφοριοδότης της πλατφόρμας αποκάλυψε εσωτερικά "ταμπλό" που δείχνουν μια ανησυχητική τάση: οι καταγγελίες χρηστών για επιβλαβές περιεχόμενο συχνά παραγκωνίζονταν από υποθέσεις που αφορούσαν πολιτικά πρόσωπα. Ο λόγος; Η διατήρηση "ισχυρών σχέσεων" με πολιτικούς φορείς, μειώνοντας έτσι τον κίνδυνο ρυθμιστικών παρεμβάσεων ή ακόμα και απαγόρευσης. Πρόκειται για μια υπολογισμένη ανταλλαγή, όπου οι κίνδυνοι για τους χρήστες τίθενται σε δεύτερη μοίρα έναντι της διατήρησης ευνοϊκών πολιτικών δεσμών.
Το αθροιστικό αποτέλεσμα είναι ένα ψηφιακό τοπίο όπου οι χρήστες εκτίθενται όλο και περισσότερο σε ένα "κοκτέιλ" επιβλαβούς υλικού. Από μισογυνισμό και θεωρίες συνωμοσίας μέχρι σοβαρότερες μορφές κατάχρησης, η εσωτερική γνώση αυτών των αλγοριθμικών "παθογενειών" από τη Meta και το TikTok τίθεται πλέον υπό αμφισβήτηση. Αυτές οι αποκαλύψεις εγείρουν σοβαρά ερωτήματα για την αποτελεσματικότητα των πολιτικών ελέγχου περιεχομένου στις μεγάλες πλατφόρμες και την εγγενή σύγκρουση μεταξύ των εμπορικών τους συμφερόντων και της ευθύνης τους να προστατεύουν τις αχανείς κοινότητες χρηστών τους. Οι μακροπρόθεσμες επιπτώσεις για την ευημερία των χρηστών και την ακεραιότητα του διαδικτυακού διαλόγου παραμένουν ένα επείγον ζήτημα.