Εσωτερικές πληροφορίες και αποκαλύψεις από ανώνυμες πηγές θέτουν υπό αμφισβήτηση τις πρακτικές ελέγχου περιεχομένου των τεχνολογικών κολοσσών Meta και TikTok. Φαίνεται πως αρνητικές ειδήσεις, διχαστική ρητορική και οριακά επιβλαβές υλικό προωθούνται σιωπηρά, με σκοπό τη διατήρηση των χρηστών κολλημένων στις οθόνες. Αυτή η εσκεμμένη αύξηση της τοξικότητας, σύμφωνα με αναφορές, αποτελεί στρατηγική επιλογή για την αύξηση της αλληλεπίδρασης και, κατά συνέπεια, της κερδοφορίας.
Στο επίκεντρο των κατηγοριών βρίσκεται η Meta, η μητρική εταιρεία των Facebook και Instagram. Εσωτερικές έρευνες της εταιρείας φέρεται να κατέληξαν στο συμπέρασμα ότι η "οργή" και η "αγανάκτηση" είναι ισχυροί μοχλοί αλληλεπίδρασης. Το "εύρημα" αυτό οδήγησε, όπως αναφέρεται, σε αποφάσεις για την ευκολότερη διάδοση "οριακά" επικίνδυνου περιεχομένου στις ροές των χρηστών. Η στρατηγική αυτή έγινε ιδιαίτερα εμφανής με την κυκλοφορία του Instagram Reels, ως απάντηση στην εκρηκτική άνοδο του TikTok.
Η πίεση για ανταγωνισμό με το TikTok αποδείχθηκε τόσο έντονη, που η ανάπτυξη του Reels προχώρησε χωρίς την ολοκλήρωση των απαραίτητων διαδικασιών ασφαλείας. Εσωτερικές εκθέσεις της Meta, που πλέον βλέπουν το φως της δημοσιότητας, κατέδειξαν σημαντικά αυξημένα περιστατικά εκφοβισμού, παρενόχλησης, ρητορικής μίσους και βίας στο Reels, συγκριτικά με άλλες λειτουργίες του Instagram. Παρά τα ανησυχητικά αυτά δεδομένα, η εταιρεία προτίμησε την επέκταση του κοινού του Reels έναντι της ενίσχυσης των ομάδων ασφαλείας. Ένας μηχανικός της Meta δικαιολόγησε τις αποφάσεις αυτές, αναφέροντας ότι "η τιμή της μετοχής έπεφτε".
Οι κατηγορίες επεκτείνονται και στο TikTok. Ένας "εσωτερικός" πληροφοριοδότης αποκάλυψε την ύπαρξη εσωτερικών "ταμπλό" που έδειχναν μια ανησυχητική τάση: οι καταγγελίες χρηστών για επιβλαβές περιεχόμενο συχνά παραγκωνίζονταν έναντι υποθέσεων που αφορούσαν πολιτικά πρόσωπα. Ο λόγος; Η διατήρηση "ισχυρών σχέσεων" με πολιτικούς φορείς, μειώνοντας τον κίνδυνο ρυθμιστικών παρεμβάσεων ή ακόμα και απαγόρευσης. Πρόκειται για μια υπολογισμένη ανταλλαγή, όπου οι κίνδυνοι για τους χρήστες τίθενται σε δεύτερη μοίρα έναντι της διατήρησης ευνοϊκών πολιτικών δεσμών.
Το αθροιστικό αποτέλεσμα είναι ένα ψηφιακό τοπίο όπου οι χρήστες εκτίθενται όλο και περισσότερο σε ένα "κοκτέιλ" επιβλαβούς υλικού. Από μισογυνισμό και θεωρίες συνωμοσίας μέχρι σοβαρότερες μορφές κατάχρησης, η εσωτερική γνώση αυτών των αλγοριθμικών "παθογενειών" από τη Meta και το TikTok τίθεται πλέον υπό αμφισβήτηση. Αυτές οι αποκαλύψεις εγείρουν σοβαρά ερωτήματα για την αποτελεσματικότητα των πολιτικών ελέγχου περιεχομένου στις μεγάλες πλατφόρμες και την εγγενή σύγκρουση μεταξύ των εμπορικών τους συμφερόντων και της ευθύνης τους να προστατεύουν τις αχανείς κοινότητες χρηστών τους. Οι μακροπρόθεσμες επιπτώσεις για την ευημερία των χρηστών και την ακεραιότητα του διαδικτυακού διαλόγου παραμένουν ένα επείγον ζήτημα.