Javascript must be enabled to continue!

Portal

When hate goes viral: The role of algorithms in the reproduction of hate speech

10-05-2025 14:04

Αγγελική Σελή

Αναμφισβήτητα, τα μέσα κοινωνικής δικτύωσης έχουν ‘’εισβάλλει’’ στη ζωή μας και πλέον, για τους περισσότερους από εμάς, αποτελούν αναπόσπαστο κομμάτι της καθημερινής μας ρουτίνας. Οι εφαρμογές αυτές είναι βασισμένες σε αλγορίθμους, ένα σύνολο κανόνων δηλαδή που μας εμφανίζει περιεχόμενο σχετιζόμενο με τις προτιμήσεις μας, με σκοπό να περάσουμε περισσότερο χρόνο στην εκάστοτε εφαρμογή. Τι γίνεται όμως όταν ο αλγόριθμος παρουσιάζει περιεχόμενο που χαρακτηρίζεται από επιθετικότητα και μίσος, διότι αυτό είναι που τραβάει την προσοχή;

Καταρχάς, ας αναρωτηθούμε τι ακριβώς ορίζουμε ως ρητορική μίσους. Σύμφωνα με το ελληνικό δίκαιο (Ν. 4285/2014), η ρητορική μίσους αναφέρεται σε κάθε έκφραση (προφορική, γραπτή ή διαδικτυακή) που υποκινεί βία, μίσος ή διακρίσεις απέναντι σε άτομα ή ομάδες, λόγω της φυλής, του φύλου, της θρησκείας, της εθνικότητας, του σεξουαλικού προσανατολισμού κ.λπ. Η εξάπλωση της χρήσης των social media προσφέρει στους χρήστες αφενός νέο πεδίο έκφρασης, αφετέρου το ‘’προνόμιο’’ της διαμεσολαβημένης επικοινωνίας και ορισμένες φορές της ανωνυμίας, ευνοώντας έτσι την ανάπτυξη του λόγου μίσους. Κάποια παραδείγματα της ρητορικής μίσους στα μέσα κοινωνικής δικτύωσης είναι τα ρατσιστικά, ομοφοβικά και σεξιστικά σχόλια, οι στοχοποιήσεις θρησκευτικών ομάδων αλλά και η υποστήριξη της βίας.

Τα μέσα κοινωνικής δικτύωσης από την άλλη, έχουν ως απώτερο σκοπό να διατηρούν την προσοχή των χρηστών, καθώς επωφελούνται οικονομικά από αυτό μέσω των διαφημίσεων. Στην επίτευξη του συγκεκριμένου στόχου, όπως αναφέρθηκε και προηγουμένως, συμβάλλουν οι αλγόριθμοι οι οποίοι πέρα από περιεχόμενο το οποίο συνάδει με τα ενδιαφέροντα του χρήστη, προωθούν και περιεχόμενο που αυξάνει την εμπλοκή του. Posts  δηλαδή, που θα του δημιουργήσουν έντονα συναισθήματα (π.χ. ένταση, οργή, θυμό) ώστε να προκληθεί μεγαλύτερο engagement στη δημοσίευση (likes, comments, shares). Έτσι οι αλγόριθμοι,  χωρίς να είναι απαραίτητα προγραμματισμένοι για αναπαραγωγή του μίσους, συχνά το ενισχύουν καθώς ‘’πουλάει’’. Χαρακτηριστικό παράδειγμα προώθησης της ρητορικής μίσους από αλγορίθμους των μέσων κοινωνικής δικτύωσης είναι τα Facebook papers, εσωτερικά έγγραφα της εταιρίας που διέρρευσαν το 2021. Σύμφωνα με αυτά, η συγκεκριμένη εταιρία είχε διαπιστώσει πως ο ίδιος της ο αλγόριθμος ευνοούσε την οργή. Παρόλο που υπήρξαν αναφορές και προτάσεις για αλλαγή, η κατάσταση δεν διαφοροποιήθηκε διότι επικράτησαν τα οικονομικά κίνητρα και η επιθυμία για τα μέγιστα έσοδα. Άλλο ένα περιστατικό αποτελεί η αποκάλυψη του BBC για το TikTok. Συγκεκριμένα, το 2023 ο δημόσιος Βρετανικός ραδιοτηλεοπτικός φορέας αποκάλυψε ότι βίντεο με τρανσφοβικό περιεχόμενο, όχι μόνο δεν απομακρύνονταν έγκαιρα από το TikTok, αλλά συχνά προβάλλονταν σε κοινό νεαρής ηλικίας εξαιτίας της σελίδας ‘’For You’’. Παρά το γεγονός ότι παραβίαζαν τους όρους χρήσης της εφαρμογής, πολλά από αυτά τα βίντεο παρέμεναν ενεργά για μέρες.

Το φαινόμενο της ρητορικής μίσους δεν είναι μόνο ψηφιακό. Έχει άμεσες και έντονες επιπτώσεις στην κανονική ζωή και στην κοινωνία μας. Συμβάλλει στην κανονικοποίηση του μίσους και του ρατσισμού, κάνοντας μας να θεωρούμε φυσιολογικές συμπεριφορές τις οποίες η οικογένεια, το σχολείο και η κοινωνία πασχίζουν να εξαλείψουν. Παράλληλα, στοχοποιεί τις ευάλωτες ομάδες, ενισχύει τις ανισότητες και πολύ συχνά οδηγεί σε πράξεις αποκλεισμού, λεκτικής και σωματικής βίας στον πραγματικό κόσμο. Την ίδια στιγμή οι πλατφόρμες ισχυρίζονται πως λαμβάνουν μέτρα αντιμετώπισης του ζητήματος (π.χ. φίλτρα που αναγνωρίζουν και απομακρύνουν το περιεχόμενο που εμπεριέχει και προωθεί το μίσος και τη βία) όμως απ’ ό,τι φαίνεται οι προσπάθειες είναι ανεπαρκείς καθώς δεν φέρουν το επιθυμητό αποτέλεσμα.

Ως χρήστες των μέσων κοινωνικής δικτύωσης αλλά και ως πολίτες, οφείλουμε να αναπτύξουμε κριτική σκέψη, να καταγγείλουμε περιστατικά ρητορικής μίσους και να μη συμβάλλουμε στη διάδοση της. Αν επιθυμούμε ένα ψηφιακό χώρο στον οποίο να μην επικρατεί ο διχασμός αλλά αντίθετα η συμπερίληψη όλων και ο υγιής διάλογος, ας αναλάβουμε μέρος της ευθύνης και ας σταματήσουμε να είμαστε σιωπηλοί θεατές της κατάστασης.

Φωτογραφία από Harsh Vardhan Art από το Pixabay




This Project was co-funded by the European Union’s Rights, Equality and Citizenship Programme (2014-2020). Τhe content of this website represents the views of the author only and is his/her sole responsibility. The European Commission does not accept any responsibility for use that may be made of the information it contains.

youtube facebook

NEWSLETTER



emailE-mail: info@sophism.eu