Portal

Άννα Ευθυμίου

Η ρητορική μίσους στο διαδίκτυο αποτελεί ένα από τα πλέον ανησυχητικά φαινόμενα της ψηφιακής εποχής. Η έκταση και η ταχύτητα διάδοσης του λόγου μίσους στα κοινωνικά δίκτυα και στις ψηφιακές πλατφόρμες είναι πρωτόγνωρη. Η τεχνητή νοημοσύνη, στο πλαίσιο αυτό, παίζει διττό ρόλο: από τη μία πλευρά, βοηθά στην ανίχνευση και καταπολέμηση της ρητορικής μίσους και από την άλλη, μπορεί να συμβάλλει στην εξάπλωσή της μέσω των αλγορίθμων που χρησιμοποιούνται για την προώθηση περιεχομένου.

Η ρητορική μίσους, αποτελεί μια ανησυχητική πτυχή του διαδικτυακού τοπίου και αποτυπώνεται σε κείμενα, βίντεο και κοινωνικές πλατφόρμες, προωθώντας αρνητικές αντιλήψεις και προκαταλήψεις κατά κοινωνικών ομάδων λόγω φυλετικής καταγωγής, φύλου, θρησκείας, σεξουαλικού προσανατολισμού και άλλων χαρακτηριστικών. Αυτή η μορφή λόγου, μπορεί να είναι ιδιαίτερα επιζήμια, καθώς συμβάλλει στην κοινωνική διχόνοια και μπορεί να οδηγήσει σε βία. Στη διεθνή νομολογία, ο λόγος μίσους συχνά αναφέρεται σε εκφράσεις που προωθούν την υποκίνηση σε άσκηση βίας, βάσει του γεγονότος ότι ο στόχος ταυτίζεται με συγκεκριμένη κοινωνική ομάδα. Ο λόγος μίσους, συνεπάγεται τον περιορισμό των ατομικών ελευθεριών των θυμάτων, οδηγεί σε περαιτέρω πράξεις υποταγής και αποσιώπηση των αντίθετων απόψεων. Επίσης, μειώνει την ικανότητα των θυμάτων να απαντήσουν και να αμφισβητήσουν τους ισχυρισμούς του μίσους, ενώ παράλληλα, «κανονικοποιεί» τα μηνύματα που προωθούν κοινωνικές διακρίσεις.

Από τη μεριά της, η τεχνητή νοημοσύνη εξελίσσεται σε ένα ισχυρό εργαλείο και με την ικανότητά της να επεξεργάζεται μεγάλες ποσότητες δεδομένων γρήγορα και αποτελεσματικά, χρησιμοποιείται ολοένα και περισσότερο για τον εντοπισμό της ρητορικής μίσους στο διαδίκτυο. Μέσω μηχανικής μάθησης και επεξεργασίας φυσικής γλώσσας, τα συστήματα τεχνητής νοημοσύνης μπορούν να εντοπίσουν το προσβλητικό περιεχόμενο και να λάβουν μέτρα, όπως η αφαίρεση των αναρτήσεων ή ο αποκλεισμός των χρηστών. Τα εργαλεία αυτά βασίζονται σε μεγάλα σύνολα δεδομένων και σε αλγορίθμους που εκπαιδεύονται να αναγνωρίζουν μοτίβα λόγου που σχετίζονται με το μίσος. Διάφορες πλατφόρμες κοινωνικής δικτύωσης, όπως το Facebook, το X και το YouTube, χρησιμοποιούν την τεχνητή νοημοσύνη για να παρακολουθούν και να αφαιρούν περιεχόμενο που παραβιάζει τις πολιτικές τους κατά της ρητορικής μίσους. Τα συστήματα τεχνητής νοημοσύνης μπορούν να ανιχνεύσουν εύκολα προφανείς εκφράσεις μίσους, αλλά δυσκολεύονται να εντοπίσουν υπαινικτικές ή σαρδόνιες μορφές ρητορικής. Ακόμη, οι αλλαγές στη γλώσσα και οι νέες μορφές έκφρασης που εμφανίζονται συνεχώς στο διαδίκτυο απαιτούν τη συνεχή ενημέρωση των αλγορίθμων.

Αξίζει να ληφθεί υπόψη, ότι η τεχνητή νοημοσύνη παίζει σημαντικό ρόλο και στην προώθηση περιεχομένου. Συγκεκριμένα, οι αλγόριθμοι που χρησιμοποιούν οι πλατφόρμες κοινωνικών μέσων για να προτείνουν περιεχόμενο στους χρήστες, συχνά βασίζονται στην ανάλυση των προτιμήσεων και της συμπεριφοράς των χρηστών. Αυτό μπορεί να οδηγήσει στην έκθεση των χρηστών μόνο σε περιεχόμενο που ενισχύει τις υπάρχουσες απόψεις τους. Αυτή η δυναμική μπορεί να εντείνει τη ρητορική μίσους, καθώς οι χρήστες ενδέχεται να βρίσκονται σε κοινότητες όπου οι επιθετικές απόψεις γίνονται ολοένα και πιο ακραίες.

Η χρήση της τεχνητής νοημοσύνης για την ανίχνευση και την καταπολέμηση της ρητορικής μίσους εγείρει σημαντικά ηθικά και πρακτικά ζητήματα. Ένα από τα κύρια προβλήματα είναι η ακρίβεια των αλγορίθμων. Εάν τα δεδομένα εκπαίδευσης δεν είναι επαρκώς αντιπροσωπευτικά, οι αλγόριθμοι μπορεί να εμφανίσουν προκαταλήψεις, οδηγώντας σε εσφαλμένες ανιχνεύσεις και λανθασμένες αποφάσεις. Επίσης, τίθεται το ζήτημα της ελευθερίας του λόγου. Υποστηρίζεται ότι η επιβολή κανόνων για τη ρητορική μίσους μπορεί να επηρεάσει την ελευθερία της έκφρασης, αλλά τονίζεται και η ανάγκη προστασίας των ατόμων από τον λόγο μίσους.

Η αντιμετώπιση αυτών των ζητημάτων απαιτεί τη συνεργασία πολλών φορέων, όπως εταιρειών τεχνολογίας, νομοθετικών σωμάτων, καθώς και της κοινωνίας των πολιτών. Είναι απαραίτητο να αναπτυχθούν διαφανείς και δίκαιες πολιτικές που να καθοδηγούν τη χρήση της τεχνητής νοημοσύνης και να διασφαλίζουν ότι τα εργαλεία αυτά χρησιμοποιούνται με υπευθυνότητα. Η ρητορική μίσους στο διαδίκτυο αποτελεί ένα σύνθετο και πολυδιάστατο πρόβλημα, το οποίο απαιτεί καινοτόμες και διεπιστημονικές λύσεις. Η τεχνητή νοημοσύνη προσφέρει σημαντικές δυνατότητες για την ανίχνευση και την αντιμετώπιση του λόγου μίσους, αλλά δεν είναι πανάκεια. Χρειάζεται συνεχής βελτίωση των αλγορίθμων, για να δημιουργηθεί ένα ασφαλές και χωρίς διακρίσεις διαδικτυακό περιβάλλον. Η ισορροπία μεταξύ της προστασίας των χρηστών και της διασφάλισης της ελευθερίας του λόγου είναι λεπτή και απαιτεί συνεχή αξιολόγηση των στρατηγικών που υιοθετούνται.

Πηγές

Artificial intelligence and online hate speech moderation. Sur - International Journal on Human Rights. https://sur.conectas.org/en/artificial-intelligence-and-online-hate-speech-moderation/ 

Researchers leverage AI to fight online hate speech. Computer Science and Engineering. https://cse.engin.umich.edu/stories/researchers-leverage-ai-to-fight-online-hate-speech/

Πηγή φωτογραφίας αρχικής σελίδας: https://www.istockphoto.com/photo/ai-microprocessor-on-motherboard-computer-circuit-gm1345658982-423662467