Στα άδυτα των δυσνόητων αλγόριθμων του TikTok | Πώς επηρεάζουν την κοινή γνώμη

Όταν η Hamas επιτέθηκε στο Ισραήλ στις 7 Οκτωβρίου, πολλοί αναζήτησαν να ενημερωθούν από την κύρια πηγή τους για ειδήσεις: Τα μέσα κοινωνικής δικτύωσης. Ωστόσο, σε αντίθεση με προηγούμενες ανάλογες περιπτώσεις, όπου η ψηφιακή συζήτηση κυριαρχούνταν από το Facebook και το X (πρώην Twitter), η συνεχιζόμενη κρίση στη Μέση Ανατολή έχει δει ανθρώπους να συρρέουν στο TikTok, κατά εκατομμύρια, για να μεταδώσουν ειδήσεις και να εκφράσουν απόψεις.

Thank you for reading this post, don't forget to subscribe!

Από τους Mark Scott, Giovanna Coi και Giulia Poloni/POLITICO

Παρόλο που η δημοτικότητα της εφαρμογής κοινής χρήσης βίντεο έχει εκτιναχθεί, η εσωτερική λειτουργία των πολύπλοκων αλγορίθμων του που τροφοδοτούνται από τεχνητή νοημοσύνη παραμένει ένα μεγάλο μυστήριο.

Οι χρήστες βλέπουν μόνο ένα κλάσμα από όσα δημοσιεύονται καθημερινά στο TikTok. Και αυτό που παρακολουθούν είναι εξαιρετικά επιμελημένο από τα αυτοματοποιημένα συστήματα της εταιρείας που έχουν σχεδιαστεί για να κρατούν τους ανθρώπους κολλημένους στα smartphone τους. Χρησιμοποιώντας την τεχνολογία AI, γνωστής ως μηχανική μάθηση και τα λεγόμενα συστήματα συστάσεων, τα τελευταία καθορίζουν, μέσα σε χιλιοστά του δευτερολέπτου, το περιεχόμενο που θα εμφανίζεται στους χρήστες των μέσων κοινωνικής δικτύωσης.

Το POLITICO θέλησε να ρίξει φως στο πώς λειτουργούν οι αλγόριθμοι του TikTok και να καταλάβει ποια πλευρά στον πόλεμο στη Μέση Ανατολή —ισραηλινή ή παλαιστινιακή— κέρδισε τις καρδιές και τα μυαλά στο κοινωνικό δίκτυο που σήμερα έχει γίνει το αγαπημένο από τους νέους. Πρόκειται για κάτι που έχει μετατραπεί σε ένα καυτό πολιτικό ερώτημα αφού φιλο-ισραηλινές ομάδες και ορισμένοι δυτικοί νομοθέτες κατηγορούν την TikTok -που ανήκει στην ByteDance με έδρα το Πεκίνο- ότι προωθεί φιλοπαλαιστινιακό περιεχόμενο προκειμένου να αποκτά πολιτικό αντίκτυπο. Η TikTok αρνείται τις κατηγορίες.

Οι πολιτικές επιπτώσεις της σύγκρουσης είναι ήδη εμφανείς στις κομματικές συγκρούσεις στις δυτικές δημοκρατίες, καθώς οι άνθρωποι επιλέγουν πλευρές στον πόλεμο -και αποφασίζουν πώς θα ψηφίσουν. Η υποστήριξη του προέδρου των ΗΠΑ Joe Biden προς το Ισραήλ έχει προκαλέσει κριτική από Αραβοαμερικανούς και θα μπορούσε τελικά να του κοστίσει τις εκλογές του Νοεμβρίου. Στο Ηνωμένο Βασίλειο, ο λαϊκιστής ανεξάρτητος υποψήφιος George Galloway εκμεταλλεύτηκε το φιλοπαλαιστινιακό αίσθημα για να κερδίσει μια έδρα στο βρετανικό κοινοβούλιο τον Μάρτιο. Διαμαρτυρίες στις πανεπιστημιούπολεις έχουν ξεσπάσει και στις δύο πλευρές του Ατλαντικού.

Οι αλγόριθμοι του TikTok είναι ζωτικής σημασίας για τον τρόπο με τον οποίο όλα τα είδη πολιτικού περιεχομένου φθάνουν στα μέσα κοινωνικής δικτύωσης. Η εξέταση των αλγορίθμων της εταιρείας είναι ένας καλός αντιπρόσωπος για το πώς η τεχνητή νοημοσύνη είναι πλέον βασικός παράγοντας στον προσδιορισμό του τι βλέπουμε στο διαδίκτυο.

Το POLITICO συνεργάστηκε με τη Laura Edelson, μια ερευνήτρια στο Northeastern University της Βοστώνης, για να παρακολουθήσει φιλοπαλαιστινιακό και φιλοϊσραηλινό περιεχόμενο στο TikTok για τέσσερις μήνες, μεταξύ 7 Οκτωβρίου 2023 και 29 Ιανουαρίου 2024. Αυτό το project περιελάμβανε τη δημιουργία μιας λίστας με 50 δημοφιλή hashtags όπως το #IStandWithIsrael ή το #SavePalestine που θα μπορούσαν να συσχετιστούν άμεσα με κάθε πλευρά. Περισσότερα απολιτικά hashtags, όπως το #Gaza ή το #Israel, χρησιμοποιήθηκαν επίσης για τη συλλογή δεδομένων όσον αφορά δημοσιεύσεις που δεν είχαν εμφανώς συγκεκριμένη κλίση.

Συνολικά, η Edelson ανέλυσε 350.000 αναρτήσεις TikTok από τις Ηνωμένες Πολιτείες.

Για να κάνει τα δεδομένα πιο εύπεπτα, η ίδια μοίρασε τον έλεγχο των αναρτήσεων σε χρονικά παράθυρα τριών ημερών γύρω από συγκεκριμένα γεγονότα. Αυτά αφορούσαν τις αρχικές επιθέσεις της Hamas (7-9 Οκτωβρίου), την επέμβαση του Ισραήλ στη Γάζα (27-29 Οκτωβρίου) και την απελευθέρωση των πρώτων ισραηλινών ομήρων (24-27 Νοεμβρίου). Συμβάλλοντας περισσότερο στην αμεροληψία του ελέγχου, η έρευνα συμπεριέλαβε επίσης τις 6-8 Νοεμβρίου στην ανάλυση, ως ένα δείγμα για περιόδους που δεν έλαβαν χώρα σημαντικά γεγονότα.

«Το TikTok, όπως και άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης, ενισχύει κάποιο περιεχόμενο περισσότερο από άλλα», είπε η Edelson. «Αυτό πορεί να έχει μια παραμορφωτική επίδραση σε αυτό που βλέπουν οι άνθρωποι στις ροές τους».

Αυτό που προέκυψε ήταν αποδείξεις ότι το TikTok παλεύει με τον ρόλο του —σε πραγματικό χρόνο— ως μία από τις κύριες παγκόσμιες ψηφιακές πλατείες της πόλης όπου οι άνθρωποι συγκεντρώνονται για να εκφράσουν τις απόψεις τους και, συχνά, διαφωνούν.

Κατά τη διάρκεια της περιόδου των τεσσάρων μηνών, η έρευνα της Edelson βρήκε να παράγεται περίπου 20 φορές περισσότερο φιλοπαλαιστινιακό περιεχόμενο, με βάση τα hashtags που αναλύθηκαν, σε σύγκριση με το φιλο-ισραηλινό υλικό. Ωστόσο, αυτό δεν ισοδυναμούσε απαραίτητα με περισσότερες αναρτήσεις υπέρ της Παλαιστίνης που κατέληγαν στη του ροή TikTok του μέσου χρήστη.

Αντίθετα, η Edelson βρήκε τρεις διαφορετικές στιγμές κατά τις οποίες η πιθανότητα των χρηστών να βλέπουν φιλοϊσραηλινό ή φιλοπαλαιστινιακό περιεχόμενο στις ροές τους στο TikTok άλλαξε σημαντικά — ανεξάρτητα από το πόσο συνολικό υλικό παρήχθη και από τις δύο πλευρές.

Η TikTok δεν απάντησε σε συγκεκριμένα αιτήματα από το POLITICO για σχόλια σχετικά με την έρευνα του Northeastern University. Σε μια ανάρτηση ιστολογίου τον Απρίλιο, η εταιρεία είπε ότι είχε αφαιρέσει περισσότερα από 3,1 εκατομμύρια βίντεο και ανέστειλε περισσότερες από 140.000 ζωντανές ροές στο Ισραήλ και την Παλαιστίνη για παραβίαση των όρων της υπηρεσίας.

Πολλά σχετικά με το πώς λειτουργούν αυτοί οι αλγόριθμοι κοινωνικών μέσων είναι άγνωστα. Δεν είναι σαφές ποιος μέσα στις εταιρείες —μηχανικοί, στελέχη πολιτικής ή ανώτατα στελέχη— καθορίζει τον τρόπο λειτουργίας τους. Είναι επίσης δύσκολο να προσδιοριστεί πότε θα γίνουν αλλαγές, αν και οι ρυθμιστικές προσπάθειες της Ευρωπαϊκής Ένωσης και των Ηνωμένων Πολιτειών προσπαθούν να ρίξουν μεγαλύτερο φως σε αυτές τις πρακτικές.

Αυτό που ακολουθεί παρακάτω είναι ένα παράδειγμα του πώς, όταν εξετάζετε τους αριθμούς, πολλά από αυτά που βλέπουν οι χρήστες στα μέσα κοινωνικής δικτύωσης βασίζεται σε μεγάλο βαθμό σε πολύπλοκους αλγόριθμους που τροποποιούνται τακτικά με ελάχιστη —αν και καθόλου— παράβλεψη.

Οι αναρτήσεις του TikTok συλλέχθηκαν ξεχωριστά μέσω του Junkipedia, ενός αποθετηρίου περιεχομένου μέσων κοινωνικής δικτύωσης που διαχειρίζεται το National Conference on Citizenship, ένας μη κερδοσκοπικός οργανισμός. Αντιπροσωπεύουν τις κομματικές αναρτήσεις με τις περισσότερες προβολές σε κάθε χρονική περίοδο.

Αυτό που έγινε φανερό κατά την ανάλυση, στην αρχή της σύγκρουσης, στις ροές των χρηστών προβλήθηκε περισσότερο φιλοπαλαιστινιακό περιεχόμενο, με βάση το πόσες προβολές συγκέντρωνε κάθε ανάρτηση.

Στη συνέχεια, από τις 27 Οκτωβρίου έως τις 15 Δεκεμβρίου, εμφανίστηκε περισσότερο φιλοϊσραηλινό περιεχόμενο, και πάλι με βάση τις προβολές ανά ανάρτηση.

Μετά τις 15 Δεκεμβρίου, τόσο το φιλοπαλαιστινιακό όσο και το φιλοϊσραηλινό υλικό εξαφανίστηκε ως επί το πλείστον από αυτό που έβλεπαν οι χρήστες μέσω των ροών TikTok. Συνολικά, κατά την περίοδο των τεσσάρων μηνών που πρσαγματοποιήθηκε η ανάλυση, παρήχθη περίπου 20 φορές περισσότερο φιλοπαλαιστινιακό περιεχόμενο σε σύγκριση με το φιλο-ισραηλινό υλικό.

Στον πίνακα, οι έγχρωμες μπάρες —σκούρο μωβ για φιλοπαλαιστινιακό περιεχόμενο και ανοιχτό μωβ για φιλοϊσραηλινό περιεχόμενο— αντιπροσωπεύουν «προβολές ανά ανάρτηση» σε καθορισμένες περιόδους τριών ημερών, όταν έλαβαν χώρα σημαντικά γεγονότα μεταξύ 27 Οκτωβρίου 202ε και 29 Ιανουαρίου 2024. Οι γκρίζες μπάρες είναι ο συνολικός αριθμός αναρτήσεων, κατά την ίδια χρονική περίοδο, που ήταν είτε φιλοπαλαιστινιακές είτε υπέρ του Ισραήλ, με βάση την ανάλυση από 50 hashtags που σχετίζονταν με τη σύγκρουση.

Δείτε εδώ την ανάλυση: https://www.politico.eu

Το εφέ του TikTok

Πολλοί —ειδικά όσοι είναι άνω των 30 ετών— βλέπουν το δίκτυο κοινής χρήσης βίντεο ως κάτι χαζό, ένα μέσο που ασχολείται με την τρέλα με τον χορό και τις ψηφιακές μόδες που δεν έχουν καμία σχέση με την πολιτική. Κάνουν λάθος.

Η Edelson είπε ότι το TikTok είναι παρόμοιο με άλλους γίγαντες των μέσων κοινωνικής δικτύωσης, καθώς οι αλγόριθμοί του σχεδιάστηκαν για να προωθήσουν αυτό που είναι δημοφιλές. Το σκεπτικό: Να σερβίρεις αυτό που θέλει να δει ο κόσμος, ώστε να παραμείνει όσο το δυνατόν περισσότερο.

Και αυτό δεν πειράζει κανέναν, ειδικά όταν πρόκειται για viral βίντεο με σκύλους ή χαριτωμένα μωρά. Ωστόσο, είναι κάτι τελείως διαφορετικό όταν πρόκειται για έντονα φορτισμένο πολιτικό περιεχόμενο για ένα γεωπολιτικό hotspot όπου άνθρωποι πεθαίνουν καθημερινά. Τέτοια γεγονότα αφήνουν κοινωνικά δίκτυα όπως το TikTok και τα μοντέλα αυτοματοποιημένης επιμέλειάς τους στην αζημίωτη θέση να προσδιορίσουν τι είναι δημοφιλές —με κίνδυνο να παραγκωνίζουν τις απόψεις της μειοψηφίας.

«Όσον αφορά την πολιτική, όπως οτιδήποτε άλλο, ο λόγος των μέσων κοινωνικής δικτύωσης δίνει προτεραιότητα στην πλειοψηφία», πρόσθεσε η Edelson. «Θα πρέπει να σκεφτούμε πολύ σοβαρά τι σημαίνει αυτό».