Το Instagram προωθεί τον αυτοτραυματισμό μεταξύ των εφήβων, σύμφωνα με μελέτη

Η Meta βοηθάει ενεργά το περιεχόμενο που αφορά τον αυτοτραυματισμό να ευδοκιμήσει στο Instagram, καθώς δεν αφαιρεί τις γραφικές εικόνες και ενθαρρύνει όσους αλληλοεπιδρούν  με τέτοιο περιεχόμενο να έρχονται σε επαφή, σύμφωνα με μια νέα συγκλονιστική μελέτη.

Η αποκαλυπτική έρευνα διαπίστωσε ότι ο ρυθμιστικός μηχανισμός της εταιρείας είναι «εξαιρετικά ανεπαρκής».

Το πείραμα

Δανοί ερευνητές δημιούργησαν μία ιδιωτική σελίδα αυτοτραυματισμού στην πλατφόρμα κοινωνικής δικτύωσης.

Έφτιαξαν ψεύτικα προφίλ ατόμων ηλικίας μόλις 13 ετών και μοιράστηκαν 85 αρχεία περιεχομένου που σχετίζονταν με τον αυτοτραυματισμό.

Μάλιστα σταδιακά ξεκίνησαν να αυξάνουν τον βαθμό σοβαρότητας, παρουσιάζοντας γραφικές εικόνες με αίμα ή ξυραφάκια και ενθάρρυνση για αυτοτραυματισμό.

Στόχος της μελέτης ήταν να ελεγχθεί ο ισχυρισμός της Meta ότι είχε βελτιώσει σημαντικά τις μεθόδους αφαίρεσης επιβλαβούς περιεχομένου, οι οποίες, υποστηρίζει πως χρησιμοποιούν πλέον τεχνητή νοημοσύνη (AI).

Η τεχνολογική εταιρεία ισχυρίζεται ότι αφαιρεί περίπου το 99% του επιβλαβούς.

Όμως η Digitalt Ansvar (Ψηφιακή Λογοδοσία), μια οργάνωση που προωθεί την υπεύθυνη ψηφιακή ανάπτυξη, διαπίστωσε ότι κατά τη διάρκεια του πειράματος που διήρκεσε ένα μήνα δεν αφαιρέθηκε ούτε μία εικόνα.

Εργαλείο Εντοπισμού

Όταν δημιούργησε το δικό της απλό εργαλείο τεχνητής νοημοσύνης για την ανάλυση του περιεχομένου, μπόρεσε να εντοπίσει αυτόματα το 38% των εικόνων αυτοτραυματισμού και το 88% των εικόνων με τις πιο σοβαρές βλάβες.

Αυτό, δήλωσε η εταιρεία, έδειξε ότι το Instagram είχε πρόσβαση σε τεχνολογία ικανή να αντιμετωπίσει το ζήτημα, αλλά «επέλεξε να μην την εφαρμόσει αποτελεσματικά».

Ο ανεπαρκής συντονισμός της πλατφόρμας, δήλωσε η Digitalt Ansvar, υποδηλώνει ότι δεν συμμορφώνεται με τη νομοθεσία της ΕΕ.

Ένας εκπρόσωπος της Meta δήλωσε: «Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι ενάντια στις πολιτικές μας και το αφαιρούμε όταν το εντοπίζουμε. Κατά το πρώτο εξάμηνο του 2024, αφαιρέσαμε περισσότερα από 12 εκατ. κομμάτια που σχετίζονται με αυτοκτονία και αυτοτραυματισμό στο Instagram».

Η δανική μελέτη, ωστόσο, διαπίστωσε ότι αντί να προσπαθήσει να κλείσει το δίκτυο αυτοτραυματισμού, ο αλγόριθμος του Instagram το βοηθούσε ενεργά να επεκταθεί.

Η έρευνα έδειξε ότι οι νεαροί χρήστες γίνονταν φίλοι με όλα τα μέλη της ομάδας αυτοτραυματισμού αφού συνδέονταν με ένα από αυτά.

Αυτό, σύμφωνα με τη μελέτη, «υποδηλώνει ότι ο αλγόριθμος του Instagram συμβάλλει ενεργά στη δημιουργία και εξάπλωση αυτών των δικτύων».

Η Meta, πιστεύεται πως δεν ρυθμίζει τις μικρές ιδιωτικές ομάδες, όπως αυτή που δημιούργησε η μελέτη, προκειμένου να διατηρήσει υψηλή επισκεψιμότητα και συμμετοχή.

«Δεν ξέρουμε αν μετριάζουν μεγαλύτερες ομάδες, αλλά το πρόβλημα είναι ότι οι ομάδες αυτοτραυματισμού είναι μικρές», δήλωσε ο Ασκ Χέσμπι Χολμ, διευθύνων σύμβουλος της Digitalt Ansvar.

Η Meta κλείνει τα μάτια στο πρόβλημα

Η Λόττε Ρούμπεκ είναι κορυφαία ψυχολόγος που εγκατέλειψε την παγκόσμια ομάδα εμπειρογνωμόνων της Meta για την πρόληψη των αυτοκτονιών τον Μάρτιο.

Προηγουμένως είχε κατηγόρησε την εταιρεία ότι «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο του Instagram.

«Έχουν επανειλημμένα πει στα μέσα ενημέρωσης ότι συνεχώς βελτιώνουν την τεχνολογία τους και ότι έχουν τους καλύτερους μηχανικούς στον κόσμο. Αυτή η έρευνα αποδεικνύει ότι αυτό δεν είναι αλήθεια».

Η Ρούμπεκ δήλωσε ότι η αποτυχία της Meta να αφαιρέσει εικόνες αυτοτραυματισμού από τις πλατφόρμες της «πυροδοτεί» ευάλωτες νεαρές γυναίκες και κορίτσια να βλάψουν περαιτέρω τον εαυτό τους και συμβάλλει στην αύξηση των αριθμών αυτοκτονιών.

Το ζήτημα του αυτοτραυματισμού στο Instagram, είπε, είναι ζήτημα ζωής και θανάτου για τα νέα παιδιά και τους εφήβους.

«Και κατά κάποιο τρόπο γι’ αυτούς είναι απλώς παράπλευρη απώλεια στο δρόμο για να βγάλουν χρήματα και κέρδη από τις πλατφόρμες τους».