Το Discord καταργεί τον αποκλεισμό περίπου 200 χρηστών που επηρεάστηκαν από ένα σφάλμα που αναγνώριζε εικόνες που βασίζονται σε πλέγμα ως επιβλαβές περιεχόμενο

Περίπου 200 λογαριασμοί Discord έχουν αποκατασταθεί μετά από ένα σφάλμα που οδήγησε στην οριστική αναστολή των χρηστών από την υπηρεσία ανταλλαγής μηνυμάτων λόγω εσφαλμένης ανίχνευσης εικόνων που βασίζονται σε πλέγμα ότι περιέχουν επιβλαβές υλικό. Αναφέρθηκε το Σαββατοκύριακο ότι μια ευπάθεια στα εργαλεία εποπτείας AI του Discord σήμαινε ότι η υπηρεσία εντόπισε εσφαλμένα τυχόν εικόνες τετράγωνου πλέγματος που περιείχαν CSAM.

«Τα συστήματά μας επισημαίνουν περιεχόμενο αντιστοιχίζοντάς το με γνωστό επιβλαβές υλικό. Αυτό το είδος αντιστοίχισης ομοιότητας μπορεί να παράγει ψευδώς θετικά αποτελέσματα, γι' αυτό ένα μέλος της ομάδας Trust & Safety ελέγχει πάντα το επισημασμένο περιεχόμενο πριν γίνει οποιαδήποτε ενέργεια», εξήγησε το Discord σε ένα νήμα στο Twitter/X. Είπε ότι ο πρωταρχικός στόχος του επισημασμένου περιεχομένου είναι η παύση των μεταφορτώσεων, αντί να αποκλειστεί εντελώς ένας χρήστης.

Το σφάλμα ήταν αυτό που προκαλούσε τις απαγορεύσεις και οι λογαριασμοί που επηρεάστηκαν από το σφάλμα έχουν ελεγχθεί και αποκατασταθεί. Το Discord αποκαλύπτει ότι περισσότεροι από 8,000 λογαριασμοί έχουν επηρεαστεί από το σφάλμα από τον Μάιο του τρέχοντος έτους, αλλά όλοι έχουν καταργηθεί.

«Γνωρίζουμε ότι αυτή δεν είναι μια ικανοποιητική εξήγηση εάν αυτός ήταν ο λογαριασμός σας και θα έπρεπε να το είχαμε πιάσει νωρίτερα. Εργαζόμαστε για καλύτερες διασφαλίσεις, ώστε αυτό να μην μπορεί να συμβεί ξανά αθόρυβα, και ευρύτερα, για να διασφαλίσουμε ότι τα συστήματα ασφαλείας μας δεν τιμωρούν άτομα που δεν έκαναν τίποτα κακό», έγραψε το Discord.

Έτσι, αν περιμένατε να επιδείξετε το απόθεμά σας στο Minecraft γεμάτο διαμάντια, αλλά δεν θέλατε να αποκλειστείτε από το σφάλμα, τώρα φαίνεται ότι οι δυνατότητες αναγνώρισης προτύπων του Discord έχουν ρυθμιστεί με ακρίβεια για να αποφευχθούν λανθασμένες απαγορεύσεις.