Przez weekend 4 lipca fala permanentnych banów przetoczyła się przez Discorda. Gracze, którzy wysyłali znajomym zwykłe zrzuty ekranu z ekwipunkiem w Minecrafcie, dostawali informację o naruszeniu zasad dotyczących wykorzystywania seksualnego dzieci (CSAM) i tracili konta bez możliwości odwołania. Winny okazał się błąd w automatycznym systemie moderacji obrazów.

Siatka pikseli jak dowód przestępstwa

System Discorda wykrywa szkodliwe treści metodą dopasowywania obrazów do bazy znanych materiałów (tzw. hash matching). Problem w tym, że algorytm zaczął traktować dowolny obraz podzielony na regularną siatkę kwadratów jako podejrzany - niezależnie od tego, co faktycznie przedstawiał. Ekwipunek gracza w Minecrafcie, czyli kafelkowa siatka przedmiotów, pasował do tego wzorca niemal idealnie. Podobny los spotkał zrzuty arkuszy kalkulacyjnych, szachownic czy przezroczystych teł w edytorach graficznych.

Deweloper Discorda o pseudonimie advaith potwierdził na platformie X, że przyczyną był błędny „hash” w bazie danych moderacji, a nie fundamentalna wada samego systemu AI: „Kiedy zobaczyliśmy to wczoraj, znaleźliśmy problematyczny hash i go nadpisaliśmy, więc nic więcej nie powinno zostać oznaczone” - napisał, cytowany przez Dexerto.

Skala problemu większa, niż się wydawało

Choć głośno zrobiło się dopiero po weekendowej fali banów, śledztwo społeczności wykazało, że błąd działał znacznie dłużej. Według ustaleń TheGamer, od maja 2026 roku problem dotknął około 8200 kont, a w sam weekend 4-5 lipca doszło do kolejnych 200 błędnych banów. Łącznie to ponad 8,4 tysiąca zablokowanych profili - w większości graczy, którzy nie zrobili nic poza podzieleniem się screenem z przedmiotami w grze.

Discord oficjalnie przyznał się do błędu w oświadczeniu opublikowanym na koncie wsparcia: „W ten weekend nasze systemy bezpieczeństwa błędnie wyzwoliły alarm i zbanowały około 200 kont. Wszystkie osoby, których to dotyczyło, zostały przywrócone. Nasze systemy oznaczają treści poprzez porównywanie ich z bazą znanych szkodliwych materiałów. Tego typu dopasowywanie podobieństw może generować fałszywe trafienia, dlatego zawsze przed podjęciem jakichkolwiek działań treść oznaczona przez system jest sprawdzana przez pracownika zespołu Trust & Safety”.

Dlaczego to problem, a nie tylko drobna usterka

Sedno sprawy nie leży w samym fałszywym trafieniu, lecz w tym, co działo się dalej. Zamiast tymczasowego zawieszenia konta do czasu ręcznej weryfikacji, błąd w systemie sprawiał, że blokada od razu stawała się permanentna - a nawet gdy moderator ręcznie oczyszczał konto z zarzutów, ten sam błąd uniemożliwiał automatyczne zdjęcie bana. Dla przeciętnego gracza oznaczało to utratę dostępu do serwerów, historii rozmów i społeczności zbudowanej wokół ulubionych gildii czy serwerów Minecraft bez żadnego ostrzeżenia.

Dla polskich graczy, którzy massowo korzystają z Discorda do koordynacji rozgrywki na serwerach survivalowych, wymiany handlowej czy planowania budowli, sprawa pokazuje realne ryzyko poleganiu na automatycznej moderacji przy tak wrażliwej kategorii jak CSAM - fałszywe oskarżenie w tym obszarze może oznaczać nie tylko utratę konta, ale i realne konsekwencje wizerunkowe dla niesłusznie obwinionej osoby.

Co dalej

Discord zapewnia, że problematyczny hash został usunięty z bazy, a nowe zrzuty ekranu z siatkowym układem - ekwipunki, plansze do szachów, arkusze kalkulacyjne - nie powinny być już błędnie oznaczane. Firma nie ujawniła jednak, czy planuje zmiany w procedurze odwoławczej, która pozwoliłaby uniknąć podobnego problemu z automatycznym utrzymywaniem bana mimo pozytywnej weryfikacji przez człowieka.

Źródła