Discord przyznał się do poważnej awarii systemu automatycznej moderacji, który przez kilka tygodni błędnie oznaczał niewinne obrazy - w tym zrzuty ekranu z ekwipunku w Minecrafcie oraz zdjęcia szachownic - jako materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM). W efekcie zablokowano konta ponad 8200 użytkowników, a część z nich pozostała zbanowana nawet po tym, jak pracownicy platformy uznali zgłoszenia za fałszywe alarmy.

Siatka z ekwipunku jak odcisk palca nielegalnych treści

Problem tkwił w mechanizmie tzw. hashowania percepcyjnego, którego Discord używa do automatycznego wykrywania znanych, nielegalnych plików. System zamienia obraz na skalę szarości, pomniejsza go, dzieli na siatkę pól i na tej podstawie tworzy unikalny „odcisk cyfrowy” bazujący na jasności poszczególnych fragmentów. Jak ujawnił użytkownik serwisu X, który jako pierwszy nagłośnił sprawę, algorytm zaczął traktować „wszelkie kwadratowe siatki obrazów - arkusze kalkulacyjne, szachownice, ekwipunek z Minecrafta, przezroczyste tła w bieli i szarości” jako dopasowanie do bazy zakazanych materiałów.

Interfejs ekwipunku w Minecrafcie - regularna siatka kwadratowych slotów na przedmioty - okazał się w tym kontekście wyjątkowo podatny na fałszywe dopasowania. Gracze, którzy chcieli po prostu pochwalić się zawartością plecaka, zestawem zbroi czy skrzynią ze skarbami, nieświadomie generowali obrazy o „odcisku” zbliżonym do wzorców z bazy nielegalnych treści.

Dwa błędy, jedna afera

Sprawa ciągnęła się od maja 2026 roku, a w jeden z lipcowych weekendów doszło do skokowego wzrostu liczby blokad - w ciągu kilku dni zbanowano dodatkowe około 200 kont, co ostatecznie zwróciło uwagę mediów i społeczności. Docelowo ucierpiało łącznie około 8200 użytkowników.

Na domiar złego działał tu drugi, niezależny błąd: nawet gdy moderatorzy Discorda ręcznie sprawdzali zgłoszenie i uznawali je za pomyłkę, system i tak nie odblokowywał konta automatycznie. Blokady „czyszczone” przez ludzi pozostawały aktywne, więc gracze tracili dostęp do swoich serwerów, znajomych i historii rozmów bez możliwości odwołania się od decyzji, która formalnie została już cofnięta przez samą firmę.

Reakcja Discorda

Platforma potwierdziła awarię oficjalnym oświadczeniem na X, tłumacząc, że „nasze systemy oznaczają treści poprzez dopasowywanie ich do znanych, szkodliwych materiałów. Tego typu dopasowywanie podobieństw może generować fałszywe trafienia”. Discord przyznał, że przyczyną były dwa oddzielne błędy - jeden odpowiedzialny za nietrafne oznaczenia, drugi za blokowanie procesu odbanowania - i zadeklarował wdrożenie dodatkowych zabezpieczeń, by uniknąć powtórki tzw. cichych banów w przyszłości.

Wszystkie 8200 kont zostało finalnie przywróconych, a feralny „odcisk cyfrowy” odpowiedzialny za błędne dopasowania został zneutralizowany.

Dlaczego to ważne dla polskich graczy

Discord to dziś podstawowe narzędzie komunikacji dla polskich serwerów, ekip budowlanych i społeczności Minecrafta - tam toczy się rekrutacja na serwery, wymiana projektów czy pomoc techniczna. Zrzuty ekranu z ekwipunku, magazynów w skrzyniach czy systemów sortowania należą do najczęściej udostępnianych materiałów w tego typu kanałach, więc ryzyko przypadkowego trafienia w tę samą pułapkę dotyczyło każdego aktywnego gracza, nie tylko wąskiej grupy pechowców.

Sprawa pokazuje też szerszy problem: automatyczne systemy moderacji, które mają chronić najmłodszych użytkowników, potrafią jednocześnie karać ich bez ostrzeżenia i możliwości szybkiego odwołania. Dla administratorów polskich serwerów to sygnał, by nie polegać wyłącznie na koncie głównym do zarządzania społecznością i mieć plan awaryjny na wypadek nagłej, bezpodstawnej blokady.

Źródła