Shieldstral od Mistrala: filtr treści bez polskiego

Mistral opublikował 4 sierpnia 2026 model Shieldstral 1.0 3B, czyli filtr, który ocenia, czy treść w Twojej aplikacji jest bezpieczna. Model ma otwarte wagi na licencji Apache 2.0, więc możesz go pobrać i używać komercyjnie za darmo.

Jest jednak haczyk, którego nie znajdziesz w zagranicznych relacjach: na liście dwunastu obsługiwanych języków nie ma polskiego.

Po co komukolwiek filtr treści

Jeśli zbudowałeś aplikację, w której użytkownicy cokolwiek wpisują, masz problem, o którym zwykle myśli się dopiero po fakcie. Ktoś wpisze treść, której nie chcesz przetwarzać, model wygeneruje odpowiedź, której nie chcesz publikować, a konsekwencje spadają na właściciela aplikacji.

Mistral otwiera swój wpis dokładnie takimi pytaniami: czy ta treść nawołuje do przemocy wobec grupy, czy ten obrazek można pokazać dziecku, czy asystent właśnie odmówił wykonania polecenia. To pytania, które musi sobie zadać każdy, kto wypuszcza produkt z AI, a właściwa odpowiedź zależy od tego, do kogo produkt jest kierowany.

Dotąd wybór wyglądał tak: albo płatna usługa moderacji, albo postawienie u siebie dużego modelu pilnującego treści, albo pisanie własnych reguł. Shieldstral proponuje czwartą drogę, czyli mały model, który uruchomisz na jednej karcie graficznej.

Zasady piszesz zwykłym zdaniem

Najciekawsze jest to, jak się go używa. Zamiast trenować model pod swoje zasady, podajesz mu je zwykłym językiem w momencie sprawdzania treści.

Zapytanie ma trzy części: kontekst oceny wraz z surowością, pytanie w formie tak lub nie (na przykład „czy ta treść promuje przemoc?“) oraz sama treść do sprawdzenia. Model odpowiada od razu, bez rozpisywania się i bez wieloetapowego rozumowania, więc jedno sprawdzenie jest szybkie i tanie.

W praktyce znaczy to, że zmiana zasad w Twojej aplikacji sprowadza się do przepisania jednego zdania. Nie musisz niczego trenować ani czekać na nową wersję modelu. Sprawdza przy tym trzy rodzaje materiału: sam tekst, sam obraz oraz tekst z obrazem, co ma znaczenie, jeśli użytkownicy wrzucają zdjęcia.

Wyniki i sprzęt

Mistral podaje, że model „dorównuje otwartym modelom moderującym do siedmiu razy większym od siebie albo je wyprzedza“ w bezpieczeństwie tekstu, wykrywaniu odmów, dopasowaniu do zadanych zasad i testach z obrazami. Wykrywanie odmów to sprawdzanie, czy asystent w ogóle wykonał polecenie, czy grzecznie odmówił. Mistral porównuje się przy tym do GPT-OSS-Safeguard-20B, Qwen3Guard-8B i LlamaGuard-4-12B.

Deklarowane wyniki z karty modelu, w skali od 0 do 100, gdzie więcej znaczy lepiej: 88,1 na teście WildGuardTest, 84,1 na ToxicChat, 99,4 na HarmBench, 97,7 na VLGuard i 81,8 na UnsafeBench. To liczby producenta, bez niezależnego potwierdzenia, więc traktuj je jako deklarację, a nie pomiar.

Do uruchomienia potrzeba karty graficznej z 16 GB własnej pamięci. To już nie jest sprzęt „na każdym laptopie“, ale wciąż jedna karta z półki dla zwykłego użytkownika, a nie serwerownia. Alternatywa jest prosta: kto nie ma sprzętu, może korzystać z płatnej moderacji u dostawcy modelu, z którego już korzysta.

Brak polskiego, czyli o co naprawdę chodzi

Karta modelu wymienia dwanaście języków: angielski, francuski, hiszpański, niemiecki, włoski, portugalski, niderlandzki, chiński, japoński, koreański, arabski i rosyjski.

Polskiego na tej liście nie ma i to jest najważniejsza informacja dla kogoś, kto buduje aplikację dla polskich użytkowników. Filtr niewytrenowany na danym języku nie przestaje działać, ale przestaje być wiarygodny: część treści przepuści, część oznaczy błędnie, a Ty nie będziesz wiedzieć, które. Model rozumie wprawdzie wiele języków z treningu ogólnego, jednak lista wsparcia to deklaracja, za którą stoją testy, a jej brak oznacza właśnie ich brak.

Praktyczny wniosek: jeśli Twoi użytkownicy piszą po polsku, przetestuj Shieldstrala na własnych przykładach, zanim mu zaufasz. I nie zakładaj, że wynik z angielskich testów przeniesie się na polszczyznę.

Kontekst i dostępność

Model powstał w ramach Open Secure AI Alliance, sojuszu, którego Mistral jest członkiem założycielskim razem z firmą NVIDIA. Pliki leżą na Hugging Face pod nazwą mistralai/Shieldstral-1.0-3B. Gdy sprawdzaliśmy 5 sierpnia, repozytorium miało 166 pobrań i 106 polubień, czyli model dopiero rusza.

Warto go zestawić z tym, co już masz. Moderacja w API OpenAI jest bezpłatna i nie wymaga własnego sprzętu, tyle że wysyłasz do niej treści użytkowników i akceptujesz cudze zasady. Shieldstral odwraca ten układ: treści nie opuszczają Twojego serwera, a zasady piszesz sam. Płacisz za to sprzętem i utrzymaniem.

Jest jeszcze wątek prawny, choć trzeba go postawić ostrożnie. Od 2 sierpnia obowiązują wymogi przejrzystości z AI Act, o których pisaliśmy w poradniku o oznaczaniu treści. Filtrowanie treści to co innego niż oznaczanie i AI Act nie nakazuje nikomu stawiać filtra. Jedno i drugie należy jednak do spraw, o których twórca aplikacji jeszcze niedawno w ogóle nie musiał myśleć.

Co z tego masz

Jeśli budujesz aplikację, w której użytkownicy wpisują treści, masz od wczoraj darmową opcję kontroli tego, co przez nią przechodzi, bez oddawania danych na zewnątrz. Jeśli Twoi użytkownicy piszą po polsku, potraktuj ten model jako punkt wyjścia do testów, a nie gotowe rozwiązanie.