Wagi Kimi K3 są. Pobranie waży 1,45 TB

Moonshot AI opublikował wagi Kimi K3 w poniedziałek 27 lipca wieczorem, zgodnie z zapowiedzianym terminem, o którym pisaliśmy tego samego dnia rano. Wtedy zostawiliśmy jedno otwarte pytanie: jaka będzie licencja. Znamy już odpowiedź, a przy okazji trzy inne fakty, których producent nie zdradził w zapowiedzi. Licencja pozwala na użycie komercyjne, model okazał się multimodalny, a pełne pobranie waży około 1,45 terabajta rozbite na 96 plików.

Licencja: własna, ale hojna

Media typowały zmodyfikowaną licencję MIT albo Apache 2.0. Nie trafił nikt. Moonshot napisał własną licencję o nazwie Kimi K3 License i wrzucił ją do repozytorium jako zwykły plik tekstowy. W praktyce jest bliska MIT: pozwala używać, kopiować, modyfikować, publikować, sprzedawać kopie, uruchamiać, wdrażać i dotrenowywać model oraz budować na nim dzieła pochodne.

Ograniczenia są dwa i oba dotyczą dużych firm, nie osoby budującej własną aplikację:

• Model as a Service powyżej 20 milionów dolarów przychodu. Jeśli udostępniasz innym inferencję albo dotrenowywanie modelu (na przykład przez własne API) i łączny przychód Twojej firmy przekroczy 20 mln USD w dowolnych kolejnych dwunastu miesiącach, musisz zawrzeć osobną umowę z Moonshotem.
• Obowiązek brandingu przy dużej skali. Produkt z ponad 100 milionami aktywnych użytkowników miesięcznie albo przychodem powyżej 20 mln USD miesięcznie musi wyświetlać napis „Kimi K3” w interfejsie.

Licencja wprost wyłącza z tych wymogów użycie wewnętrzne, czyli takie, które nie udostępnia modelu ani jego możliwości osobom trzecim. Dla kogoś, kto chce postawić model u siebie w firmie albo wpiąć go we własny produkt, to licencja bez haczyków. Warto docenić kontrast: Solar Open 2 od Upstage, wydany tydzień wcześniej, wymagał prefiksu „Solar” w nazwie każdego modelu pochodnego.

Model widzi obrazy, o czym zapowiedź milczała

Zapowiedź opisywała K3 jako model agentowy do długich sesji kodowania. Karta modelu dokłada rzecz, której w tamtym opisie nie było: natywną multimodalność. Producent pisze, że model rozumie tekst, obrazy i wideo w ramach jednej architektury, choć tabela specyfikacji wymienia ostrożniej „Text, Image”. Wbudowany enkoder obrazu MoonViT-V2 ma 401 milionów parametrów.

Dla kogoś, kto buduje aplikacje bez umiejętności programowania, to konkretna różnica. Model, który przyjmuje zrzut ekranu, potrafi poprawić wygląd interfejsu na podstawie obrazka, a nie tylko opisu słownego. Do tej pory tak działały głównie modele zamknięte.

Reszta specyfikacji potwierdza liczby, które wcześniej krążyły bez źródła: 2,8 biliona parametrów łącznie, z czego 104 miliardy aktywne przy jednym tokenie. Architektura wybiera 16 ekspertów z 896 dostępnych. Okno kontekstu to 1 048 576 tokenów, czyli deklarowany milion.

Dlaczego 1,45 TB, skoro media pisały o 594 GB

Repozytorium zawiera 96 plików z wagami o łącznym rozmiarze około 1453 GB. Rozbieżność w doniesieniach brała się z niepewności co do formatu zapisu i tu też jest zaskoczenie: Moonshot wydał wagi w formacie MXFP4, czyli czterobitowym, z aktywacjami w MXFP8. Co więcej, nie jest to kompresja zrobiona po treningu, tylko trening świadomy kwantyzacji. To już jest wersja skompresowana i mimo to zajmuje półtora terabajta.

Model ściągnięto z Hugging Face ponad 99 tysięcy razy w niecałe dwa dni, a polubiło go ponad 8400 osób.

Czy uruchomisz to u siebie

Odpowiedź z naszego poprzedniego tekstu nie zmieniła się, ale teraz mamy twardy pomiar. Ktoś spróbował. Projekt Deltafin, opublikowany dzień po premierze wag, uruchamia K3 na jednym komputerze z Apple Silicon, strumieniując ekspertów z dysku na żądanie. Zmierzony wynik autora na MacBooku z układem M1 Max i 64 GB pamięci to 0,0687 tokena na sekundę, czyli 14,6 sekundy na jeden token.

Przeliczmy to na coś wyobrażalnego. Odpowiedź długości jednego akapitu, powiedzmy 200 tokenów, powstawałaby prawie 50 minut. Autor projektu sam nazywa go eksperymentem badawczym i zaznacza, że to jedna maszyna pierwszej generacji, nie granica możliwości. Wniosek pozostaje ten sam: otwarte wagi w tej klasie nie oznaczają, że model pobierzesz i uruchomisz na laptopie.

Co to zmienia w praktyce

Otwarte wagi z permisywną licencją działają na Twoją korzyść pośrednio, przez rynek. Model może hostować dowolny dostawca, więc pojawia się konkurencja cenowa zamiast jednego cennika. Przez API Kimi K3 kosztuje dziś 3 dolary za milion tokenów wejścia i 15 dolarów za milion wyjścia. Dla porównania Claude Fable 5 przy niemal identycznym wyniku w indeksie kodowania Artificial Analysis (76,5 wobec 76,2) kosztuje 10 i 50 dolarów.

Druga korzyść jest dla firm, które nie mogą wysyłać kodu do cudzego API. Teraz mają model klasy flagowej, który wolno postawić na własnych serwerach, bez pytania nikogo o zgodę i bez opłaty licencyjnej, dopóki nie sprzedają na nim inferencji za dziesiątki milionów dolarów.

Trzecia rzecz jest najmniej oczywista. Skoro wagi są publiczne, każdy może niezależnie sprawdzić, co model robi. Przy modelu z Chin, wokół którego toczy się spór o pochodzenie, to argument, którego żaden zamknięty konkurent nie jest w stanie przebić.

Co zrobić dziś

Jeśli używasz K3 przez API albo przez pośrednika w rodzaju OpenRoutera, nic nie musisz robić: publikacja wag nie zmienia cen ani dostępności. Jeśli natomiast planowałeś wdrożenie u siebie i czekałeś na licencję, możesz zaczynać. Przeczytaj plik LICENSE w repozytorium, bo to on, a nie karta modelu, jest wiążący, i sprawdź jedną rzecz: czy Twój przypadek to użycie wewnętrzne, czy udostępnianie inferencji innym. Ta różnica decyduje o wszystkim, co w tej licencji jest warunkowe.