Xiaomi bije rekord AI na zwykłych GPU

Xiaomi zaskakuje rynki AI

Xiaomi kojarzy się głównie ze smartfonami, rowerami elektrycznymi czy sprzętem do domu. Tymczasem firma weszła właśnie na zupełnie inny teren i zaprezentowała MiMo-V2.5-Pro-UltraSpeed – tryb swojego flagowego modelu AI, który ma osiągać ponad 1000 tokenów na sekundę. W demonstracjach prędkość miała dochodzić nawet do około 1200 tokenów na sekundę.

To istotne nie tylko ze względu na sam wynik, ale też sposób jego osiągnięcia: model działa na zwykłym 8-GPU commodity node, czyli na standardowej infrastrukturze, bez specjalnych układów projektowanych wyłącznie pod AI.

Co właściwie przyspieszyło model?

Za skok wydajności odpowiadają przede wszystkim dwa rozwiązania:

• FP4 Quantization – Xiaomi ograniczyło precyzję obliczeń w warstwach ekspertów do 4 bitów, co zmniejsza zużycie pamięci i obciążenie przepustowości.
• DFlash speculative decoding – zamiast klasycznego, krokowego przewidywania kolejnych tokenów, system potrafi w jednym przebiegu uzupełniać cały blok ukrytych pozycji.

Całość spina TileRT, czyli autorski silnik inference, który utrzymuje obliczenia w GPU bez przerw i zbędnych opóźnień. Xiaomi opisuje to jako podejście typu extreme model-system codesign – połączenie optymalizacji modelu i systemu, które razem dają efekt trudny do osiągnięcia jedną metodą.

Szybciej niż ChatGPT i Claude

Według przytoczonych porównań, tempo Xiaomi wyraźnie przebija najpopularniejsze modele komercyjne. Dla kontekstu:

• GPT-5.5 ma osiągać około 68 tokenów na sekundę,
• Claude Opus 4.6 około 71 tokenów na sekundę,
• Gemini Flash około 192 tokenów na sekundę.

Na tym tle wynik Xiaomi wygląda jak przeskok o całą generację. Co więcej, MiMo-V2.5-Pro-UltraSpeed działa na modelu o skali 1 biliona parametrów, a więc nie na lekkiej, odchudzonej wersji.

Dlaczego to ważne dla rynku AI?

Tak wysoka szybkość może mieć znaczenie w zastosowaniach, w których liczy się niska latencja. Chodzi m.in. o:

• analizę fraudów,
• generowanie sygnałów tradingowych,
• agentów AI pracujących w czasie rzeczywistym,
• równoległe uruchamianie wielu ścieżek rozumowania.

W praktyce oznacza to, że zadania, które wcześniej były ograniczane przez wolne generowanie odpowiedzi, mogą stać się dużo bardziej użyteczne operacyjnie.

Cena, testy i dostępność

Xiaomi podało też wstępne warunki komercyjne. UltraSpeed ma być wyceniany na 3 razy więcej niż standardowy MiMo-V2.5-Pro, ale w zamian oferować około 10 razy większą prędkość generowania.

Dla chętnych uruchomiono też limitowany test API. Zgłoszenia mają być przyjmowane w terminie od 9 do 23 czerwca, a priorytet mają otrzymać firmy oraz profesjonalni deweloperzy.

Dodatkowo checkpoint z konfiguracją FP4-DFlash został udostępniony publicznie na Hugging Face do testów społeczności.

Nie tylko szybkość, ale i wydajność kosztowa

Warto też przypomnieć, że sam model MiMo-V2.5-Pro już wcześniej był przedstawiany jako konkurencyjny jakościowo wobec Claude Opus w zadaniach programistycznych, a jednocześnie znacznie tańszy w użyciu. W podanych danych koszt wynosił około 0,43 dolara za milion tokenów wejściowych i 0,87 dolara za milion tokenów wyjściowych, podczas gdy Opus miał kosztować odpowiednio 5 i 25 dolarów.

Nowa wersja UltraSpeed nie zmienia charakteru modelu, ale znacząco podnosi jego przepustowość. To właśnie ta kombinacja – wysoka jakość, niższy koszt i ekstremalna szybkość – sprawia, że projekt Xiaomi wzbudził tak duże zainteresowanie.

Co pokazuje ten ruch?

Premiera MiMo-V2.5-Pro-UltraSpeed sugeruje, że wyścig AI nie toczy się już wyłącznie wokół mocy samych chipów. Coraz większe znaczenie ma to, jak sprytnie połączy się model, oprogramowanie i infrastruktura. Xiaomi właśnie pokazało, że na zwykłych GPU można osiągnąć wyniki, które jeszcze niedawno wydawały się domeną wyspecjalizowanego sprzętu.