AMD podpisała umowę o przejęciu Taalas — startupu z Toronto, którego inżynierowie dosłownie wypalają wagi sieci neuronowej w krzemowym chipie. Transakcję ogłoszono 6 sierpnia; żadna ze stron nie ujawniła kwoty, mówiąc jedynie o „standardowych warunkach zamknięcia” i oczekiwaniu na zgody regulatorów.
Zwykły GPU w każdym cyklu wnioskowania przenosi miliardy parametrów modelu z pamięci do jednostek obliczeniowych — i to właśnie ten transfer jest głównym wąskim gardłem przy dużych modelach językowych. Taalas rozwiązuje to radykalnie: chip nie przechowuje wag osobno, są one „wypalone” wprost w tranzystorach. Demonstracyjny chip HC1 — układ o powierzchni 815 milimetrów kwadratowych z 53 miliardami tranzystorów, wykonany w 6-nanometrowym procesie TSMC — według własnych testów firmy osiąga do 17 000 tokenów na sekundę na użytkownika przy pracy z Llama 3.1 8B, wyprzedzając w tym teście Nvidia H200 i B200 oraz chipy Groq, SambaNova i Cerebras.
Ceną za to jest elastyczność. Szafy zbudowanej pod jeden model nie da się po prostu przestawić na inny — chip w praktyce jest modelem. W Taalas twierdzą, że do zmiany wag wystarczy wymienić dwie warstwy fotomaski zamiast projektować chip od nowa, co obniża koszt iteracji, ale każda zmiana wciąż wymaga nowego cyklu produkcji. Taka ekonomia ma sens tylko dla modeli działających stabilnie i w ogromnej skali, a nie zmienianych co parę miesięcy.
AMD tłumaczy zakup chęcią uzupełnienia oferty wnioskowania. „Budujemy pełną platformę AI, która daje klientom elastyczność w doborze mocy obliczeniowej do każdego obciążenia” — powiedział Vamsi Boppana, starszy wiceprezes AMD ds. AI. Firma planuje włączyć technologię Taalas do mapy drogowej akceleratorów obok GPU Instinct, procesorów EPYC, platformy Helios i oprogramowania ROCm — tego samego zestawu, którym AMD w lipcu rzuciła wyzwanie Nvidii. Ljubisa Bajic, współzałożyciel i dyrektor generalny Taalas (firma powstała w Toronto w 2023 roku), nazwał transakcję sposobem na przyspieszenie rozwoju bez utraty kanadyjskich korzeni zespołu.
Na razie to chip demonstracyjny, a nie produkt seryjny, a cena transakcji pozostanie tajemnicą handlową. Ale stawianie na krzem przypisany do jednego modelu idzie pod prąd tempa samego rynku, gdzie nowe wersje LLM pojawiają się co kilka tygodni — AMD zakłada, że tanie, dedykowane wnioskowanie ma sens właśnie tam, gdzie modele przestały się już tak szybko zmieniać.
