Der AMD Ryzen AI Max+ 395 (Codename: "Strix Halo") ist die leistungsstärkste X86 -APU und liefert einen bedeutenden Leistungsschub

Der AMD Ryzen AI Max+ 395 (Codename: "Strix Halo") ist die leistungsstärkste X86 -APU und liefert einen erheblichen Leistungsschub für den Wettbewerb.

The AMD Ryzen AI MAX+ 395 (codenamed "Strix Halo") is the most powerful x86 APU and delivers a significant performance boost over the competition. Powered by "Zen 5" CPU cores, 50+ peak AI TOPS XDNA 2 NPU and a truly massive integrated GPU driven by 40 AMD RDNA 3.5 CUs, the Ryzen AI MAX+ 395 is a transformative upgrade for the premium thin and light form factor. The Ryzen AI MAX+ 395 is available in options ranging from 32GB all the way up to 128GB of unified memory - out of which up to 96GB can be converted to VRAM through AMD Variable Graphics Memory.

Der AMD Ryzen AI Max+ 395 (Codenamen "Strix Halo") ist die leistungsstärkste X86 -APU und liefert einen erheblichen Leistungssteiger über den Wettbewerb. Angetrieben von "Zen 5" CPU -Kernen, 50+ Peak AI Tops XDNA 2 NPU und einer wirklich massiven integrierten GPU, die von 40 AMD RDNA 3.5 CUS angetrieben wird, ist der Ryzen AI max+ 395 ein transformatives Upgrade für den Premium -Dünn- und Lichtformfaktor. Der Ryzen AI MAX+ 395 ist in Optionen im Bereich von 32 GB bis zu 128 GB einheitlichem Speicher erhältlich - von denen bis zu 96 GB über AMD -Variablen -Grafikspeicher in VRAM konvertiert werden kann.

The Ryzen AI Max+ 395 excels in consumer AI workloads like the llama.cpp-powered application: LM Studio. Shaping up to be the must-have app for client LLM workloads, LM Studio allows users to locally run the latest language model without any technical knowledge required. Deploying new AI text and vision models on Day 1 has never been simpler.

Die Ryzen AI Max+ 395 zeichnet sich in der Verbraucher-KI-Workloads wie der Lama.CPP-Leistung an: LM Studio. LM Studio formuliert die Must-Have-App für Client LLM Workloads und ermöglicht es Benutzern, das neueste Sprachmodell ohne technische Kenntnisse lokal auszuführen. Die Bereitstellung neuer KI -Text- und Vision -Modelle am ersten Tag war noch nie einfacher.

The "Strix Halo" platform extends AMD performance leadership in LM Studio with the new AMD Ryzen AI MAX+ series of processors.

Die "Strix Halo" -Plattform erweitert die AMD Performance Leadership im LM Studio mit der neuen AMD Ryzen AI Max+ -Serie von Prozessoren.

As a primer: the model size is dictated by the number of parameters and the precision used. Generally speaking, doubling the parameter count (on the same architecture) or doubling the precision will also double the size of the model. Most of our competitor's current-generation offerings in this space max out at 32GB on-package memory. This is enough shared graphics memory to run large language models (roughly) up to 16GB in size.

Als Primer: Die Modellgröße wird durch die Anzahl der Parameter und die verwendete Genauigkeit diktiert. Im Allgemeinen wird die Verdoppelung der Parameterzahl (auf derselben Architektur) oder die Verdoppelung der Genauigkeit auch die Größe des Modells verdoppeln. Die meisten Angebote für die aktuelle Generation unseres Wettbewerbers in diesem Raum maximal bei 32 GB On-Package-Speicher. Dies ist ausreichend gemeinsamer Grafikgedächtnis, um große Sprachmodelle (ungefähr) mit einer Größe von bis zu 16 GB auszuführen.

Benchmarking text and vision language models in LM Studio

Benchmarking -Text- und Vision -Sprachmodelle im LM Studio

For this comparison, we will be using the ASUS ROG Flow Z13 with 64GB of unified memory. We will restrict the LLM size to models that fit inside 16GB to ensure that it runs on the competitor's 32GB laptop.

Für diesen Vergleich werden wir den Asus ROG Flow Z13 mit 64 GB einheitlichem Speicher verwenden. Wir werden die LLM -Größe auf Modelle beschränken, die in 16 GB passen, um sicherzustellen, dass sie auf dem 32 -GB -Laptop des Konkurrenten ausgeführt wird.

From the results, we can see that the ASUS ROG Flow Z13 - powered by the integrated Radeon 8060S and taking full advantage of the 256 GB/s bandwidth - effortlessly achieves up to 2.2x the performance of the Intel Arc 140V in token throughput.

Aus den Ergebnissen können wir erkennen, dass der Asus ROG Flow Z13 - angetrieben von den integrierten Radeon 8060s und der 256 GB/s -Bandbreite ausnutzte - mühelos bis zu 2,2 -fach die Leistung des Intel ARC 140 V im Token -Durchsatz erreicht.

The performance uplift is very consistent across different model types (whether you are running chain-of-thought DeepSeek R1 Distills or standard models like Microsoft Phi 4) and different parameter sizes.

Die Leistungsaufhebung ist über verschiedene Modelltypen (unabhängig davon, ob Sie Deepseek R1 Destills oder Standardmodelle wie Microsoft PHI 4) und verschiedene Parametergrößen ausführen.

In time to first token benchmarks, the AMD Ryzen AI MAX+ 395 processor is up to 4x faster than the competitor in smaller models like Llama 3.2 3b Instruct.

Mit der Zeit bis zu den ersten Token -Benchmarks ist der AMD Ryzen AI Max+ 395 -Prozessor bis zu 4x schneller als der Konkurrent in kleineren Modellen wie Lama 3.2 3B -Anweisungen.

Going up to 7 billion and 8 billion models like the DeepSeek R1 Distill Qwen 7b and DeepSeek R1 Distill Llama 8b, the Ryzen AI Max+ 395 is up to 9.1x faster. When looking at 14 billion parameter models (which is approaching the largest size that can comfortably fit on a standard 32GB laptop), the ASUS ROG Flow Z13 is up to 12.2x faster than the Intel Core Ultra 258V powered laptop - more than an order of magnitude faster than the competition!

Der Ryzen AI Max+ 395 ist bis zu 7 Milliarde und 8 Milliarden Modelle wie dem Deepseek R1 Destill Qwen 7B und Deepseek R1 Destill Llama 8B schneller. Bei Betrachtung von 14 Milliarden Parametermodellen (die sich der größten Größe nähern, die bequem auf einen Standard -32 -GB -Laptop passen kann) ist der Asus ROG Flow Z13 bis zu 12,2x schneller als der Intel Core Ultra 258V -Laptop - mehr als die Größenordnung schneller als die Konkurrenz!

The larger the LLM, the faster AMD Ryzen AI Max+ 395 processor is in responding to the user query. So whether you are having a conversation with the model or giving it large summarization tasks involving thousands of tokens - the AMD machine will be much faster to respond. This advantage scales with the prompt length - so the heavier the task - the more pronounced the advantage will be.

Je größer das LLM ist, desto schneller reagiert der AMD Ryzen AI Max+ 395 -Prozessor auf die Benutzerabfrage. Egal, ob Sie ein Gespräch mit dem Modell führen oder es große Zusammenfassungsaufgaben mit Tausenden von Token geben - die AMD -Maschine wird viel schneller reagieren. Dieser Vorteil skaliert mit der sofortigen Länge - je schwerer die Aufgabe - desto ausgeprägter wird der Vorteil.

Text-only LLMs are also slowly getting replaced with highly capable multi-modal models that have vision adapters and visual reasoning capabilities. The IBM Granite Vision is one example and the recently launched Google Gemma 3 family of models is another - with both providing highly capable vision capabilities to next generation AMD AI PCs. Both of these models run incredibly performantly on an AMD Ryzen AI MAX+ 395 processor.

Nur-Text-LLMs werden auch langsam durch hochkarätige multimodale Modelle ersetzt, die Sichtadapter und visuelle Argumentationsfunktionen haben. Die IBM Granite Vision ist ein Beispiel, und die kürzlich gestartete Google Gemma 3 -Modelsfamilie ist eine andere. Beide bieten AMD -AI -PCs der nächsten Generation sehr leistungsfähige Sichtfunktionen. Beide Modelle laufen unglaublich abgeschlossen auf einem AMD Ryzen AI Max+ 395 -Prozessor.

An interesting point to note here: when running vision models, the time to first token metric also effectively becomes the time it takes for the model to analyze the image you give it.

Ein interessanter Punkt hier: Wenn Sie Visionsmodelle ausführen, ist die Zeit für die erste Token -Metrik auch effektiv die Zeit, die das Modell benötigt, um das Bild zu analysieren, das Sie ihm geben.

The Ryzen AI Max+ 395 processor is up to 7x faster in IBM Granite Vision 3.2 3b, up to 4.6x faster in Google Gemma 3 4b and up to 6x faster in Google Gemma 3 12b. The ASUS ROG Flow Z13 came with a 64GB memory option so it can also effortlessly run the Google Gemma 3 27B Vision model - which is currently considered the current SOTA (state of

Der Ryzen AI Max+ 395 -Prozessor ist in IBM Granite Vision 3.2 3B bis zu 7x schneller, schneller in Google Gemma 3 4b und bis zu 6x schneller in Google Gemma 3 12b. Der Asus Rog Flow Z13 wurde mit einer 64 -GB -Speicheroption geliefert, sodass er auch das Google Gemma 3 27B Vision -Modell mühelos ausführen kann - das derzeit als aktuelles SOTA (Status of