時価総額: $2.184T 0.31%
ボリューム(24時間): $69.2158B -38.77%
  • 時価総額: $2.184T 0.31%
  • ボリューム(24時間): $69.2158B -38.77%
  • 恐怖と貪欲の指数:
  • 時価総額: $2.184T 0.31%
暗号
トピック
暗号化
ニュース
暗号造園
動画
トップニュース
暗号
トピック
暗号化
ニュース
暗号造園
動画
bitcoin
bitcoin

$64702.757312 USD

0.58%

ethereum
ethereum

$1816.937096 USD

1.45%

tether
tether

$0.998961 USD

-0.05%

bnb
bnb

$592.468536 USD

0.45%

usd-coin
usd-coin

$0.999828 USD

0.00%

xrp
xrp

$0.956055 USD

0.12%

solana
solana

$71.175224 USD

1.19%

tron
tron

$0.302814 USD

-1.42%

hyperliquid
hyperliquid

$66.371333 USD

1.44%

zcash
zcash

$890.844250 USD

-0.89%

dogecoin
dogecoin

$0.058780 USD

1.49%

monero
monero

$485.091918 USD

-1.21%

unus-sed-leo
unus-sed-leo

$9.155317 USD

0.40%

chainlink
chainlink

$9.130357 USD

0.25%

cardano
cardano

$0.152877 USD

1.43%

暗号通貨のニュース記事

これらの拡散モデルは、同様にサイズの従来のモデルよりも速くパフォーマンスを維持しています

2025/02/28 05:14

Lladaの研究者は、80億個のパラメーターモデルがさまざまなベンチマークでllama3 8bと同様に機能すると報告しています

これらの拡散モデルは、同様にサイズの従来のモデルよりも速くパフォーマンスを維持しています

Large language models (LLMs) are typically bottlenecked by speed, especially when compared to smaller models. However, new diffusion-based models have reportedly achieved performance faster than or comparable to similarly sized conventional models while also being significantly faster.

特に小さなモデルと比較した場合、大規模な言語モデル(LLM)は通常、速度によってボトルネックされています。ただし、新しい拡散ベースのモデルは、同様にサイズの従来のモデルよりも速くパフォーマンスを達成したと伝えられていますが、大幅に高速です。

LLaDA, a 7-billion parameter language model from researchers at the University of Science and Technology of China, performs similarly to LLaMA3 8B across various benchmarks.

中国の科学技術大学の研究者の70億パラメーター言語モデルであるLladaは、さまざまなベンチマークでLlama3 8bと同様に機能します。

According to Inception, an AI startup focused on efficient deep learning, LLaDA achieves competitive results on tasks like MMLU, ARC, and GSM8K.

Inceptionによると、AIのスタートアップは効率的な深い学習に焦点を当てたもので、MMLU、ARC、GSM8Kなどのタスクで競争力のある結果を達成しています。

But when comparing the speed of an 8-billion parameter LLaDA model to an 8-billion parameter LLaMA3 model, LLaDA generates 1,024 tokens per second on an Nvidia H100, whereas LLaMA3 generates about 60 tokens per second. This difference in throughput is roughly 17x.

しかし、80億パラメーターLLADAモデルの速度を80億パラメーターLLAMA3モデルと比較すると、LLADAはNVIDIA H100で1秒あたり1,024トークンを生成しますが、LLAMA3は1秒あたり約60トークンを生成します。スループットのこの違いは約17倍です。

LLaDA's researchers claim this level of performance is possible with models as small as 3 billion parameters.

Lladaの研究者は、このレベルのパフォーマンスが30億個のパラメーターが少ないモデルで可能であると主張しています。

Compared to GPT-4o Mini, which operates at 59 tokens per second, Mercury Coder Mini scores 88.0 percent on HumanEval and 77.1 percent on MBPP—comparable to GPT-4o Mini—while reportedly operating at 1,109 tokens per second. This represents an 18x speed advantage over GPT-4o Mini.

1秒あたり59トークンで動作するGPT-4o Miniと比較して、Mercury Coder Mini Mini Mini ScoreはHumanvalで88.0%、MBPPで77.1%(GPT-4o Mini)に比較可能です。これは、GPT-4o Miniよりも18倍の速度のアドバンテージを表しています。

Mercury's documentation states its models run "at over 1,000 tokens/sec on Nvidia H100s, a speed previously possible only using custom chips" from specialized hardware providers like Groq, Cerebras, and SambaNova. When compared to other speed-optimized models, the claimed advantage remains significant—Mercury Coder Mini is reportedly about 5.5x faster than Gemini 2.0 Flash-Lite (201 tokens/second) and 18x faster than Claude 3.5 Haiku (61 tokens/second).

Mercuryのドキュメントでは、Groq、Cerebras、Sambanovaなどの専門的なハードウェアプロバイダーから、モデルは「Nvidia H100Sで1,000トークン/秒を超えて、以前はカスタムチップを使用して使用していた速度」で実行されています。他の速度最適化されたモデルと比較すると、主張された利点は依然として重要なままです。メルキュリーコーダーミニは、ジェミニ2.0フラッシュライト(201トークン/秒)よりも約5.5倍高速で、クロード3.5俳句(61トークン/秒)よりも18倍高速です。

According to Inception, Mercury Coder Mini also outperforms smaller models from GPT-3.5 series and PaLM 2 series at comparable speed.

Inceptionによると、Mercury Coder Miniは、GPT-3.5シリーズとPalm 2シリーズの小さなモデルを同等の速度で上回ることも優れています。

At 1,024 tokens per second, LLaDA is faster than smaller models from GPT-3.5 series and PaLM 2 series at comparable speed. At 201 tokens per second, Gemini 2.0 Flash-Lite has better performance at HumanEval and worse performance at MBPP than Mercury Coder Mini. At 61 tokens per second, Claude 3.5 Haiku has better performance at both HumanEval and MBPP than Mercury Coder Mini.

1秒あたり1,024トークンで、LladaはGPT-3.5シリーズの小さなモデルやPalm 2シリーズの小型モデルよりも高速で、同等の速度で高速です。毎秒201トークンでは、Gemini 2.0 Flash-Liteは、Mercury Coder MiniよりもMBPPでHumanvalでより良いパフォーマンスを発揮します。 1秒あたり61トークンで、Claude 3.5 Haikuは、Mercury Coder MiniよりもHumanvalとMBPPの両方でより良いパフォーマンスを持っています。

Opening a potential new frontier in LLMs

LLMSで潜在的な新しいフロンティアを開く

Diffusion models do involve some trade-offs. They typically need multiple forward passes through the network to generate a complete response, unlike traditional models that need just one pass per token. However, because diffusion models process all tokens in parallel, they achieve higher throughput despite this overhead.

拡散モデルにはいくつかのトレードオフが含まれます。通常、トークンごとに1つのパスを必要とする従来のモデルとは異なり、完全な応答を生成するために、ネットワーク内の複数のフォワードパスが必要です。ただし、拡散モデルはすべてのトークンを並行して処理するため、このオーバーヘッドにもかかわらず、より高いスループットを達成します。

Inception thinks the speed advantages could impact code completion tools where instant response may affect developer productivity, conversational AI applications, resource-limited environments like mobile applications, and AI agents that need to respond quickly.

インセプションは、速度の利点がコード完了ツールに影響を与える可能性があると考えています。コード完了ツールは、インスタント応答が開発者の生産性、会話型AIアプリケーション、モバイルアプリケーションなどのリソース制限環境、および迅速に対応する必要があるAIエージェントに影響を与える可能性があります。

If diffusion-based language models maintain quality while improving speed, they might change how AI text generation develops. So far, AI researchers have been open to new approaches.

拡散ベースの言語モデルが速度を改善しながら品質を維持すると、AIテキスト生成がどのように発達するかを変える可能性があります。これまでのところ、AIの研究者は新しいアプローチを受け入れてきました。

Independent AI researcher Simon Willison told Ars Technica, "I love that people are experimenting with alternative architectures to transformers, it's yet another illustration of how much of the space of LLMs we haven't even started to explore yet."

独立したAIの研究者であるサイモン・ウィリソンは、Ars Technicaに次のように語っています。「人々がトランスフォーマーの代替アーキテクチャを実験しているのが大好きです。これは、私たちがまだ探求し始めていないLLMのスペースの量のもう1つの例です。」

On X, former OpenAI researcher Andrej Karpathy wrote about Inception, "This model has the potential to be different, and possibly showcase new, unique psychology, or new strengths and weaknesses. I encourage people to try it out!"

Xで、元Openaiの研究者であるAndrej Karpathyは、「このモデルは異なる可能性があり、おそらく新しいユニークな心理学、または新しい長所と短所を紹介する可能性があります。

Questions remain about whether larger diffusion models can match the performance of models like GPT-4o and Claude 3.7 Sonnet, and if the approach can handle increasingly complex simulated reasoning tasks. For now, these models offer an alternative for smaller AI language models that doesn't seem to sacrifice capability for speed.

大規模な拡散モデルがGPT-4OやClaude 3.7 Sonnetなどのモデルのパフォーマンスと一致するかどうか、およびアプローチがますます複雑なシミュレートされた推論タスクを処理できるかどうかについて疑問が残ります。今のところ、これらのモデルは、速度の能力を犠牲にしないように見えるより小さなAI言語モデルの代替品を提供します。

You can try Mercury Coder yourself on Inception's demo site, and you can download code for LLaDA or try a demo on Hugging Face.

InceptionのデモサイトでMercury Coderを自分で試すことができます。Lladaのコードをダウンロードしたり、Faceでデモを試すことができます。

オリジナルソース:arstechnica

免責事項:info@kdj.com

提供される情報は取引に関するアドバイスではありません。 kdj.com は、この記事で提供される情報に基づいて行われた投資に対して一切の責任を負いません。暗号通貨は変動性が高いため、十分な調査を行った上で慎重に投資することを強くお勧めします。

このウェブサイトで使用されているコンテンツが著作権を侵害していると思われる場合は、直ちに当社 (info@kdj.com) までご連絡ください。速やかに削除させていただきます。

2026年11月16日 に掲載されたその他の記事