Metaは、AI開発者のLlamaconの初めてのイベントを開催し、ChatGptと競争する準備ができていることを発表しました

メタはメンロパークの同社の本社でAI開発者のLlamaconの初めてのイベントを開催しました。

Meta held its first-ever event for AI developers, LlamaCon, at the company’s headquarters in Menlo Park, where it announced that it was ready to compete with ChatGPT from OpenAI, as well as Google, AWS, and AI-as-a-service startups.

メタは、メンロパークの同社の本社でAI開発者のLlamaconの初めてのイベントを開催しました。そこでは、Google、AWS、Ai-As-A-Serviceのスタートアップだけでなく、OpenaiのChatGptと競争する準備ができていると発表しました。

Meta Founder and CEO Mark Zuckerberg was joined by Co-Founder and CEO of Databricks, Ali Ghodsi.

Metaの創設者兼CEOであるMark Zuckerbergには、Databricksの共同設立者兼CEOであるAli Ghodsiが加わりました。

This is really a big deal for Meta and the AI industry as the maker of the popular open-source Llama LLM seeks to directly monetize the incredible adoption Meta has realized. Developers just access the model from the cloud; no hardware or software to install.

これは、人気のオープンソースLlama LLMのメーカーが、メタが実現した信じられないほどの養子縁組を直接収益化しようとしているため、メタとAI業界にとって本当に大したことです。開発者は、クラウドからモデルにアクセスするだけです。インストールするハードウェアやソフトウェアはありません。

But it is also a big deal for Cerebras and Groq, the two startups selected by Meta for serving fast tokens, many times faster than a GPU. (Nvidia, Cerebras and Groq are all clients of Cambrian-AI Research.) Meta did not disclose pricing, as access to the API is currently in preview, and access to Groq and Cerebras is only available by request. This is the first time either startup has landed a foothold at a hyper-scale Cloud Service Provider (CSP). And Meta has made it super easy to use; developers just select Groq or Cerebras in the API call.

しかし、それはまた、速いトークンを提供するためにMetaが選択した2つのスタートアップであるCerebrasとGroqにとっても大したことです。 （Nvidia、Cerebras、およびGROQはすべてカンブリア紀研究のクライアントです。）Metaは現在のアクセスが現在プレビューにあり、GROQとセレブラスへのアクセスはリクエストによってのみ利用可能であるため、価格設定は開示しませんでした。どちらかのスタートアップがハイパースケールのクラウドサービスプロバイダー（CSP）に足場を上陸させたのはこれが初めてです。そして、メタはそれを非常に使いやすくしました。開発者は、API呼び出しでGROQまたはセレブラスを選択するだけです。

Cerebras is the industry's fastest inference processor by far (~18X) but Grok is also 5-fold faster ... More than any GPU.

Cerebrasは、業界で最も高速な推論プロセッサ（〜18x）ですが、GrokもGPUよりも5倍高速です。

“Cerebras is proud to make Llama API the fastest inference API in the world,” said Andrew Feldman, CEO and co-founder of Cerebras. “Developers building agentic and real-time apps need speed. With Cerebras on Llama API, they can build AI systems that are fundamentally out of reach for leading GPU-based inference clouds.”

「セレブラスは、ラマAPIを世界で最速の推論APIにすることを誇りに思っています」と、CerebrasのCEO兼共同設立者であるAndrew Feldman氏は述べています。 「開発者の構築エージェントおよびリアルタイムアプリには速度が必要です。LlamaAPIにセレブラスを使用すると、GPUベースの主要な推論クラウドの基本的に手の届かないAIシステムを構築できます。」

Microsoft Confirms $1.50 Windows Security Update Hotpatch Fee Starts July 1

Microsoftは1.50ドルのWindows Security Update HotPatch料金が7月1日に始まることを確認します

Microsoft Confirms Password Spraying Attack — What You Need To Know

マイクロソフトはパスワードスプレー攻撃を確認します - あなたが知る必要があること

Google’s Gmail Upgrade—Why You Need To Change Your App

GoogleのGmailのアップグレード - なぜアプリを変更する必要があるのか

Llama on Cerebras is far faster than on Google TPUs or Nvidia GPUs.

セレブラスのllamaは、Google TPUまたはnvidia GPUよりもはるかに速いです。

Andrew’s point is important. Obtaining inferences at some 100 tokens per second is faster than a human can read, so “one-shot” inference requests for a service like ChatGPT runs just fine on GPUs. But multi-model agents and reasoning models can increase computational requirements by some 100-fold, opening an opportunity for faster inference from companies like Cerebras, Groq. Meta did not mention the third fast-inference company, Samba Nova, but indicated that they are open to other compute options in the future.

アンドリューのポイントは重要です。 1秒あたり約100トークンで推論を取得することは、人間が読むことができるよりも高速であるため、ChatGPTのようなサービスの「ワンショット」推論要求はGPUで正常に実行されます。しかし、マルチモデルエージェントと推論モデルは、計算要件を約100倍増加させる可能性があり、Cerebras、Groqなどの企業からのより速い推論の機会を開きます。メタは、3番目の高速推奨会社であるSamba Novaについては言及していませんでしたが、将来他の計算オプションを受け入れていることを示しました。

It will be interesting to see how well these two new options fare in the tokens-as-a-service world.

これら2つの新しいオプションが、サービスとしてのトークンとしてどれだけうまく機能するかを見るのは興味深いでしょう。