Shunsuke

@REDCAP0731

stock trader on weekdays, ssbm/baseball/golf player on weekends SHUN#719

Vancouver, British Columbia Entrou em Eylül 2010

311 Seguindo394 Seguidores

Shunsuke@REDCAP0731·6 Kas

Had fun at NYC weekly! I was too sleepy to play well but will come back once I find more opportunities to play!

English

155

Shunsuke@REDCAP0731·2 Kas

Hello NYC! 👋 I’m here for a quick business trip but if there is any locals/smashfest I can join until this Friday in NYC, plz lmk 🙏

English

181

Shunsuke retweetou

FabyΔ@FABYMETAL4·20 Eki

結論から言いますと、「Aegaeonの最適化技術はOpenAIなどのAIサービス企業では効果が薄い、Nvidiaの売上への影響は限定的」です。理由は単純で、Aegaeonが解決するのは「多数の異なるAIモデルを同時に動かす際の無駄」であり、OpenAIのように少数の人気モデルを集中的に動かす企業では、そもそも無駄が少ないからになります。具体的に説明すると、Alibaba Cloudは779種類のAIモデルを運用しているが、そのうち733モデル（94%）がほぼ使われていない。これらのために確保していた1,192台のGPUを、Aegaeonにより213台まで削減できたという話です。一方でOpenAIは、ChatGPTの単一サービスで週7億人のユーザーを処理しており、ほとんどの利用ケースがGPT-5モデルを動かすケースで切り替えが必要なく、100万台以上のGPUで常時60-80%の利用率で稼働している。既に効率的な運用のため、Aegaeonを導入しても10-15%程度の改善しか見込めない。この違いを簡単に言えば、Alibaba Cloudがフードコート（100店舗あるが90店舗はガラガラ）なのに対し、OpenAIは行列のできるラーメン店（単一商品でフル稼働）という話になります。フードコートなら厨房設備を共有する意味があるが、繁盛している専門店では共有する相手がいない。結論として、Aegaeonは「多様なAIモデルを扱う企業」には活用できる技術である一方、「単一モデルに利用が集中するAIサービス企業」には効果が限定的、現在、GPUの顧客の大部分は後者であるため、「影響は限定的」と捉えるのが良いです。また、DeepSeekショックの時もありましたが、この技術でより、AIスタートアップにGPUを貸し出している小規模GPUインフラ企業のGPU稼働率が上がることによって利用料金を下げることができます。結果、世の中のAI活用の裾野がさらに広がる可能性が高く、長期的にみると今回の技術は、NVIDIAにとってプラスになります。要は、「ジェボンズのパラドックス」です。ご参考になれば幸いです。

日本語

190

1.3K

264.8K

Shunsuke retweetou