Shunsuke
6.1K posts

Shunsuke
@REDCAP0731
stock trader on weekdays, ssbm/baseball/golf player on weekends SHUN#719
Vancouver, British Columbia Tham gia Eylül 2010
311 Đang theo dõi394 Người theo dõi
Shunsuke đã retweet

結論から言いますと、「Aegaeonの最適化技術はOpenAIなどのAIサービス企業では効果が薄い、Nvidiaの売上への影響は限定的」です。
理由は単純で、Aegaeonが解決するのは「多数の異なるAIモデルを同時に動かす際の無駄」であり、OpenAIのように少数の人気モデルを集中的に動かす企業では、そもそも無駄が少ないからになります。
具体的に説明すると、Alibaba Cloudは779種類のAIモデルを運用しているが、そのうち733モデル(94%)がほぼ使われていない。これらのために確保していた1,192台のGPUを、Aegaeonにより213台まで削減できたという話です。
一方でOpenAIは、ChatGPTの単一サービスで週7億人のユーザーを処理しており、ほとんどの利用ケースがGPT-5モデルを動かすケースで切り替えが必要なく、100万台以上のGPUで常時60-80%の利用率で稼働している。既に効率的な運用のため、Aegaeonを導入しても10-15%程度の改善しか見込めない。
この違いを簡単に言えば、Alibaba Cloudがフードコート(100店舗あるが90店舗はガラガラ)なのに対し、OpenAIは行列のできるラーメン店(単一商品でフル稼働)という話になります。フードコートなら厨房設備を共有する意味があるが、繁盛している専門店では共有する相手がいない。
結論として、Aegaeonは「多様なAIモデルを扱う企業」には活用できる技術である一方、「単一モデルに利用が集中するAIサービス企業」には効果が限定的、現在、GPUの顧客の大部分は後者であるため、「影響は限定的」と捉えるのが良いです。
また、DeepSeekショックの時もありましたが、この技術でより、AIスタートアップにGPUを貸し出している小規模GPUインフラ企業のGPU稼働率が上がることによって利用料金を下げることができます。結果、世の中のAI活用の裾野がさらに広がる可能性が高く、長期的にみると今回の技術は、NVIDIAにとってプラスになります。要は、「ジェボンズのパラドックス」です。ご参考になれば幸いです。
日本語
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet

【今日は何の日?】
2001年11月21日『大乱闘スマッシュブラザーズDX』が発売。今年で23周年
famitsu.com/article/202411…
シリーズ2作目にしてゲームキューブの売上ナンバーワンタイトル。後世に続く究極の操作性はここで完成
#スマブラDX #スマデラ



日本語
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet
Shunsuke đã retweet

Took me roughly 8 years to finally hit this tech in a high level tournament match
clips.twitch.tv/HyperFamousKoa…
English
Shunsuke đã retweet
Shunsuke đã retweet

Shunsuke đã retweet

















