Hiroaki SANO

8K posts

Hiroaki SANO banner
Hiroaki SANO

Hiroaki SANO

@hiroakis_

A payment processing engineer / Estudio español / A chef dad

Katılım Temmuz 2009
83 Takip Edilen1.1K Takipçiler
Sabitlenmiş Tweet
Hiroaki SANO
Hiroaki SANO@hiroakis_·
せや Twitter もとい x は宣伝とRT のみにしてます。しばらく離れてみて戻ってきてみたらのっけから誰かの怒りの咆哮が出てくるのはたしかに不健全やな、と。自分も昔のインターネットに慣れすぎていてそんなもんやろと思っていたけどもう今は昔ではない。x になったのが理由ではないがもういいかなと
日本語
0
0
4
2.4K
Hiroaki SANO retweetledi
カレー哲学たん『教養としてのカレー』6月5日発売
6月5日、集英社から『教養としてのカレー』が出ます。 2500年前のカレーはどんなものだった? 麻婆豆腐はカレーか? なぜ「めんどくさい男」はスパイスでカレーを作り始めるのか? ごく身近なはずのカレーを通して、世界の見え方が少しだけ変わる本です。ぜひ予約してください。
カレー哲学たん『教養としてのカレー』6月5日発売 tweet media
日本語
2
207
663
85.3K
Hiroaki SANO retweetledi
小崎 資広 (KOSAKI Motohiro)
去年の9月にメディアに大きく取り上げていただいた、LLMの 1bit量子化技術を OneCompressionテクノロジーとしてOSS化しました。(URLはリプライに記載します) AI研究者にとっては釈迦に説法ですが、AIの世界ではGPUメモリが足りなさすぎるので、いかにメモリを節約するかというのがキーテクノロジの1つ。最初はふつうにFP32で行列計算していたのが、NVIDIA GPUが2020年のAmpereからBF16サポート、2022年のHopperからFP8サポートと、低精度サポートに進んで来ました。 単に低精度レジスタ使うだけだと計算精度がボロボロになるため、ソフトウェア面の研究も競争が進んでおり、去年の段階で4bitぐらいならまあいけるかなぐらいの世界になっていました。 というところで、富士通が2025年9月に1bit量子化で実用的な精度でるって発表して話題をさらったというのが、ここまでの話。 それで、この技術のキモは1bitで動くことじゃなくて任意のbit数で精度落ちを防ぐところにあるため、 result = estimate_wbits_from_vram(MODEL_ID, total_vram_gb=0.8) みたいにRAMサイズ指定すると、そのRAMに収まるようにいい感じに精度落すところと高精度のままにするところとを調整してくれるAutoBitを新たに搭載、特にEdgeやオンプレなどのGPUのRAMサイズに制約がある環境でLLMを数倍賢くすることが出来ました。 現在、Llama、Qwen3に対応済みです(仕組み自体にはモデル依存性がないため、今後対応モデルは増やしていけるとおもいます) 開発者たちが、パートナーや大学の研究者たちとの連携を加速していきたいのでフィードバック欲しいといっていますので、よければ使ってやってください。 ※ 一応ですが, onecomp だけでいま動かしているGPUの使えるメモリ使用量を算出して, それに合うように量子化が動きます。
GIF
日本語
3
179
549
120.3K
Hiroaki SANO
Hiroaki SANO@hiroakis_·
ほほう… / Claude CodeのようなAI エージェントにEC2を安全に調査させるSSMガードレールの設計|Hiroki NAKASHIMA zenn.dev/applibot_tech/… #zenn
日本語
0
0
0
153
Hiroaki SANO
Hiroaki SANO@hiroakis_·
半分冗談ですがもちろん。
日本語
0
0
0
113
Hiroaki SANO
Hiroaki SANO@hiroakis_·
【祝】これにて私は廃業です / BigQueryに会話型分析機能(Conversational Analytics)が登場。詳細な分析レポート生成、将来予測や非構造化データの分析も可能に - Publickey publickey1.jp/blog/26/bigque…
日本語
1
0
2
191
Hiroaki SANO
Hiroaki SANO@hiroakis_·
書きをしました / データ分析を加速する AI エージェント Synapse の開発と運用 - カンム テックブログ tech.kanmu.co.jp/entry/2025/12/… #はてなブログ
日本語
0
7
10
2.4K
Hiroaki SANO retweetledi
miyuki
miyuki@wtnb·
Webチームのコードレビューの進め方について書きました! note.com/walkaround/n/n…
日本語
0
24
192
46.7K
Hiroaki SANO
Hiroaki SANO@hiroakis_·
OSS 活動をしました github.com/hiroakis/bb どの確度から見ても自分しか使わないであろうツールを更新。公開したいと思ったらどんどん OSS にしていこう。
日本語
0
0
2
183
Hiroaki SANO
Hiroaki SANO@hiroakis_·
自分は要件詰める時も設計時もプログラマ以外と業務フローの合意とるときもとにかく図を描くタイプの人間なのでこのような雰囲気で日本語の箇条書きを図にさせるようなことをしている github.com/hiroakis/uml-ai
日本語
0
0
4
313