Chase | Chisato Hasegawa
11.3K posts
@chase0213
白金数理CEO / AI・MLエンジニア | 福祉領域のAI企業 ← AI Security Startup at Silicon Valley, MLE ← HRカンパニー MLE /Technical Lead ← 東大発スタートアップ CTO ← カカクコムR&D ← 修士（情報科学）@東北大学
患者データを外に一切出さない完全ローカルの医療AIを作り始めた。 診療にAIを使ってる。音声認識でSOAP生成、病名推定、漢方提案、検査レポート。40個以上のツールが毎日の診察を支えてる。 便利だ。でもひとつだけ、ずっと気になってたことがある。 患者のデータが、クラウドを経由すること。 ZDR契約で学習には使われない。でも「患者さんの診察内容がインターネットを通る」という事実そのものに、根本的な不安が残る。理想を言えば、そもそも外に出さなければいい。 院内のPCだけで完結するAI。患者データが建物の外に一歩も出ない。それが最終的に目指すべき形だと、ずっと思ってた。 問題は性能だった。クラウドには巨大なGPUクラスタと数千億パラメータがある。うちのPCにはRTX 3070が1枚。VRAM 8GB。まともに動く医療AIを載せるのは無理だと思ってた。 そこで1ビット量子化という技術を知った。 通常のAIはパラメータひとつにつき16ビットの精度を使う。それを1ビットまで落とす。重みを「+1」「0」「-1」の3値に圧縮する。掛け算が足し算に変わり、計算量が劇的に減る。 PrismML社のBonsai-8Bを採用した。80億パラメータで、ファイルサイズ1.15GB。スマホでも動くサイズ。 RTX 3070で44トークン/秒。VRAMたったの1.9GB。音声認識のWhisperと同居できる。 ただし、そのままでは医療には使えない。汎用モデルだから、SOAPの書き方も日本の保険診療も知らない。 ここに自分の診療データを注入した。開業から1年3ヶ月分——SOAPの書き方、処方パターン、病名の付け方、漢方の使い分け、レセプト病名のフィードバック983件。RAGで90チャンクに分割してモデルに接続。 1ビット量子化の医療特化LLM。調べた限り、この組み合わせをやってる人はまだいない。 Microsoft BitNetは汎用のみ。PrismML Bonsaiはロボティクス・エッジ向けで医療事例ゼロ。Med-PaLMやPMC-LLaMAは4bit以上が主流。「1ビット×医療特化」は公開事例の中では空白地帯。 で、正直に書く。今のスコアはSOAP 75点、病名推定65点。本番で使えるレベルじゃない。 だから「シャドウモード」にした。本番AIはそのまま動く。患者さんに影響ゼロ。その裏でローカルAIが同じ入力を処理して、自動採点される。 全11エンドポイント——SOAP、病名、漢方、検査レポート——すべてでシャドウが走ってる。1日80人の診察で80件の訓練データが自動蓄積。普通に診察してるだけでローカルAIが賢くなっていく。 今はまだ「作り始めた」だけ。完全ローカル化はゴールであって現在地じゃない。クラウドに頼ってる部分はまだある。嘘つくつもりはない。 ただ、1ビットのモデルが1.9GBのVRAMで44tok/s出る世界が来てる。1年前には想像もしなかった。この速度で技術が進めば、クリニックのPCだけで全部動く日は案外遠くないかもしれない。 詳しい人いたら教えてほしい。特にfine-tuningの効率的なやり方、1ビットモデルの限界、医療LLMの知見。 #医療AI #医療DX #ローカルLLM #1ビット量子化 #バイブコーディング #ClaudeCode
「『分数を分数で割る』ってどういうこと？」という本質的な話を諦めて「分母と分子をひっくり返してかければいいだけ」と覚えれば定期テストでなんとかなる例。 この説明をわかりやすいと思えない子は低IQを疑われる。
娘に公文やらせない理由 私は幼稚園からに公文に通っていて小学生のときは勉強が得意な方だった 苦手な科目もなく勉強は割と好きな方 だけど中学生になり数学がはじまるとなぜか理解できなくなって理数系嫌いになった 今振り返ると、小学校までの算数は手順通りに解く・計算することが中心で深く考えなくても解ける問題が多かったじゃん？ その感覚のまま数学に入ってしまったことで「考えて解く」というステップに切り替えられなかったのかなと考えている 文章題・図形など算数も本来思考が必要なのに公文は計算中心になりやすい 娘には計算力よりも考える力や理解する力も一緒に育てたいと思ってて 私に似ている娘が公文をやったら自分と同じ道を辿りそうな気がしたのです あと頭がいい夫が公文に通っていなくて 頭悪い私が公文に通っていたこともあり 習い事の選択肢に公文は無し 最近周りでも公文に通ってる人増えてきて小学校に向けて通った方がいいかなって少し焦ってた自分はいたけど そうやって「周りがこうだから」で流されるのは自分が思考していないからだよね 私たち夫婦が娘のためにと思ったことを与えてあげるのが愛であり子育てだ(多分 流されるな自分
東大卒に現場がわかるかって批判してる場合じゃないですよ。彼らが三菱電機から50億引っ張れたのは机上の空論じゃなく、建築士が時間を取られがちな「定型的ながら複雑な判断」をAIに代替させるアルゴリズムを開発して解決しちゃったからなんですよ。 現場を知らないとマウント取ってる間に、その現場の苦労をAIが秒殺する仕組みを東大勢に作られちゃったわけです。
