Bon@理系大学生／個人開発

なにかに挑戦する時は、このマインドが大事。

最近「ローカルLLM」という言葉を見かけることが増えました。 LLMってそもそも何？ ローカルで動かす意味は？ この辺を知ったら汎用性も高くて、開発の幅も広がりそうだったので分かりやすくまとめてシェアします！ LLMは 「人間の言葉を理解して、文章を作れるAIの頭脳」のことです。 ChatGPT、Claude、Geminiなどはサービス名で、 その中にLLMという頭脳が入っています。 例えるなら ChatGPT = 車 LLM = エンジン みたいな感じでしょうか？ つまり普段使っている ChatGPTは、 LLMそのものというより、 LLMを使いやすくしたサービスに近いです。 一方でローカルLLMとは何か？ 簡単に言うと、 「自分のPCの中で動かせるAIの頭脳」です。 【普通のChatGPT】 自分 ↓ インターネット ↓ OpenAIなどのサーバー ↓ 回答 【ローカルLLM】 自分 ↓ 自分のPC ↓ 回答 という流れです。 つまりAIに質問した内容が、外部サーバーに送られず、自分のPC内で処理される。 ここが一番大きな違いです。 クラウドLLMの強みは、 とにかく高性能ですぐ使えること。 ChatGPTやClaudeのようなAIは、 登録すればすぐに使える。 設定もほぼ不要。 スマホでも使える。 最新モデルも使える。 AIを使い始めるなら、 まずはクラウドLLMで十分だと思います。 ただし、クラウドLLMには注意点もあります。 入力した内容は、 基本的に外部のサーバーに送信されます。 もちろん各社は安全対策をしていますが ・顧客情報 ・社内資料 ・契約書 ・開発中のアイデア ・公開前の事業計画 こういったものを扱う時は、 「本当に外部に送っていいのか？」 を考える必要があります。 そこで出てくるのがローカルLLMです。 ローカルLLMなら、 AIを自分のPC内で動かせるので、大きく３つのメリットがあります。 ①情報を外に出しにくいこと。 社内資料や個人情報を扱う場合、 PC内で完結できます。 ②利用量に応じたAPI料金がないこと。 クラウドAIやAPIは、 使えば使うほど料金がかかる場合があります。 でもローカルLLMなら、 基本的にはPCの電気代と本体代で動きます。 ③自由にカスタマイズしやすいこと。 たとえば、 ・AI社長 ・AI秘書 ・AI営業 ・AIエンジニア ・AI分析担当 みたいに、 自分専用のAIチームを作ることもできます。 ただし、ローカルLLMにも弱点はあって まず、PCスペックが必要です。 軽いモデルなら普通のPCでも動くけど、 高性能なモデルほど重くなります。 特に大事なのはメモリで ざっくり言うと、 8GB：かなり厳しい 16GB：入門なら試せる 24GB：かなり現実的 32GB以上：かなり快適 といった具合です。 そして、ChatGPTやClaudeの最上位モデルと比べると、 ローカルLLMの性能は劣ることが多いです。 つまり、 高性能で手軽に使いたいなら クラウドLLM。 安全性や自由度を重視したいなら ローカルLLM。 この使い分けが大事です。 導入自体は、昔よりかなり簡単になっているようで 代表的なのは ・Ollama ・LM Studio このあたりです。 Ollamaは、コマンド操作に抵抗がない人向け。 LM Studioは、画面操作で使いやすい。 導入の流れはざっくり OllamaやLM Studioをインストール ↓ Llama、Qwen、Gemmaなどのモデルを選ぶ ↓ モデルをPCにダウンロードする ↓ チャット画面で質問する ↓ 必要に応じて自分用に設定を調整する もちろん最初は少し難しく感じましたが、 仕組みとしては 「AIサービスにアクセスする」のではなく、 「AIの頭脳を自分のPCに置く」 ということです。 僕がローカルLLMを調べようと思った理由は、AIに質問するだけではなく AIに会社を動かしてもらう。 AIに開発を手伝ってもらう。 AIに分析してもらう。 AIに自分専用の仕組みを作ってもらう。 そういうことを考え始めた時に、 「将来的に自分専用のAIチームは作れるの？」 という疑問が出てきたからです。 ローカルLLMは、 AIをより自由に、安全に、自分専用に使うための選択肢なので、今すぐ全員が使う必要はないとは思いますが、 ChatGPTを使っている人 AIで副業や開発をしたい人 AIエージェントに興味がある人 自分専用AIを作りたい人 は、知っておいて損はないと思います。 まとめると、 LLM = AIの頭脳 クラウドLLM = 外部サーバーで動くAI ローカルLLM = 自分のPCで動くAI AIを「使う」から、 AIを「自分の環境に組み込む」ためには、ここが、これからかなり大事になりそうだと感じました。

「誕生日はclaude max x20一年がいいよー」