ChatGPTの登場以降、大規模言語モデル(LLM)を中心にAI技術がどんどん普及している。中でも、クラウドサービスを使わず、自身のPCやスマートフォン上でLLMを動かす、いわゆる「ローカルLLM」も一定の注目を集めている。

Can I Run AI locally

しかし右も左も分からない初心者にとって、ローカルLLMを導入する上で最初のハードルとなりそうなのが「今使っているデバイスで、どの程度のモデルがどの程度動くのかまったく見当もつかない」ことではないだろうか。続きを読む