パソコンやスマートフォンなどの端末上で動作するLLM。インターネット接続がなくても端末単体でAIチャットを実現できる。情報漏えいの可能性が低く、企業や個人が安心して利用できるサービスとして注目をされている。 一般的なAIチャットサービスでは、言語処理を行うLLM(Large Language Model)をサーバー上に構築し、クラウドサービスとして提供している。AI処理に適したGPUを大量に組み合わせた高性能のハードウエアを、多くの利用者で共用できる合理的な仕組みだ。一方で、インターネットを経由するためにAIチャットサービスに入出力した内容が外部に流出するリスクがある。利用回数の上限やチャットで取り上げる話題に対する制限など、サービス提供企業が設定する各種制限の影響を受けるといったデメリットもある。 ローカルLLMは、パソコンやスマートフォンなど利用者側の端末上でLLMを直接動作させる取り