自分のPC(MacBookやWindowsPC)に直接モデルをダウンロードして動かす形態。
メリット: 完全に無料で使い放題。ネットがない環境でも動く。
自分のPCから一歩もデータが出ないため、究極に安全。
デメリット: 高性能なPC(特にGPU)が必要。
PCのスペック以上の巨大なモデルは動かせない。
選び方のガイドライン
「個人で機密性の高いコードや日記を書きたい、通信費(トークン課金)を抑えたい」
→ローカルLLM を自分のPCにインストール。
「外部の巨大なサーバーに繋がず、自分のPCや社内サーバーの『手元のマシン』だけで動かすAI」
処理がすべて手元の端末内で完結するため、インターネットに接続されていない環境でも動作し、入力したデータが外部に漏れることがない。
クラウド型に比べると、マシンの性能によって処理速度や頭脳のサイズに制限はあるが、究極の情報セキュリティとプライバシーを確保するための最も確実な手段。
