
llama.cppをDockerで動かす方法:CPU・NVIDIA GPU対応ガイド
llama.cpp公式Dockerイメージを使い、CPUまたはNVIDIA GPUでOpenAI互換APIサーバーを安全に起動する方法を解説します。
記事を読むTAG
Dockerの導入、設定、ベンチマーク、活用方法に関する記事をまとめています。 全3件。

llama.cpp公式Dockerイメージを使い、CPUまたはNVIDIA GPUでOpenAI互換APIサーバーを安全に起動する方法を解説します。
記事を読む
Mac、Ubuntu、LinuxでDockerを導入する手順を、インストール方法、確認コマンド、初期設定までまとめた入門ガイド。
記事を読む