[Local LLM] 冏....

這兩天，找 Claude 幫我重新用 V100 32G 架了個 Local LLM，Claude 是很盡責的幫我在 Server 2019 透過 Hyper-V 在 Ubuntu 弄了個 AI 服務....唉....不多說，直接上圖....

看來，可能得降模型規格。V100 約十年前的產品，果然是不行了.... 不過，Claude 是真棒啊....幫我重新做了規劃，V100 可以直通給 CFD 或是 LLM 兩個 Guest OS。讚....