最近经常在网上看到各种关于AI工具的讨论，包括但不限于常见的 stable-diffusion-webui, llama3和各种大语言模型等。然而想要自己实际落实，部署这些工具往往也避不开N卡和其独占的CUDA。很幸运的是近几日我有一台空闲出来的30系N卡笔记本空闲了下来。为了更充分运用和合理的分配