VMware虚拟机中部署Nanbeige 4.1-3B：本地开发测试环境搭建

VMware虚拟机中部署Nanbeige 4.1-3B本地开发测试环境搭建想在自己的电脑上跑一个AI大模型但又怕搞乱系统环境或者担心资源冲突用虚拟机是个绝佳的选择。它就像在你的电脑里用软件模拟出另一台独立的“电脑”你可以在里面随便折腾安装各种软件而完全不影响你外面真实的操作系统。今天我们就来手把手教你如何在VMware虚拟机里从零开始搭建一个Ubuntu系统并成功部署最近挺火的Nanbeige 4.1-3B模型最后通过一个漂亮的网页界面来和它对话。整个过程你不需要任何额外的硬件只需要一台性能还不错的电脑就行。1. 准备工作安装VMware与获取系统镜像在开始“盖房子”之前我们得先准备好“施工队”和“建筑材料”。首先你需要去VMware官网下载并安装VMware Workstation Player。这个软件是免费的对于个人学习和测试来说完全够用。安装过程就是一路“下一步”没什么特别的坑。接下来是选择“建筑材料”——操作系统。我这里推荐使用Ubuntu 22.04 LTS版本。LTS意味着长期支持比较稳定社区资源也丰富。你可以去Ubuntu官网下载它的ISO镜像文件大概3个G左右。这个文件就是你虚拟机的“安装光盘”。最后确保你的电脑硬件给力一点。我建议至少给虚拟机分配4核CPU、8GB内存和50GB的硬盘空间。如果你的电脑本身只有8G内存那可能会有点吃力因为宿主系统和虚拟机要抢资源。有16G或以上内存的话体验会流畅很多。2. 创建并配置你的第一台虚拟机打开安装好的VMware我们开始创建新虚拟机。2.1 新建虚拟机向导点击“创建新虚拟机”通常会选择“典型”配置。在安装来源那里选择你刚才下载好的Ubuntu 22.04的ISO文件路径。VMware很聪明检测到是Ubuntu后会自动帮你选择Linux系统和对应的版本。接下来是关键的一步命名和位置。给你的虚拟机起个名字比如“My_AI_Dev_Box”。然后选择一个剩余空间比较大的磁盘来存放虚拟机文件因为之后所有东西都会放在这里。2.2 分配硬件资源现在来分配“宅基地”的大小。我建议的配置如下硬盘至少50GB。选择“将虚拟磁盘拆分成多个文件”这样方便以后迁移。内存分配8192 MB即8GB。这是流畅运行Ubuntu和后续AI应用的基础。处理器分配4个核心。如果你的电脑是8核的分4个出去很合理如果是4核的分2个也行但性能会打点折扣。分配完别急着点完成先点“自定义硬件”我们还有重要设置。2.3 关键网络与显示设置在自定义硬件窗口里有两处需要调整网络适配器默认是“NAT”模式这会让虚拟机共享你宿主机的网络像一台躲在路由器后面的设备可以上网但外部找不到它。对于开发测试这通常就够了。如果你想虚拟机获得一个和宿主机同网段的独立IP方便宿主机直接访问可以改成“桥接模式”。显示器把“加速3D图形”的选项勾上。虽然我们大部分时间用命令行但有个流畅的图形界面操作起来会更舒服。设置好后就可以关闭自定义硬件窗口完成虚拟机的创建了。3. 安装Ubuntu操作系统虚拟机创建好后VMware会自动启动它并从你指定的ISO镜像开始安装Ubuntu。安装过程基本都是图形化点击这里挑几个重点步骤说语言选择中文或英文看个人习惯。安装类型如果你是全新安装直接选“清除整个磁盘并安装Ubuntu”不用担心这清除的是虚拟机的虚拟磁盘不是你真实的电脑硬盘。时区设置成“Shanghai”。用户名和密码设置一个你记得住的比如用户叫ai_dev密码复杂一点。然后就是等待安装过程大概十几二十分钟。安装完成后它会提示你重启按照提示来就行。重启后你就进入了一个全新的Ubuntu桌面环境了。第一件事打开“软件和更新”把“下载自”的服务器换成国内的镜像源比如“阿里云”或“清华源”这样后续安装软件会快很多。换完记得执行一下更新sudo apt update sudo apt upgrade -y4. 搭建模型运行环境系统装好了我们得给它装上运行AI模型所需的“发动机”和“工具箱”。4.1 安装Python与基础工具Ubuntu 22.04默认带了Python 3.10我们确保一下pipPython的包管理工具是最新的并安装一些必要的编译工具。sudo apt install -y python3-pip python3-venv git curl wget sudo apt install -y build-essential libssl-dev zlib1g-dev libbz2-dev libreadline-dev libsqlite3-dev4.2 安装Docker与Docker Compose用Docker来部署应用非常方便它能解决环境依赖的麻烦。我们用官方脚本安装Dockercurl -fsSL https://get.docker.com -o get-docker.sh sudo sh get-docker.sh安装完成后把当前用户加入docker组这样以后就不用老是sudo了。sudo usermod -aG docker $USER # 执行完这行你需要完全退出终端再重新登录或者重启虚拟机这个改动才能生效。接着安装Docker Compose插件sudo apt install -y docker-compose-plugin验证安装docker --version和docker compose version能显示版本号就对了。4.3 准备模型与WebUI代码环境齐了现在来拉取我们今天的“主角”。我们需要两部分东西一个是能运行模型的程序比如Ollama另一个是提供网页界面的程序。这里我们用一个集成了Streamlit WebUI的项目来简化步骤。找一个你喜欢的目录比如在家目录下cd ~ git clone https://gitee.com/mirrors/ollama-webui.git # 这里假设有一个整合好的项目实际请替换为有效的仓库地址 cd ollama-webui请注意上面的git地址是一个示例。实际上你需要寻找一个包含了Nanbeige 4.1-3B模型配置和Streamlit UI的可用项目。你可以在代码托管平台如Gitee或GitHub上搜索“Nanbeige Streamlit”或类似关键词来找到合适的仓库。进入项目目录后通常会有个docker-compose.yml文件。我们用文本编辑器如nano打开它检查一下配置特别是模型名称和端口映射。确保模型名是nanbeige:4.1-3b或类似并把WebUI的端口比如8501映射出来。5. 拉取模型并启动WebUI服务万事俱备只差启动。5.1 使用Docker Compose一键启动在包含docker-compose.yml文件的目录下执行一条命令docker compose up -d这个-d参数是让服务在后台运行。执行后Docker会做以下几件事拉取Ollama的官方镜像。根据配置自动从模型仓库拉取名为nanbeige:4.1-3b的模型文件这个过程可能会比较久取决于你的网速和模型大小3B模型大概几个G到十几个G。拉取Streamlit的镜像。创建网络并启动这两个容器。你可以用docker compose logs -f命令来实时查看拉取模型和启动的日志。5.2 访问与测试当日志显示模型加载完成Streamlit服务启动成功后你就可以打开浏览器进行测试了。由于我们的虚拟机是NAT网络模式你需要先找到虚拟机的IP地址。在Ubuntu终端里输入ip addr show找到ens33或类似网卡下的inet地址通常是192.168.xxx.xxx这种。然后在你的宿主机就是你真实的Windows或Mac电脑的浏览器里输入http://虚拟机IP地址:8501。比如http://192.168.1.100:8501。如果一切顺利一个简洁的聊天Web界面就应该出现在你面前了。在输入框里试试问它“你好介绍一下你自己”看看这个在虚拟机里运行的Nanbeige 4.1-3B模型会不会给你回应。6. 总结走完这一趟你应该已经成功在VMware虚拟的Ubuntu系统里跑起来了一个本地的大语言模型。整个过程就像是搭建了一个专属的、隔离的AI沙盒。最大的好处就是安全、干净你可以在虚拟机里安装任何实验性的库而不用担心搞崩你的主力机。虚拟机的方式特别适合初学者和需要做环境隔离的开发者。资源分配灵活今天给AI用明天你完全可以克隆一个用来学别的。如果遇到问题最坏的结果也就是把虚拟机删了重来成本极低。当然这种方式吃的是你本地电脑的资源。如果你的项目对算力要求越来越高可能就需要考虑云服务器或者更专业的本地计算设备了。但对于学习、测试和开发一些轻量级应用来说虚拟机方案无疑是性价比和便利性最高的起点。接下来你可以在这个环境里继续探索如何优化提示词、尝试不同的模型或者集成到自己的小项目里去了。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。