内地vpn代理
2025 年 3 月 20 日,某单位发布《服务器、deepseek大模型本地化搭建项目》招标公告,预算 20 万元。
1、安装 DeepSeek R1 70b大模型、支持最少 50 并发、不卡顿,支持任务监控、支持内网网页使用大模型、支持语音转文字功能及图像文字识别功能、提供多终端可视化操作界面,便于用户进行模型训练、推理及管理。
2、支持对预训练大模型(如 DeepSeek 系列)进行再训练,适配本单位个性化定制领域专业数据。
3、采用高性能适用于推理 GPU(卡非游戏卡),单卡不小于 48G 显存,总量不小于8*48G,支持百亿级参数MoE模型训练。
4、支持PyTorch、TensorFlow等主流框架,提供分布式训练加速库。内置模型优化工具(如DeepSeek蒸馏方案),支持从全量模型到轻量化模型的灵活转换。
6、服务器配置不低于25G双口网卡内地vpn代理,支持高速网络存储(NAS/SAN)接入,实现数据集中管理。本地数据盘扩展:不小于3.84T NVMe SSD,提供临时高速缓存。