各(潜在)供应商:
我院拟采购人工智能推理一体机租赁服务,现对该项目进行公开市场调研,欢迎符合资格条件的供应商自公布之日起3个工作日内按要求提交材料。
相关要求如下:
一、资格要求
(一)供应商必须是来自中华人民共和国境内注册、法律上有独立承担民事责任能力法人或其他组织,并具有本项目经营、供货或服务能力;
(二)供应商未被列入“信用中国”网站(******)“重大税收违法失信主体”、“政府采购严重违法失信”名单;未被列入“中国执行信息公开网”网站“(zxgk.court.gov.cn/shixin/)失信被执行人”名单。
(三)供应商必须具备本项目相关资质证书;
(四)本项目不接受联合体报名。
二、需提交的材料
(一)供应商的《企业营业执照》副本复印件(营业范围要求具备符合计算机类相关经营范围);
(二)企业法定代表人证明书及法定代表人身份证复印件或授权的委托证明书及被授权人身份证复印件,在有效期内;
(三)相应的许可资格,在有交期内;
(四)无违法记录、无失信记录截图。
(四)根据项目需求提供建设方案及产品报价单(按附件格式填写),可留联系方式;
(五)其他与本项目有关的资料。
上述材料加盖公章,按上述顺序扫描为一份资料(PDF格式),发至指定邮箱。
三、建设目标
******医院始创************************医院,2019年通过国家级胸痛中心认证,2020年获批设立广东省“博士工作站”、成为国家呼吸医学中心肇庆协同单位,2021年通过国家级“高级卒中中心”和国家级心衰中心(标准版),2023年通过了广东省创伤中心(二******医院党建‘四有’工程示范点”、“广东省医疗系统先进集体”等荣誉称号。
******医院现阶段兹需引入如Deepseek R1等人工智能大模型******医院医疗智能化水平。本院目前缺乏人工智能专用算力设备,现有服务器无法满足人工智能大模型如Deepseek R1 32B以上等高参数模型的高并发、快速推理的业务处理需求,限制了基于人工智能大模型应用的研究、开发和部署;因此拟购置人工智能推理一体机租赁服务。
四、调研需求
(一)项目名称:工智能推理一体机租赁服务,一台,一年。
(二)详细功能模块(包括但不限于)
序号 | 服务名称 | 硬件参数 | 数量 |
1 | 人工智能推理一体机租赁服务 | CPU:搭载2颗及以上高性能CPU,X86架构、单颗CPU核心数量≥48、主频≥2.7 GHz、PCIe5.0总线、支持UPI总线互联及高级矩阵扩展加速器。 | 1台,1年 |
GPU:搭载8颗及以上高性能GPU,模组形态,显存≥ HBM3 64GB,访存带宽2.3 TB/s,GPU专用互联带宽≥200 GB/s,FP32算力≥690 TFlops,FP16算力 ≥2800 TFlops,INT8算力 ≥5600 TFlops。 |
内存:DDR5内存,内存总容量≥2048 GB。 |
准系统:GPU服务器准系统(模组机型、含机箱、主板、风扇、远程管理模块、上架套件等) 。 |
存储:系统盘≥2 * 960GB SATA SSD,支持热插拔,5年1DWPD; 数据盘≥4 * 3.84TB NVMe SSD,支持热插拔,5年1DWPD。 |
阵列卡:4GB缓存,端口数>8,端口速率:12Gb/s,配置电池或者电容:支持RAID0、1、10、50、60以及直通。 |
网卡:双口100GbE网卡 * 1,QSFP28,满配多模光模块,支持虚拟机多队列技术、SRIOV和DPDK、支持RDMA; 双口200GbE网卡 * 4,QSFP112,满配多模光模块,支持虚拟机多队列技术、SRIOV和DPDK、支持RDMA; 双口25GbE网卡 * 1,SFP28,满配多模光模块,支持虚拟机多队列技术、SRIOV和DPDK。 |
电源:8个或以上220V交流和240V高压直流自适应电源模块(铂金级或CQC能效Ⅳ级、额定功耗2000W及以上、含配套电源线) |
应用需求:支持DeepSeek-R1 32B FP16 蒸馏版本或以上规模模型部署,满足并发数≥200,总吞吐≥ 2400 Token/s,最大上下文≥48K。 |
(三)其他要求
******医院评审标准(2020年版)广东省实施细则、网络安全等级保护2.0入网安评、信息技术应用创新等技术指标要求。
2. 服务提供设备应包含人工智能模型推理部署底层管理平台,提供基础前端交互、后端接口、性能监控等基础功能。支持底层切换基础模型,提供API key、API接口、网页链接等方式接入模型服务。支持知识管理咨询、RAG知识库迁移、构建、部署、测试等。
3. 租赁服务应包括本******医院知识库对模型进行微调。
4. 租赁期内,承建方在服务期内应提供7*24小时热线咨询服务及故障申告服务;在接到故障申告后,应在30分钟内响应,如远程无法解决,应2小时内到达现场处理;及时提供重大障碍分析报告;提供定期巡检服务。
5. 租赁合同期为一年,后续根据实际情况需要采取每年续签的形式实行。
六、提交材料时间及咨询方式
(一)递交时间:2025年6月9日到2025年6月11日
(二)截止时间:2025年6月11日
******医院
联系人:陈先生 联系电话:0758--******
(四)调研资料请发送至邮箱:****** 邮件主题:项目名称+公司名称
特别说明:本工作仅为对拟采购项目进行市场调研,我院不对参与报送的产品及其方案作任何承诺。
******医院
2025年6月6日