企商在线以合规算力及运维解决之道,助力金融AI大模型应用

2024年9月26日

        9月25日,2024 AI大模型生态暨算力峰会在北京国家会议中心圆满举办。作为2024年国际信息通信展专题论坛,本次峰会围绕人工智能+、算力+、大模型等热点话题,汇聚 AI 算力产业精英力量,共同探讨产业发展趋势、分享创新技术成果、推动产业交流合作。企商在线产品及解决⽅案高级总监蔡媛受邀出席峰会,分享如何为金融行业提供合规算力及运维解决方案,助力金融AI大模型应用。

640.jpg

        AI⼤模型正在成为新时期银行业数字化建设的基础设施,并以技术底座的形式赋能支撑其他战略。然而,由于数据隐私、成本、专业技术以及合规、安全性等要求,金融行业大模型的规模化应用面临的挑战凸显。

        蔡媛在演讲中表示,对于金融行业来说,真正的难题在于“如何合规使⽤算⼒”以及“如何有效利⽤⼤模型技术赋能业务”。深耕计算存储网络基础服务20年,企商在线针对金融行业客户,提供了从底层硬件资源到上层企业AI应⽤能⼒的全解耦全栈⼀站式服务,解决金融行业AI应用面临的合规和效率难题。蔡媛对四大核⼼产品和服务进行了详细解读。

        一是灵活、合规的AI算⼒服务。企商在线提供了⾦融算⼒合规性解决⽅案,客户可按需租赁国外及信创算力资源,实现集约利用及金融合规。为保障数据安全和隐私,企商在线为客户设立了算⼒中⼼⾦融独⽴专区,并进行智算中⼼建设集群建设规划,提供IB和RoCE算⼒集群组⽹服务,灵活合规地满足训练和推理的AI算力需求。

        二是高效的算⼒调度和训推平台。在底层AI算力资源的搭建部署之上,企商在线还为金融客户提供AI算力异构调度、算力优化、AI推理训练服务。异构算力调度平台可针对异构的算力资源进行统一分配和调度管理,支持各类应用自动匹配算力资源池,实现资源精细化分配。此外,企商在线还全自研AI模型训练推理服务引擎,⼀站式提供行业⼤模型训练、私域知识与技能管理、智能应⽤编排、运⾏时数据洞察四层能⼒,助力企业构建专属⼤模型智能中枢。

        三是资源丰富、价格优惠的数据中心服务。企商在线拥有北京核心地理位置的高等级数据中心,包括三里屯首都金融算力中心、光子1号金融算力中心、石景山智能算力中心等稀缺算力中心资源,打造以智能算⼒为核⼼的智能算⼒中⼼,冀区京⽹互联贯通,满⾜各⼤企业同城双活,两地三中⼼业务部署需求。

光子1号金融算力中心

        四是完善、⾼标准的运维专业服务。7*24小时专业运维团队提供从设备上下架、服务器系统调试与运⾏监测、⽹络接⼊,到应⽤系统运维、安全管理、综合管理等全系列服务和管理。智能管理系统及统⼀监控运维管理平台,可对数据中心内所有网络设备、应用系统、操作系统等进行安全监测,并帮助管理者实现 IT 的精细化管理。基于等级保护阶段性⼯作的服务体系建设保障,可为客户提供最佳的安全防护⽅案。目前,企商在线已服务了晋商银行、国都证券、阳光保险、大家保险、昆仑保险等众多金融客户,用专业的解决方案和优质的服务,让人工智能在众多场景中得到更加广泛深入的应用。未来,企商在线将继续深耕金融行业,不断创新和完善行业解决方案,为金融行业的数字化发展贡献力量。