火山方舟MaaS平台的问世,标志着大模型在安全互信计算领域的突破。平台通过集成多个大模型,为企业提供丰富选择,并得到众多大模型生产方的积极响应。
资料显示,微软的BioGPT-Large模型在PubMedQA基准测试中的准确率优于大型通用语言模型,展现了中小规格模型在特定任务上的优势。抖音集团内部已有十多个业务团队试用火山方舟,在代码纠错、文本分类、数据标注等方面探索大模型应用,推动降本增效。
火山方舟还在起步阶段,需要持续完善工具链和下游应用插件。平台将接入更多大模型,扩大邀测范围,与企业客户共建开放合作的多模型生态,加速大模型在各行各业的应用落地。
中小规格模型在特定任务上的表现可能不亚于通用、巨大的基座模型,而推理成本可以降低到原来的十分之一。火山方舟提供了丰富的模型精调和评测支持,帮助企业实现最具性价比的模型组合。
火山方舟在探索基于NVIDIA新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案,更全面地满足大模型在不同业务场景的数据安全要求。
火山方舟的首批邀测企业,包括金融、汽车、消费等众多行业的客户。北京银行将与火山方舟合作,在算力优化、模型精调等方面展开研究,共同推动金融风控、营销等模型应用落地。
智谱AI推出的千亿基座认知模型ChatGLM,在火山方舟上提供了具有竞争力的大模型。火山引擎则提供了高性价比的资源、针对不同行业的精调能力及综合解决方案,共同推动各行业的智能化发展。智谱AI CEO张鹏表示,他们在火山引擎平台上解决了千亿模型训练的稳定性、性能优化等挑战。
火山方舟与NVIDIA的合作将深化,包括在NVIDIA Hopper架构进行适配与优化、机密计算、重点模型合作优化等方面。双方将共同为重点客户提供支持,并推动NeMo Framework的适配,助力大模型产业的繁荣。
面对众多大模型,企业面临“选择困难”。吴迪认为,企业应根据自身业务场景,综合评估使用效果和成本,在不同场景选用更具性价比的模型。