速石科技应邀出席2023世界人工智能大会,AI研发平台引人瞩目

2023世界人工智能大会(WAIC 2023)于上海世博中心及世博展览馆成功举办。大会参展企业超过400家,线下参观人数突破17.7万人。速石科技也应邀参加本次大会,旗下一站式AI研发平台及AI应用Megrez首次亮相

本次大会以“智联世界,生成未来”为主题,围绕大模型、智能芯片、类脑智能、自动驾驶、元宇宙等十大前沿方向,聚焦于AI领域的学术和研发热点问题,由包括图灵奖得主、诺贝尔奖得主、海内外院士、顶尖企业领军人才在内的逾1400位重量级嘉宾展开讨论。

在ChatGPT、Midjourney等产品引爆AIGC热度后,国内外知名科技公司也先后发布了自己的大模型,极高的关注度带动了整条人工智能产业链的发展,从而催生了行业对MLOps平台的进一步需求。

关于MLOps

与外界认知不同,在AI的完整生态体系中,模型开发在其中的占比微乎其微。
Google团队在2015年的论文中首次提出机器学习系统中存在着隐藏的技术债务,代码开发的占比仅仅如下图小黑框所示,整个机器学习的体系复杂而庞大

来源:Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015

诸如数据处理、生产环境部署、算力资源管理、多个开发环境的管理等,会降低企业的研发效率和研发人员的工作体验。


而在生产部署环节,根据IDC调查显示,在准备部署人工智能的企业中,大部分还停留在对模型的评估测试阶段,只有31%的企业将模型投入了生产环境,这其中仅三分之一的企业认为AI的部署对自己起到了正面作用。

MLOps就是将机器学习(ML)、开发(Dev)和运维(Ops)串连为一个整体,向人工智能领域提供了系统性的生产过程管理方案,从而针对性地解决前述AI领域问题。

行业对系统性的方法论和规范化的管理流程有着强烈的需求,这也是近年来MLOps产业快速发展的原因所在。

速石科技MLOps平台

作为 NVIDIA Inception Program 的一员,速石科技致力于弥合研发团队与AI基础设施间的差距,简化AI模型的研发流程,借助自身优势减少研发过程中技术和流程的重复,大幅优化企业的研发效率和体验。

速石科技旗下的MLOps平台能为企业提供端到端的一站式AI研发平台,并为AI/ML提供全生命周期的产研支持,实现AI/ML模型的部署和落地,从而帮助企业实现自身商业价值。

敏捷高效的一站式研发平台

速石科技MLOps平台能够为企业提供敏捷高效的一站式研发环境,缩短模型的开发周期,覆盖企业从ML/LLM模型的构建、训练到最终部署的全部需求,帮助企业更快地将ML/LLM模型推向生产环境,从而提升整体产研效率。

速石科技拥有遍布全球的服务节点,能为企业提供海量的CPU、GPU、TPU等异构资源,并能提供数据运营(DataOps)和存储方案等底层支持。平台内多种即开即用的工具、可视化的操作界面和工作流设置,则能减少研发人员的学习成本,允许企业快速完成环境设置,随时开启研发工作

帮助企业实现降本增效

速石科技一站式的研发服务也能帮助企业缩短AI项目的研发周期,实现快速迭代,帮助企业更快地将AI产品投入生产环节,实现自身商业价值。

速石科技通过集群实现对云端和本地算力的统一管理,并通过自研调度器Fsched确保每个用户都能及时获取所需资源,减少任务排队和资源浪费,从而提升企业研发的投资回报率

Fsched调度器能够实现任务调度自动化,加快模型研发和迭代的速度,实现敏捷交付。在任务高峰期,Fsched还能自动为团队补充云端算力以防任务中断。速石科技的自动集群管理与弹性资源扩充解放了团队精力,帮助企业有效提升研发效率,控制研发成本。

可视化的监控仪表盘可以让企业从多个维度查看资产利用情况,并通过速石科技的身份系统管理用户的访问权限和资源上限,进一步优化企业资源的投入产出比。

数字资产管理

随着AI的飞速发展,数据、算法、模型和特征等数字资产的重要性逐渐突显。

速石科技能够提供多维度的监控告警及审核日志,能够追溯操作记录,帮助企业了解数字资产的使用情况,增强企业的数字资产安全保障。

结合企业内部安全策略,速石科技能为企业提供安全可控的访问环境,通过身份认证、权限管理、数据隔离等功能,简化访问管理,并实现对数字资产的全面管理和控制

速石科技AI应用

AI应用落地是所有研发环节中最后一环,也是最重要的一环。在AIGC应用百花齐放的这波浪潮中,速石科技作为MLOps平台的提供方,同时也是其使用方。

速石科技已经发布一款行业知识库聊天应用Megrez,这款聊天应用面向企业客户提供大语言模型的私有化部署能力,解决了许多企业用户关注的数据安全问题,它也允许用户自定义行业知识库,实现领域知识的问答。

Megrez基于芯片设计领域提供的支持

速石科技支持用户在平台上自定义这款应用的部署,实现从基础架构到最终应用的端到端掌控。

结语

AI工程化是产业发展的必经之路,AI真正成为生产力工具,就必须借助MLOps等工程化技术来解决开发、训练和部署等全链路生命周期的问题。

速石科技在云平台、团队协同、数据管理、工作流优化和应用部署等层面的积累,能够为企业提供优质的、可落地的系统性研发支持,帮助企业优化部署流程。

在未来,速石科技将在此基础上积极探索,助力企业的可持续发展,推动行业形成人工智能生态闭环。

关于速石科技

速石科技(fastone)致力于构建为应用定义的云,让任何应用程序,始终以自动化、更优化和可扩展的方式,在任何基础架构上运行。

我们为创新驱动型用户提供为应用优化的一站式研发云平台,满足半导体、新药研发、汽车/智能制造、人工智能、金融科技等企业及高校科研机构多种研发场景需求。基于本地+公有混合云环境的灵活部署及交付,帮助用户提升20倍研发效率,降低成本达到75%以上,加快市场响应速度,面向全球开展竞争。

相关推荐

微信扫一扫

微信扫一扫

微信扫一扫,分享到朋友圈

速石科技应邀出席2023世界人工智能大会,AI研发平台引人瞩目
返回顶部

显示

忘记密码?

显示

显示

获取验证码

Close