九游娱乐-九游中国最全游戏官方平台

ZProduct|4年套现3亿美元深度学习推理性能提高15倍英伟达为何收购这家以色列公司?-九游娱乐

新闻资讯
质量为本、客户为根、勇于拼搏、务实创新

ZProduct|4年套现3亿美元深度学习推理性能提高15倍英伟达为何收购这家以色列公司?

日期:2024-11-21 浏览: 

  Deci.ai成立于2019年,通过其深度学习加速平台,利用AutoNAC技术,将AI模型在各种硬件上的推理性能提升3-15倍,同时保九游娱乐持模型准确性。这项技术能够缩短开发周期并降低计算成本。2023年12月,他们开源了当时Open LLM Leader综合评分最高的大语言模型DeciLM-7B以及指令优化版本的DeciLM-7B-Instruct,这一模型以Apache2.0的协议开源,可以免费商用。

  Deci.ai的团队由著名大学的顶尖AI研究人员组成,包括联合创始人兼CEO Yonatan Geifman和首席科学家Ran El-Yaniv教授,他们在顶级学术会议上发表了多篇研究论文,团队目前已扩展至近百人。

  Deci.ai在两年内完成了共计5500万美元的三轮融资,并于今年5月被NVIDIA以3亿美元收购,预计将在第二季度完成。这次收购将补充NVIDIA在AI和深度学习模型设计领域(尤其是端测模型)的能力。

  Deci.ai通过使用AI构建更好的AI,旨在帮助深度学习发挥其真正的潜力。

  通过端到端的深度学习加速平台Deci,开发者可以构建、训练、优化和部署高度准确和高效的模型到任何环境,包括移动设备、笔记本电脑和其他边缘设备,以及云和数据中心。使用Deci平台,开发者可以在任何硬件上将深度学习模型的推理性能提高3到15倍,同时仍然保持准确性。这能帮助缩短80%的开发周期,且大大降低计算成本。

  该平台由Deci.ai的自动神经架构构建技术AutoNAC驱动,这是一种算法优化引擎,能够从任何硬件中挤出最大的利用效率。AutoNAC引擎包含一个神经架构搜索NAS(Neural Architecture Search)组件,它可以重新设计给定训练模型的架构,以针对特定目标硬件优化其推理性能(吞吐量、延迟、内存等),同时保持其基线准确性。

  使用AutoNAC,数据科学家和机器学习工程师能够开发出针对特定硬件和用例量身定制的强大模型,并在资源受限的边缘设备上实现出色的性能。AutoNAC生成的模型能够帮助硬件提升3-10倍的性能,超越了众所周知的最先进模型,并在准确性和延迟(或吞吐量)之间提供了最佳平衡。

  Deci.ai在MLPerf Industry Benchmark的Intel CPU上实现了创纪录的11.8倍加速推理速度提升,并被CBInsights评为前100家AI公司之一。由世界级深度学习专家组成的团队领导,Deci.ai让AI开发者专注于他们最擅长的事情——为世界上最复杂的问题创造创新的基于AI的解决方案。

  Deci.ai官网展示,目前,Deci.ai基于计算机视觉和生成式AI分别提供服务,包括预训练模型、端到端解决方案等。

  1.预训练基础模型:用户可以访问由NAS生成的Deci超高性能基础模型。此方案包括商业用途的企业许可证、DataGradients数据分析工具和SuperGradients高级训练库。企业可以利用这些工具直接应用高效的预训练模型,无需复杂的模型训练。

  2.端到端视觉:旨在简化开发流程,加速推理并快速部署到九游娱乐生产环境。方案内容包括访问AutoNAC生成的模型库和使用SuperGradients训练库的优化自定义训练配方。还包括Inferry推理优化和Python SDK,通过简单代码实现显著的推理速度提升,并支持多框架API。适合希望迅速将AI模型投入生产的企业。

  3.企业方案:面向需要高度定制化解决方案的企业客户。包含“端到端视觉”方案的所有功能,并提供自定义AutoNAC模型服务,生成硬件感知的自定义模型架构。此外,还提供自定义集成、部署选项和法律条款,确保满足特定性能目标和业务需求。

  这些方案提供从模型开发到部署的全面支持,确保企业提供高效、可扩展的AI解决方案,帮助企业在AI应用上实现高效率和性。Deci.ai目前已与Dell、Microsoft Azure、Intel、HPE等多家公司建立合作。

  “在Adobe,我们提供卓越的基于AI的解决方案,这些解决方案覆盖了广泛的云和边缘环境。通过使用Deci,我们显著缩短了上市时间,并将推理工作负载从云端迁移到边缘设备。基于此,我们改善了用户体验,并大幅降低了云端推理成本。”Adobe的高级工程经理Pallav Vyas表示。

  在生成式AI领域,Deci.ai针对不同客户需求,提供两种主要业务方案:API方案和企业方案。

  1.API方案:专为希望轻松集成和使用AI模型的企业设计。它提供对Deci的高性能基础模型的访问权限,这些模型由NAS技术生成,确保了模型的性能和效率。方案包含商业用途的企业许可证,保障企业在商业环境中的合规使用。此外,API方案还兼容Open AI API,提供无服务器实例以及专用实例,以及灵活的Deci-Nano定价模型,以输入和输出各0.1美元/100万令牌的优惠价格,助力企业降低成本,提高业务效率。

  2.企业方案:面向需要大规模部署和对数据隐私有严格要求的企业,Deci.ai的企业方案提供了更为全面的解决方案。这一方案不仅包括商业用途的企业许可证,还特别强调成本效率和数据隐私保护。企业可以根据需求选择VPC部署或本地部署。VPC部署允许企业享受容器化管理和在Kubernetes上进行托管推理,实现高度控制。对于更高级的数据隐私需求,本地部署支持企业将安全容器集成到自己的数据中心,确保数据的完全控制和隐私保护。无论是追求成本效益还是数据安全,企业方案都能满足大型企业或机构的特定需求。

  通过这两种方案,Deci.ai致力于帮助企业实现AI技术的高效应用,无论是在云环境还是本地环境,都能确保企业享受到灵活、安全且高效的AI服务体验。

  值得一提的是,2023年12月,他们开源了当时Open LLM Leader综合评分最高的大语言模型DeciLM-7B以及指令优化版本的DeciLM-7B-Instruct。最重要的是,这个模型以Apache2.0的协议开源,可以免费商用。

  Deci.ai的团队由来自著名大学的顶尖AI研究人员组成。他们拥有卓越的学术经验,在诸如NeurIPS、ICML、ICLR、CVPR和ACL等顶级机器学习会议上共同撰写了数十篇出版物;部分成员曾在行业领先的科技公司任职,全身心致力于推动技术前沿发展。据官网展示,团队目前共有近百人,覆盖前中后台不同职能。

  Yonatan Geifman是Deci.ai的联合创始人兼CEO,他于2019年取得以色列理工学院的计算机科学博士学位,随后创建了Deci.ai,并参与Jibe Ventures的相关工作。此前,他曾在Google的MorphNet团队进行AI相关的研究实习。

  Ran El-Yaniv教授是Deci.ai的联合创始人兼首席科学家,他自1998年始于以色列理工学院任教计算机科学,曾担任Google的研究科学家。他拥有多伦多大学的计算机科学博士学位。

  Jonathan Elial是Deci.ai的联合创始人兼COO,曾担任产品VP。他对科技产品有浓厚的兴趣,曾在Axon Vision担任产品,也曾在奔驰从事智驾的创新工作。在Axon Vision任职期间,他获得了西北大学Kellogg商学院的EMBA学位,此前拥有数学和计算机科学的教育背景。

  据Calcalist今年5月报道,NVIDIA已同意收购Deci.ai,这笔交易的价值为3亿美元。此次收购尚待监管机构批准,预计将在第二季度完成。

  NVIDIA向Calcalist确认了这笔交易,并表示:“NVIDIA在AI方面的专长将通过Deci.ai在NAS领域的能力得到补充,NAS自动化了深度学习模型的设计,以提高性能。Deci.ai的工程团队在NAS、基础模型、推理以及开发复杂算法方面拥有足够知识储备。”

  通过这次收购,NVIDIA在一周内完成了对两家以色列AI公司的收购,总价值达到10亿美元。此前,它宣布以7亿美元的价格收购了Run:ai。我们此前也对Run:ai进行过相关分析,详情请见: