九游娱乐-九游中国最全游戏官方平台

2024年终AI盘点:基础设施高歌猛进混合式AI解决方案加速落地-九游娱乐

新闻资讯
质量为本、客户为根、勇于拼搏、务实创新

2024年终AI盘点:基础设施高歌猛进混合式AI解决方案加速落地

日期:2025-01-17 浏览: 

  2024年AI领域发展迅速,基础设施如AI硬件呈现百花齐放的态势,数据中心GPU出货量持续上升。

  混合式AI解决方案加速落地,大模型迎来新一轮洗牌,各国科技公司纷纷推出创新产品。3.

  以联想为例,推出全新混合式AI解决方案及服务,助力企业实现AI技术落地到业务中的商业价值。4.

  然而,AI发展仍面临挑战,如底层技术薄弱,价格战等抢占市场动作将持续很长时间。5.

  未来,科技公司需充分利用AI技术实现新增长,才能在竞争中脱颖而出。以上内容由腾讯混元大模型生成,仅供参考

  现如今,人工智能正以前所未有的速度和深度改变生产生活方式,成为推动经济社会发展的重要动力。据IDC预测,到2030年,人工智能将为全球经济贡献19.9万亿美元,推动2030年全球GDP增长3.5%。纵观2024年全年,AI的热度不但没有消散,反而又一次迎来了令人瞩目的爆发式增长,接下来,就让我们一起回顾这不平凡的一年。

  AI硬件强势崛起,数据中心蓄势待发众所周知,算力是人工智能三要素中至关重要的组成部分,作为数字经济时代的关键生产力要素,算力的赋能作用日益凸显,已成为驱动各行业变革的核心力量。但不可否认的是,算力的强弱很大程度上受到底层硬件的限制,而今年的AI硬件也呈现出百花齐放的态势。

  虽然GPU最初是为了处理图形和图像而设计的,但随着人工智能的兴起,其强大的并行计算能力被发现非常适合处理AI 所需的大量数据和复杂计算。AI算力则是衡量计算机处理人工智能任务的能力,它直接影响着AI 模型的训练速度和性能表现。

  提起AI训练和AI推理,很多人都会想起更擅长处理大量并行任务的GPU,却在一定程度上忽略了CPU的价值,事实上,目前的AI应用实际上可以分为两大类,一类是基于GPU的重负载九游娱乐文化 九游app官方入口训练应用,另一类则是对延迟和能效更加敏感的轻应用,对这类应用而言,通过使用CPU混合精度即可实现的推理吞吐量反而能带来更高的灵活性和更具优势的TCO,以英特尔在9月份推出的至强6性能核处理器为例,该处理器专门为AI、数据分析、科学计算等计算密集型业务而生,并且在性能、内核密度、内存和I/O创新都有十分明显的突破。

  AI时代下,算力的重要性毋庸置疑,但数据存储作为AI的“第三支柱”,同样也在AI的全生命周期内发挥着重要作用,尤其是在生成式AI爆火的大背景下,包括图像、视频、音频在内的非结构化数据会不可避免地呈现出爆炸式增长的态势,根据IDC的调研结果,预计到2028年,每年产生的数据总量会接近400ZB。

  在数据量不断增长的趋势下,数据存储技术对于人工智能数据周期中不同阶段基础设施和工作负载的容量、性能、能耗效益以及成本效益都至关重要,具体来说,在人工智能数据周期的原始数据存档,内容存储环节,需要从各种来源安全高效地收集并存储原始数据,以用于训练模型,这一阶段收集的数据质量和多样性至关重要,为后续的所有阶段奠定了基础。由于查找和收集数据需要大容量存储,所以在此阶段,可以经济高效地存储巨量规模化数据,且具备更低TCO的大容量企业级HDD(eHDD)通常是建立深度内容资源库的理想选择。

  在不久之前,Solidigm推出了122.88TB的D5-P5336QLC SSD,是目前行业里容量密度最高的QLC SSD产品,相比于传统的HDD JBOD或者替换TLC SSD JBOD的方案可以实现4-8倍空间占用的节约,同时在总功耗、散热、电力等方面都有非常出色的表现,因此十分适用于内容分发网络、通用服务器混合负载、对象存储等工作负载。

  混合式AI解决方案加速落地,大模型迎来新一轮洗牌毫无疑问的是,AI技术展现的巨大潜力和价值正在推动企业加速拥抱AI技术,根据联想此前发布的《2024年全球首席信息官报告》,全球61%的企业首席信息官(CIO)认为证明AI投资的投资回报率(ROI)极具挑战性。随着人工智能等技术不断渗透到个人与企业的真实应用场景,AI下半场从技术突破进入到落地应用的阶段,混合式人工智能已成为AI价值落地的必然路径。

  联想人工智能应用库则集合了诸多企业通用领域及垂直行业的AI智能体,可为企业营销、IT运维、法务、客户服务等多个业务场景提供AI解决方案;人工智能数据和技术基础架构解决方案与服务则能帮助企业评估其平台的AI准备情况,并能通过切实可行且经济高效的措施,来优化和搭建其所需的数据、应用和云技术等IT基础设施。基于联想全栈AI的战略布局,其设备和基础设施作为全新混合式人工智能解决方案的重要载体,也正加速与AI的融合。联想正不断扩展其AI终端产品组合,通过包含PC、服务器、工作站等一系列强大的AI设备和基础设施组合,与解决方案的紧密结合,使企业能够快速实现强大、负责任且可持续的人工智能。比如在AI基础设施方面,联想将自研的海神(Neptune)液冷技术不断迭代扩展至更多服务器设备,并将支持NVIDIA领先的加速计算平台,助力人工智能新时代企业实现更高的能源效率和可持续发展。

  行业落地方面,联想携手贝智基金,在香港爱培学校率先设立香港首个AI辅助学习中心,通过人工智能等技术惠及更多有特殊教育需求的儿童。全新成立的AI辅助学习中心配备了联想AI硬件及计算机视觉、自然语言处理和机器人流程自动化(RPA)等在内的混合式AI技术,帮助确保贝智基金的治疗师和教育工作者能够为数量持续增长的特殊教育需求儿童提供及时、定制化的支援。

  在联想AI辅助学习中心,原先繁琐和容易出错的人手数据收集、记录及回应评分已经实现完全自动化,通过实时数据收集及跨学科分析,生成个性化的学习计划,使治疗师们更专注于与特殊教育需求学生的直接互动、及时干预、建立更深层次的师生关系。这种高度自动化的流程也让志愿者能够通过接受培训成为课堂导师,并由经验丰富的ABA治疗师远程指导和监督。这一定程度上也缓解了专业治疗师资源匮乏的问题。

  作为这两年“最烧钱”的生意,大模型今年也在“商业化”的强需求中迎来了新一轮的洗牌,以字节跳动推出的豆包大模型为例,虽然最初推出是在2023年,但在豆包大模型推出以后,字节跳动又紧锣密鼓地发布了Doubao-pro、Seed-TTS、Seed-ASR、Seed-Music、视频生成模型、视觉理解模型等多项重磅成果,在语言能力、多模态理解与生成、模型推理、代码生成等方面不断提升。到2024年12月,豆包大模型通用模型能力已经全面对齐GPT-4o,在FlagEval模型评测的“对话模型”榜单中,豆包-pro32k版本已经位列第一。

  而亚马逊云科技则是在不久前的re:Invent大会期间推出了Amazon Nova系列模型,包括文生文模型Nova Micro,低成本多模态模型Nova Lite,在准确性、速度和成本间实现平衡的Nova Pro、可处理复杂推理任务的Nova Premier、新一代图像生成模型Amazon Nova Canvas以及新一代视频生成模型Amazon Nova Reel。从而向客户提供一个能够支持规模化推理的平台,以充分应用亚马逊云科技的推理能力,并帮助客户用好自己的私有化数据,实现性能、安全和成本方面的平衡。

  进入AI时代,AI带来的经济价值正逐步被验证,充分利用AI技术的力量实现新增长是企业在未来竞争中脱颖而出的关键。无论是底层的基础设施还是上层的行业应用,今年来自各个科技公司的更新和发布都在为我们带来惊喜,但这并不意味着AI的发展已经趋于成熟,如果说2024年的这些突破是一首交响乐,那么我们现在听到的,也仅仅是序曲的前几个音符,更宏大的主旋律才刚刚拉开帷幕。