价格便宜75%!亚马逊推出全新大模型系列,3纳为什么会这样子的下一句是什么米自研芯片明年上市

来源: 搜狐专栏
2024-12-05 04:23:59

最佳回答

“为什么会这样子的下一句是什么”价格便宜75%!亚马逊推出全新大模型系列,3纳为什么会这样子的下一句是什么米自研芯片明年上市

电商巨头亚马逊继续在云计算领域发力,推出全新自研AI(人工智能)模型和芯片。

当地时间12月3日,亚马逊在AWS(亚马逊云服务)年度大会上宣布了一系列新的AI产品,包括全新自研大模型Amazon Nova系列和旗下首款采用3纳米工艺节点的AI训练芯片Tranium3。苹果公司机器学习和人工智能高级总监Benoit Dupin也来到现场捧场,并称苹果考虑使用亚马逊AI芯片对其专有模型进行预训练。

全新大模型Nova系列涵盖文本、图像和视频

在大会上,亚马逊推出了新一代基础模型Amazon Nova系列。用户可以使用由Amazon Nova提供支持的生成式AI应用程序来理解视频、图表和文档,或生成视频和其他多媒体内容。该系列包括六种型号,从纯文本模型Micro、低成本多模态模型Lite、高性能多模态模型Pro到预计于2025年第一季度推出的Premier,以及两款尚未确定发布时间的更先进模型Canvas和Reel。

据介绍,Nova 系列能够支持200种语言,Micro、Lite和Pro的价格至少比旗下生成式AI服务平台Amazon Bedrock上各自智能类别中性能最佳的模型便宜75%,同时也是各自智能类别中速度最快的模型。这些模型也将被集成到Amazon Bedrock平台以供用户通过API使用,并支持自定义微调和蒸馏。

除了图形生成模型Canvas和视频生成模型Reel,亚马逊还预告称将在2025年发布一款“语音转语音”模型,以及一款“任意转任意”多模态模型,将能够处理文本、图像、音频和视频作为输入和输出。

同时,亚马逊在会上宣布与AI初创企业Anthropic加强合作,两家公司共同推出Claude 3.5 Haiku延迟优化版,将推理速度提高60%。亚马逊已经对Anthropic累计投资80亿美元。Anthropic的联合创始人兼首席计算官Tom Brown也在会上亮相,宣布公司启动“雷尼尔计划”(Project Rainier),在未来将使用一个拥有数十万枚亚马逊自研芯片的算力集群。

首款3纳米工艺自研芯片预计明年上市

说完了大模型,就来到AI芯片。AWS 首席执行官Matt Garman宣布,其Trainium2芯片已全面开放出租,由亚马逊芯片Trainium2提供支持的Amazon Elastic Compute Cloud(Amazon EC2)实例正式上市,能够训练和部署当今最新的AI模型以及未来的大语言模型和基础模型。

同时,AWS宣布推出其下一代AI芯片Trainium3,该芯片将是公司旗下第一款采用3纳米工艺节点制造的芯片,允许客户更快地构建更大的模型,并在部署模型时提供出色的实时性。据介绍,搭载Trainium3的AI服务器UltraServer的性能将比搭载Trainium2时高出4倍,首批基于Trainium3的实例预计将于2025年底上市。

值得注意的是,在本次大会上,苹果高管Dupin惊喜亮相并发表演讲,分享苹果如何使用AWS提供的服务,展现了苹果对AWS的有力支持。目前,在云计算领域,亚马逊正在与微软和谷歌展开激烈竞争。

Dupin表示,苹果长期使用AWS来提供Siri、Apple Maps和Apple Music等服务:“两家公司之间有着牢固的关系,(亚马逊的)基础设施既可靠,又能够为全球客户提供服务。”

据介绍,苹果正在使用AWS的定制AI芯片来实现搜索等服务。与英特尔和AMD的x86实例相比,苹果已经使用Amazon Graviton和Inferentia等AWS芯片在机器学习推理工作方面实现了超过40%的效率提升。此外,Dupin透露,苹果正处于对Trainium2芯片的早期评估阶段。根据目前的经验,苹果预计在Trainium2上预训练模型时,效率将提高50%。

今年10月,苹果正式推出自研AI产品苹果智能。此前,苹果在一份研究文件中也确认,公司使用了谷歌的Tensor自研芯片来训练苹果智能背后的AI模型,而不是像其他公司那样使用英伟达芯片。

3日当天,亚马逊(Nasdaq:AMZN)涨1.3%收于每股213.44美元,总市值2.24万亿美元。今年以来,公司股价已涨超40%。

发布于:北京市
声明:该文观点仅代表作者本人,搜狐系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有