2023年12月12日,中国版的re:invent活动召开了,这里讲了很多中国用户更适用的东西。而且,作为精简版的re:Invent大会,能让你在最短的时间里get更多东西,这里才是最有性价比的re:Invent打开方式。
置身re:Invent活动现场的展区,能看到很多新发布的内容,比如,我比较关注的Amazon S3 Express One Zone存储、Aurora Limitless数据库、Graviton4处理器、Amazon Q还有Amazon Bedrock都有出现。
会上,亚马逊云科技大中华区产品部总经理 陈晓建做了简明扼要的介绍,其介绍内容大致可以分为两部分:包含GenAI和不包含GenAI的部分。
不包含GenAI的部分里,重点提到了新发布的Graviton4处理器,核心数来到了96,整体性能提升30%,还是挺有诚意的,运行数据库和大型Java应用的性能提升幅度更大。
目前,首个采用Amazon Graviton4芯片的实例R8g已经开始预览,这是一个内存优化型的实例,用于处理大规模数据集或者内存密集型工作负载。
Amazon S3 Express One Zone是新推出的高性能对象存储方案,与标准版的Amazon S3 Standard相比,它的性能提升了10倍,延迟仅为几毫秒。虽然单位容量成本较高,但实际使用带来的性能提升反而能将总成本降低40%。
此外,会上提到了我比较关注的Aurora Limitless数据库,介绍了Grover对于云原生数据库Aurora很重要,Caspin对于Aurora Serverless很重要,还提到了数据库分片技术对Aurora Limitless很重要的事情。
为什么这部分我记得这么清楚呢?因为这里提到了用来给服务器做精准时钟同步的神器。
它用了卫星上的原子时钟来拿到精准的时间信息。然后,在本地用了脉冲信号来给服务器集群同步时间,从而将时间同步的精度提高到了微秒级,减少了时钟同步的等待时间,每秒可以对更多数据库的事件做排序,最终提高了数据库的性能表现。
这很酷,这是Aurora Limitless数据库性能高的主要原因之一。同时,基于这套专有的硬件,亚马逊云科技推出了新的时间同步服务Amazon Time Sync Service,把它开放给用户使用。
关于生成式AI的部分,主要介绍了生成式AI的三层架构,底层是软硬件基础设施为主,中间层是以Amazon Bedrock为主的面向开发者的服务为主,最上层是SaaS化的一些应用。
芯片底层主要介绍了Trainium芯片,这次还更新了Trainium2训练芯片。自己的芯片,配合EFA网络构建超大规模集群,能同时让很多个芯片一起干活儿,场面很惊艳,算力很强。
另外,这里还介绍了一个叫SageMaker HyperPod的新东西,它提供了一个配置好各种类库的分布式训练训练环境,能让成千上万个加速器一起训练,训练速度可以提高40%。而且,它还能自己存checkpoint,自动用checkpoint恢复被中断的训练。
除了自家的芯片,会上还介绍了跟英伟达合作构建的全球第一个云上GH200 AI超级计算集群,支持用16384块Grace Hopper超级芯片一起干活儿,提供65个ExaFlops的逆天的算力。
中间层主要介绍了专为生成式AI打造的Amazon Bedrock,它能托管运行好几种大模型,让用户用API来使用大模型,还能支持RAG、微调之类的操作,全程无需写一行代码。
这部分主打的是支持的大模型多,包括Anthropic开发的Claude,Meta开发的Llama之类的,能降低企业落地大模型的门槛。
这部分还推到了亚马逊云科技自己开发的大模型Amazon Titan,Amazon Titan其实包含了好几个模型,这次又新推出了好几个。
比如做文本摘要的Amazon Titain Text Lite,生成文本的Amazon Titain Text Express,还有做图片生成的Amazon Titan Image Generator等。
最上层,就是SaaS类应用了,排在C位的是Amazon Q。
这是一个Chatbot聊天机器人,明显是对标微软Copilot的,看起来跟ChatGPT也很像。但是,Amazon Q主要是面向工作场景的。
Amazon Q分两大类,一类是面向业务人员的。可以帮业务人员发现数据洞察,帮业务人员提炼文档内容,帮业务人员写新闻稿,写标题,写摘要,安排互动日程之类的。
另外一类是面向技术人员的,对于IT工程师而言,它是一个非常懂亚马逊云科技的机器人,能帮你更好地用云,比如能帮你找到合适的EC2主机。对于软件开发者来说,它能用来生成代码,创建单元测试,还能帮助开发者快速理解代码。
此前开发的Amazon Codewhisperer也能生成代码,现在的Amazon Q也能生成代码,是不是有点重合呢?
对此,亚马逊云科技大中华区产品技术总监王晓野表示,Amazon CodeWhisperer主要是在IDE里用注释作为提示词来生成代码片段,而现在Amazon Q则是像ChatGPT一样在聊天对话框里生成代码,两者还是有区别的。
以上就是中国版的re:invent活动北京站的主要内容。虽然这样很有性价比,但如果你真爱云计算,喜欢钻研技术,那么我更推荐你去看re:Invent全球大会的主题演讲,那里有更多有趣的技术细节等待你去探索。