无数据 不模型 亚马逊云科技持续引领数据基座构建三大核心能力
北京2024年4月30日 /美通社/ -- 亚马逊云科技持续引领云上数据服务创新，助力企业构建全面的数据基座以充分发挥数据潜力，加速生成式AI技术落地。在生成式AI时代，数据是企业脱颖而出的关键——基础模型依赖于大规模高质量数据集，生成式AI的差异化优势来源于企业的专有数据，生成式AI应用产生的大量新数据也需要及时有效地加以管理和利用。亚马逊云科技持续引领数据基座构建必备的三大核心能力，即模型微调和预训练所需的数据处理能力、利用专有数据与模型快速结合以产生独特价值的能力，以及有效处理新数据以助推生成式AI应用持续快速发展的能力，助力企业在生成式AI时代取得成功。
亚马逊云科技大中华区产品部总经理陈晓建表示："企业需要的是懂业务、懂用户的生成式AI应用，而打造这样的应用需要从数据做起。亚马逊云科技构建数据基座的三大核心能力涵盖从基础模型训练到生成式AI应用构建的重要场景，能够帮助企业轻松应对海量多模态数据，提升基础模型能力。作为全球云计算的开创者和引领者，亚马逊云科技正在帮助各个行业、各种规模的企业打造强健的数据基座，在确保用户业务和数据安全的前提下，将数据的独特价值赋予基础模型和生成式AI应用，加速企业业务增长。"
优秀的数据处理能力，快速提高模型微调和预训练质量
生成式AI基础模型微调和预训练需要将海量的多样化原始数据转化为高质量的大数据集，这对数据存储、清洗和治理都提出了更严峻的挑战。
在数据存储方面，扩展性和响应速度是关键。Amazon Simple Storage Service（Amazon S3）对象存储几乎是云上扩展性的代名词，它支持广泛的数据协议，能够轻松应对各种数据类型，还支持智能分层以降低训练成本。专门构建的文件存储服务Amazon FSx for Lustre则能够提供亚毫秒延迟和数百万IOPS的吞吐性能，能够进一步加快模型优化的速度。
在数据清洗方面，企业面临着繁重的数据清洗加工任务，Amazon EMR Serverless和Amazon Glue可以帮助企业轻松完成数据清理、去重、乃至分词的操作，让企业专注于生成式AI业务创新。Amazon EMR serverless采用无服务器架构，帮助企业运行任何规模的分析工作负载，自动扩展功能可在几秒钟内调整资源大小，以满足不断变化的数据量和处理要求。Amazon Glue是一个简单可扩展的无服务器数据集成服务，可以轻松快速地完成微调或预训练模型的数据准备工作。
在数据治理方面，企业难以在多个账户和区域中查找数据，也缺乏有效的数据治理工具。Amazon DataZone让企业能够跨组织边界大规模地发现、共享和管理数据，不但能够为多源多模态数据进行有效编目和治理，而且还提供简单易用的统一数据管理平台和工具，从而为用户解锁所有数据的潜能。
数据与模型快速结合，让企业专有数据释放更大价值
生成式AI基础模型的局限性之一在于无法及时拥有企业专有数据，因此通过技术手段加速数据与模型的结合成为企业数据基座的第二项关键能力。检索增强生成（Retrieval-Augmented Generation，RAG）技术被普遍认为是实现数据与模型结合的主要途径之一，它通过将数据转换为向量并存储到向量数据库中，从而将语义的关联性转化为向量间的数学距离问题，以实现内容的关联性计算。现代应用程序需精准理解用户需求并正确关联产品或内容，这一需求广泛存在于搜索、评论、购物车及产品推荐等交互框架中，这些框架又依赖于功能各异的数据库，这使得数据库成为实施RAG技术的理想平台。
亚马逊云科技将向量搜索的支持功能加入到主流的数据服务中，通过将数据和向量存储在一起来提升数据查询性能。这能够让企业轻松利用RAG技术将专有数据提供给基础模型，从而释放更大价值。此外，亚马逊云科技还为图数据库Amazon Neptune推出了分析数据库引擎，以结合图数据库与大模型的优势，从而能够快速从图形数据中获取洞察，并进行更快的向量搜索。
有效处理生成式AI应用的新数据，降低模型频繁调用成本并提升性能
对生成式AI应用程序而言，基础模型频繁调用将会导致成本的增加和响应的延迟，因此如何处理生成式AI应用程序新生成的数据，提升模型调用效率成为企业数据基座的第三项关键能力。Amazon Memory DB内存数据库通过缓存之前问答生成的新数据，实现对类似问题的快速响应和准确回答，同时有效降低基础模型的调用频率。Amazon Memory DB能够存储数百万个向量，只需要几毫秒的响应时间，能够以99%的召回率实现每秒百万次的查询性能。
此外，生成式AI应用程序需要快速占领市场。亚马逊云科技通过提供无服务器数据库服务和Amazon OpenSearch Serverless用于向量搜索，最大限度为企业减少运维负担和成本，消除性能瓶颈，使企业能够专注于生成式AI业务创新。
Amazon Music通过分析用户和歌曲的特征，并将它们转换成向量以提高推荐精准度。Amazon Music已通过Amazon OpenSearch将1亿首歌曲编码成向量并进行索引，以为全球用户提供实时音乐推荐。Amazon Music目前在Amazon OpenSearch中管理着10.5亿个向量，并能够处理每秒高达7,100次的查询峰值，有效支撑其推荐系统。