AWS近日更新了旗下AWS数据导出服务(用于生成和管理成本与用量报告),新增了标准化的Amazon Bedrock产品元数据字段。此次更新旨在帮助企业工程团队在跨多个基础模型扩展AI部署时,更便捷地分析AI使用情况与相关支出。

此次更新在账单导出中新增了多个规范化字段,涵盖模型提供商、模型名称、推理类型、推理模式、计费单位以及Bedrock产品系列。借助这些字段,企业可直接识别哪些模型产生了费用,并在不同提供商之间进行支出对比,无需再依赖对账单记录的自定义解析或手动规范化处理。

分析师指出,减少对自定义解析的依赖,将大幅降低账单数据分析所需的工程投入。IT咨询公司Kanerika首席营收官布佩德拉·乔普拉表示:"在此次更新之前,数据工程师通常需要维护一套模型ID注册表,针对使用类型字符串编写正则表达式,或者将AWS CloudTrail与成本用量报告进行关联,才能搞清楚哪个提供商产生了哪笔费用。"他补充道,新增的标准化字段"可能是账单管道是否需要持续维护的分水岭"。

Pareekh咨询公司首席分析师帕里克·贾恩指出,这是因为每当AWS在Bedrock中新增模型或更新定价时,自定义解析逻辑更容易出现故障或需要进行维护。

除降低工程开销外,此次更新还有助于企业改善AI成本治理。乔普拉表示,在此次更新之前,FinOps团队难以判断Bedrock对应的是哪个模型,原因在于使用类型字段缺乏一致性,且没有统一的产品系列名称来汇总所有Bedrock相关费用。

"现在,模型提供商、模型名称、推理类型、推理模式、计价单位等属性均已标准化,并默认可用。这是无人提及的底层基础工作,但正是它让下游报告真正变得可靠。"乔普拉补充道。

贾恩表示,这使企业更容易构建按模型、提供商、Token类型或推理模式细分费用的仪表板,同时还能识别高成本工作负载、异常的Token用量增长,以及转向更低价模型或批处理的优化机会。

FinOps服务商ZopDev云计算专员穆斯坎·班达表示,此次更新恰逢其时——上周AWS刚刚发生了一起计费问题,导致部分客户在AWS管理控制台中看到了错误的服务费用估算。"在大家对数据准确性的信心刚刚受到动摇之际,任何能为客户提供更清晰、更细粒度、更可信账单数据的举措都值得欢迎。这虽然无法弥补之前出现的问题,但在经历这样的事件之后,团队最需要的正是对支出去向有更清晰的了解。"

Q&A

Q1:AWS数据导出服务新增了哪些标准化字段?

A:此次更新新增了模型提供商、模型名称、推理类型、推理模式、计费单位以及Bedrock产品系列六类标准化字段。这些字段默认可用,企业无需再通过自定义解析或手动规范化账单记录,即可直接识别哪些模型产生了费用,并跨提供商进行支出对比,大幅降低了工程维护成本。

Q2:Amazon Bedrock计费标准化对FinOps团队有什么帮助?

A:在此次更新之前,FinOps团队因使用类型字段不一致、缺乏统一产品系列名称,难以判断Bedrock账单与具体模型的对应关系。新标准化字段让团队可以直接构建按模型、提供商、Token类型或推理模式细分的费用仪表板,更便于识别高成本工作负载、监控异常Token增长,以及寻找切换至更低价模型或采用批处理的优化机会。

Q3:AWS上周的计费问题是怎么回事?

A:上周AWS出现了一起计费故障,导致部分客户在AWS管理控制台中看到了错误的服务费用估算,引发用户对账单数据准确性的担忧。此次账单数据标准化更新虽然并非针对该故障的直接修复措施,但分析师认为,在用户信心受损之际,提供更清晰、更可信的账单数据有助于重建信任。

InfoWorld