AI代理正在打破对象存储背后的批处理时代假设

来自F5 模型训练是一个批处理问题，而代理检索是一个事务问题。不幸的是，大多数企业现在都在对象存储上运行事务性人工智能工作负载，这些对象存储是他们批量调整和操作的。这种不匹配导致了大量的生产失败，因为AI代理和RAG（检索增强生成）从试点环境中移出。 与此同时，企业AI预算集中在GPU上，而底层的存储层受到的关注要少得多。然而，代理从根本上改变了存储的访问方式。AI代理和RAG管道为小对象发出连续的、高并发的调用，而不是预先安排的训练作业的大量顺序读取。这将对象存储直接置于每个AI响应的路径中：存储延迟可能会增加用户等待答案的时间，而对同时连接的限制可能会阻止系统在代理活动扩展时保持响应。 F5技术联盟解决方案架构师马克·门格（Mark Menger）表示：“培训在开始之前告诉你它需要什么，但代理检索在运行时做出决定，所以我不知道他们会要求什么，什么时候会要求，或者要求多少。”“没有人会像批量调整那样调整系统规模。" 训练针对预先准备的工作集从已知的图形处理器集群中顺序读取大型对象，每次在系统上执行一个作业。统计检索几乎逆转了这些属性中的每一个。流量以大量小对象GSYS的形式到达，混合了用于拉取元数据的PUT、HEAD和RST调用。客户群体具有很高的基数，因为代理会产生代理，并且默认情况下多个租户共享路径。决定请求什么的客户端是一个概率系统，响应企业不控制的输入，它将应用层退役，作为到达数据的足够守门人。 然后并发

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。