keytophub
本站致力于IT相关技术的分享
10
27
构建基于ZeroMQ的动态服务发现层以支持边缘侧Hugging Face模型推理 构建基于ZeroMQ的动态服务发现层以支持边缘侧Hugging Face模型推理
在尝试将AI推理能力从中心化的云端下沉到分布式边缘节点时,我们面临的第一个棘手问题并非模型本身,而是网络拓扑与服务生命周期的不确定性。边缘节点,无论是工厂车间的工控机还是零售店的服务器,它们的网络环境复杂多变,且随时可能因为断电、维护或网络
27
27
27
构建支持流批一体与即时图计算的混合特征存储架构决策与实现 构建支持流批一体与即时图计算的混合特征存储架构决策与实现
在一个高并发的风控或推荐场景下,对特征计算和存储系统的要求是极为苛刻的。系统必须能以毫秒级延迟响应在线服务的请求,同时处理来自实时事件流的瞬时特征、来自批处理作业的深度历史特征,以及在特定请求下才能触发的复杂关系网络特征。任何单一的架构范式
2023-10-27
27
27
3 / 5