我想创建一种分布式设置,以便在生产环境中运行大量小型/简单的REST web查询。对于从节点执行的每5-10个相关查询,我将生成非常少量的派生数据,这些数据需要存储在标准关系数据库(如PostgreSQL)中。
针对这种类型的问题集构建了哪些平台?其性质、数据大小和数量似乎与Hadoop的思维方式相矛盾。还有更多基于网格的架构,比如我已经提到过的Condor和Sun grid Engine。我不确定这些平台是否有从错误中恢复的功能(检查作业是否成功)。
我真正想要的是一个FIFO类型的队列,我可以向其中添加作业,最终结果是我的数据库得到更新。
对最适合这项工作的工具有什么建议吗?
发布于 2010-05-01 16:23:19
你有没有看过Celery
https://stackoverflow.com/questions/2749078
复制相似问题