首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >Googlebot是用哪种编程语言编写的(或任何其他高效的网络爬虫)?

Googlebot是用哪种编程语言编写的(或任何其他高效的网络爬虫)?
EN

Stack Overflow用户
提问于 2009-10-29 01:59:27
回答 5查看 5.9K关注 0票数 1

有人知道谷歌机器人是用哪种编程语言编写的吗?

或者,更普遍的是,高效的网络爬虫是用哪种语言编写的?

我见过很多Java语言,但在我看来,它不是最适合开发网络爬虫的语言,因为它产生了太多的开销(尝试使用Heritrix网络爬虫,它非常重)。

EN

回答 5

Stack Overflow用户

回答已采纳

发布于 2009-10-29 02:03:21

最早的版本,Backrub,was written in Python and Java

票数 4
EN

Stack Overflow用户

发布于 2009-10-29 02:06:49

有根据的猜测是Python。他们employ the creator of it。然而,我可以想象他们的爬虫可能是一个利用MapReduce的分布式应用程序,在这种情况下,它实际上可能是一个C/C++应用程序。

不过,这并不是重点。你可以用许多不同的语言编写一个高效的网络爬虫,但仍然会得到相同的结果。即使是黄色或蓝色的锤子,锤子也会击中钉子。选择你最喜欢的颜色,并正确使用它。

票数 5
EN

Stack Overflow用户

发布于 2012-05-11 20:21:53

这可能会有帮助。原版google Paper。

http://infolab.stanford.edu/~backrub/google.html

票数 3
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/1638973

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档