首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >如何通过Django应用程序调用Scrapy Spider

如何通过Django应用程序调用Scrapy Spider
EN

Stack Overflow用户
提问于 2013-02-14 02:00:33
回答 2查看 4.3K关注 0票数 6

在我的django视图中,我在调用抓取蜘蛛时遇到了麻烦。我该怎么做呢?我尝试按照本教程http://tryolabs.com/Blog/2011/09/27/calling-scrapy-python-script/进行操作,但在导入设置中不起作用。

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2014-02-27 04:45:32

如果错误来自于

代码语言:javascript
复制
from scrapy.conf import settings

这很可能是因为scrapy根本找不到它想要的设置文件。因为在Django中习惯于使用settings来进行django自己的配置,所以最好不要使用这个术语。

您可以在Django设置中指定scrapy设置:

代码语言:javascript
复制
"""settings.py"""
# stuff

SCRAPY_SETTINGS = {
    ... # put your usual scrapy keys and values here
}

# more stuff

然后,您可以使用以下命令代替导入scrapy.conf.settings

代码语言:javascript
复制
from django.conf import settings

在脚本中引用scrapy设置的位置,应该将参数CrawlerProcess更改为settings.SCRAPY_SETTINGS

代码语言:javascript
复制
self.crawler = CrawlerProcess(settings.SCRAPY_SETTINGS)

如果您有任何进一步的问题,请发布您得到的完整错误和您的视图的代码。

票数 2
EN

Stack Overflow用户

发布于 2015-05-12 10:06:20

或者,您也可以像这样创建设置对象:

代码语言:javascript
复制
from scrapy.settings import Settings
settings = Settings()
settings.setmodule('path.to.scrapy.settings', priority='project')
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/14859963

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档