首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

使用Flask将机器学习模型部署为REST API。错误: RuntimeError:在请求上下文之外工作

在使用Flask将机器学习模型部署为REST API时,如果出现错误"RuntimeError: 在请求上下文之外工作",这通常是因为在没有请求上下文的情况下尝试访问Flask的请求或会话对象。

Flask是一个基于Python的轻量级Web框架,它使用上下文管理器来处理请求和响应。在处理请求时,Flask会自动创建一个请求上下文,其中包含请求对象和会话对象。这些对象在请求处理期间可用,并且可以通过全局变量requestsession访问。

然而,当在请求上下文之外的地方尝试访问这些对象时,就会引发"RuntimeError: 在请求上下文之外工作"错误。这可能发生在以下情况下:

  1. 在应用程序的全局范围内访问请求或会话对象。
  2. 在多线程环境中访问请求或会话对象。
  3. 在应用程序初始化期间访问请求或会话对象。

为了解决这个错误,可以采取以下措施:

  1. 确保在请求处理函数或视图函数中使用请求上下文。这意味着将代码放在@app.route装饰器下的函数中,或者使用app.app_context()上下文管理器。
  2. 如果需要在应用程序的全局范围内访问请求或会话对象,可以使用g对象。g对象是一个在请求处理期间用于存储全局变量的特殊对象。可以使用g对象来存储请求或会话对象,并在需要时访问它们。
  3. 如果在多线程环境中使用Flask,可以考虑使用线程局部存储(Thread-local Storage)来存储请求或会话对象。线程局部存储是一种机制,可以为每个线程创建独立的存储空间,以避免多个线程之间的冲突。

总结起来,"RuntimeError: 在请求上下文之外工作"错误是由于在没有请求上下文的情况下尝试访问Flask的请求或会话对象所引起的。为了解决这个错误,需要确保在请求处理函数或视图函数中使用请求上下文,并可以考虑使用g对象或线程局部存储来存储请求或会话对象。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

机器学习模型部署REST API

机器学习模型部署REST API 作为Python开发人员和数据科学家,我希望构建Web应用程序来展示我的工作。尽管我喜欢设计和编写前端代码,但很快就会成为网络应用程序开发和机器学习的佼佼者。...这里有一个明确的分工,这对于定义职责很有帮助,并且阻止我直接阻止那些不参与项目机器学习方面的队友。另一个优点是我的模型可以由不同平台上工作的多个开发人员使用。...本文中,我构建一个简单的Scikit-Learn模型,并使用Flask RESTful将其部署REST API 。本文特别适用于没有广泛计算机科学背景的数据科学家。...通过Web上部署,各地的用户都可以向您的URL发出请求以获取预测。部署指南包含在Flask文档中。 这只是情绪分类器构建Flask REST API的一个非常简单的示例。...一旦您训练并保存了相同的过程,就可以应用于其他机器学习或深度学习模型。 除了模型部署REST API之外,我还使用REST API来管理数据库查询,以便通过从Web上抓取来收集数据。

3.2K20

教程 | 如何使用Keras、Redis、Flask和Apache把深度学习模型部署到生产环境?

同时本文还对深度学习 REST API 进行了压力测试,这种方法可以轻松扩展到添加的服务器。 ? 深度学习模型用迁移到生产是一项不平凡的任务。...)(发布官方 Keras.io 博客上)是一个简单的 Keras +深度学习 REST API,用于没有并发请求的单线程。...使用错误日志来帮助你服务器上创建并运行 Flask。 启动你的深度学习模型服务器 你的 Apache 服务器应该已经在运行了。...图 4:使用 cURL 来测试我们的 Keras REST API 服务器。图像我家小猎犬 Jemma。她通过我们的 ResNet 模型以 94.6% 的置信度被分类比格猎犬。...总结 本文中,我们学习了如何使用 Keras、Redis、Flask 和 Apache 深度学习模型部署到生产。 我们这里使用的大多数工具是可以互换的。

3.8K110

Flask 学习-64.current_app的使用与应用上下文(AppContext)

前言 很多框架里面都提到一个词:上下文(Context),比如django里面的request 就是一个请求上下文对象。 flask 里面 current_app 用于获取应用app对象。...这些值的集合就叫上下文Flask中有两种上下文请求上下文和应用上下文请求上下文(request context) request和session都属于请求上下文对象。...意思是说我们应用上下文之外运行的, current_app 对象并不支持应用之外执行。...AppContext(应用上下文) flask内部维护者两个线程隔离的栈,current_app指向了AppContext(应用上下文)中的栈顶,request指向了RequestContext(请求上下文...app, 从而current_app就有了指向,所以我们项目请求使用是没有报错的,而我们上面的代码不是在请求中实现的所以AppContext栈顶空 current_app并没有指向一个AppContext

2K30

Python Web Flask源码解读(四)——全局变量

如果要直接使用current_app就要手动推送(push)应用上下文实例,从上面的错误信息可以知道,可以使用with语句,帮助我们push一个上下文实例 def create_app(): app...Flask中是否也是通过线程本地变量来实现的呢?这个问题我们在后面的工作原理一节会给出答案。 0x01 g 若要在应用上下文中存储数据,Flask提供了g这个变量我们达到这个目的。...没有把这个变量放在处理api请求的函数中,而是通过线程本地变量进行封装,极大地方便使用,以及也使得代码更加简洁。...request的生命周期是跟current_app是一样的,从请求开始时创建到请求结束销毁。同样地Flask处理请求时就会push 一个request和应用上下文的代理实例,然后才可以使用。...通常这个错误测试代码中会经常遇到,如果需要在单元测试中使用request,可以使用test_client或者with语句中使用test_requet_context()进行模拟 def generate_report

2.9K20

【深度学习】基于web端和C++的两种深度学习模型部署方式

而基于C++的深度学习模型部署,主要是通过深度学习框架的C++前端版本,模型集成到软件服务中。 本文分别对上述两种模型部署方式进行流程梳理,并分别举例进行说明。 1....基于web端的模型部署 1.1 web服务与技术框架 下面以ResNet50预训练模型例,旨在展示一个轻量级的深度学习模型部署,写一个较为简单的图像分类的REST API。...部署深度学习模型时,大多时候我们不需要搞一个前端页面出来,一般是以REST API的形式提供给开发调用。那么什么是API呢?...(data) Flask使用Python装饰器在内部自动请求的URL和目标函数关联了起来,这样方便我们快速搭建一个Web服务。...除了web端撰写REST API进行部署之外(参考),软件端的部署也有广泛需求。尤其是最近发布的1.5版本,提供了更为稳定的C++前端API

2.9K21

手把手 | 关于商业部署机器学习,这有一篇详尽指南

Flask-RESTful提供了Flask的一个扩展,以支持快速构建REST API。 Keras:这是一个用Python编写的开源神经网络库。...云是人工智能研究激增的主要催化剂之一,无论是计算机视觉,自然语言处理,机器学习机器翻译,机器人,还是医学成像方面,云以合理的成本更广泛的受众提供了计算资源。...构建API:如果模型足够好以至于可以开始构建API的话,你可以使用Flask 或是Django来根据需求构建它们。...最后就可以尝试使用模型运行API了(这需要一定的时间,因为这个是根据gunicorn定义的工作组数以及要加载所有模型来决定的)。...、部署和运营机器学习解决方案。

68600

Django,Flask ,FastAPI 怎么选?

Flask 简单易用,非常适合初学者使用开发人员提供了更好地学习和理解它的空间。它还使开发人员可以毫不费力地快速创建应用程序。 缺点 Flask 的很多模块由第三方开发,容易引起安全漏洞。...如果开发人员水平不高,更容易使用低质量的代码创建一个不良的 Web 应用程序。 用例 我们可以 Flask 用于商业项目。它可以帮助你快速入门,但是网站高负荷情况下效果不佳。...这意味着更少的 Bug,即使深度嵌套的 JSON 请求中,Fast API 也会验证开发人员的数据类型。 集众所长,站在巨人的肩膀上。...它还可以部署准备就绪的机器学习模型时完美缩放,因为当 ML 模型封装在 REST API部署微服务中时,它在生产中会发挥最佳作用。...对于需要快速原型化 Web 应用程序并轻松快速地构建 API机器学习工程师或开发人员而言,Flask 是理想的选择。 如果你正在寻找速度或可伸缩性,FastAPI 是完美的选择。

5K30

使用Tensorflow和公共数据集构建预测和应用问题标签的GitHub应用程序

尽管有这些公共数据集,但使用机器学习的GitHub应用程序并不多! 端到端示例:使用机器学习自动标记GitHub问题 ?...签署JWT后使用它作为应用程序安装进行身份验证。作为应用程序安装进行身份验证后,收到一个安装访问令牌,使用该令牌与REST API进行交互。...模型有两个输入:问题标题和正文,并将每个问题分类错误,功能请求或问题。下面是使用tensorflow.Keras定义的模型架构: ? 关于这个模型的一些注意事项: 不必使用深度学习来解决此问题。...步骤5:使用Flask响应有效负载。 现在有了一个可以进行预测的模型,以及一种以编程方式问题添加注释和标签的方法(步骤2),剩下的就是各个部分粘合在一起。...如果需要,可以使用GitHub API步骤2中学习)响应有效负载。 收到的适当数据和反馈记录到数据库中,以便进行模型再训练。

3.2K10

详解Flask上下文

上下文Flask开发中的一个核心概念,本文通过阅读源码分享下其原理和实现。...Flask系列文章: Flask开发初探 WSGI到底是什么 Flask源码分析一:服务启动 Flask路由内部实现原理 Flask容器化部署原理与实现 Flask权限管理 首先,什么是Flask中的上下文...Flask中,对一个请求进行处理时,视图函数一般都会需要请求参数、配置等对象,当然不能对每个请求都传参一层层到视图函数(这显然很不优雅嘛),为此,设计出了上下文机制(比如像我们经常会调用的request...RequestContext()作为请求上下文对象,接着会通过push()方法请求数据推入到请求上下文堆栈(LocalStack),然后通过full_dispatch_request对象执行视图函数,...类保存数据的同时,记录对应的线程ID,获取数据时根据当前线程的id即可获取到对应数据,这样就保证了全局使用上下文对象不会在多个线程中产生混乱,保证了每个线程中上下文对象的独立和准确。

80730

使用Flask部署ML模型

通过MLModel抽象与机器学习模型交互,可以构建可以托管任何实现MLModel接口的模型的应用程序。这样简单的模型部署变得更快,因为不需要定制的应用程序来模型投入生产。...总的来说,目的是展示如何iris_model包中的模型代码部署到一个简单的Web应用程序中。还想展示MLModel抽象如何在生产软件中更容易地使用机器学习模型。...到目前为止,这是一个简单的Flask应用程序无法管理或提供机器学习模型,在下一节中将开始添加执行此操作所需的功能。...为了自动模型服务提供的RESTful API创建OpenAPI文档,使用了python apispec包。...通过使用抽象来处理机器学习模型代码,可以编写可以部署任何模型的应用程序,而不是构建只能部署一个ML模型的应用程序。

2.4K10

手把手教你用 Flask,Docker 和 Kubernetes 部署Python机器学习模型(附代码)

机器学习(ML)模型部署到生产环境中的一个常见模式是这些模型作为 RESTful API 微服务公开,这些微服务从 Docker 容器中托管,例如使用 SciKit Learn 或 Keras 包训练的...使用 Flask 和 Docker 容器化一个简单的 ML 模型评分服务器 ---- 我们首先演示如何使用 api.py 模块中包含的简单 Python ML 模型评分 REST API 和 Dockerfile...使用 Helm 图表定义和部署 ML 模型评分服务器 ---- Kubernetes 编写 YAML 文件可能是重复性的工作,且难以管理,特别是如果涉及到大量的「复制粘贴」,那么从一个部署到下一个部署只需要更改少数参数...一旦你确信它按预期工作,就可以使用了: helm delete test-ml-app 使用 Seldon ML 模型评分服务器部署到 Kubernetes ---- Seldon 的核心任务是简化...本演示中,我们重点介绍最简单的示例,即我们已经使用的简单的 ML 模型评分 API

5.5K20

flask 应用程序编程接口(API)最后一节

Fielding和其他REST纯粹主义者对评判一个API是否是REST API有严格的规定,但软件行业实际使用中引用REST是很常见的。...当一个API需要返回一个错误时,它需要是一个“机器友好”的错误类型,踩客户端可以轻松解释这些错误。因此,我同样设计错误的表示一个JSON。...为了帮助我生成这些错误响应,我将在app / api / errors.py中写入error_response()函数:除了错误的有效替代之外,我将使用HTTP协议的状态代码来指示常见错误的类型。...jsonify()函数返回一个默认状态码200的瓶Response对象,因此创建响应之后,我状态码设置对应的错误代码。 API返回的最常见错误将是代码400,代表了“错误请求”。...API蓝图中的API可能返回的许多错误可以被重写JSON版本,但是仍然有一些错误是由Flask处理的,处理这些错误的处理函数是被大量注册到应用中的,返回的是HTML。

5K10

如何机器学习模型部署到NET环境中?

这就是为什么你有时需要找到一种方法,将用Python或R编写的机器学习模型部署到基于.NET等语言的环境中。...本文中,将为大家展示如何使用Web API机器学习模型集成到.NET编写的应用程序中。 输入:Flask 我们可以使用Flask作为共享和主持机器学习预测的一种方式。...pclass = 1&sex = 1&age = 18&fare = 500&sibsp = 0,则Flask可以为你检索该数据。 保存文件并启动你的应用程序。现在就有一个简单的API模型了!...部署到NET环境 NET环境中部署Flask有很多选择,它们大大依赖于你的基础架构的选择。为了了解这个过程,我们来看看使用Microsoft Azure部署到IIS环境。...该配置静态文件的请求发送到默认Web服务器,而不是使用Python应用程序。 ·保存文件,然后右键单击解决方案资源管理器中的项目(确保你还没有本地运行),然后选择发布。

1.8K90

教程 | 如何使用 Kubernetes 轻松部署深度学习模型

选自 Medium 作者:Gus Cavanaugh 机器之心编译 参与:Geek AI、路 本文介绍了如何使用 Python、Keras、Flask 和 Docker Kubernetes 上部署深度学习模型...本文展示了如何用 Keras 构建深度学习模型的简单示例,将其作为一个用 Flask 实现的 REST API,并使用 Docker 和 Kubernetes 进行部署。...部署 Kubernetes 之前,我展示如何编辑防火墙设置以虚拟机上测试我们的 API。因此,仅仅查看这些对话框是不够的,我们还有更多的工作要做。...创建我们的深度学习模型 我们复制一段 Adrian Rosebrock 写的脚本。Adrian 写了一篇很棒的教程,关于如何利用 Keras 构建深度学习模型使用 Flask 部署它。...,我们使用 Keras 和 Flask 实现了一个深度学习模型,并将其部署 REST API

1.7K10

众多Python Web框架比较,哪个适合你,你就用哪个!

Zope通过从Web获取请求请求的参数与内部对象数据库(ZODB)匹配,并使用请求的GET或POST参数执行该对象来工作。无论从对象返回什么,都会返回给客户端。...除此之外,还可以找到每个API的完整文档,如何在各种基础架构上进行部署的示例,内置模板语言的解释以及一系列常见配方。 与Flask一样,可以手动或通过编写补充瓶的插件扩展Bottle的功能。...使用Flask进行轻量级Web项目或基本REST API几乎不可能出错,但如果试图构建更大的东西,面临繁重的工作Flask的核心吸引力在于其进入门槛低。...因此,它非常适合于现有Python代码公开REST API,或者开发人员完成大部分繁重任务的Web项目提供核心的任务。...使用它们是以学习它们的特性代价的。

4.5K20

害怕部署机器学习模型?这里有一篇手把手教程

照片由 Franck V 发布 Unsplash 上 阅读本文后,你将能够部署机器学习模型,并用你想要的编程语言进行预测。...该模型将在你的本地主机上运行,因此,你无法从不同的网络访问它(但请随意使用 google 查询如何模型部署到 AWS 或类似的东西上)。...你先要加载虹膜数据集,并使用一个简单的决策树分类器来训练模型。训练完成后,我将使用 joblib 库保存模型,并将精度分数报告给用户。 这里并不复杂,因为机器学习不是本文的重点,这里只是模型部署。...Flask RESTful 使用此编码约定,因此你的类需要从 Flask RESTful 资源模块继承。类中,可以声明 get()、post()或任何其他处理数据的方法。...我强烈建议你自己的数据集和业务问题上利用这些新获得的知识。如果你用 Python 以外的语言编写应用程序,并且使用 Python 只是为了数据和机器学习相关的东西,那么它就很有用了。

1.3K30

云中部署机器学习模型

对于数据科学,有很多关于如何构建机器和深度学习模型的信息。实际应用方面似乎仍在发展。我目前正在努力更好地理解如何在云中部署模型以及如何在应用程序中有效地使用它们。以下是我迄今为止的一些发现。...构建基于flask的web应用程序时,模型甚至可以打包并在同一个容器中运行。 虽然这适用于原型和快速评估,但是模型部署到生产环境时,还需要考虑其他几个方面。...在这两种情况下,模型都需要在模型大小、内存使用、电池使用等方面进行优化,以实现这一点,一种方法是退出者从图中删除。训练中使用退学来防止模型过拟合。在运行预测时,不需要它们。...与移动设备的优化类似,优化是模型部署到云之前完成的。 服务标准要求 对于其他服务,需要处理身份验证和授权。为了使模型能够被多个应用程序和开发人员访问,我们需要API管理。...例如,Kubernetes之上的Istio支持流量管理,以进行canary的推出。 Seldon是一个用于Kubernetes上部署机器学习模型的开源平台。

1K20

Flask测试和部署

一 蓝图Blueprint 为什么学习蓝图? 我们学习Flask框架,是从写单个文件,执行hello world开始的。我们在这单个文件中可以定义路由、视图函数、定义模型等等。...简单来说,蓝图就是一个存储操作路由映射方法的容器,主要用来实现客户端请求和URL相互关联的功能。 Flask中,使用蓝图可以帮助我们实现模块化应用的功能。...python中assert断言是声明布尔值真的判定,如果表达式假会发生异常。单元测试中,一般使用assert来断言结果。 断言方法的使用: ?...如何设计符合RESTful风格的API: 1.域名: api部署专用域名下: http://api.example.com 或者api放在主域名下: http://www.example.com/...api/ 2.版本: API的版本号放在url中。

99220

Python & 机器学习项目集锦 | GitHub Top 45

对于Python的初学者,我们推荐以下这些课程: REST API使用 Python,FlaskFlask-RESTful 和 Flask-SQLAlchemy 构建专业的 REST API [12,602...这篇文章将会帮助你学习并理解区块链的工作原理。通过这篇教程,你学习到一个功能强大的区块链,并掌握它们的工作流程。...这篇文章是介绍Django基础知识的系列教程,共分为七个部分,分别从安装,准备开发环境,模型,视图,模板,URL到更高级的主题(如迁移,测试和部署)出发,详细探讨所有的基本概念。...Django构建REST API的测试驱动方法:第一部分 这篇文章介绍如何利用Django来构建一个REST API的测试驱动,并详细介绍了每个步骤。...Web开发世界中,API通常是一个网站,其中包含一系列端点,用于响应客户端请求和结构化文本数据。

1.7K40
领券