Google Cloud Platform -在线预测的高延迟
Google Cloud Platform（GCP）是由Google提供的一套云计算服务，旨在帮助用户构建、部署和扩展应用程序。GCP提供了广泛的云服务，包括计算、存储、数据库、人工智能、机器学习、物联网等领域。
在线预测是GCP中的一个功能，它允许用户将训练好的机器学习模型部署到云端，并通过API进行实时的预测。在线预测的高延迟指的是在进行预测时可能出现的较长的响应时间。
在线预测的高延迟可能由多个因素引起，包括网络延迟、模型大小、数据传输等。为了降低延迟，可以采取以下措施：
- 优化模型：通过模型压缩、量化等技术减小模型大小，从而减少传输时间和计算量。
- 使用边缘计算：将模型部署到边缘设备或边缘节点，减少数据传输的距离和时间。
- 使用高性能计算实例：选择适合预测工作负载的高性能计算实例，提供更快的计算能力和响应时间。
- 数据缓存：将经常使用的数据缓存到本地或内存中，减少对远程数据的访问时间。
- 异步处理：将预测请求进行排队和异步处理，提高系统的并发性和吞吐量。
对于GCP中的在线预测，推荐使用Google Cloud Machine Learning Engine（ML Engine）来部署和管理机器学习模型。ML Engine提供了高度可扩展的基础架构，支持快速部署和实时预测，并提供了自动化的模型版本管理和监控功能。
更多关于Google Cloud Platform的信息和产品介绍，请访问以下链接：
相关·内容
1回答
Google Cloud Platform -在线预测的高延迟
machine-learning、google-cloud-platform、prediction、latency、google-cloud-ml
我在Google Cloud Platform (机器学习引擎)中部署了一个基于随机森林的模型，以获得在线预测。当我通过Google API客户端库使用API调用API时，通常需要大约15秒才能获得响应(只有一个实例)。当我尝试大约15个实例时，获得响应的时间增加到2分钟以上。然而，这并没有解决我的问题。
我试图在Google文档中找到解决方案，但这并不是很清楚。例如，我已经激活了控制台日志( --enable- c
浏览 16提问于2020-03-03得票数 0
1回答
部署Tensorflow对象检测模型和服务预测
python-3.x、tensorflow、machine-learning、google-cloud-platform、google-cloud-ml
我在Google cloud platform的ML引擎上部署了一个Tensorflow对象检测模型。我遇到过posts建议Tensorflow服务+ Docker来获得更好的性能。我是Tensorflow的新手，我想知道什么是服务于预测的最好方法。目前，ml引擎在线预测的延迟>50秒。我的用例是用户使用移动应用程序上传图片，并根据预测结果
浏览 8提问于2019-02-10得票数 2
1回答
是否可以在Google Cloud AI Platform在线预测请求中指定服务默认值以外的签名？
python、google-cloud-ml
gcloud ai-platform predict支持使用--signature-name参数在SavedModel：https://cloud.google.com/sdk/gcloud/reference/ai-platform/predict中指定签名 用于在线预测的python SDK和REST API没有：https://cloud.googl
浏览 15提问于2019-08-28得票数 2
回答已采纳
1回答
如何在visual studio中访问google云平台中的mysql数据库
mysql、visual-studio、google-cloud-platform
这是我第一次创建android应用程序，我决定使用mysql数据库来存储我的数据。然后我将它与谷歌云平台连接起来。如何在visual studio中将数据发送到数据库并检索数据？
浏览 0提问于2018-10-28得票数 0
1回答
无云存储Bucket的GCP模型部署
python、google-cloud-ml
我在本地机器上开发了一个基于Tensorflow的机器学习模型。我想把它部署在Google Cloud Platform (Cloud ML Engine)中进行预测。该模型从Google Bigquery读取输入数据，输出预测只能用Google Bigquery编写。在运行模型预测之前，必须运行一些数据准备脚本。我已经将Google Cloud Storage用于模型存储，并将其
浏览 24提问于2019-02-28得票数 2
2回答
是否有一些云解决方案可以在Python中训练模型，然后将结果导入GBQ？
python、google-cloud-platform、google-bigquery、auto
我用pd.read_gbq()在Jupiter Notebook中加载了GBQ中的数据。然后我对它们进行预处理并建立ML模型(我知道BigQueryML，但这对我的任务来说还不够)。我需要每天训练模型和预测。云服务有没有商机？也许可以用可乐？
浏览 22提问于2019-10-08得票数 0
回答已采纳
1回答
在Google Cloud Dataproc上运行xgboost
hadoop、google-cloud-platform、distributed-computing、xgboost、google-cloud-dataproc
我是一个在虚拟机上进行分布式学习的新手。现在我有了一个很大的数据集，并想在Google Cloud Dataproc上运行xgboost。我查看了xgboost中关于在AWS上运行的教程，但我认为这与Google Cloud不同。真心的！
浏览 2提问于2018-04-07得票数 0
1回答
StreamingPull请求具有很高的延迟
google-cloud-pubsub
当我们启动Google PubSub客户端时，我们遇到了非常高的延迟。消息在客户端初始化后的几分钟内不会到达。当查看Google Cloud控制台时，我们确实可以看到google.pubsub.v1.Subscriber.StreamingPull调用具有非常高的延迟(大约8分钟)：这是预期的行为吗如果不是，导致此问题的原因是什么？
诚挚的</
浏览 0提问于2018-10-15得票数 4
1回答
在线预测的高延时问题
google-cloud-ml、google-cloud-ml-engine
我已经在谷歌机器学习引擎上部署了一个线性分类模型，并希望使用在线预测来预测新数据。
当我使用Google API客户端库调用API时，大约需要0.5秒才能获得一个只有一个实例的请求的响应。我预计延迟应该小于10微秒(因为模型非常简单)，而0.5s太长了。我还尝试使用predict_proba方法离线预测新数据。超过10万个实例仅需8.2秒，比使用Google ML引擎快得多。有没有办法减少在线预测<
浏览 0提问于2017-06-20得票数 0
1回答
Google中用于预测的预处理数据(云功能不支持Tensorflow)
python、tensorflow、machine-learning、google-cloud-platform、google-cloud-functions
我使用Google Cloud Functions向Cloud ML Engine发送用于预测的数据。
首先，我需要对数据进行预处理，然后再发送到Cloud ML Engine。对于预处理，我使用两个令牌器(来自nltk的mwetokenizer和来自tensorflow的tf.keras.preprocessing.text.Tokenizer )。当我将令牌程序加载到Google Cloud Functions中
浏览 4提问于2018-09-27得票数 1
回答已采纳
1回答
使用配置文件为气流创建bigquery连接
google-bigquery、airflow
gcp-conn: conn_extra: '{ "extra__google_cloud_platform__key_path":"/usr/local/airflow/key.json", "extra__google_cloud_platform__
浏览 5提问于2019-09-19得票数 1
回答已采纳
2回答
从Google Cloud ML beta迁移到Google Cloud Machine Learning Engine
google-cloud-platform、google-cloud-ml、google-cloud-ml-engine
谷歌今天宣布了一个新的机器学习环境的测试版。有人能告诉我谷歌CloudML的最新进展吗？文档似乎在一夜之间发生了变化。我猜这些命令现在在解析今天发布的笔记时遇到问题：
我还应该注意什么呢？
浏览 2提问于2017-03-09得票数 2
回答已采纳
1回答
Google Cloud平台上目标检测的批量预测失败
tensorflow、object-detection、google-cloud-ml
我导出了一个带有用于服务预测的自定义类的faster_rcnn_resnet101模型，并将其部署在云ML平台上，以便我可以使用云ML预测引擎。在线预测有效，但当我尝试批量预测时，结果失败。我尝试用here提到的两种方式格式化我的数据。此外，我还尝试了here中提到的请求格式。 我还尝试了google cloud blog中提到的步骤。 本地预测
浏览 9提问于2019-01-24得票数 0
2回答
MessageReceiver类缺失
google-cloud-platform、google-cloud-pubsub
我找不到ProjectSubscriptionName/MessageReceiver和/MessageReceiver类，无法解决错误，通过在pom.xml文件中定义导入的相关google pubsubpom.xml: <groupId>com.google.cloud.dataflow</groupId>
<artifactId>google-cloud-dataf
浏览 3提问于2018-05-24得票数 0
回答已采纳
3回答
通过命令行向气流添加GCP凭据
python、command-line、google-cloud-platform、airflow
目前尚不清楚如何通过命令行将与google云平台(服务帐户)的连接添加到ariflow中。
浏览 2提问于2018-04-26得票数 3
回答已采纳
1回答
我如何在云机器学习引擎上使用javascript对我的模型进行在线预测？
javascript、google-cloud-ml-engine
我已经成功地在云ML引擎上部署了模型，并通过遵循验证了它是否与gcloud ml-engine models predict一起工作，现在我想从我的web应用程序/ javascript代码向它发送预测
浏览 3提问于2017-07-21得票数 1
0回答
GCP控制台显示的计费费用多久更新一次？是实时的吗？
google-cloud-platform
Google cloud platform多久更新(刷新)一次GCP控制台显示的计费费用？有固定的延迟还是实时的？
浏览 5提问于2017-06-15得票数 5
2回答
Cloud ML中训练和预测的版本不一致
google-cloud-platform、google-cloud-ml
(我从导出的模型文件中确认了它。我需要使用0.12.0来导入在Cloud ML上生成的模型。)但我怀疑Cloud ML的预测功能仍然运行在以前的版本上，因为当我使用我最近在Cloud ML上生成的导出模型时，它会返回503(在线预测服务不可用)。
谷歌的人能证实这是真的吗？
浏览 2提问于2016-12-25得票数 1
1回答
如何在气流中使用Google操作符设置范围
google-sheets、google-cloud-platform、airflow
我的连接配置如下所示：我试着按照添加哪个URL编码如下：
AIRFLOW_CONN_GOOGLE_
浏览 6提问于2022-05-18得票数 1
回答已采纳
1回答
如果我使用在线IDE，我需要SFTP吗？
python、google-cloud-platform、ftp、ide、cloud
在过去的几年里，我只使用Filezilla将简单的登录页面模板上传到我的托管公司。我现在已经在Google Cloud平台上创建了一个新的Django项目，它附带了预先安装的LAMP (P代表python)包，到目前为止，任何地方都没有提到Cpanel或FTP凭据，只有SSH，这让我非常困惑但是，我很快发现我需要一个集成开发环境来开始构建web application.There有很多选择，包括本地IDE (Vcode，Pycharm，Eclipse)和云IDE (Re
浏览 35提问于2020-03-04得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
活动推荐
腾讯云开发者
