腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(1562)
视频
沙龙
1
回答
在
停靠
的
apache
airflow
python
操作符
内部
以
编程
方式
创建
SSH
隧道
、
、
、
、
我
的
程序无法在运行
apache
airflow
的
docker容器中
创建
SSH
隧道
。只有
在
我
的
本地机器上运行函数才能正常工作。我有一个服务器列表,用于
创建
隧道
、查询数据库和关闭连接。然而,
在
Docker中,它不起作用。我意识到docker运行并绑定到端口,而实际上并不是主机系统
的
一部分,所以我使用network_mode="host"来帮助缓解这
浏览 16
提问于2019-06-22
得票数 2
2
回答
使用
ssh
隧道
到远程MySQL服务器
的
Spring数据JPA
、
、
、
、
我见过Jsch
以
编程
方式
设置
ssh
隧道
的
例子,但无法找到任何关于如何将Jsch与spring数据集成
的
资源。我看到
的
一个问题是,我
的
某些spring (即org.
apache
.commons.configuration.DatabaseConfiguration)是
在
应用程序启动时
创建
的
,并且已经需要访问数据源我可以
在
应用程序之外打开
ss
浏览 7
提问于2015-11-05
得票数 1
回答已采纳
2
回答
如何在GCP编写器环境(1.10.6)中使用SFTPToGCSOperator?
、
、
我知道有一个限制,因为操作员只存在于最新版本
的
airflow
中,而不存在于composer最新版本1.10.6中。请参阅参考- 从
airflow
.contrib.hooks.sftp_hook导入SFTPHook 我已经
创建
了一个插件类,稍后将其导入到我
的
浏览 4
提问于2020-05-13
得票数 2
1
回答
发布Git-Sync与Pod中气流
的
设置
、
、
为了使气流有用,我需要能够使用Git-同步功能,以便DAG可以从Pod中分开存储,因此
在
Pod降级或重新启动时不会被重置。我正试图用
ssh
来设置它。我一直
在
寻找关于气流配置
的
良好文档,或者关于如何正确设置这个配置
的
教程,但是这是徒劳
的
。我非常感谢在这里提供一些帮助,因为我在这方面已经挣扎了一段时间。= 1git_dags_folder_mount_point = /usr/local/
air
浏览 6
提问于2020-06-03
得票数 2
3
回答
在
气流(1**.1*.0.35)中从不同
的
集群(1**.1*.0.21)运行星火提交程序。如何在气流中远程连接其他机群
、
、
、
、
我一直
在
尝试SparkSubmit程序
的
气流,但火花文件
在
一个不同
的
集群(1**.1*.0.21)和气流在(1**.1*.0.35)。我正在寻找一个详细
的
解释这个主题
的
例子。我不能复制或下载任何xml文件或其他文件到我
的
气流集群。 当我试着使用
SSH
钩子时,上面写着。尽管我对使用
SSH
运算符和BashOperator有很多疑问。Broken DAG: [/opt/
airflow
/dags
浏览 6
提问于2020-01-01
得票数 0
回答已采纳
1
回答
将Spyder连接到远程主机上
的
码头容器中
的
控制台
、
、
我正在使用远程AWS EC2实例上
的
一个
停靠
程序来运行我
的
代码。我当前
的
工作流程是编辑本地机器上
的
代码,将其推送到git,然后登录到EC2机器和其中
的
对接器容器中,
以
提取代码并运行它。我想知道是否可以
在
EC2实例中将Spyder
的
控制台附加到坞内
的
内核。所以我
的
登录顺序是: localhost~:
ssh
-XYA remote-ec2.domain.ext remote-ec2
浏览 0
提问于2018-12-21
得票数 2
回答已采纳
1
回答
Java Ganymed
ssh
隧道
...如何检查通道是否仍处于开通状态?
、
、
、
我有一个用Ganymed
的
LocalPortForwarder类
创建
的
ssh
隧道
。它运行良好。问题是如何(
在
Java中
以
编程
方式
)检查
隧道
是否仍处于打开和活动状态?作为参考,下面是
创建
隧道
的
代码片段(为了简洁起见,删除了错误检查): conn.connect();
浏览 3
提问于2010-08-23
得票数 1
6
回答
Psycopg2访问远程主机上
的
PostgreSQL数据库而不手动打开
ssh
隧道
、
、
、
、
我
在
远程服务器上访问PostgreSQL数据库
的
标准过程是首先
创建
一个
ssh
隧道
,如下所示:然后从另一个shell运行
python
中
的
查询,如下所示: conn = psycopg2.connect("host=localhost" + " dbname=" +" passw
浏览 7
提问于2014-02-26
得票数 17
回答已采纳
1
回答
安装气流时,不会在
airflow
_home文件夹中
创建
任何文件
我以前已经成功地将它安装在centos7中
的
VMware中。但是,
以
同样
的
方式
,
在
docker中手动从centos7安装存在问题。(CentOS
的
正式构建。)
AIRFLOW
_HOME目录中不会
创建
任何文件。) [jykim@0f0090962efa
airflow
_home]$ pwd /home/jykim/dev/
airflow
/
airflow
_
浏览 2
提问于2021-05-21
得票数 0
回答已采纳
4
回答
如何在气流中安装组件(对接-组合)?
、
、
唯一
的
区别是我
在
码头里运行气流 我想启动气流与requirements.txt
的
依赖关系。有没有不需要重建图像
的
解决方案?
浏览 12
提问于2021-06-08
得票数 15
回答已采纳
3
回答
如何在IDE中导入气流自定义
操作符
、插件而不出现错误
、
设置部分
AIRFLOW
_HOME=~/Desktop/
airflow
出口
python
3-m venv ~/Desktop/气流 然后我做了pip3安装
apache
-气流=1.10.9 气流强度
浏览 1
提问于2020-06-07
得票数 4
3
回答
在
Docker
的
Apache
气流中设置剧作家
的
最佳方法是什么?
、
、
、
、
我被要求学习Docker,以便我们最终能够
在
Apache
Airflow
Docker + Kubernetes集群中设置我们
的
web抓取脚本。如果我用错了这些术语,那是因为我是码头
的
初学者。到目前为止,
Apache
Airflow
确实有自己
的
映像,但是他们
的
表明,安装
python
包
的
唯一方法是通过pip install --user -r requirements.txt安装,我已经将pip问题是
浏览 23
提问于2022-05-30
得票数 6
2
回答
KubernetesPodOperator -运行从XCOM拉出
的
整个命令
、
、
我正在做
Airflow
1.10。 我
在
KubernetesPodOperator上运行命令时遇到了问题,
在
DAG运行时会对整个命令进行评估。我
在
DAG运行时生成命令,因为命令
的
一些参数取决于用户传递
的
参数。from
airflow
.operators.
python
_operator import PythonOperator from
airflow
.contrib.operators.kubernetes_pod_operator
浏览 65
提问于2021-08-06
得票数 0
回答已采纳
1
回答
在
没有密码和连接类型
的
情况下
创建
Airflow
连接
、
、
我正在尝试使用DAG
以
编程
方式
在
Airflow
中
创建
Snowflake连接。但是,
在
Airflow
中运行DAG文件后,将在没有密码和连接类型
的
情况下
创建
连接。请给我建议。
python
代码如下: default_args = { 'depends_on_past': F
浏览 13
提问于2020-01-31
得票数 0
2
回答
无法
在
Ubuntu容器中执行命令,请使用DockerOperator从气流容器执行命令
、
、
、
、
的
airflow
-we
浏览 8
提问于2021-01-09
得票数 6
1
回答
Airflow
中
的
自定义日志记录
、
我通常会在我
的
python
脚本中
创建
一个全局logger,然后在所有函数
的
日志中写入我自己
的
消息。我知道
Airflow
有自己
的
日志记录功能,但我发现它们太冗长了,无法浏览。有没有办法为所有任务
创建
我自己
的
日志函数,使日志只包含我
的
自定义日志消息?
浏览 65
提问于2021-07-21
得票数 0
回答已采纳
8
回答
气流
以
编程
方式
解除暂停?
、
、
我有一个进程,我们将部署到多个不同
的
气流实例,
在
我们
的
airflow
.cfg中,我们有dags_are_paused_at_creation = True,但是对于这个特定
的
进程,我们希望通过单击UI来打开它有办法
以
编程
的
方式
完成吗?
浏览 8
提问于2017-06-05
得票数 16
回答已采纳
1
回答
当在Docker中运行
Apache
气流时,我如何解决即使
在
修复了DAG之后,DAG也不能完好无损
的
问题?
、
、
、
因此,
在
我
的
例子中,我以前
在
我
的
机器上直接运行过气流,现在我尝试使用码头
在
容器中运行,同时保持我以前
的
测试记录。不过,我一直有一些问题。但是,当我解决这个问题时,代码不会改变,DAG仍然会中断。: pipeline-scripts
浏览 13
提问于2022-02-01
得票数 1
回答已采纳
2
回答
Azure Bastion主机可以配置为无人值守
的
ssh
登录吗?
、
可以为无人值守
的
ssh
登录设置bastion主机吗?可能
的
用例:Cron作业脚本 预定备份脚本
浏览 0
提问于2021-09-08
得票数 1
5
回答
如何使用
Python
和Paramiko
创建
SSH
通道?
、
、
、
我需要
创建
隧道
来从数据库中读取信息。我使用
的
是Paramiko,但我还没有使用过
隧道
。请提供一个
创建
和关闭通道
的
简单代码示例。
浏览 0
提问于2011-11-17
得票数 30
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券