首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >如何加快splunk导出速度?

如何加快splunk导出速度?
EN

Stack Overflow用户
提问于 2020-02-14 11:29:16
回答 1查看 456关注 0票数 0

我正在使用python 3 splunk应用程序接口导出一些大容量日志。我的代码基本上遵循splunk应用编程接口指南:

代码语言:javascript
复制
import splunklib.client as client
import splunklib.results as results
import pandas as pd

kwargs_export = {"earliest_time": "2019-08-19T12:00:00.000-00:00",
                 "latest_time": "2019-08-19T14:00:00.000-00:00",
                 "search_mode": "normal"}

exportsearch_results = service.jobs.export(mysearchquery, **kwargs_export)

reader = results.ResultsReader(exportsearch_results)    

df = pd.DataFrame(list(reader))

但这是非常慢的。

最终,我希望将搜索的输出作为csv存储到磁盘。有什么方法可以加快出口速度吗?

谢谢!

EN

回答 1

Stack Overflow用户

发布于 2020-07-10 15:06:33

在它工作时检查这一点

代码语言:javascript
复制
kwargs_export = {"earliest_time": "-1d",
                 "latest_time": "now",
                 "search_mode": "normal"}

service = client.connect(**args)

job = service.jobs.create(query, **kwargs_export)

with open(filename, 'wb') as out_f:

    try:

        job_results = job.results(output_mode="csv", count=0)

        for result in job_results:

             out_f.write(result)

    except :

        print("Session timed out. Reauthenticating")
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/60219585

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档