首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

给研究思路就能推荐数据集,还能分析语料“毒性”,CMU博士后等人推出NLP数据处理神器

明敏 发自 凹非寺 量子位 | 公众号 QbitAI 说出你的研究思路,就能给你推荐合适的数据集: 当然还可自己按需检索,同时标出不同数据集的热度: 更厉害的是能直接帮你分析数据集。 语料中是否包含仇恨言论、性别歧视语料等,所占比例是多少,通通都能告诉你。 以上,是一个名叫DataLab的通用数据处理平台。 它包含1715个数据集,提供数据诊断、数据搜索、全局分析、标准化处理4方面的功能。 不仅可以帮助用户分析数据的特征,还能对不同数据集进行标准化处理。 其幕后打造者之一为卡内基梅隆大学博士后刘鹏飞

03
您找到你想要的搜索结果了吗?
是的
没有找到

基于check-point实现图数据构建任务

从关系数据库抽取图数据,需要考虑的一个场景是新增数据的处理【其中任务状态的依赖与数据依赖关系非常重要】。从一个自动化抽取图数据的工具角度来说,自动化生成脚本可以与如下实现完成对接【即设计好schema之后自动生成如下脚本】。该设计方案可以与自动化抽取图数据的工具无缝集成。 在现有的Airflow调度系统中【可以自行实现调度逻辑或者可以是其它的调度系统,本文的设计思路可以借鉴】,可以设计Task和DAG来完整增量数据的处理,完成线上数据的持续更新需求。在构建TASK时,按照图数据的特点设计了节点TASK和关系TASK,并在同一个DAG中执行调度。【DAG的设计可以是某一类业务数据的处理流程】在下面的案例中主要展示了担保关系图数据的构建设计。

02
领券