前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >开源公告| 腾讯分布式数据科学组件

开源公告| 腾讯分布式数据科学组件

作者头像
腾讯开源
发布2023-09-17 08:25:45
3880
发布2023-09-17 08:25:45
举报

Fast-Causal-Inference是腾讯微信实验科学团队研发,采用SQL交互的,基于分布式向量化的统计分析、因果推断计算库。解决已有统计模型库(R/Python)在大数据下的性能瓶颈, 提供百亿级数据秒级执行的Causal inference能力。同时通过SQL语言降低统计模型使用门槛,易用于生产环境中。

项目主要优势

1、提供海量数据秒级执行的Causal inference能力

基于向量化OLAP执行引擎ClickHouse/StarRocks,速度上更益于极致化用户体验

2、极简的SQL使用方式

SQLGateway WebServer通过SQL语言降低统计模型使用门槛,并在上层提供极简的SQL使用方式,透明做引擎相关的SQL展开和优化

3、提供基础算子、高阶算子的因果推断能力, 及上层的应用封装

支持 ttest, OLS, Lasso, Tree-based model, matching, bootstrap, DML等

首个版本已经支持如下feature

基础因果推断工具

1、基于deltamethod的ttest,支持CUPED

2、OLS,亿行数据,亚秒级

进阶因果推断工具

1、以OLS为基础的 IV,WLS,以及其他GLS,DID,合成控制,CUPED,mediation正在孵化

2、uplift:千万数据分钟级别运算

3、bootstrap/permutation等数据模拟框架,解决没有显示解的方差估计问题

项目应用

已经支持了微信视频号、微信搜一搜等微信内部多个业务

项目开源地址

github:https://github.com/Tencent/fast-causal-inference

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2023-09-15 11:00,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 腾讯开源 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档