做过1000遍RNA-seq的老司机告诉你如何翻车

熟悉我的人都知道RNA-seq是我的拿手好戏(如果你不熟悉我,今天过后请记住)。

但是我今天处理了一个公共数据,比对率低的惊人。

究竟为什么会发生这种小概率事情呢?

  • 是测序数据质量不好?
  • 难道grcm38与mm10有差别?
  • 比对工具的默认参数不行?

这篇文章告诉你,老司机如我,也有翻车的时候。

数据比较新,所以理所当然的认为测序数据肯定是OK的。

数据下载地址

https://www.ncbi.nlm.nih.gov/geo/query/acc.cgi?acc=GSE81916

下载sra数据,转换为fastq的过程我就不讲解了!(请翻看我以前的文章)

(17)一个ChIP-seq实战-生信菜鸟团博客2周年精选文章集

(18)一个mRNA-seq实战-生信菜鸟团博客2周年精选文章集

(19)一个affymetrix表达芯片实战-生信菜鸟团博客2周年精选文章集

(20)一个WES实战-生信菜鸟团博客2周年精选文章集

总之,这次处理了GEO里面的4个公共数据,数据量如下:

Written 30468155 spots for SRR3589959.sraWritten 52972617 spots for SRR3589960.sraWritten 36763726 spots for SRR3589961.sraWritten 43802631 spots for SRR3589962.sra

我用的是hisat2工具来比对,一般情况下就用默认参数。

reference=/home/jianmingzeng/reference/index/hisat/grcm38/genome~/biosoft/HISAT/current/hisat2 -p 5 -x $reference -U SRR3589959.fastq -S control1.sam 2>control1.log~/biosoft/HISAT/current/hisat2 -p 5 -x $reference -U SRR3589960.fastq -S control2.sam 2>control2.log~/biosoft/HISAT/current/hisat2 -p 5 -x $reference -U SRR3589961.fastq -S Akap951.sam 2>Akap951.log~/biosoft/HISAT/current/hisat2 -p 5 -x $reference -U SRR3589962.fastq -S Akap952.sam 2>Akap952.logls sam |while read id;do (nohup samtools sort -n -@ 5 -o ${id%%.}.Nsort.bam $id &);done

但是让我意外的是比对率出奇的低!请看我结果。。。

0.48% overall alignment rate0.62% overall alignment rate0.48% overall alignment rate0.49% overall alignment rate

起初我怀疑是参考基因组用错了,但是我查看了GEO里面的介绍,的确是mouse的ESC,所以我用grcm38没有问题!然后我怀疑是测序数据质量的问题,但是质量再差也不会导致如此低的比对率啊!所以我还是用fastqc检查了一下:

果然,质量值好到爆!

而且我抽取了几条序列去blat一下,发现也可以比对,而且明显是跨越intron的比对,超级经典的RNA-seq数据呀,这完全没问题啊。( 其实我这个blat结果也没有看仔细,正常的reads不应该被截成比对到基因组的正负链的,这其实预示着我把PE序列拼接了。)

那么就是我hisat2这个步骤的问题,我首先怀疑是不是我下载hisat的index搞错了,虽然看起来我命名是grcm38,但是有可能是我下载错误!我打开了sam文件看了看开头:

貌似的确是mouse基因组的染色体长度呀!很诡异,而且我清楚的记得,我下载的就是mouse的基因的索引。这里也没有问题。

https://ccb.jhu.edu/software/hisat2/index.shtml

难道grcm38与mm10有差别? 我就先用bowtie2测试一下mm10吧,毕竟我还没有hisat2的mm10的index。

head -1000 SRR3589959.fastq >tmp.fq~/biosoft/bowtie/bowtie2-2.2.9/bowtie2 -p 6 -x ~/reference/index/bowtie/mm10 -U tmp.fq -S tmp.sam

结果我挑出来的这1000条序列,全军覆没了,0.00% overall alignment rate,我傻眼了! 没办法呀,逼着我换hg19参考基因组看看:

~/biosoft/bowtie/bowtie2-2.2.9/bowtie2 -p 6 -x ~/reference/index/bowtie/hg19 -U tmp.fq -S tmp.hg19.sam

仍然是全军覆没了,0.00% overall alignment rate,心好累,继续傻眼!

回过头看了看fastqc的报告,发现前面10个碱基的确有问题的!如果只是对RNA-seq进行定量,可能需要trim掉,但是我以前从来不trim,照样不影响比对。(如果你认真研究过测序流程,你应该知道前面这十个左右的碱基其实是bias)

不过,暂时看到这个问题,我就试着解决一下吧,先从这个思路来,而且比对工具里面本来就有这个选项,没必要自己来trim的!

具体参数网站:https://ccb.jhu.edu/software/hisat2/manual.shtml

-5/--trim5 <int> trim <int> bases from 5'/left end of reads (0)-3/--trim3 <int> trim <int> bases from 3'/right end of reads (0)

所以我加上了-p 6 -5 10 -3 10 --local 参数,比对人,可以拿到 35.60% overall alignment rate,比对mouse,可以拿到 98.80% overall alignment rate ,我勒个去,问题出来了,看起来好像是应该trim掉呀。以前的万能默认参数不行了?

但是有个问题,虽然我用local模式都比对上了,但是首先100bp的reads我切成了80,而且都是40M,40S,说明只有reads的一半成功比对到了参考基因组序列!

我然后用同样的参数,测试了hisat2工具,但是hisat2里面压根就没有local的选项,仅仅是trim一下,对比对的改善毫无意义,所以重点在于--local这个参数,但它只是表象,本质还是这个测序数据出问题了!

数据为什么会出问题呢?

终于,我想起了最开始的fastqc,决定再回过头看看测序数据的fastqc报告,请看下图,这么重要的图我居然忽略掉了,忽略掉了,略掉了,掉了,了。。。

再联想到前面的40M,40S我瞬间明白了,这肯定是一个双端测序被我搞成了单端测序数据!

而且我再去GEO介绍上面看,上面赫然写着PAIRED! 我死也想不明白,我明明是加了--split-3 参数呀,为什么sra转换成fastq会出这么明显的错误呢?

然后我检查我的脚本,我自己从我的博客里面复制了我的代码。

唯一值得你看的就是上面这个图

是--不—是全角半角害死人,而且这个参数不识别它居然不停止,而是忽略我的参数! 是--不—是全角半角害死人,而且这个参数不识别它居然不停止,而是忽略我的参数! 是--不—是全角半角害死人,而且这个参数不识别它居然不停止,而是忽略我的参数!

更要命的是我把wget跟fastq-dump一起运行,而wget会给出一大堆的log日志把fastq-dump的报错日志给掩盖了。

此处请脑补我内心的呐喊!

因为前面一直处理的是单端的数据,所以这个错误没有被发现。

我痛恨我自己直接拷贝了博客的脚本!我痛恨 --这样的参数设置!

下面是我修改后的代码!

cut -f 3 config.txt |while read id ; do wget $id 2>/dev/null ;donels *sra |while read id; do ~/biosoft/sratoolkit/sratoolkit.2.6.3-centos_linux64/bin/fastq-dump --gzip --split-3 $id;done

这就是老司机翻车以及我debug的心路历程,希望你们引以为戒!

  1. 因为太熟练了,所以我已经很久没有关心过完整的fastqc报告。
  2. 因为太熟练了,所以我把wget跟fastq-dump一起运行,很久没关心过log文件。
  3. 因为太熟练了,所以我对用了一千遍fastq-dump的命令产生了一万个放心。
  4. 因为太熟练了,所以我先想了各种复杂的情况而没有一开始就从最简单的问题入手。

所以,一切看起来都是因为我是一个老司机!

对了,顺便说一句,我已经把下好的sra数据删除了!(你想笑就笑吧)

如果你认为自己还是一个菜鸟就请记住老司机的这句话:

行走江湖,靠的是一个

文:Jimmy

编辑校对:一只思考问题的熊

原文发布于微信公众号 - 生信技能树(biotrainee)

原文发表时间:2017-01-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏编程微刊

web开发快速提高工作效率的一些资源

前端学习资源实在是又多又广,在这样的一个知识的海洋里,我们像一块海绵一样吸收,想要快速提高效率,平时的总结不可缺少,以下总结了一些,排版自我感觉良好,推送出来,...

44716
来自专栏程序人生

程序员效率指南

最近很多朋友都是春节前后看了知乎日报的「年度热门·能花钱的,就不要花时间」关注「程序人生」的,所以寂静了很长一段时间的后台消息,随着新读者的加入,又活跃了起来。...

3426
来自专栏深度学习之tensorflow实战篇

用R进行文本分析初探——包含导入词库和和导入李白语句

用R进行文本分析初探——以《红楼梦》为例 一.写在前面的话~   刚吃饭的时候同学问我,你为什么要用R做文本分析,你不是应该用R建模么,在我和她解释了一会儿...

3244
来自专栏钱塘大数据

钱塘干货 | 数据收集和处理工具一览

进入大数据时代,调查报道愈加成为信息战。从哪里收集有效数据?如何抽取、筛选、整合、分类大量琐碎的信息?如何分享、存储数据,并实现随取随用?钱塘君整理了一张数据收...

3677
来自专栏生信技能树

broad官网出品的 必须神器 IGV 资料大全,含视频

虽然官网资料很详细了,但总有人不知道如何开始,所以我还是录制了教学视频: http://v.qq.com/x/page/u0664f1hq2s.html

1032
来自专栏AI研习社

Github 项目推荐 | 真实全景图像强化学习 AI 平台 —— Matterport3DSimulator

Matterport3DSimulator 可以使用视觉信息(RGB-D 图像)开发与真实 3D 环境交互的 AI Agent,它主要应用于深度强化学习的研究以...

39012
来自专栏PPV课数据科学社区

用R进行文本分析初探——以《红楼梦》为例

一.写在前面的话~   刚吃饭的时候同学问我,你为什么要用R做文本分析,你不是应该用R建模么,在我和她解释了一会儿后,她嘱咐我好好写这篇博文,嗯为了娟儿同学,细...

3745
来自专栏Python攻城狮

Python资料推荐 + IDE推荐+经典练手项目(开源免费)

今天给大家带来一批宝贝,大家可以在深夜里独自把玩,也可以在广场上一边遛狗一边和盆友们品鉴。

501
来自专栏无所事事者爱嘲笑

优秀的前端需要做到什么?

1423
来自专栏生信技能树

找个motif嘛,简单

2207

扫描关注云+社区