[安全问答] 01.AI双非研0如何从事AI安全研究

“2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子，该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁情报每日推送、网络攻防技术总结、系统安全技术实战、面试求职、安全考研考博、简历修改及润色、学术交流及答疑、人脉触达、认知提升等。下面是星球的新人券，欢迎新老博友和朋友加入，一起分享更多安全知识，比较良心的星球，非常适合初学者和换安全专业的读者学习。 ”

这是作者新开的一个专栏，主要是回答读者在AI安全的学习、工作、编程和实践中的问题，并形成总结帮助更多初学者，希望对您也有所帮助！由于作者能力有限，属于班门弄斧，但其宗旨是希望对初学者有帮助，说得不好的地方还请各位老师和大佬海涵，欢迎大家多多补充和交流。

博友提问：AI双非研0，很好奇怎么把安全应用到AI上，可以推荐些入门的东西吗？对这个方向很感兴趣，以及双非搞AI有前途吗？

作者回答：你好！朋友，下面我将从我个人从事AI安全研究的角度讲解，并推荐一些入门的内容。

一、个人感觉从事AI安全是有必要的

因为现在不论是去工业界还是学术圈，安全都要和AI结合起来研究，包括网络安全（Web渗透）、系统安全（恶意代码）、数据安全（隐私保护）、威胁情报（安全知识图谱）、密码学（区块链）、对抗样本等都会和AI结合，不论是否是双非、211、985还是企业，了解一定AI安全相关的知识是有必要的，比如Fuzzing、漏洞挖掘、恶意代码分析、代码解混淆、入侵检测等。

二、如何入门AI安全

如果想学AI安全，首先是要确定好你的研究方向，尤其是读研或读博的同学，并且安全相关的内容一定要学扎实。比如说系统安全的恶意代码分析、逆向工程都要掌握好，以及如何提取样本的CFG特征或API特征；再如漏洞扫描基本方法，angr、符号执行、污点分析、BP（业务漏洞）基本工具的用法，以及掌握基本挖漏洞的逻辑，学好了安全知识，再想办法和AI结合。通常，以安全入门的师傅，建议将AI（包括机器学习、深度学习、大模型）当作工具，后续将研究如何促进我们的工作、场景或发现更多的漏洞以及解决安全问题。

再次，如果安全基础知识已经掌握，又将如何开展AI安全研究。重点要区分是去公司还是高校，两者存在差异。下面先介绍高校科研的AI安全如何入门：

（1）找准安全方向多阅读论文。在学习过程中，需要看一些方向相关的论文，重点关注顶刊顶会论文。可以先看这个领域的综述，尤其是近三年的ACM computing surveys (CSUR) 综述，如果英文较差可以看看《计算机学报》《软件学报》《计算机研究与发展》的综述，方便我们更快地了解这个领域知识及现有方法和挑战。

接着需要多看安全四大顶会（S&P、CCS、NDSS、Usenix Sec）和安全顶刊（TDSC、TIFS）的论文，尤其是近三年相关的论文，部分软工（如ICSE）和AI相关的论文也可以学习。注意，看论文一定要学会总结和做好笔记，这些都是后续科研的相关工作。同时，最好看有开源代码的论文，方便我们复现和比较，以及快速上手。

（2）如何搜索安全论文。俗话说开始研究之前，第一步是需要找到文章，因此，作为初学者我们亟需学会如何搜索安全论文，下面介绍比较实用的安全论文搜索方法。

①安全四大顶会官网

• https://www.ieee-security.org/TC/SP2023/program-papers.html
• https://www.sigsac.org/ccs/CCS2024/home.html
• https://www.ndss-symposium.org/
• https://www.usenix.org/conference/usenixsecurity24

②DBLP（CCFrank插件）：比如搜索恶意软件检测。

③谷歌学术（CCFrank插件）：比如搜索恶意软件检测。

④NISL@THU安全顶会论文查询：这是清华大学段老师团队做的安全会议论文查询网站，非常适合大家学习，并且能定位和下载原文，在此感谢。

• https://secpaper.cn/

比如搜索四大顶会的Provenance Graph（溯源图）论文。

⑤CCF会议、安全会议论文、AI会议论文投稿截止网站推荐

• https://sec-deadlines.github.io/
• AI Conference Deadlines
• https://ccfddl.github.io/
• https://ccfddl.top/

⑥arxiv.org查询最新未发表论文

⑦中国知网：考虑到部分读者可以会查询中文论文，这里简单推荐下中国知网，包括核心期刊、特定作者、团队等论文查询。

PS：其它检索方法欢迎大家补充，包括部分有用插件，当然还有ChatGPT。

（3）结合导师或在先前的工作上开展研究。在做AI安全或科学研究过程中，建议结合先前的安全知识开展工作，除非所学领域非常冷门。怎么入门呢？以恶意代码分析为例，我们通常需要学会逆向工程，如何提取恶意代码的特征、CFG、API（含动静态），后续考虑如何将这些特征转化为向量（Word2Vec、Log2Vec、Attack2Vec）供AI模型学习，并进行有效的语义提取和特征表征增强，更好地实现恶意性识别、家族分类或溯源，AI结合安全的研究大概流程就是这样（样本采集->预处理->特征提取->向量表征->模型构建->优化评估）。当然，关键的问题是威胁模型及创新点的凝练，以及故事和卖点的描述。譬如即使是LLM结合，也会考虑如何利用LLM的理解和推理优势来辅助安全工作的提升。如果实在没有好的项目或方向，那就多看多读，脚踏实地，从零开始吧！当然也推荐看作者“当人工智能遇到安全”的基础文章和“网络攻防和AI安全之家”知识星球。

（4）建议初学者一方面要学会复现别人的AI安全代码，一定要动手动手，另一方面可以通过简单的案例或数据集进行入门。代表性的包括入侵检测的NSL-KDD\KDD CUP 99数据集、Web渗透Github流量数据集、恶意家族分类的微软Kaggle数据集或BODMAS、DataCon用户画像分析数据集等。后续作者会详细整理数据集网址，并开展相关的基础代码分享。网站推荐：BODMAS Malware Dataset和奇安信的DataCon（这个比赛也强烈推荐喔^_^）。

• https://whyisyoung.github.io/BODMAS/
• https://datacon.qianxin.com/opendata

（5）学会将安全问题上升到安全现象。关于论文创新点，多关注具体的安全问题，同时好论文未来工作或者存在的难点也是一些启发，当然如果能提出一个新的安全场景会更好，一定要学会从小的安全问题上升到大的威胁场景，构建对应的解决方法，在这个过程中不断进化。

注意，写好安全故事非常重要，多读好论文并摘录好的句子，会对你有很大的帮助。如果你是进入企业，建议结合实际业务看看AI工具如何提升你的现有工作，比如入侵检测的规则，恶意代码特征，Fuzzing漏洞挖掘等。

最后，不论是双非还是其它，都要把基础知识学好，技多不压身。尽量把AI当成一个辅助工具，更好地帮助我们解决实际问题，尤其是科研论文中会看到大量的交叉结合，也多看看别人尤其是大牛或大团队、大厂怎么做，存在什么困难，再深入我们的工作。时光过得很快，希望你能珍惜时间，多实战多学习，更好地提升自己。希望我的建议对你有帮助，后续多多交流，保持联系。祝好，共勉~

最后各位老师和大佬补充！