梁正教授携课题组到访北京瑞莱智慧科技有限公司

关注我们

梁正

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授

2024年10月15日，清华大学人工智能国际治理研究院副院长梁正率课题组一行到访北京瑞莱智慧科技有限公司，围绕AI安全、政务大模型等议题进行调研座谈。清华大学产业发展与环境治理研究中心副主任赵静，北京航空航天大学助理教授、清华大学人工智能国际治理研究院兼职研究人员吴培熠、中国科学技术大学公共事务学院副研究员张辉及其他课题组成员受邀参与调研。瑞莱智慧科技有限公司合伙人、高级副总裁朱萌、瑞莱智慧AI治理研究院院长张伟强接待调研团队，双方进行深入交流与座谈。

课题组首先在瑞莱AI治理研究院院长张伟强的带领下参观了瑞莱智慧展厅。张伟强院长为课题组展示了当前瑞莱智慧在人工智能安全领域最新成果如屏蔽AI识别的“隐身衣”、能够进入无认证闸机的“通行眼镜”。

会上，瑞莱智慧科技有限公司合伙人、高级副总裁朱萌，瑞莱智慧AI治理研究院院长张伟强针对瑞莱智慧在AI大模型开发、安全、应用等方面的多个项目，重点介绍了瑞莱在人工智能安全治理领域的相关产品包括产品自身功能、应用场景及上线情况，同时强调了在政务大模型中需要精准应用与保持合规性。朱萌指出了当前AI安全的重要性，特别是在应用端，大批企业对于人工智能安全的需求正不断增加，而瑞莱智慧也在不断推进AI安全领域的技术应用落地。

梁正教授表示，当前AI安全技术需求侧的窗口正不断扩大，对于未来技术发展趋势更需要保持积极态度。针对当前政务大模型安全领域，梁正教授认为从人工智能安全角度出发，需要关注推理层面的严谨性、逻辑性和可靠性，以及内容输出的价值观和伦理安全底线，而不是单纯追求规模、效率和多样性。同时，也需要注重提供安全的服务和能力，确保产品具备必要的安全功能。

在座谈交流中，双方围绕国内与国际人工智能安全标准问题、大模型出海、商业合作等方面进行了交流。未来，瑞莱智慧将同研究院持续在人工智能安全领域开展进一步交流合作，探索人工智能安全的更多路径。

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

Bilibili：清华大学AIIG