清华大学薛澜：防范人工智能发展风险要解决信息不对称等挑战

文/夏宾、王立广

中国发展高层论坛2024年年会3月24日至25日召开，年会主题为“持续发展的中国”，在人工智能发展与治理专题研讨会上，清华大学苏世民书院院长薛澜教授表示，人工智能发展有一系列的风险需要去防范，针对人工智能治理的挑战，薛澜提出了敏捷治理等方面的建议。

清华大学苏世民书院院长薛澜表示，从治理的角度来看，防范人工智能发展风险，就必须去考虑人工智能治理有哪些挑战。

第一个挑战，步调不一致的问题。人工智能的技术发展是非常快的，但是治理体系建设相对来讲就要慢一些。一个法律法规要出台，要经过一系列的论证，各方面的考虑。

第二个挑战，信息不对称的问题。在调研的时候发现，政府和企业双方都有很多盲区。企业不知道政府规制最关心的问题在哪儿，对于技术发展可能会带来什么风险，政府不清楚，很多情况企业也不清楚。

第三个挑战，从规制的角度来讲，在风险规制的过程中成本是不对称的。比如说人工智能滥用或者误用的技术成本是相当低的，但是要去防范这种风险其实是非常困难的，要远远高于它有可能造成的危害，所以风险治理的成本也是很高的。

第四个挑战，全球治理方面，做全球治理的人往往会提到机智复合体的问题。可能针对某一个问题，企业、组织、政府都很关心，都想采取一些措施去解决。专业组织、国际组织、基金会、企业等都对某个问题有一定的治理兴趣，甚至他们也有这方面的能力和条件。但是，所有这些组织之间没有从属关系，而都对这个问题有相关的利益，希望来参与治理。这样使得全球治理体系的形成就有很大的困难。

针对怎么去解决这些问题？薛澜提出以下建议。

第一，要加强关于安全和技术研究，尤其是需要加强国际合作。第二，通过敏捷治理的方式解决刚才提到的问题。第三，还要鼓励企业的自我规制。第四，加强国际治理。第五，在人工智能领域中美双方一定要加强合作，这样才能真正解决人类面临的各种问题。