第七届互联网思想者大会有关人机关系随想

    当前，尽管AI在很多任务上表现出色，如可以下棋比人强、可以帮助人发现新的物质结构、可以生成文本回答问题，但它毕竟缺乏对各种环境的物理感知和真实生活的交互能力，本质上仍不算是一个真正意义上的人机环境智能系统，真实的人机环境系统需要多元化的跨域能力，包括对自然、社会、虚拟环境的感知、理解、预测、反馈和修正能力。      目前看来，AI的危害和负面部分主要包括三个方面，一是人的部分包括坏人使用AI做坏事和好人错误/失误使用AI做事；二是机的部分涉及软件Bug与硬件失效造成故障；三是环境的各种不利变化所造成AI的失控...