首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    深入理解信息科学中三条“数据法则”

    通过上一章的阅读,我清楚地认识到了物理、生物和数字世界的区别和联系,从而更深层次地明白了三个世界之间的结合与共同作用,极大程度上拓宽了人类的生存空间与发展未来前景,推动着人类文明的向前与科技的进步。不仅如此,数据在其中地作用也是不可或缺的。以数据为驱动的信息革命使知识的生产成为主要的生产形式,知识成了创造财富的主要资源。以数据为驱动,使信息的传输速度,传输的信息量相较于工业革命时代有了较大飞跃,大大加速了全球化的进程。到底数据是怎样在其中发挥作用并且推动社会进步呢?本章就是围绕数据法则来展开的。

    01

    深入理解信息科学技术与创新之“自然智能”

    通过前四章的学习,我整体了解到三个世界的概念,并由三个世界中的数据世界,引出对于数据的进一步讨论与探索,科学数据三个法则分别从数据的定义,数据的存在与运动,数据的作用三个层面来全面细致地描述了数据。以数据为驱动,使信息的传输速度,传输的信息量相较于工业革命时代有了较大飞跃,大大加速了全球化的进程。在数据的升华与提炼之中,部分数据成为了信息,信息方面则从信息的结构、含义以及效用的主要因素和实现过程进行阐述。以数据为驱动的信息革命使知识的生产成为主要的生产形式,知识成了创造财富的主要资源。知识升华章节中,让我对知识的来源与作用有了更深的探索与收获。而在知识之中,对于客观世界本质与规律的描述的部分进一步发展成为了智慧。处理智慧数据的具有高级功能的系统,则是智能。而本次“自然智能”的课程,从自然智能的概念、法则、模型与情绪智能四个方面进行阐述。同时本章讨论的课题如下:

    02

    自动微分技术

    几乎所有机器学习算法在训练或预测时都归结为求解最优化问题,如果目标函数可导,在问题变为训练函数的驻点。通常情况下无法得到驻点的解析解,因此只能采用数值优化算法,如梯度下降法,牛顿法,拟牛顿法。这些数值优化算法都依赖于函数的一阶导数值或二阶导数值,包括梯度与Hessian矩阵。因此需要解决如何求一个复杂函数的导数问题,本文讲述的自动微分技术是解决此问题的一种通用方法。关于梯度、Hessian矩阵、雅克比矩阵,以及梯度下降法,牛顿法,拟牛顿法,各种反向传播算法的详细讲述可以阅读《机器学习与应用》,清华大学出版社,雷明著一书,或者SIGAI之前的公众号文章。对于这些内容,我们有非常清晰的讲述和推导。

    03
    领券