ML/AI全面来袭，高性能低成本的AI芯片赋能LG Q70智能手机

【导读】资深行业分析师J. Gerry Purdy博士最近针对全球领先的半导体公司GTI的AI加速芯片在LG Q70智能手机上的应用发表文章。J. Gerry Purdy博士是公认的行业权威和思想领袖，专注于监测和分析移动计算和无线数据通信设备、软件和服务的新兴市场趋势、技术的分析研究，他创立电子出版物Mobilocity通讯，拥有超过10万的读者。 他也是Mobilocity LLC . 首席分析师， 以及CES展的主办方CTA（消费者技术协会）的项目顾问委员会成员。以下摘录于J. Gerry Purdy博士发布文章的部分内容。

我们最近关注到，关于Apple最新的iPhone 11和Tesla就其新神经网络芯片在人工智能（AI））和机器学习（ML）的方面取得了很大进步，以帮助他们在未来一两年内实现汽车的无人驾驶。

全球领先的AI半导体公司GTI（Gyrfalcon Technology Inc.）开发了一款人工智能神经加速芯片， 高性能，低功耗和低成本，使LG Q70这样的智能手机能够以较低的价格入手，。我们期望在不久的将来看到越来越多的产品使用GTI AI加速芯片。

人工智能(AI)和机器学习(ML)已经存在很长一段时间，越来越受大众欢迎，究其原因是因为它的技术令人惊叹。例如，赢得国际象棋比赛，无人能敌；从数百万张面孔当中识别出公共场合行走的人，以及处理其他一些需要大量并行处理的问题。

最近几年，大多数AI和ML系统都在云端运行，其中包括耗电几千瓦的快速处理器和大型存储。 而且，许多AI移动系统（例如Siri和Alexa）要求“繁重的工作”必须在云端完成，而不是在本地设备上完成。然而，这一切都在迅速变化中。

以下Figure 2(图2)的左侧显示了传统的AI和ML的方法。这里，需要使用AI的应用程序会在本地设置问题，例如“这是哪条街？”（显示街景）。 系统会将问题发送到云端，利用解决方案（具有大数据大应用）,高级视觉搜索方法找到答案，然后将其重新传送回应用程序。 这通常需要大量的时间(以秒为单位不是瞬间)，但是所有操作也均可以。

后来，诸如NVidia之类的许多公司构建了一个集成的AI / ML移动系统，该系统将所有处理和AI并行存储矩阵都内置到了芯片中。 此方法迅速分为两个方向：

1.定制的封闭系统（图2，右上）–Apple和Tesla等公司决定构建自己的结合了AI和ML的定制应用系统集成电路（ASIC）。 最好的例子是Apple公司最近推出的带有A13 Bionic芯片的iPhone 11，该芯片为新的视频处理提供支持，Tesla则通过其新的自定义检查功能来帮助其汽车在美国的任何地方都可以实现无人驾驶。

2.开放的通用系统（图2，右下）– Gyrfalcon Technology Inc.（GTI））公司创建了一个集成了AI和ML的开放平台。 迄今为止，最佳实例就是GTI近期宣布的，LG最近推出的Q70智能手机（图1，上方），充分的利用了开放平台。

LG Q70在某些方面与Apple和Samsung的最新款智能手机旗鼓相当。它有着6英寸的高分辨率显示器(1080x2310)，Android(Pie 版本)系统和4000mAh电池，在韩国可以使用5G网络。然而，它是一款突破性的智能手机，因为其内置的GTI AI神经加速器芯片，达到了惊人的效果。

您可以看到，这类应用程序很难在标准的CPU和内存中完成。

GTI芯片(命名为Lightspeeur)每秒执行数万亿次操作，这是因为其168 x 168个单元矩阵，每个单元都有内存和一个处理单元。 GTI AI神经加速器的架构如以下图3所示。

值得注意，为了充分利用内存中的所有ML系统，开发人员必须对其进行“设置”才能获得价值。 这些带有神经网络的，提供ML功能的AI加速器基本上是空白，就像刚出生时的婴儿的大脑一样：潜力无限，但都必须经过训练才能做出举目惊人的成果。

对于Apple和Tesla的定制AI / ML芯片，它们都利用周围的环境来使其正常工作。例如 Tesla定制的AI芯片拥有100万辆汽车训练的经验，它们正在感知“训练”神经网络的道路和环境，从而使所有车主或者驾驶员都能从中受益。 之后，Tesla芯片将成为其无人驾驶程序的基础-这种经验发挥了作用。例如，当处在熟悉的环境中，Tesla无人驾驶系统会认为：“哦，我从其他汽车的经验里得知以前到过这里，所以我知道下一步该怎么做。”

以Apple公司为例，他们在A13Bionic芯片中使用ML芯片，不断学习iPhone的使用方式，然后通过只使用电源来做用户想做的事情来优化性能。在此之前，由于没有任何机器学习的过程来实现这样的优化，所以一切都是由电源来完成。为了帮助开发人员完成安装，GTI提供了许多工具来完成这项任务。如图4所示。

以GTI为例，使用者可以对系统进行训练，使其完成许多事情，如:

l目标检测–当您输入大量的物体后，随即芯片可以轻松地“即时”检测相似物体。

l面部识别–当您输入许多具有特定特征的面孔，然后它会实时检测这些特征和人。

l声音识别-当您输入大量已知特征的声音，系统就会实时地识别出来。

l手势识别–当您输入很多具有已知的手势，系统将能够实时识别手势。

这种处理很可能会在整个物联网（IoT）世界中迁移应用。根据IDC的估计，到2022年，将有25％的终端设备将执行AI算法（针对神经网络应用的推理）。

战略目标

在短短几年内，在本地内存的移动系统中使用AI和ML的迁移发生得非常快。它是由定制工作主导的，整个过程可以在内部设计和指导，比如Apple和 Tesla这样的公司来完成。但物联网行业的领域的大部分问题目前正由GTI这样的公司解决，它们提供非常类似的功能，但成本却低得多。LG Q70智能手机的推出只是个开始。用不了多久，我们就会看到数百种有内存AI/ML的产品。最重要的是: 用户的体验将得到改善。