支持端侧AI大模型已成新趋势，将推动智能手机內存突破20GB
11月16日消息，根据外媒wccftech报导，预计2024年将会流行的一件事就是终端AI大模型的使用，该功能目前已内置于2024年发表的多款芯片组中，包括高通Snapdragon 8 Gen 3、联发科天玑9300和三星Exynos 2400。
一份新报告提出，支持终端侧AI大模型功能的智能手机将需要比以前更大容量的內存。因此，内置端侧AI大模型功能的Android智能手机其內存容量至少需要20GB 将成为趋势。
报告称，虽然8GB内存仍然是当前Android智能手机市场的主流。然而，市场上很多旗舰智能手机也已经达到了比现阶段多数笔记本电脑或台式机具有更多的內存容量。接下来，为了让设备上的AI更好的生产图像，Android手机将需要至少1GB的内存。原因是为具有设备上人工智能助理，以及其他功能的设备将需要超过20GB的内存才能确保更流畅的操作。
在此前天玑9300的预沟通会上，联发科无线通信事业部AI技术高级经理庄世荣就曾向芯智讯解释称，一款130亿参数的AI大模型，大概需要13GB 内存 (INT8)才能运行，而智能手机本身运行安卓操作系统通常就要占用4GB的内存，如果还要相对流畅的运行其他常规APP任务并保活，还需要6GB的内存，即总的手机内存容量需求将达到23GB。
但是目前主流的千元智能手机内存容量大多数都是在8GB/12GB左右，大多数旗舰智能手机的内存容量也才到16GB，仅有极少数旗舰手机内存容量达到了24GB。所以，要想在智能手机端运行130亿参数的AI大模型将会面临着内存限制的问题。
即便采用先进的内存压缩技术，要流程的运行130亿参数的AI大模型，智能手机也需要至少16GB的内存容量，如要要运行更大规模的330亿参数的AI大模型，内存容量就需要进一步提升到20GB以上。
报导强调，过去市场上就已经有内存超过20GB的手机。比如，中国手机品牌一加先前也发布了一款24GB大容量內存的手机，但当时设备上的AI并不是焦点。然而，根据这份报告，如果期望人工智能功能能够按预期工作，那么2024年的智慧型手机可能会配备更高的内存容量。不过，现阶段不能确定是否所有Android手机厂商都会效仿。
报道进一步强调，这里需要注意的另一件事是，考虑到各个Android手机厂商对AI的投资，2024年发表的设备将重点放在AI上已成为显而易见的事情。
编辑：芯智讯-浪客剑
往期精彩文章
云天励飞发布大模型推理芯片：14nm Chiplet架构，国内首创！
全球超算TOP500：美国Frontier保持第一，中国超算跌出前十！
最强AI芯片英伟达H200发布：HBM容量提升76%，大模型性能提升90%！
长江存储“亮剑”：在美起诉美光侵犯其8项3D NAND专利！
中国大陆将拿下全球28%晶圆代工市场，但先进制程占比仅1%！
最强RISC-V服务器芯片发布：4nm，192核，性能超越AMD Epyc 9754！
腾讯云开发者
