资深顾问

数字化转型

代码在线跑，知识轻松学

Python精品学习库

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

博客搬家 | 分享价值百万资源包

往期视频·干货材料·成员作品 最新动态

技术创作特训营·精选知识专栏

新邀入驻腾讯云开发者社区，福利多多！

如何运用「云、端融合的数智化安全体系」高效护航数据安全

左手AI，右手安全 —— 一汽丰田数字化转型之路

气象模型通常会包含三种气象全球基础要素模型、全球降水模型和区域高分辨率预测模型。这三个模型分别从全球视角、区域视角和降水单领域来预测气象。

气象全球基础要素模型配置AI服务器实战术分享

从海洋监控指标来看，分为生态指标、常规监控指标和海浪指标。这些指标监控都需要消耗AI服务器的算力，这次先谈一下常规监控指标的海流指标监控。海流指标监控是预报风暴潮的一个指标，通常这类指标监控，会在海平面下布置很多监控点，收集各个点位的海流速度和方向，数据采集回来是一个个的数值，通过区间间插技术，可以模拟插入区间数值，往往需要T级的数据量，才能计算出规律。比如一天采集是5G，要训练200天才能得到1T的数据量，进而推理出结果，也就是半年。

近海区域的海流指标监控实战分享-需要什么配置的AI服务器和云平台

从AWS上进行运维，大大解决了本地运维成本高而且效率低的问题。同时引入了开发即运维的意识，用开发算法代替人的思考，用软件功能实现部分人工运维无法达成的目标。

AWS智能运维实战“术”分享-用Deepseek改变运维汇报架构模式

2016年AWS第一次引入国内，只有公有云模式，当时公有云上把运维分为两类主要业务：告警管理和业务流程编排管理。从此企业业务运维开始进入数字化阶段。

在AWS上打造一个智能运维实战“术”分享-DeepSeek后的业务派单流程趋势

在整体平台的业务架构中，有一块是数字孪生的架构设计，比如平台的模型计算出来的结果如何通过BIM呈现出来，如何跟GIS结合，于是平台引入了数字孪生的功能设计。

Z市台风模型一体化平台技术咨询项目实战“术”分享——数字孪生模块架构设计

众所周知，模型为了追求召回率和求全率，必须设计得非常专业，意味着它只会一门知识，虽然非常精通，但如果这门知识没有足够的语料来训练它，它的智力水平跟幼儿园没有区别。

T市YD智能运维模型一体化应用实战“术”分享-类似Deepseek一样加上Agent的翅膀

T厂职责部门按各种YD运维专业分为维保、管理服务......这样划分可以跟运营商的部门分工能对齐，每个部门的方向是比较明确。而对于T厂而言，除了日常运维任务外，还担负着科技创新的职责，因此设立了智能运维部，负责运营商运维专业的技术产品自产创新。

T市YD智能运维模型应用平台实战“术”分享-类似DeepSeek的MaaS架构SFT数据使用

上回谈到模型从基础模型发展而来，变成行业模型。它在传统的开发测试路线之外，另外重新订立了一条新路线。 它对我们的开发测试是一种新事物，对于开发来说，代码量变少了，但是增加了Prompt工程和其他RAG知识对接；对测试来说，语料开发和AW开发是新增工作，但也能减少测试用例和测试代码量。

J市JJ银行合规模型一体化应用平台实战“术”分享-模型开发测试路线，模仿Deepseek

在MaaS的时代，传统的架构分层出现了新的变化，在原来4A基础上多了一层模型层，充分发挥模型能力，形成服务对外提供。这一层在设计时通常是要按照行业模型分类，进行模型设计。

J市JJ银行合规模型一体化应用平台实战“术”分享-行业模型如何与基础模型关联，例如从DeepSeek基模开始

上回谈到把代码、SO库、软件包都迁移过来后，就可以进行重新编译了。在编译前，项目组专门了解一下鲲鹏平台的编译器。这套编译器是分场景编译，场景化编译分为四类：通算场景、安全计算、HPC场景和DPAK场景。

J市JJ银行合规大模型一体化应用平台实战“术”分享-硬件平台编译

上回谈到了软件包迁移，在基本代码和软件迁移之后，鲲鹏平台上测试节点上还有测试参数选择。为了进行大模型输出的准确率控制，需要进行反例prompt导入，从而对参数选择测试。

J市JJ银行合规大模型一体化应用平台实战“术”分享-测试节点参数选择

上回谈到合规模型使用了外采的软件包，有部分软件包是国外厂商开发的，在国内鲲鹏平台上从没有编译运行过。这些软件包需要先分析出软件包清单和迁移准备。

J市JJ银行合规模型银行一体化应用平台实战“术”-软件包迁移2

上回在鲲鹏平台上搭建了合规模型的代码和SO库，同时利用port advisoring工具进行依赖库扫描并建仓。除此之外，在测试节点上还有测试要完成。这是整体迁移的部分，合规模型依赖软件包。

J市JJ银行合规模型一体化应用实战“术”分享-合规模型软件包迁移

上回讨论到了Python代码迁移，必须先把调用SO库重新编译，可以借助port advisoring来搜索SO库，然后重新编译。众所周知，代码运行都需要一个框架。

J市JJ银行合规大模型银行一体化应用平台实战“术”分享-代码框架迁移

上回我们谈到银行去年更换了GCH平台，换成鲲鹏平台，随之上层Saas应用全部都要开始适配鲲鹏平台。除了上回谈的模型参数配置以外，还有一个代码迁移的问题需要解决。

J市JJ银行合规模型金融一体化应用平台实战“术”分享-Python迁移心得

在PaaS产品的安全架构中，包含了模型的安全架构模块，这块通常是AI架构团队来设计的，这跟PaaS是两个不同的团队，但往往由PaaS统筹在同一份架构设计中。在模型的安全测试中，这个模型有若干业务参数在测试时，需要一些专业测试知识进行测试，尤其是这类的数据很难生成。

Z市台风模型地质一体化应用技术咨询实战“术”分享——模型安全测试架构的业务参数如何设计

当时在JJ银行开发合规模型时候，还碰到一个问题，如何适配银行的硬件平台。JJ银行采用的是鲲鹏，它并不仅仅是一套硬件平台，其中包含毕昇编译器和open欧拉操作系统、open高斯数据库的支持，同时还自带了两套kits，几乎全栈式的代码开发编译运行平台。

J市JJ银行合规模型一体化应用平台实战“术”分享-适配合适的硬件平台

上回谈到了模型开发过程中碰到的4个比较大的漏洞：Prompt攻击、数据投毒、数据外协和组件安全漏洞。这些在项目模型上线后，还碰到几个模型本身攻击的安全漏洞。之前谈到的4个漏洞，是模型上线前，而模型一旦上线就会碰到外部攻击，这产生了模型自身的安全漏洞：窃取漏洞、模型API安全漏洞和模型拒绝服务漏洞。

Z市台风模型地质一体化应用技术咨询实战“术”分享——模型安全测试架构优化2

接着上回谈到安全架构设计，自从构造了台风模型之后，内部开始搜集数据集并训练台风模型，随着训练不断增多，慢慢暴露了很多安全漏洞，台风模型内部也遭受攻击。上回谈论两种漏洞：Prompt漏洞和数据外泄漏洞。

Z市台风模型地质一体化应用技术咨询实战“术”分享——模型安全测试架构搭建

在台风模型开发流程和平台设计好之后，面临一系列开发动作。在模型开发的过程中，仍有不少安全漏洞被黑客攻击，导致安全事故。自从2023年安全事件以来，大模型开发的种种漏洞接连被攻击，它就像一个新生儿，提抗力弱，经常遭受这个环境的侵扰。

Z市台风模型地质一体化应用技术咨询实战“术”分享——模型的安全设计

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋 

腾讯云代码助手

CODING DevOps

Cloud Studio

SDK中心

API中心

命令行工具

腾讯云开发者社区推出了数字化转型专栏，为你提供了数字化转型的相关文章，致力于帮助开发者快速成长与发展。

数字化转型

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐