上一篇 讯飞星火知识库文档问答Web API的使用（二） 把星火知识库搞明白了； 然后又花了时间学习了一下gradio的一些基础内容: 在Gradio实现两个下拉框进行联动案例解读：change/click/input实践（三） 在Gradio实现分栏、分页的效果（二） Gradio的重要函数以及一些代码示例学习（一）

上一篇提到过星火spark大模型，现在有更新到3.0： 给ChuanhuChatGPT 配上讯飞星火spark大模型V2.0（一） 同时又看到有知识库问答的web api，于是就测试了一下。 下一篇是在ChuanhuChatGPT 中单独写一个基于星火知识库的内容。

教程千千万，貌似我的window电脑就是打包不了，而且不同电脑的表现都不一致，很是奇怪。

本文的代码来自ChuanhuChatGPT，通过拆解写得比较好的gradio项目，可以更快理解gradio的一些使用。 ChuanhuChatGPT整体页面效果是比较合理的：

分页的效果实现，主要依靠mount_gradio_app，启发于：Support multiple pages in a gradio app

笔者最近在测试星火大模型的时候，他们是使用websocket 来建立对话，而且星火大模型开放的测试代码，质量上不咋地（20231030记录），还需要对websocket有一定的了解，才适合自己微调。

参考：让你拥有专属且万能的AI摄影师+AI修图师——FaceChain迎来最大版本更新

在首次打开网页前，可以设置账户密码。比如auth参数为（账户，密码）的元组数据。这种模式下不能够使用queue函数。

由【让你拥有专属且万能的AI摄影师+AI修图师——FaceChain迎来最大版本更新】这篇文章开始出发进行人脸写真的尝试，笔者之前modelscope申请过免费额度，这里有适配的GPU环境可以提供测试。 但是很难抢到GPU资源，需要等待很久，可能才能排到。

最明显的是，这种方式至少会存在一种问题，即无法剔除自然增长所带来的效果，比如历史数据显示ROI经常随季节行情大幅波动，像电商类广告主在双11期间ROI会特别高，而游戏类广告主在寒暑假期间ROI会有一定幅度的增长。

本文中： 最多400万token上下文、推理提速22倍，StreamingLLM火了，已获GitHub 2.5K星 提到了StreamingLLM可以提供给模型无限输入、无限输出的能力，大概解读一下这个概念

本篇主要是采集一些大模型在聊天机器人中的案例，因为目前很多企业都会考虑将LLM与业务结合，LLM超强的理解力非常适合聊天场景

参考：https://fastapi.tiangolo.com/zh/tutorial/body-multiple-params/

定义了一个User模型，继承自BaseModel，有2个字段，id是一个整数并且是必需的，name是一个带有默认值的字符串并且不是必需的

目前很多没有技术团队的大模型解决方案，会以【基础达模型微调】+【向量知识库】为主。

主要参考：大模型的幻觉问题调研: LLM Hallucination Survey

术语 LLMOps 代表大型语言模型运维。它的简短定义是 LLMOps 是 LLM 的 MLOps。这意味着 LLMOps 是一组工具和最佳实践，用于管理 LLM 支持的应用程序的生命周期，包括开发、部署和维护。

这是一篇阿里妈妈的论文【KDD’23 | 转化率预估新思路：基于历史数据复用的大促转化率精准预估】 常规的销量预测，遇到一些特大事件，直播、大促，一般很难预估得准确。而且现在电商机制也比较多样，预售、平台折扣等。 本篇可能适合一些特殊时间点进行转化预测的场景。

上篇【Stable-Diffusion|入门怎么下载与使用civitai网站的模型（二）】介绍了如何使用c站进行文生图，尤其一些Lora可能随时会下架，所以及时测试，及时保存很关键，更新一些笔者目前尝试比较有意思的Lora。 本篇介绍拍立得纪实风格的Lora 图例，Lora地址，上图：

cupy,一种类似numpy,使用CUDA的GPU硬件加速 一般需要有cuda才可以使用，但是很多时候会错误安装，造成以下报错：