地址:https://blog.monsterapi.ai/no-code-fine-tuning-llm/
计算机视觉研究院专栏
Column of Computer Vision Institute
微调预训练模型是自然语言处理(NLP)领域的一项重要实践,可以优化它们在特定任务中的性能。在Monster API,我们了解开发人员在微调模型时面临的挑战,特别是当涉及复杂设置、内存限制、高GPU成本以及缺乏标准化实践时。
事件分析平台Mixpanel宣布已将生成AI功能集成到其服务中,以允许公司“与他们的数据聊天”。
使用名为Spark的新功能,Mixpanel用户现在可以对他们的数据进行自然语言聊天,以立即获得有关客户体验及其产品和营销决策的影响的见解。
“生成式人工智能是计算的下一个接口,它正在释放巨大的生产力提升,”Mixpanel首席执行官Amir Movafaghi说。“在我们的世界里,这意味着任何人都可以通过向AI提问来用简单的英语查询他们的数据。使分析变得可访问,因此几乎每个人都可以参与,将显着改善整个公司的决策。
Mixpanel的目标是降低分析技术含量,使所有用户都更容易访问。Mixpanel平台基于事件分析,其中用户在电子商务网站或拼车应用程序等数字产品中执行的每个操作都会被捕获并用于分析。该公司表示,这种精细视图可帮助公司了解不同用户组在体验过程中不同点的行为。传统的分析和BI工具通常需要编写复杂的SQL查询,这可能会使非技术用户在获得见解时受到其(通常非常忙碌的)数据科学家同事的摆布。
“Mixpanel 通过其基于事件的分析系统改变了这种情况,非技术员工使用它通过下拉菜单询问他们的数据问题。生成式人工智能的引入再次重新构想了数据分析过程,因此任何人都可以使用Mixpanel通过轻松询问他们的数据问题来支持更好的决策,“该公司在一份新闻稿中表示。
Spark利用OpenAI的GPT-3.5 Turbo模型,这是GPT-3的更小,更精致的版本。用户可以用简单的英语提出业务问题,模型构建必要的查询,在Mixpanel中执行它,并提供相关数据的仪表板。
作为如何使用这一新功能的一个例子,为拼车平台工作的非技术员工可能会问:“当我们在主要市场应用溢价时,哪一组用户最常转换?使用此提示,Spark 可以构建必要的查询,在 Mixpanel 中执行它,并返回一个相关图表,显示不同市场中不同群组的转化趋势。
幻觉造成的不准确性是像GPT-3.5 Turbo这样的大型语言模型的一个问题,据说它的幻觉率在15-20%之间。将LLM与专有数据一起使用时,还存在隐私和安全问题。
Mixpanel正在通过内置功能解决这些问题,这些功能允许用户检查生成的报告中给出的信息的来源。该公司表示,它优先考虑隐私,LLM不会摄取公司数据。该公司断言,人工智能只构建查询,Mixpanel分析基础数据。
“当Spark构建报告时,它将像任何其他报告一样可查看和可编辑,这意味着您可以进入其查询生成器视图并查看正在使用的事件等详细信息。从那里,您甚至可以将自己的编辑添加到报告中以进行修改或改进,“Movafaghi在一篇博客文章中写道。
该公司还将其生成AI功能设为可选。尽管Spark最终将可供所有用户使用,但客户可以选择继续使用现有的Mixpanel界面。Spark将很快作为封闭测试计划的一部分提供给选定的客户,但该公司表示将在未来几周内将其作为可选界面提供给所有Mixpanel用户。
“生成式人工智能有点像电,你可以把它内置到其他产品中,让事情变得更快、更容易。我们正在使用它来加快工作流程,并简化人们提出数据问题的方式。但这仅仅是个开始,我们预计LLM将在未来几年增强分析,“Movafaghi说。
转载请联系本公众号获得授权
往期推荐
🔗