首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

谈云说AI|业界大咖共话AI如何平衡可信与可用

你是不是也经历过这样的“怪”事?刚刚浏览了几页某资格考试的网站,培训机构就打来了电话;上周刚把想要售卖的房屋挂到某中介网站上,第二周从未联系过的数家中介公司就纷纷找上门;自己偶然上传到社交网站上的照片,不但莫名其妙被盗用,甚至还被人用来非法获益……当我们沉浸在AI技术带来的便捷生活的同时,因“黑盒模式”引发的技术不可控、数据安全、隐私泄露等问题却时有发生,让人忧心忡忡。 就在12月14日, “谈云说AI”技术产业沙龙首季第一期上线,针对可信AI这一时下被广泛热议的话题,京东探索研究院算法科学家何凤翔,中国信

02
您找到你想要的搜索结果了吗?
是的
没有找到

AISecOps:打造可信任安全智能

随着数据的积累,算力的提升,人工智能技术的演进,语音、图像、文本处理等应用场景自动化程度大幅提升,也让我们看到安全能力向着更高水平的自动化演进的曙光。技术平台的自动化、智能化水平,也逐渐成为网络安全攻防双方角力的重点。学术界和工业界纷纷尝试基于人工智能技术的安全分析方法,包括深度学习、机器学习、知识图谱等人工智能技术,已经逐渐应用到恶意软件检测、入侵检测、欺诈检测、行为分析等安全业务和应用中。不过,几轮炒作和试错下来,火热的期盼逐渐归于平静,安全技术发展归于辛苦的爬坡过程,实践上的不尽人意倒逼参与者思考,到底什么样的智能化方案才能够与安全场景契合?安全智能如何才能赢得人的信任,融入到自动化的大潮中去?本文从实践经验出发,总结了AISecOps(智能安全运营)的技术内涵、指标层次及能力分级,进而介绍AISecOps技术发展中的关键趋势——打造可信任的安全智能。

04

是时候解决大模型的信任问题了

以ChatGPT为代表AI大语言模型(LLMs)是一项具有革命性的技术。它不仅可以像之前的人工智能一样进行分类或预测,还可以通过自然语言与人类对话,生成文本、图像、视频、可执行代码等各种形式的内容,这将对人们的生产生活和社会发展产生深远影响。但是人工智能开发和应用阶段的任何错误都可能是灾难性的。[1]现在大语言模型已经面临诸多信任挑战,比如人们越来越无法分辨区分出ChatGPT生成的内容与人类生成的内容;大语言模型存在幻觉问题,会生成错误、具有诱导性的内容,那么人们该如何分辨并信任大语言模型生成的内容;大语言模型还存在偏见、歧视、隐私侵犯、有害言论等多方面伦理风险,继而带来一系列信任危机,甚至遭到业界的抵制和封杀。信任是人工智能发展的一个核心问题,人与技术之间信任关系更是技术发展趋势与人类未来的一个核心问题。[2]DeepMind首席运营官Lila Ibrahim表示,AI大模型是一种变革性技术,但它只有在得到信任的情况下才能充分发挥潜力。

01

矩阵式WAF部署——破解信任危机的新思路

传统安全建设思路要求将网络按照安全等级划分,形成不同属性的安全域,如外网接入域、核心交换域、对外发布域、办公终端域及安全管理域等,并基于各个安全域的安全等级来制定相应的域间隔离与访问控制策略。通常根据不同强度要求的安全策略,所选用和部署的安全产品也会有针对性。例如外网接入域的边界,除了常规的防火墙之外,还会选择DDoS清洗系统、入侵防御系统等;在核心交换域,依据其流量全面的特点,部署全栈的流量分析和资产治理类系统;在安全管理域,部署集中管理和事件审计类平台;而在对外发布域的边界,则会选择更加深入和有针对性的细粒度防护产品,例如Web应用防火墙,即WAF产品,也是我们今天讨论的重点。

06

大数据的起源和错失大数据市场的鼻祖Google

大家好,我是飞总。目前就职与全球领先的大数据可视化公司Tableau。应该有很多人以前就读过我的大数据系列的公众号文章,我今天的这个讲座和以往的嘉宾都有一些不同。讲的不是现在流行的大数据工具和使用大数据来解决业务的具体问题。主要的原因有两个,一个是我主要做系统的研究和开发,而且讲的不是现在流行的大数据工具和使用大数据来解决业务的具体问题。做的都不是开源的系统。开发和使用来说差别比较大。所以我并没有使用系统解决实际问题的经验。二是我本身的背景很多出自学术圈,读论文讲八卦为主,所以大家可以听得轻松一点。 今

014

2022年新兴技术预测分析(一)

近期Gartner公司发布了《2022年新兴技术成熟度曲线》[1]。关于2022年新兴技术趋势,如图1所示,Gartner确定了25种需要了解的新兴技术,主要围绕三个主题:一是发展/扩展沉浸式体验,主要包括去中心化身份(DID)、数字人类、非同质化代币(NFT)等关键技术;二是加速人工智能自动化,主要包括因果人工智能(AI)、基础模型、机器学习代码生成工具等关键技术;三是优化技术人员交付,主要包括增强型敏捷金融(FinOps)、网络安全网格架构(CSMA)、动态风险治理(DRG)等关键技术。Gartner公司分析师表示,这些技术都处于早期阶段,其中有些处于萌芽阶段,未来将如何发展仍存在很大不确定性。本文从三个主题出发介绍曲线中的相关技术,并结合曲线给出预测分析。

01

火爆的机器学习和人工智能,为何在金融业四处碰壁?

在2008年金融危机期间,银行业认识到,他们的机器学习算法是基于有缺陷的假设。 因此,金融体系监管机构决定需要额外的控制措施,并引入了对银行和保险公司进行“模式风险”管理的监管要求。 银行也必须证明他们理解他们所使用的模型,所以,令人遗憾但是可以理解的是,他们有意地限制了他们技术的复杂性,采用了简单和可解释性高于一切的广义线性模型。 如果你想建立对机器学习的信任,可以尝试像人一样对待它,问它同样的问题。 为了信任AI和机器学习提供的建议,来自所有行业的企业需要努力更好地理解它。 数据科学家和博士不应该是唯

06
领券