保险理财

红帽张家驹:大模型出现幻觉怎么办

2023年10月27日 | 查看: 77006

经济观察网 记者 陈奇杰 在生成式AI时代,开源社区公司都在关注什么?在10月26日举行的红帽2023论坛中国站上,开源解决方案供应商红帽(Red Hat)公司首席架构师张家驹在采访中向记者表示,在大模型应用场景中,“特别是企业级应用,很多时候我们要考虑确定性,虽然大多数时候能得到大模型的帮助,但一旦在应用、生产上出现幻觉的话,往往就是灾难。”

红帽张家驹:大模型出现幻觉怎么办
图片来源于网络,如有侵权,请联系删除

所谓“大模型幻觉”,指的是人工智能模型生成的内容,不是基于任何现实世界的数据,而是大模型自己“想象”的产物。

红帽张家驹:大模型出现幻觉怎么办
图片来源于网络,如有侵权,请联系删除

张家驹表示,“红帽跟IBM的结合,我觉得在生成式AI时代是非常重要的,相信会给行业带来很大转变。”他指出,现在引起业内讨论的大模型幻觉、AI治理问题,可能在一些环境里面,其他模型没有考虑那么多,但是IBM的模型在这一方面有独特优势。“另外,OpenShift AI平台不光可以跑IBM的模型,其他所有的开源大模型都可以跑,是一个开放平台体系。”张家驹补充称。

红帽张家驹:大模型出现幻觉怎么办
图片来源于网络,如有侵权,请联系删除

红帽张家驹:大模型出现幻觉怎么办
图片来源于网络,如有侵权,请联系删除

此前,红帽发布了生成式AI相关服务OpenShift AI。红帽首席技术官Chris Wright指出,在充分利用人工智能获得好处方面,基础模型可以为企业提供实实在在的好处,但仍需要在训练和微调方面进一步投资。红帽的企业级AI愿景依托红帽OpenShift AI的当前能力而制定,为基础模型在生产中的训练、维护、微调和实际使用奠定了灵活而且可扩展的基础。

红帽张家驹:大模型出现幻觉怎么办
图片来源于网络,如有侵权,请联系删除

不久之后,红帽母公司IBM又推出由红帽OpenShift AI提供支撑的基础模型watsonx.AI,该产品致力于为AI构建者提供利用开放直观的用户界面,以用来训练、测试、调整和部署由基础模型提供支持的传统机器学习和新的生成式AI功能。

推荐阅读:

人保车险|车损险,有哪些保障范围?

“离职乌龙”之外 长安汽车董事长面前的挑战与机遇

上银基金对旗下“三毛基”提议清盘 公司权益类产品年内收益全线告负

一年间营收十倍增长,徕芬要讲新故事

九成个人养老金基金Y份额年内亏损 规模分化显著

中欧国际工商学院院长汪泓谈“中国式养老新模式”:“事业+产业”“政府+市场”“保障+服务”

国际金融论坛(IFF):中国经济2023年和2024年预计将分别增长5.2%和5%

山西汾酒财报三大关键词:产品结构调整、精细化管理、活态文化

旅游业市场持续回暖 三特索道前三季度净利润同比增长414.90%

吉利雷达亮相南昌飞行大会 为现代农业场景提供智慧解决方案

关键词: