将AI带入企业 红帽选择了“开源”和“混合”

6月20日消息,在言必谈AI的当下,如何把握AI发展机遇?在2024红帽媒体Open讲话活动上,红帽全球副总裁兼大中华区总裁曹衡康对外阐述了红帽在生成式AI与大模型领域的最新理念和举措。

在解读红帽在AI发展路线上的看法时,曹衡康着重强调了两点:AI必须是开源的,AI应该在混合云上做。

曹衡康解释称,开源闭源之间并没有对错之分,但在封闭体系下,生态的垄断和安全隐患已初具端倪。相较之下,开源由于受到整个开源社区的监督,能够更好地应对安全问题。同时,开源能够降低企业拥有核心技术的门槛,让开发者参与到模型贡献当中,提升效率和性能。

“未来,AI既会有开源,也会有闭源,但红帽绝对是开源的。”曹衡康说到,“开源精神是红帽文化的核心,也是红帽在AI领域取得成功的关键。”

关于混合云,曹衡康提到,AI从开发到运行都并非仅能在云上操作,笔记本甚至智能手机都可以实现建模开发。因此,AI应该拿到混合云上来操作。

这主要有三方面原因:一是能够最大化利用资源;二是可以提升效率;三则是安全问题,因为很多的模型可能很多企业是本身自己企业内部用的,假如放到“云”上面会有一些安全问题。

红帽大中华区解决方案架构部高级总监王慧慧进一步补充称,将混合模式落到AI项目上其实并不难理解。比如某企业建模时可在数据中心搭建,培训时可在公有云上训练,推理时甚至可以在公司产线上的某一台风控设备上进行。而企业若要“单打独斗”实现这些操作,还需解决构建AI基础架构、保证协作效率、进行模型调优、开发AI应用、促进模型与应用间的高效交互等问题。

如何以开源的方式将AI带入企业?红帽此前已经宣布了一系列与AI相关的创新,包括RHEL AI、OpenShift AI和Lightspeed等,并与NVIDIA等合作伙伴在混合云和AI领域展开合作。

曹衡康表示,红帽不做硬件,不做应用,而是在两者之间提供领先的AI平台,帮助企业安全高效地部署和管理AI模型、应用;构建AI基础设施层,为企业提供安全的可扩展基础设施和自动化。

对于在中国的发展策略,曹衡康表示,红帽将配合国家战略,加速企业智能制造升级,同时赋能与融合国内AI生态,加速AI在全行业的应用。

以下为与曹衡康、王慧慧、红帽大中华区市场总监赵文斌的部分对话实录:

问:混合AI是一个什么样的概念?

曹衡康:从开发来讲,开发就不需要一定在“云”上开发、我可以在笔记本建模、开发。运行的时候可以在“云上、云下”,在我“私有云”、笔记本、甚至是手机上都可以运行,就是从“建模”跟“运行”都是一样。还有就是混合模式,找出最适合的计算方式。可能我在计算的时候,只要前提是数据、客户愿不愿意把数据放在公有云上面。当我在整个运行当中找出一个最优化的方式计算,因为GPU不够、又耗电,我就找出最优化的方式把这个东西、这个应用整个执行出来。

王慧慧:它既可以被部署在公有云上、也可以私有云上,也可以一个私有化的数据中心或者某个设备上都可以。举一个比较简单的例子:同样一个AI项目或者AI应用,建模的时候可以在数据中心里面建,训练的时候可以在公有云上训练,最后做推理的时候可以在产线上的某一台工控设备上面去做推理,同样的一套AI。也就是说,这个AI项目本身的不同阶段可以用不同的环境。

为什么这样做?因为我们支持的就是一个混合环境,只不过你每一次在使用的时候你觉得你的资源在哪边,你用什么方面觉得是安全的。你不希望你推理时候个人数据去公有云上,那你就放在自己的数据中心去做、都可以。

问:为什么我们现在谈AI、大模型,大家都在关注GPU、不关注其它层面,根本原因是什么?

曹衡康:其实算力讲“白”了、做的事情本身是最简单的,比如最核心的运算可能就是矩阵乘。现在的大模型训练本质上做的是一个大力出奇迹的事情,是需要大量的快速的做这些矩阵乘的运算,GPU资源可能就成为瓶颈。

问:大家都相信“大力出奇迹”,觉得基础设施到位了,可能就能产生一些应用。但现实是,大家可能对于AI做事并没有太大的信心、做什么也没有看到。

曹衡康:目前AI的发展还比较早期,可能首先要解决有无问题,因此我们看到在GPU,AI Infrastructure等方面,大家比较关注,顺便提一句,红帽是能够帮助您快速构建AI Infrastructure软件的一家公司。 在AI的应用和如何变现方面,整个行业都还需要探索,大模型本身目前还有一些问题,比如幻觉,所以对于AI做事,既要有信心,同时也应看到技术发展目前的局限性。

赵文斌:大家都看“算力、平台、模型”。现在开源的模型很多、开发平台相对来讲也有一些开源或者一些选择,只是短期的一个焦点问题就是算力、因为相对紧张。这是一个现实的问题,所以关注度高。但是这是一个发展阶段的初级阶段的问题。“大力出奇迹”没问题,大模型是不是可以针对行业企业有小模型,用更小的算力就可以解决你的生产和应用的问题。其实市场的解决方法很多,只是因为大家对这个市场还是早期、还没有看清楚,短期突出的是算力紧张的问题。我觉得随着大家的研究更深入或者更多的工具、更多厂商的这些方案更清楚,我觉得这个问题相对会被平滑地过渡过去。只是这样的一个过程。

王慧慧:我们如果看AI这件事的话,AI其实存在很久了。最近这么火是因为生成式AI、大模型把它炒热的,实际上企业AI落地的应用去年、前年都有了。在我看来AI至少有四个方面的问题是值得所有从业者、媒体朋友们一起讨论的:

1.基础架构。就是所谓的算力平台,GPU的问题。

2.算法和模型的问题。我们其实并没有人很多地去探讨“算法”和“模型”,可能是因为这个很难被广大的听众们和观众们能够理解。比方说我们今天说:Lab是个算法,很难去解释这个事情。

3.数据。数据其实因为考虑到合规的问题,每个国家、每个地方都有数据合规的问题,以及数据隐私的问题,其实这也是AI相关的领域。

4.AI本身的应用场景的问题。现在我觉得AI应用本身场景的问题,每一个企业都在摸索中。我们现在看到大量的生成式AI,就是ChatGPT给我们冲击太大了。国内也有很多大语言模型,例如:文心一言什么的,你问它个问题、它就回答了。但是这些不是企业级的AI应用,企业级的AI应用才是真正的为企业创造生产力的一个内容。什么样的企业级的AI应用真的能够做到新质生产力呢?就是用更少的投入得到更多的产出,这个其实是一个更值得探讨的问题,而且我们中国这么多的企业、这么多的不同的各行各业的企业,我是很坚信企业级的AI应用在中国一定会发展得特别迅速,只是现在大家好像还没有开始探讨这件事。(周小白)

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2024-06-20
将AI带入企业 红帽选择了“开源”和“混合”
6月20日消息,在言必谈AI的当下,如何把握AI发展机遇?

长按扫码 阅读全文

Baidu
map