7月26日消息,日前在微软 Inspire 大会上,Meta 和微软宣布将在 Azure 和 Windows 上支持 Llama 2 大型语言模型(LLM)系列。
据微软科技官方公众号透露,Llama 2 旨在帮助开发者和组织构建生成式人工智能工具和体验。Meta 和微软共同致力于实现“让人工智能惠及更多人”的愿景, 对于 Meta 对 Llama 2 的开源路径微软尤为兴奋。在 Meta 首次向商业客户发布新版 Llama 2 时,微软很高兴能成为 Meta 的首选合作伙伴。
现在,Azure 客户可以在 Azure 上更轻松、更安全地微调和部署7B、13B和70B参数的 Llama 2 模型。此外,Llama 还将进行优化以便在 Windows 上本地运行。
Windows 开发人员将能够通过 ONNX Runtime 瞄准 DirectML 执行提供商来使用 Llama,从而实现无缝工作流,为其应用程序带来生成式人工智能体验。
Meta 和微软是人工智能领域的长期合作伙伴,双方曾合作将 ONNX Runtime 与 PyTorch 集成,在 Azure 上为 PyTorch 创造良好的开发者体验,Meta 还选择了 Azure 作为战略云提供商。
本次合作,是基于双方加速人工智能时代创新的合作关系的演进,将进一步巩固微软作为开放模型生态系统与全球人工智能超级计算平台的地位。
Azure 专为人工智能打造的超级计算平台,从设施、硬件和软件方面进行了独特的设计,以支持世界领先的人工智能组织构建、训练和部署一些要求苛刻的人工智能工作负载。
Llama 2 模型与 Azure AI 的结合,使开发人员能够利用 Azure AI 的强大工具进行模型训练、微调、推理,特别是 Azure 确保 AI 安全的功能。
在 Windows 中加入 Llama 2 模型有助于推动 Windows 成为开发人员根据客户需求构建人工智能体验的优选场所,并释放开发者使用 Windows Subsystem for Linux (WSL)、Windows 终端、Microsoft Visual Studio 和 VS Code 等世界级工具进行构建的能力。
Llama 2 是微软不断增长的 Azure 人工智能模型目录的最新成员。该模型目录目前处于公开预览阶段,是基础模型的中心,使开发人员和机器学习(ML)专业人员能够轻松地发现、评估、定制和大规模部署预构建的大型人工智能模型。
该目录消除了用户在运行 Llama 2 时管理所有基础设施依赖的需要,为模型微调和评估提供交钥匙支持,包括强大的优化技术,如 DeepSpeed 和 ONNX Runtime,可显著提高模型微调的速度。
Windows 开发人员将能够通过 GitHub Repo 轻松使用 Llama 2 构建新的体验。借助 Windows Subsystem for Linux 和高性能 GPU,开发人员可以在 Windows PC 上对 LLM 进行微调,以满足他们的特定需求。
负责任的人工智能是微软人工智能路径和我们合作方式的核心。多年来,无论客户是构建自己的模型,还是使用来自微软、Meta、OpenAI 组织和开源生态系统的预构建和可定制模型,我们都以巨大的投入使 Azure 成为负责任的尖端人工智能创新的场所。
在微软,我们通过包括实验和测量在内的迭代、分层方法来降低使用大型语言模型带来的潜在风险。Azure AI 客户可以使用自己的样本数据测试 Llama 2,以了解其在特定用例中的表现。
之后,客户可以使用提示工程和检索增强生成(RAG)技术,为其应用程序开发、评估和优化元数据,并为最终用户提供更安全、更可靠的体验。
Azure AI 内容安全等服务在此基础上增加了另一层保护,从而确保使用 AI 应用程序获得更安全的在线体验。我们与 Meta 合作的部分成果是将 Meta 的安全技术与 Azure AI 内容安全相结合。因此在 Azure AI 中部署的 Llama 2 模型就会默认采用分层安全方法。
微软通过 Llama 2 扩展 Azure 的模型目录并与 Meta 建立合作伙伴关系,这是在实现负责任、开放的人工智能方法方面迈出的一大步。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 特斯拉CEO马斯克身家暴涨,稳居全球首富宝座
- 阿里巴巴拟发行 26.5 亿美元和 170 亿人民币债券
- 腾讯音乐Q3持续稳健增长:总收入70.2亿元,付费用户数1.19亿
- 苹果Q4营收949亿美元同比增6%,在华营收微降
- 三星电子Q3营收79万亿韩元,营业利润受一次性成本影响下滑
- 赛力斯已向华为支付23亿,购买引望10%股权
- 格力电器三季度营收同比降超15%,净利润逆势增长
- 合合信息2024年前三季度业绩稳健:营收增长超21%,净利润增长超11%
- 台积电四季度营收有望再攀高峰,预计超260亿美元刷新纪录
- 韩国三星电子决定退出LED业务,市值蒸发超4600亿元
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。