7月19日消息,在 19 日的微软的 Inspire 合作伙伴大会上,Meta宣布和微软深化合作,正式推出新一代开源大型语言模型Llama 2,并将该模型免费开放给商业和研究使用。
据品玩网报道,此次 Meta 高调开源 Llama 2,无疑是在正面硬刚走技术保密路线的 GPT-4 和谷歌的 PaLM 2。
根据 Meta 官方数据,Llama 2 相较于上一代其训练数据提升了 40%,包含了 70 亿、130 亿和 700 亿参数 3 个版本。Llama 2 预训练模型接受了 2 万亿个 tokens 的训练,上下文长度是 Llama 1 的两倍,其微调模型已经接受了超过 100 万个人类注释的训练。
2 月,Meta 首次发布了自家的大语言模型LLaMA(Large Language Model Meta AI)系列,包含 70 亿、130亿、330亿 和 650 亿4个版本。
当时 Meta 表示, LLaMA 拥有超高性能,使用 130 亿参数的 LLaMA 在规模仅为 ChatGPT 的十分之一的情况下,性能表现可以优于GPT-3。
使用 650 亿参数的 LLaMA 则可以与 DeepMind 700 亿参数的 Chinchilla 模型和谷歌 5400 亿参数的 PaLM 模型比肩。
但 2 月版本的 LLaMA 并不是 ChatGPT 的直接竞争对手,LLaMA 定位于“开源的研究工具”,所使用的是各类公开可用的数据集。它当时更多的着眼于研究领域,仅在非商业许可下提供给政府、社区和学术界的研究人员。
Meta 表示Llama 2可免费用于研究和商业用途,开发者们可以直接在Llama 2官方网站下下载该模型。
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。