Meta 开发了一个新的高质量人工评估集,包含 1,800 个涵盖 12 个关键使用场景的提示,以确保 Llama 3 针对实际场景而非仅针对基准测试进行了优化。该模型在与其他最先进模型的比较中在人工评估中表现出色。

Llama 3 使用了一个更高效的分词器,拥有 128,000 个词汇表,并且是在超过 5 万亿个令牌上预训练的 - 是 Llama 2 的 7 倍,包括 4 倍以上的代码和超过 5% 的高质量非英语数据。400 亿参数版本的性能与 GPT-4 相当。

Meta 已将 Llama 3 以开源方式发布,使开发者和研究人员可以自由使用。但是,由于地区法规的原因,欧盟和英国的用户可能会面临一些限制或延迟访问该模型的情况。