llama-3-8b-instruct

Llama模型

字体:

Meta-Llama-3-8B-Instruct‌ 是由 Meta 于 ‌2024年4月18日‌ 发布的开源大语言模型(LLM)之一,属于 Llama 3 系列中 ‌80亿参数‌ 的指令微调版本,专为对话和指令遵循任务优化 ‌。


核心特性

  • ‌参数规模‌:约 ‌80亿参数‌(Dense 架构,非 MoE),适合单卡部署 ‌。

  • ‌上下文长度‌:原生支持 ‌8K tokens‌,可通过外推技术扩展至 ‌16K tokens‌ ‌。

  • ‌词汇表大小‌:‌128K‌,显著大于 Llama 2 的 32K,提升多语言与专业术语处理能力 ‌。

  • ‌训练数据‌:基于 ‌15万亿+ tokens‌ 的公开数据预训练,知识截止时间为 ‌2023年12月‌ ‌24。

  • ‌支持语言‌:原始版本以英语为主;‌中文能力较弱‌,需微调增强 ‌。

  • ‌许可协议‌:采用 ‌Meta Llama 3 Community License‌,允许免费商用(月活 < 7 亿),需标注 “Built with Meta Llama 3” ‌



立即使用大模型

免费体验最新的AI大模型,支持对话、写作、编程、图像、视频等多种功能

立即使用此模型

免费体验最新的AI大模型,支持对话、写作、编程、图像、视频等多种功能