阿联酋政府支持的技术创新研究所（TII）近日宣布推出其新一代开源小型语言模型(SLM)——Falcon3系列。这一系列包括四个不同规模的模型:1B、3B、7B和10B，并提供基础版与指令版两种变体，旨在为开发人员、研究人员和企业提供一种高效且成本低廉的AI解决方案。这些模型的推出，标志着AI功能的进一步民主化，能够在轻量级的单GPU基础设施上运行，满足对计算资源有限的设备和应用场景的需求。
图源备注:图片由AI生成，图片授权服务商Midjourney
Falcon3的表现已在Hugging Face排行榜上脱颖而出，超越了与之尺寸相同的开源模型，如Meta的Llama和Qwen-2.5。特别是7B和10B版本在推理速度、语言理解、指令执行以及代码和数学任务等方面，展现了领先的技术优势，甚至在多个基准测试中超越了谷歌、Meta和阿里巴巴等竞争对手。
与传统的大型语言模型（LLM）相比，SLM模型因其较少的参数和更简洁的设计，具备高效性和低成本优势，尤其适合在客户服务、医疗保健、物联网等领域中应用。根据市场研究公司Valuates Reports的数据，SLM市场预计将在未来五年实现18%的年均增长。
Falcon3系列的训练数据规模达到了14万亿tokens，是其前身Falcon2的两倍多。该系列采用了仅解码器架构和分组查询注意机制，最大限度地减少了内存使用，同时提升了推理效率。Falcon3支持英语、法语、西班牙语和葡萄牙语等四种语言，并配备了32K的上下文窗口，能够处理长输入文本，满足各类行业的需求。
TII表示，Falcon3的基础模型适合通用任务，指令版则专为对话任务如客户服务和虚拟助手优化。该系列的推出将进一步推动边缘计算和隐私敏感应用的发展，支持如个性化推荐、数据分析、医疗诊断和供应链优化等场景。
所有Falcon3模型都遵循TII Falcon License2.0发布，这是一个基于Apache2.0的宽松许可证，支持负责任的AI开发和部署。为了帮助开发者和研究人员上手，TII还推出了Falcon Playground测试环境，用户可以在集成这些模型之前进行试用。
