搜索
TII发布开源大模型Falcon H1R 7B，以7亿参数实现优异推理性能
1 周前
品玩1月6日消息，阿布扎比技术创新研究院（TII）推出全新开源大模型Falcon H1R 7B。该模型仅7亿参数，在数学、编程和科学推理等基准测试中，性能超越部分更大规模模型。其采用Transformer与Mamba混合架构，推理吞吐量达每个GPU每秒1500个词元，效率是部分竞争对手的两倍，适合低算力环境。目前，该模型的完整检查点及量化版本已在Hugging Face平台开源。
