HuggingFace、英伟达和约翰霍普金斯大学联合推出BERT模型的新版本ModernBERT。开发团队表示,ModernBERT在速度和准确性上超越了BERT,成为编码器模型的新标准。该模型支持处理长达8192个Token的上下文,并在多种分类测试和向量检索测试中领先。