AI 基础设施
优化器、微调框架和推理扩展,使开放模型更高效、稳健和易用。
- LOMO、AdaLomo 优化器
- CoLLiE:协作微调
- 大规模训练流程
OpenMOSS Lab 源于复旦大学 FudanNLP 团队,致力于开放和负责任的 AI 研究。我们的使命是推进大规模 AI 系统的理论、方法和应用——从预训练和推理到多模态和具身智能——同时确保切实的社会影响。
我们与全球研究合作伙伴和行业领导者合作,将基础研究转化为可部署的系统。校友遍布顶尖大学(MIT、UC Berkeley、CMU)和公司(ByteDance、Alibaba、AWS、Optiver),许多人创办了初创公司或担任教职。
优化器、微调框架和推理扩展,使开放模型更高效、稳健和易用。
跨越语音、视觉和语言的统一模型,用于基础理解和推理。
能够规划、推理并安全地与人类和工具交互的大语言模型智能体。
将模型与物理环境连接的视觉-语言-动作系统和模拟器。
负责任开放模型部署的透明度、评估和治理框架。
基于扩散的 LLM、长上下文建模和内存高效的 Transformer,用于下一代系统。
我们发布了 MOSS——中国最早的开放对话式大语言模型之一,并持续推动以社区为先的开发,提供开放数据、基准和 API。
与华为、荣耀、字节跳动和全球合作伙伴的协作,加速了基础模型在实际产品中的应用。
我们的团队在顶级会议(NeurIPS、ICML、ICLR、ACL、EMNLP、NAACL、ICCV)发表论文,并经常获得杰出论文和演示奖。
校友在顶尖大学担任教职,并以创始人、CEO 和 CTO 的身份加入知名 AI 初创公司。