01 简介 近期，元象公司推出了其首个Moe大模型XVERSE-MoE-A4.2B。该模型采用了混合专家模型架构（Mixture of Experts），并拥有4.2B的激活参数，其性能可与13B模型相媲美。值得一提的是，这个模型是完全开源的，可以无条件免费商用，这对于中小企业、研究者和开发者来说无疑是一个巨大的福音。他们可以在元象高性能“全家桶”中按需选用，以推动低成本部署。 在元象自研的过

引言 在人工智能的快速发展中，大模型技术始终是推动行业进步的重要力量。特别是在处理长文本上下文方面，长文本技术已成为衡量一个大模型技术成熟度的重要标准。近日，元象科技发布了全球首个256K上下文窗口长度的开源大模型——XVERSE-Long-256K，这一创新举措不仅填补了开源生态的空白，也标志着大模型技术在长文本处理能力上迈出了重要一步。 Huggingface模型下载：https://h