今年LLM的发展趋势之一,就是端侧LLM快速发展,超级APP入口之争异常激烈。不过,端侧LLM如何应用,不知道细节就很难理解。正好,《Octopus v2: On-device language model for super agent》这篇文章可以解惑。 对比部署在云上,端侧大模型的好处主要来说就是:成本低、增强隐私。创建更小的模型以部署在智能手机、汽车、VR 耳机和个人电脑等边缘设备,等等
📌 元数据概览: 标题:论文的标题是 “Octopus v2: On-device language model for super agent”,这个标题暗示了文章可能讨论的是一种新型的、适用于移动设备的强大语言模型,旨在提升AI代理的性能。作者:文章的作者是Wei Chen和Zhiyuan Li,他们都来自斯坦福大学。斯坦福大学是世界顶尖的研究型大学,作者们很可能在人工智能和机器学习领域
Octopus: Comprehensive and Elastic User Representation for the Generation of Recommendation Candidates 背景: 多兴趣通道(channel)结构的多兴趣召回模型在兴趣通道数量上面存在两个问题 兴趣通道较少,不能充分学习到用户的多个兴趣。兴趣通道较多,很多兴趣通道可能和用户兴趣不相关,这样会引