
这是一项由中国中南大学、新加坡国立大学和Shopee公司的研究团队相助完成的研究,,,,,,论文揭晓于2026年2月,,,,,,论文编号为arXiv:2602.02338。。。。。有兴趣深入相识的读者可以通过这个编号盘问完整论文。。。。。
一个问题引入的故事
你有没有想过,,,,,,为什么翻开购物软件时,,,,,,系统总能推荐给你可能喜欢的商品????????为什么音乐app似乎能读懂你的音乐品味????????这背后着实隐藏着一套精妙的"推荐邪术"。。。。。不过,,,,,,这套邪术现在保存一个有趣的悖论:现在大大都推荐系统都在学习怎样用"语义"来明确商品——好比把"苹果"和"梨"归为水果,,,,,,把"T恤"和"牛仔裤"归为衣服。。。。。但这样做有个问题:你买苹果的时间,,,,,,着实不是由于苹果和梨在语义上相似,,,,,,而是由于你正好想吃水果。。。。。这就像一个厨师只凭证食材的化学因向来烹饪,,,,,,而忽视了食客真正想吃什么一样。。。。。
这项研究就是来解决这个"神秘食谱"问题的。。。。。研究团队意识到,,,,,,现在的推荐系统在构建所谓的"语义ID"时,,,,,,着实在用一套设计不敷巧妙的"食谱"。。。。。他们提出了一个全新的要领,,,,,,叫做ReSID,,,,,,焦点理念是:与其盲目跟风使用大型AI模子来提取商品特征,,,,,,不如直接从用户的真实购置行为和商品的结构化信息出发,,,,,,设计一套专门为推荐而生的"食谱"。。。。。
二、为什么现在的"食谱"有问题
想象你在设计一个自动餐厅推荐系统。。。。。古板的做法是这样的:首先,,,,,,你用一个高峻上的通用"厨师助手"(好比大语言模子)来学习每道菜的特征——这个助手会剖析菜名、菜的形貌、食材清单等,,,,,,然后给出一个"特征向量",,,,,,代表这道菜的实质。。。。。接着,,,,,,你把这些特征向量用一个通用的"分类工具"(好比向量量化要领)压缩成离散的"编码",,,,,,最后用这些编码来训练推荐系统。。。。。
乍一看很合理,,,,,,对差池????????但问题就出在这里。。。。。
首先,,,,,,谁人通用的"厨师助手"是为了明确菜的语义而训练的。。。。。它会告诉你,,,,,,红烧肉和卤蛋在语义上很靠近(都是肉类制品,,,,,,口胃相似),,,,,,但它不知道的是,,,,,,用户A喜畛刳一小我私家用饭时点红烧肉,,,,,,而在和朋侪聚餐时才会点卤蛋。。。。。用户B则相反。。。。。这些"搭配纪律"和"购置时机"对推荐来说着实更主要,,,,,,但语义特征完全捕获不到。。。。。这就像一个厨师只知道菜的营养因素,,,,,,却不相识食客的口胃偏好和用餐场景一样。。。。。
其次,,,,,,纵然你乐成地用大语言模子学到了这些特征,,,,,,后续的"分类工具"也不是凭证推荐系统的现实需求来设计的。。。。。通常的做法是最小化"重修误差",,,,,,也就是说,,,,,,最小化压缩历程中的信息损失。。。。。但关于推荐系统来说,,,,,,这不是最主要的。。。。。最主要的是什么呢????????是这些编码在做自动推荐时能不可"好用"。。。。。想象一个没有履历的咨询员在帮你推荐菜品——他一个字一个字地读出菜名编码,,,,,,凭证前面几个字母推测后续的菜名。。。。。若是编码设计得欠好,,,,,,每说一个字母时都要思量许多种可能,,,,,,推荐就会变得很难题。。。。。但若是编码设计得精妙,,,,,,前面的字母能极大地缩小后续的可能性,,,,,,推荐就会很顺畅。。。。。现在的量化要领完全没有思量这一点。。。。。
这就是研究团队发明的基础问题:现在的推荐系统在"做菜"时用的是一套通用的、优雅的食谱,,,,,,但这套食谱基础不适合目今的"餐厅主题"。。。。。
三、ReSID的立异:重新设计"食谱"
研究团队的解决计划分成两个部分,,,,,,就像烹饪中的"选材"和"烹饪技巧"一样。。。。。
**第一部分:重新学习商品特征(选材阶段)**
他们提出了一个叫做FAMAE的要领,,,,,,全名是"字段感知的遮蔽自动编码"。。。。。这个名字听起来重大,,,,,,但焦点头脑着实很简朴:与其用大语言模子去明确商品的语义,,,,,,不如直接从推荐的目的出发。。。。。
详细怎么做呢????????研究团队想象了这样一个场景:假设你是一个购物助手,,,,,,用户告诉你他们之前买过什么,,,,,,现在你要推测他们接下来想买什么商品的某个属性。。。。。好比,,,,,,用户说"我之前买了苹果、香蕉、面粉",,,,,,现在要猜"鸡蛋"的种别是什么。。。。。这时你可以依次推测:种别是食物吗????????品牌是什么????????规格是什么????????通过重复做这个推测游戏,,,,,,你对"商品特征"的明确就会变得很是适用,,,,,,由于它必需能够展望用户的购置序列。。。。。这就是FAMAE的焦点原理。。。。。
用信息论的语言来说,,,,,,FAMAE学到的特征最大化了用户历史和商品特征之间的"互信息",,,,,,也就是说,,,,,,这些特征包括了尽可能多的、与推荐相关的信息。。。。。并且,,,,,,和大语言模子差别,,,,,,FAMAE直接保存了商品各个属性字段的自力性——它不会把商品ID、种别、品牌等所有混杂在一个向量里,,,,,,而是划分学习每个字段的特征。。。。。这样的利益是什么呢????????这就像烹饪时划分调配主菜和配菜,,,,,,最后再组合,,,,,,而不是把所有食材混在一起搅成泥。。。。。这种方法更无邪,,,,,,也更容易让推荐系统"明确"每个属性的寄义。。。。。
**第二部分:重新设计编码方法(烹饪技巧阶段)**
现在你有了优质的"食材"(好的特征),,,,,,接下来要做的是"烹饪"——把这些一连的向量压缩成离散的编码。。。。。这是最要害的一步,,,,,,由于推荐系统最后要处置惩罚的就是这些离散编码。。。。。
研究团队发明,,,,,,现在主要有两种做法,,,,,,都有缺陷。。。。。
第一种要领是"重修驱动型"的量化要领,,,,,,好比RQ-VAE。。。。。这类要领的目的是让重修的特征和原始特征尽可能靠近,,,,,,就像把一张照片压缩成JPG名堂时,,,,,,要只管保存清晰度一样。。。。。但问题是,,,,,,它们不思量后续推荐时的现实需求。。。。。它们会在差别层级自力地分派编码,,,,,,导致统一个编码在差别的"前缀"(也就是之前的编码序列)下代表的寄义可能差别很大。。。。。这就像一个词在字典里只有一个界说,,,,,,但在现实对话中会凭证语境有差别的寄义一样——推荐系统会很疑心。。。。。
第二种要领是"树形编码"的量化要领,,,,,,好比分层K-均值。。。。。这类要体会凭证一个树形结构来分派编码,,,,,,使得前面的编码能够限制后续编码的可能性,,,,,,这在逻辑上更靠近推荐系统的事情方法。。。。。但问题是,,,,,,每个父节点下的子节点编码是自力分派的,,,,,,没有全局的一致性。。。。。这就像一棵树的每个分支都有自己的"编号系统",,,,,,导致统一个编码在差别分支下代表的工具完全差别——就像每间餐厅都用差别的菜单编号,,,,,,主顾看到"15号菜"时完全不知道是什么一样。。。。。
研究团队提出的GAOQ要领(全局对齐正交量化)就是要在这两个极端之间找到完善的平衡。。。。。它团结了树形编码的"渐进式细化"优势,,,,,,同时加入了全局的一致性约束。。。。。详细怎么做呢????????
想象你在为一个连锁餐厅设计菜单编号系统。。。。。首先,,,,,,你凭证口胃将所有菜品分成几大类——好比肉类、素菜、汤品等。。。。。接着,,,,,,在每个大类下,,,,,,你再凭证烹饪方法细分——好比红烧、清蒸、炒制等。。。。。但这里的要害立异是:你不是在每个大类下自力编号,,,,,,而是使用一套全局统一的"烹饪方法编码"。。。。。这样,,,,,,主顾看到"红烧"这个编码时,,,,,,无论是在肉类下照旧素菜下,,,,,,都代表统一种烹饪方法。。。。。这套编码系统是通过一个巧妙的数学技巧(匹配差别类别的质心到一组"正交参考偏向")来实现的。。。。。
这样做有什么利益呢????????从推荐的角度来看,,,,,,当推荐系统在天生编码时,,,,,,前面的编码能够极大地限制后续编码的可能性,,,,,,但每个编码自己都有清晰、一致的寄义。。。。。这就像一个履历富厚的效劳员,,,,,,当他听到主顾说"我要一个红烧的"时,,,,,,他连忙就能展望出接下来最可能是什么菜品,,,,,,大大加速了推荐的速率和准确性。。。。。
四、怎样权衡"食谱"的优劣
现在,,,,,,研究团队设计了这套新的"食谱",,,,,,但怎样才华知道它是不是真的比原来的好呢????????若是非要比及最后的推荐效果,,,,,,才华判断,,,,,,那就太慢了。。。。。以是,,,,,,研究团队提出了两个"试吃指标",,,,,,可以提前判断"食谱"的质量。。。。。
第一个指标是"协作建模能力"。。。。。这个指标的焦点想法是:若是你只知道用户的购置历史,,,,,,不知道要推荐商品的任何信息,,,,,,你能有多准确地展望这个商品的各个属性????????好比,,,,,,用户在"食物"类买了许多工具,,,,,,现在要推荐一个商品,,,,,,你能有多准确地展望它的品牌或规格????????若是能展望得很准确,,,,,,说明学到的特征包括了很强的"协作"信息——也就是说,,,,,,它明确了用户的购置模式和商品的共现关系。。。。。
第二个指标是"判别语义和空间结构"。。。。。这个指标问的是:若是你知道一个商品的所有属性除了ID,,,,,,你能有多准确地展望它的ID????????这权衡的是特征空间是否保存了细粒度的、能够区分差别商品的信息。。。。。简朴来说,,,,,,就是在特征空间中,,,,,,相似的商品是否群集在一起,,,,,,差别的商品是否被很好地区脱离。。。。。
在实验中,,,,,,研究团队发明,,,,,,那些在这两个指标上体现都很好的特征学习要领,,,,,,最后的推荐效果也都很好。。。。。这就像一个食物磨练员,,,,,,通过两个简朴的指标(口感和外观)就能展望一道菜最后的受接待水平一样。。。。。
五、实验验证:与其他要领的比照
研究团队在十个真实的购物数据集上举行了大规模的实验。。。。。这些数据集包括音乐器材、电子游戏、工业用品、婴儿产品等各个品类。。。。。
他们将ReSID与三类主要的对标要领举行了比照。。。。。第一类是古板的"序列推荐模子",,,,,,这些模子只使用商品ID来展望下一步会买什么。。。。。第二类是在第一类基础上加入商品属性信息的增强版本,,,,,,这样可以对古板要领举行更公正的评估。。。。。第三类是最近提出的"天生式推荐要领",,,,,,这些要领也使用语义ID,,,,,,但接纳的是之前讨论过的那些"有缺陷的食谱"。。。。。
效果怎样呢????????令人瞩目。。。。。ReSID不但逾越了所有的天生式推荐要领,,,,,,甚至逾越了加入了商品属性的古板推荐模子。。。。。这意味着什么呢????????这意味着,,,,,,纵然你给古板模子加上更多的信息,,,,,,让它们站在统一起跑线上,,,,,,ReSID通过更巧妙的"食谱"设计,,,,,,仍然能做得更好。。。。。这就像,,,,,,纵然你给所有厨师同样的食材和工具,,,,,,一位履历富厚的大厨仍然能做出最鲜味的菜肴。。。。。
详细的数字怎样呢????????平均而言,,,,,,ReSID在推荐准确度上比最好的对标要领提高了凌驾10%。。。。。有些数据集上的提升甚至抵达了20%多。。。。。这关于一个已经被研究多年的问题来说,,,,,,是一个相当显著的前进。。。。。
并且,,,,,,有一个让人惊喜的地方是速率。。。。。ReSID的编码天生速率比之前最快的天生式推荐要领快了100多倍!这是由于GAOQ不需要像RQ-VAE那样通过多轮迭代优化,,,,,,而是直接通过聚类和匹配就能完成。。。。。这就像,,,,,,同样是做一道菜,,,,,,一个要领需要全心调火候重复调味,,,,,,而另一个要领的办法更直接有用,,,,,,以是做出来用时更短。。。。。
六、一个有趣的发明:端到端学习的陷阱
在实验历程中,,,,,,研究团队还发明了一个有趣的征象。。。。。有一种要领叫ETEGRec,,,,,,它试图通过直接在推荐使命上优化SID编码的天生,,,,,,来实现"端到端"的学习。。。。。理论上,,,,,,这应该能给出最优的编码计划,,,,,,由于编码的每一个环节都在为最终的推荐目的起劲。。。。。
但现实上,,,,,,ETEGRec的体现反而比ReSID差了不少!这是为什么呢????????
凭证研究团队的剖析,,,,,,缘故原由在于推荐系统的一个基础特征:编码的质量既是推荐系统的输入,,,,,,也会间接影响优化目的。。。。。简朴来说,,,,,,就像一个学生同时身兼多职——他既是职员(要完成事情),,,,,,又是评委(要判断事情质量),,,,,,照旧项目司理(要妄想事情流程)。。。。。这些角色之间难免会爆发冲突和滋扰。。。。。当你试图直接优化最终的推荐效果时,,,,,,编码的天生历程反而会变得不稳固,,,,,,由于它需要同时知足太多相互竞争的目的。。。。。而ReSID的要领是把这个重大的多角色问题剖析成两个简朴的简单目的问题:首先设计最适合推荐的特征(字段感知遮蔽自编码),,,,,,然后设计最适合推荐的编码(全局对齐正交量化)。。。。。每个阶段都有明确的目的,,,,,,不会相互滋扰。。。。。效果反而更好。。。。。
这让研究团队得出了一个有趣的结论:在机械学习中,,,,,,有时间"解耦"——把一个大问题分成几个相对自力的小问题——反而比试图"一口吃成一个胖子"更有用。。。。。这就像烹饪中的原理:若是你试图同时控制火候、调味、摆盘,,,,,,可能会手忙脚乱。。。。。但若是你先把菜炒好,,,,,,再单独处置惩罚调味,,,,,,最后再摆盘,,,,,,反而会做得更好。。。。。
七、为什么这项研究对现实应用很主要
你可能会想,,,,,,这些理论上的刷新和速率的提升,,,,,,对我这样的通俗用户意味着什么呢????????
首先,,,,,,推荐准确度提高10%以上。。。。。这不是一个可以忽视的数字。。。。。关于像亚马逊这样的大型电商平台来说,,,,,,纵然是1%的准确度提升,,,,,,都可能意味着数百万美元的特殊利润。。。。。但从用户的角度,,,,,,这意味着你翻开购物app时,,,,,,系统推荐给你的工具会更切合你的真实需求,,,,,,而不是基于某个模糊的"语义相似度"。。。。。你会花更少的时间滑动寻找感兴趣的商品,,,,,,能更快地找到你真正想买的工具。。。。。
其次,,,,,,盘算效率提高100多倍。。。。。这对大型互联网公司来说,,,,,,意味着可以用更自制的硬件安排这套系统,,,,,,或者用相同的硬件为更多用户效劳。。。。。最终,,,,,,这些本钱的节约会某种水平上传导给用户,,,,,,可能体现为更自制的商品价钱或更快的推荐速率。。。。。
再次,,,,,,这套要领不需要依赖大型的预训练语言模子。。。。。现在,,,,,,许多推荐系统都依赖于像GPT这样的大型模子。。。。。这意味着什么呢????????这意味着系统容易泛起"黑箱问题"——没人知道推荐背后的真实逻辑。。。。。并且,,,,,,这些大型模子的盘算价钱极高,,,,,,需要专门的GPU效劳器。。。。。ReSID的要领完全差别。。。。。它直接从结构化的商品信息学习,,,,,,没有黑箱,,,,,,逻辑清晰,,,,,,盘算价钱也低得多。。。。。这关于那些无法肩负大型模子本钱的中小型企业来说,,,,,,是一个重大的福音。。。。。他们现在也能拥有一个和大型科技公司差未几效果的推荐系统。。。。。
八、这套"食谱"的局限与未来
虽然,,,,,,任何研究都不是完善的,,,,,,ReSID也有一些需要刷新的地方。。。。。
首先,,,,,,虽然FAMAE提供了一套好的指标来评估特征的质量,,,,,,但GAOQ现在还没有类似的"试吃指标"。。。。。这意味着,,,,,,若是你想刷新编码的方法,,,,,,还需要靠最后的推荐效果来判断,,,,,,无法提前预知。。。。。这关于快速迭代和刷新不是特殊利便。。。。。
其次,,,,,,虽然ReSID比之前的要领快许多,,,,,,但和古板的序列推荐模子相比,,,,,,天生式推荐模子自己的训练和推理速率仍然会慢一些。。。。。这是由于天生式模子需要一个字接一个字地展望编码,,,,,,而古板模子可以一次性展望。。。。。以是,,,,,,在对实时性要求很是高的场景中,,,,,,ReSID仍然可能不是最优选择。。。。。
最后,,,,,,这项研究主要关注的是在有结构化属性信息的场景下的推荐。。。。。若是你的商品险些没有属性信息(好比新上架的商品),,,,,,或者属性信息很是嘈杂和不规范,,,,,,ReSID的优势可能会被削弱。。。。。
只管有这些局限,,,,,,研究团队已经在思索怎样突破这些限制。。。。。下一步的偏向可能包括为GAOQ设计类似的"试吃指标",,,,,,进一步加速天生式推荐的推理历程,,,,,,以及探索如那里置不规范或缺失的属性信息等。。。。。
九、"食谱"的哲学思索
在深入相识这项研究后,,,,,,你可能会想到一个更深层的问题:为什么一个设计得更针对目的使命的要领,,,,,,反而会比一个更通用的、看起来更"智慧"的要领(好比使用大语言模子)体现得更好呢????????
这着实反应了机械学习中的一个古老的智慧:没有绝对的最优解,,,,,,只有相关于特定使命的最优解。。。。。一个在语义明确上体现优异的模子,,,,,,未必在推荐这个详细使命上最优。。。。。就像一个通才型的人,,,,,,虽然什么都会一点,,,,,,但纷歧定比专业人士更精彩。。。。。ReSID的哲学就是"术业有专攻"——专门为推荐这个使命设计一套要领,,,,,,效果反而泛起了更好的效果。。。。。
这对PT视讯(中国区)官网一样平常思索也有启发。。。。。有时间,,,,,,我们试图用一个通用的、看起来很强盛的工具来解决所有问题。。。。。但往往,,,,,,针对特定问题设计的简朴工具,,,,,,会给出更好的效果。。。。。这就像,,,,,,用瑞士军刀可以做许多事,,,,,,但若是你要切蛋糕,,,,,,照旧用一把专业的蛋糕刀更好。。。。。
同样,,,,,,这项研究也体现了AI发安徽徽匠新质料科技有限公司展的一个可能偏向:也许我们不需要一个无所不可的超大模子,,,,,,而是需要许多个小而精的、针对差别使命优化的专用模子。。。。。这样不但能获得更好的效果,,,,,,还能降低本钱、提高可诠释性,,,,,,何乐而不为呢????????