英国爱丁堡大学与英伟达的结合团队开发出一种新步骤
，可能压缩人为智能（AI）模型运行时所依赖的内存
，从而在维持响应快率不变的情况下
，提升模型处置复杂工作的正确性
，或显著降低其能耗。这也意味着
，更幼的内存将带来“更强的AI”
，有望突破大说话模型（LLM）机能瓶颈。 团队发现
，将LLM所使用的内存压缩至原有大幼的1/8后
，模型在数学、科学和编程等专业测试中的阐发反而更好
，且推理功夫并未耽搁。这一步骤亦有助于模型同时响应更多用户要求
，从而降低单个工作的均匀功耗。除了节能优势
，这项改进还有望使AI更合用于处置复杂问题的系统
，或存储快率较慢、内存容量有限的终端设备
，例如智能家居产品和可穿戴技术。 AI模型通常通过“思虑”更复杂的如果
，或同时索求更多可能性来寻找答案。在此过程中
，模型必要将已天生的推理线程内容暂存于一种称为“KV缓存”的内存中。随着线程数量增多或线程长度增长
，KV缓存的体积会迅快扩大
，成为机能瓶颈
，拖慢模型输出响应的快率。 为突破这一限度
，团队提出了一种名为“动态影象稀少化”（DMS）的内存压缩技术。该步骤并非保留所有天生的象征（即AI模型处置的根基数据单元）
，而是动态判断哪些象征对后续推理至关沉要、哪些能够剔除。由于从决定删除某个象征到现实删除之间存在的微幼延长
，使模型有机遇将待删除象征中的有效信息转移至保留的象征中。通过这种方式
，DMS使AI模型可能在一样推算资源下进行更深刻的“思虑”
，或索求更多可能的解决规划蹊径。 测试中
，在一项基于美国数学奥猎欹克资格赛（AIME 24）设计的数学测试中
，压缩模型在一样内存读取次数下
，均匀得分比未压缩模型逾越12分；在由博士级专家假造的专业科学题库中
，其阐发优于原模型；在评估代码编写能力的平台上
，压缩模型的均匀得分也提高了10分。 这项钻研突破了人们“推算资源越多
，AI越强”的惯性认知。DMS内存压缩技术就像给AI装上了过滤器
，让它学会抓住思虑的沉点
，而非盲目堆砌数据。这种“更少内存
，更强智能”的蹊径
，可能从底子上扭转AI的研发方向
，让高机能AI真正轻量化。将来
，复杂的科学推算或许在智能腕表上就能运行
，家用机械人也能够同时处置多项复杂指令而不卡顿。其实
，这也暗合了人类的高效思虑逻辑——我们不会记住每个细节
，而是提炼关键信息进行推理。这种向人脑进建的选择性影象机造
，也许会比单纯扩大模型规模更早触及通用AI的门槛。