推测解码（Speculative Decoding）是谷歌等机构在 2022 年发现的大模型推理加速方法。它可以在不损失生成效果前提下，获得 3 倍以上的加速比。GPT-4 泄密报告也提到 OpenAI 线上模型推理使用了它。针对如此妙的方法，香港理工大学、北京大学、MSRA 以及阿里共同推出 ...

中文里同一个词可以有多种意思，其对应的英文也就不能是同一个词了，比如“上课”和“上课”， Emmm到底是谁上课？ 两种情况啦，笼统来说就是一个是 学生去上课，另一个则是 老师去上课，那我们就一个一个来学习吧～ 相信很多同学都能想到：have (a )class ...

泛读。这篇文章研究的是 DIP 的理论性质。这篇文章似乎发到 nips 上了，但是我仍然认为这篇文章缺乏价值。这篇文章试图证明DIP的计算框架可以用来实现压缩感知重建，并且能够给出一个看起来很不错的理论。假设 S 表示网络 G 的值域，作者用的引理是，若 G ...

未来标准化的软件最后都会被 SaaS 化，卖软件的生意会日益缩水，市场上定制的软件会越来越多。 10月20日，Coding正式对外发布“码市”，码市是一个基于众包的软件外包平台，链接企业发包方（甲方）和程序员（乙方）。 现实软件外包过程中，甲方的烂尾率达 ...