上线bn alpha 到 高点百倍的 $M @MemeCore_M联合Kindred AI @Kindred_AI AI 伴侣 Sato 小蚂蚁马上发售了@Kindred_AI 是一家专注于 AI 伴侣平台的企业，由拥有人机交互领域的硕士/博士研究背景的 Max Giammario @metamaxxmoon 创立预售的小蚂蚁SATO，有着 @CoinMarketCap CMC参与进行转推营销孵化，一个SATO 6.9U，每人可以购买多份购买SATO的多个权益：1⃣可以运行在电脑上的 AI SATO小蚂蚁2⃣每天会产出 69 SUGAR POINTS，后续兑换SATO原生代币 $SUGAR3⃣购买的每一份SATO都会有官方保底机制，3个月后会按照购买金额X（个人系数➕集体系数）空投 @Kindred_AI 官方代币 $kin个人早鸟系数和群体系数，最高可以叠加6.9倍收益最高是24小时内买入的3.5X加上群体大于100W SATO 的3.4X总共6.9X4⃣根据购买数量进行排名，冲上榜单前800名保底都有1个限量3333份的Hero Sato iNFT白名单Hero SATO iNFT：· 可在Kindred ...

机器之心报道 机器之心编辑部 不用换模型、不用堆参数，靠 SUGAR 模型性能大增！ 在深度学习领域中，对激活函数的探讨已成为一个独立的研究方向。例如 GELU、SELU 和 SiLU 等函数凭借其平滑梯度与卓越的收敛特性，已成为热门选择。 尽管这一趋势盛行，经典 ReLU 函数仍因其简洁性、固有稀疏性及其他优势拓扑特性而广受青睐。 然而 ReLU 单元易陷入所谓的「死亡 ReLU 问题」， 一旦某个神经元在训练中输出恒为 0，其梯度也为 0，无法再恢复。 这一现象最终制约了其整体效能，也是 ReLU 网络的重大缺陷。 正是死亡 ReLU 问题催生了大量改进的线性单元函数，包括但不限于：LeakyReLU、PReLU、GELU、SELU、SiLU/Swish 以及 ELU。这些函数通过为负预激活值 引入非零激活，提供了不同的权衡。 本文，来自德国吕贝克大学等机构的研究者引入了一种新颖的方法：SUGAR（Surrogate Gradient for ReLU），在不牺牲 ReLU 优势的情况下解决了 ReLU 的局限 性。即前向传播仍使用标准 ReLU（保持其稀疏性和简单性），反向传播时替换 ReLU 的导数为 ...