摘要:
注意力机制听起来很玄乎,但我们可以把它看作一个软k-NN算法。查询向量问:“谁跟我最像?”,softmax投票,相似的邻居们返回一个加权平均值。这就是注意力头的另外一种解释: 一个可微分的软k-NN:计算相似度 → softmax转换为权重 → 对邻居值求加权平均。通过 1/sqrt(d) 缩放防止 阅读全文
posted @ 2025-09-27 09:03
ljbguanli
阅读(14)
评论(0)
推荐(0)
摘要:
前面的文章主要在应用端.本文主要是针对文本重排,从mupdf的导出文本到应用端对这个文本再重排.尽量保持原文的格式方面作些说明.文本重排,对于扫描版,目前不考虑,因为图片的ocr准确度不好,而且要ocr,当前的主流机型一页消耗时间太长.所以只考虑非扫描版,可以用mupdf直接导出文本的.文本重排有两 阅读全文
posted @ 2025-09-27 08:41
ljbguanli
阅读(20)
评论(0)
推荐(0)
摘要:
五、方案 4:Redis 自增 ID—— 极高并发的轻量选择5.1 问题场景:直播平台礼物 ID 生成某直播平台,峰值 QPS 达 10 万(用户送礼物),需生成全局唯一、高性能的礼物 ID,无需强有序(仅需唯一标识),且避免依赖数据库 / ZooKeeper。5.2 方案原理:利用 Redis 的 阅读全文
posted @ 2025-09-27 08:15
ljbguanli
阅读(10)
评论(0)
推荐(0)
浙公网安备 33010602011771号