跳到主要内容

0027 事务里的判断放在加锁之后,加锁层级扩展到角色与删号

  • 状态:已接受(2026-10-30)
  • 相关:ADR 0026(本记录补充它)、0012、0019、0020;设计文档 03(C03、C04、C09、S01)

背景​

M3 之后对照 BS 源码与设计文档做了一次全量审查,用临时的并发测试在 SQLite 和 PostgreSQL 上复现了六个问题(测试代码基于修复前的接口,复现后删除;修复后的回归测试见下):

问题修复前的结果
同时发出几次"改为私有"(双击)6 个请求扣了 6 次差价,三种数据库都复现
给角色穿上材质,同时把它移出衣柜角色穿着不在衣柜里的材质:SQLite 150 轮里 149 轮,PostgreSQL 12 轮
删除角色,同时把它穿着的材质移出衣柜PostgreSQL 60 轮里 59 轮死锁
删除上传者的账号,同时有人收藏他的材质PostgreSQL 死锁;收藏还常因给已删除的上传者发奖励而报 500(60 轮里 58 轮)
两位管理员同时保存有重叠键的设置PostgreSQL 8 个并发保存,200 次里 130 次死锁
同一时刻发出一批错误密码200 个请求全部做了密码校验,限额是 10

根源有两个:

  • 判断用的是事务外读到的数据。 可见性、上传者、"在不在衣柜里"、材质类型在事务开始前读出,事务里照着它们写。ADR 0026 只规定了加锁顺序,没有规定加锁之后要重读。
  • ADR 0026 的顺序只覆盖"改积分和计数"的事务。 删角色(先删角色行、后锁用户)、删用户(先锁用户行,再经外键 SET NULL 改他的材质)、保存设置(按 map 的随机顺序写行)都不在规则里。

限流是同一类问题的另一种形态:先检查、做完昂贵的密码哈希再计数,并发请求都在计数之前通过了检查。

决策​

  • 加锁之后再判断。 事务先按 0026 的顺序加锁,再读出决定结果的数据,按读到的结果写入。事务外的读取只用来尽早给出友好的错误,事务里会再判断一次。
    • 材质:texture.lockAndGet 锁住并重读。收藏、管理员放入衣柜、编辑(改名、改类型、改公开性)、删除、设为头像、提交举报都在锁住材质之后判断可见性、上传者和类型;改为私有时要锁的用户(衣柜里有它的人)也在锁住材质之后列出。
    • 角色:穿戴和管理员转移先按 id 从小到大锁住相关材质,再读角色、查衣柜。衣柜只在材质的锁下变化(收藏、移出、改为私有),所以锁住材质之后查到的结果在提交前一直成立。
  • 加锁层级:材质(id 从小到大)→ 用户(id 从小到大)→ 角色 → 其它行。
    • 删除角色:先锁主人,再删角色行,再退积分。
    • 删除用户(管理员删除、注销到期清理):钩子 BeforeUserDelete 改为在删号的同一个事务里执行。它先锁住这个用户上传的材质和衣柜里的材质,再锁这个用户以及头像是他私有材质的人,然后删除私有材质,最后才删除用户行。注销清理时如果用户行已经不满足条件(期间重新登录恢复了账号),整个事务回滚,私有材质不会被提前删掉。
    • 删除材质时,头像指向它的用户也算进要锁的用户(之后要清空他们的头像);设为头像时先锁材质,再改用户。
  • 同一事务里写多行时按固定顺序:设置按键名排序后写入。
  • 限流先计数再检查:Limiter.Take 在一个锁里检查并计数,Release 撤回不该计入的一次。登录、启动器登录、个人资料页的密码确认,以及找回密码、重发验证邮件、注册、上传、举报、BS 资源 API、第三方登录发起、验证码图片都改用它。登录成功时撤回这次计数,并像以前一样清零这个客户端在该账号上的失败次数,所以成功的登录从不计入。
  • 顺带修复的同类问题:
    • 删除用户时,他的衣柜随外键删除,被收藏数却没有减,又出现了 BS 的 C04 漂移。现在在同一事务里减掉。
    • 删除材质时,上传者自己角色上的槽位原来由外键 SET NULL 清空,players.updated_at 不变,/{name}.json 一直回 304 和已删除的材质。现在经 ent 清空,Last-Modified 随之更新。
    • SQLite 的 DSN 带参数时原来被原样使用,foreign_keys 等 pragma 全部丢失,所有级联与 SET NULL 静默失效。现在保留用户的参数,补上没写的 pragma,外键始终开启。
  • 复查暂存代码时补的三处:
    • 处理举报同样在加锁之后重读举报:举报人的账号在读出举报之后被删除(封禁在事务之前执行,最容易遇到),会把奖励发给已删除的账号,返回 500。
    • 清空穿戴槽位不再用 IN (所有角色 id):一张很多人穿的材质,id 列表会超过单条语句的参数上限(SQLite 32766、PostgreSQL 65535),删除直接失败。现在用与查询相同的条件更新(材质的锁下没有人能穿上它),只在有监听者时才列出角色。删号时查头像持有者也改为每 500 个材质一次查询。
    • 每日校准被收藏数(设计 04 §5.2,ADR 0019 当时推迟):分页比较 likes 与衣柜条数,不一致的逐个在材质锁下重算,每个事务只持一把锁。它兜住加锁也覆盖不到的极少数情况(例如删号的同一瞬间账号主人收藏了新材质),以及 M5 从 BS 导入的数据。
  • 每条修复都有回归测试(SQLite 与 PostgreSQL,-count=10):并发改私有只扣一次、收藏与改私有并发时私有材质不会进别人的衣柜、穿戴与移出衣柜并发、删角色与移出衣柜并发、删用户与收藏并发、并发保存设置、成批错误密码只有 10 次被校验、删号钩子随事务回滚、处理举报时举报人已被删除、7 万个角色穿着的材质可以删除、被收藏数校准。

备选方案​

  • 遇到死锁或冲突自动重试整个事务:0026 已经否决(掩盖问题、放大负载)。
  • SELECT … FOR UPDATE:这个 ent 构建没有开启 sql/lock,"无变化的更新"在三种数据库上同样能锁行。
  • 限流改用 Redis:多一个必需组件;问题在"检查与计数分开",进程内同样能一步完成。

影响​

  • 接口:texture.Service.Update、Delete、Unfavorite、GiveToCloset,player.Service.Wear、Delete,report.Service.Review,notify.Service.Send、Announce,settings.Service.Set 多了一个审计参数(ADR 0028)。player.Service.Edit 在一个事务里完成改名和转移,Transfer 与 Rename 都改为调用它。account.Service.SetBeforeDelete 的钩子多了事务参数,texture.DeletePrivateOf 改名为 BeforeUserDelete。
  • 新增 texture.Service.CalibrateLikes,由服务每天执行一次(与孤儿文件清理一起)。没有新表、新迁移或新设置。
  • 已知的取舍:登录的地址维度限额(每 15 分钟 50 次)现在也计入正在进行的校验,同一地址同时进行的登录超过 50 个时,多出的会先收到 429。站点在反向代理后面却没有配置 trusted_proxies 时,所有人共用代理的地址,这个限额本来就会被很快用完,部署文档要求配置它。
  • 未处理(影响可忽略):Limiter.Release 恰好发生在计数窗口切换之后时,会抵掉新窗口里的一次计数。
  • 审查清单增加一条:每个事务列出"决定结果的读取",确认它们都在加锁之后。