📣读完这篇文章里你能收获到
- 了解博主的短链生成的架构设计思路
- 学习不同的短链技术方案选择
- 学习基于混淆的自增短URL算法
- 了解博主造的轮子SuperShortLink短链开源项目
- 感谢点赞+收藏，避免下次找不到~
文章来源：https://www.toymoban.com/news/detail-488523.html
一、需求分析
1. 短链生成及访问需求
短 URL 生成器，也称作短链接生成器，就是将一个比较长的 URL 生成一个比较短的URL，当浏览器通过短 URL 生成器访问这个短 URL 的时候，重定向访问到原始的长 URL目标服务器，访问时序图如下：
用户访问短URL时序描述：
- 由应用调用短链服务生成短 URL，并将该短URL 展示给用户
- 用户在浏览器中点击该短 URL 的时候，请求发送到短 URL 生成器
- 短URL 生成器返回 HTTP 重定向响应，将用户请求重定向到最初的原始长 URL
- 浏览器访问长 URL 服务器，完成请求服务
2. 短链应用授权管理需求
短链管理，短链系统管理员可以在管理后台做以下操作：
- 查看已生成的短链列表以及短链的访问次数统计
- 直接在线输入长URL生成短URL
- 管理短链系统的授权秘钥（只有已授权的应用才可通过HTTP请求生成短链）
秘钥使用时序图如下：
秘钥使用流程描述：
- 由管理员在管理后台创建应用秘钥
- 将秘钥配到应用程序中
- 应用程序携带秘钥加密后的Token信息请求短链服务生成短URL
- 短链服务接收到请求时校验Token是否合法，合法则返回相应的短URL
3. 非功能性需求
- 系统需要保持高可用，不因单一服务器宕机而引起服务失效，即需保证服务是支持伸缩的
- 短 URL 应该是不可猜测的，即不能猜测某个短 URL 是否存在，也不能猜测短 URL 可能对应的长 URL 地址内容
二、概要设计
概要设计阶段主要关注短链服务的用例、部署模型、领域设计及短链生成方案的选择
1. 短链服务用例图
- 用户可以访问短URL，短链服务会将请求进行重定向
- 应用程序可以通过短链服务为长URL生成唯一的短URL
- 应用程序可以存储，统计分析短URL的相关数据，比如访问次数
- 管理员可以在Web后台检索、查看短链的生成及使用情况
- 管理员可以在Web后台管理授权访问的应用秘钥
2. 整体部署模型
短链服务的业务逻辑比较简单，相对比较有挑战的就是高并发的短URL的访问请求如何处理。高并发访问主要通过负载均衡与缓存解决。具体的架构图如下：
3. 领域设计
领域设计这块分为两部分，一部分是短链生成记录，另一部分是应用授权
4. 短链生成技术方案选择
短 URL 生成器的设计核心就是短 URL 的生成，即长 URL 通过某种函数，计算得到n个字符的短 URL。短 URL 有几种不同的生成算法。由于Base64后面两位的“+”和“/”在 URL 中会被编码为“%2B”以及“%2F”，需要进行再编码，因此不考虑后两位符号，下文皆以Base62编码（[A-Z]，[a-z]，[0-9]）作为描述
4.1 单项散列函数生成短 URL
散列函数可以将任意长度的输入（又叫做预映射， pre-image），通过执行复杂的运算，变成固定长度的输出又叫散列值， hash value）。在短URL生成中，散列函数可用于将长URL映射到短URL，从而达到缩短URL的效果。
通常的设计方案：
- 将长URL作为散列函数的输入
- 执行散列函数（MD5 或者 SHA256），将长URL转换为固定长度的哈希值
- 将哈希值进行进一步处理，进行Base62编码，防止冲突
- 将编码后的字符串截取N个字符作为短URL
具体流程如图：
- 优点：生成速度快
- 缺点：存在哈希碰撞，相同的哈希值对应不同的长URL，需要进行特殊处理以避免这一问题。虽然哈希碰撞的概率极低，但是 Base62 编码后再截断的 N 个字符有可能会冲突的概率就很高了。所以在生成的时候，需要先校验该短 URL 是否已经映射为其他的长 URL，如果是，那么需要重新计算（换单向散列算法，或者换 Base62 编码截断位置）。重新计算得到的短 URL 依然可能冲突，需要再重新计算
这样的冲突处理需要多次到存储中查找 URL，无法保证短链服务的性能要求，不考虑该方案
4.2 预生成短 URL
预生成短URL是指提前生成一些短URL并保存到数据库中，当用户需要缩短长URL时，直接从数据库中获取一个未被使用过的短URL，而不是现场生成新的短URL。
通常的设计方案：
- 采用随机算法离线预生成一批短URL，为了避免短URL冲突，每次生成的时候都需要检查该URL是否已存在
- 将预生成的短URL存到数据库
- 从数据库的短URL池中取一部分放到缓存中
- 当用户需要缩短一个长URL时，缓存中获取一个短URL
- 当缓存中的短URL快用完时，需从数据库再加载一部分到缓存中
- 当数据库中的预生成短URL快用完时，需要生成更多的短URL并添加到数据库中
具体流程如图：
- 优点：由于生成URL是离线计算，不会对服务器性能产生过大的负担，使用的时候读取短URL速度快
- 缺点：预生成短 URL 会生成大量未被使用的短URL，浪费了存储空间和资源。此外，如果预生成的短URL数量不足，用户可能需要等待新的短URL被生成才能完成操作。越到后期随机算法生成的URL产生冲突的概率会越大，导致需要对比的次数越多
由于需要提前占用大量的存储空间，所以暂不考虑该方案
4.3 基于混淆的自增短 URL
自增短 URL 一种免冲突的算法是用自增长自然数来实现，即维持一个自增长的二进制自然数，然后将该自然数进行 Base62 编码即可得到一系列的短 URL。这样生成的的短 URL 必然唯一，通常采用自增序列号的方式进行生成。原理是将每一个长链接映射到一个唯一的自增序列号，然后将自增序列号转换为指定长度的短链接
比如：
- 自然数 1 的常规Base62 编码是字符“B”
- 就可以用 http://1.cn/B 作为短 URL。
弊端：但是这种算法将导致短URL是可猜测的，只要知道了其中一个短 URL，就可以猜测下一个短 URL
为了解决上述问题，基于上面的方式在生成时加入随机打乱编码Base62等混淆方法，可以增加被预测的概率，增强短URL的安全性
通常的设计方案：
- 初始化一个计数器，用于记录已经生成的短URL数量
- 当用户输入长URL时，将计数器自增1，并将自增后的值前面补0，比如自然数1变成0001
- 然后将该值倒转，也就是0001变成1000
- 为了防止短URL被预测，对转换后的Base62编码进行打乱或加密，以作混淆
- 将倒转后的值转换为混淆加密后的Base62编码，得到短URL
具体流程如图：
- 优点：编码保证绝对唯一，不会出现碰撞冲突，生成速度较快，不需要提前占用存储空间
- 缺点：该方法需要维护一个计数器，如果生成短URL的并发量较大，性能瓶颈取决于计数器，计数器常见的方案：
- Redis原子自增
- 数据库自增主键
我们就是采用了基于混淆的自增短URL，计数器避免引入过多的中间件，因此选择了数据库自增主键
三、详细设计
在详细设计阶段，主要考虑重定向码、高并发场景应对方案、混淆加解密算法的解析及API授权校验的流程
1. 混淆自增算法详解
- 标准Base64编码表如下：
其中“+”和“/”在 URL 中会被编码为“%2B”以及“%2F”，需要进行再编码，因此直接使用标准 Base64 编码进行短URL 编码并不合适，所以，我们需要针对 URL 场景对 Base64 编码进行改造，Base64 编码表中的 62，63 进行编码移除，更新为Base62编码
1.1 混淆加密算法设计
- 将标准编码随机打乱 ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789
举例：打乱成：s9LFkgy5RovixI1aOf8UhdY3r4DMplQZJXPqebE0WSjBn7wVzmN2Gc6THCAKhaut
- 6位长度标准编码与打乱后编码的对应关系
| 计数器自增Id | 标准Base62编码 | 标准Base62编码（6位字符） | 打乱后Base62编码 | 打乱Base62编码（6位字符） |
|---|---|---|---|---|
| 6 | G | AAAAAG | y | sssssy |
| 66 | BE | AAAABE | 9k | ssss9k |
| 100 | Bm | AAAABm | 9E | ssss9E |
可以看出，虽然打乱了，但还顺序性还是很明显
- 将前面补0再倒转，由于6位长度最大11位，为了避免倒转后超过该数值，因此补到10位
| 计数器自增Id | 打乱后Base62编码（6位字符） | 前面补0到10位 | 倒转数字 | 倒转后的打乱Base62编码（6位字符） |
|---|---|---|---|---|
| 6 | sssssy | 0000000006 | 6000000000 | yPFrgP |
| 66 | ssss9k | 0000000066 | 6600000000 | 5xWCQH |
| 100 | ssss9E | 0000000100 | 10000000 | ssSKph |
1.2 恢复混淆解密算法设计
将请求收到的短链Key根据打乱后的Base62编码转成十进制数，补0到10位，然后倒转就得到原来的短链Id
| 短链Key | 解析后的十进制数 | 前面补0到10位 | 倒转数字 |
|---|---|---|---|
| yPFrgP | 6000000000 | 6000000000 | 6 |
| 5xWCQH | 6600000000 | 6600000000 | 66 |
| ssSKph | 10000000 | 0010000000 | 100 |
1.3 算法量级支撑
| 短链长度 | 最大支持数 | 数据量级 |
|---|---|---|
| 5 | 99999999 | 亿 |
| 6 | 9999999999 | 百亿 |
| 7 | 999999999999 | 万亿 |
2. 重定向响应码
满足短 URL 重定向要求的 HTTP 重定向响应码有 301 和 302 两种
- 301 表示永久重定向，即浏览器一旦访问过该短 URL，就将重定向的原始长 URL 缓存在本地，此后不再请求短 URL 生成器，直接根据缓存在浏览器（HTTP 客户端）的长 URL 路径进行访问
- 302 表示临时重定向，每次访问短 URL 都需要访问短 URL 生成器
一般来说，使用 301 状态码可以降低短链服务器的负载压力，但无法统计短 URL 的使用情况，而短链服务的架构设计完全可以承受这些负载压力，因此短链服务使用 302 状态码构造重定向响应
3. 高并发挑战方案
系统调用可以分成两种情况：
- 应用请求生成短URL的过程
- 用户访问短URL，通过短链跳转到长URL的过程
情况1：请求生成短URL不会太频繁，因为是手动点击生成的，因此第一点并发量会比较低，生成URL的性能瓶颈取决于计数器
情况2：由于是直接触达客户，一个短链可能被成千上万的客户访问，上述部署模型中也提到，主要通过负载均衡与缓存解决，在此的缓存选择了本地内存缓存，减少与分布式缓存网络请求的链路耗时，用户访问短链的泳道图如下：
具体流程：
- 用户点击短URL，请求短链服务
- 短链服务解密短链Key生成短链的自增Id
- 通过自增Id到缓存中匹配是否有对应的长URL
- 缓存匹配不到则根据主键Id查询数据库
- 数据库中如果查不到长URL，则返回HTTP 404响应
- 数据库中如果查到长URL，则更新缓存，再更新数据库的访问次数，然后重定向到长URL
4. API授权校验
授权校验主要做了三重校验：
- Body携带的时间戳timestamp必须在60秒内
- Body携带的应用Code（app_code）必须是数据库中已存在的
- Headers携带的Token必须有效
Token的加密：由时间戳 + 应用秘钥 取大写Md5，具体值为：
$"timestamp={timestampStr}&&app_secret={appSecretStr}".ToMd5().ToUpper()
具体的授权流程如下：
四、Web管理后台
- 登录页
- 短链列表页
- 在线生成页
- 授权应用页
五、项目源码
这是一个基于.NET开源的短链生成及监控系统，它包含了在线生成短链、短链跳转长链、支持短链访问次数以及Web监控页面，可以帮助我们更容易地生成短链、监控短链！
- https://github.com/Bryan-Cyf/SuperShortLink
- 欢迎大家提出PR，共同讨论进步
六、思考
- 用户每次请求生成短 URL 的时候，短链服务都会返回一个新生成的短 URL，也就意味着，如果用户重复提交同一个长 URL 请求生成短 URL，每次都会返回一个新的短 URL。你认为这将导致什么问题？
- 用户如果同时请求大量的无效短链过来，会遇到什么问题？
欢迎在评论区提出解决方法，没有思路的可私聊或者看源码
文章来源地址https://www.toymoban.com/news/detail-488523.html
到了这里，关于『架构实践』探索亿级短URL生成器的架构设计与源码分享的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
