OWenT's blog
  • Introduction
  • About Me
  • 2020
    • 近期对libatapp的一些优化调整(增加服务发现和连接管理,支持yaml等)
    • xresloader转表工具链增加了一些新功能(map,oneof支持,输出矩阵,基于模板引擎的加载代码生成等)
    • 在游戏服务器中使用分布式事务
    • libcopp接入C++20 Coroutine和一些过渡期的设计
    • libatbus 的大幅优化
    • nftables初体验
    • 容器配置开发环境小计
  • 2019
    • PALM Tree - 适合多核并发架构的B+树 - 论文阅读小记
    • 跨平台协程库 - libcopp 简介
    • C++20 Coroutine 性能测试 (附带和libcopp/libco/libgo/goroutine/linux ucontext对比)
    • 尝鲜Github Action
    • 一些xresloader(转表工具)的改进
    • protobuf、flatbuffer、msgpack 针对小数据包的简单对比
    • 协程框架(libcopp) 小幅优化
    • Excel转表工具(xresloader) 增加protobuf插件功能和集成 UnrealEngine 支持
    • Anna(支持任意扩展和超高性能的KV数据库系统)阅读笔记
    • C++20 Coroutine
    • libcopp merge boost.context 1.69.0
    • Google去中心化分布式系统论文三件套(Percolator、Spanner、F1)读后感
    • Rust玩具-企业微信机器人通用服务
  • 2018
    • 使用ELK辅助监控开发测试环境服务质量和问题定位
    • Webpack+vue+boostrap+ejs构建Web版GM工具
    • 2018年的新通用伪随机数算法(xoshiro / xoroshiro)的C++(head only)实现
    • Rust的第二次接触-写个小服务器程序
    • 理解和适配AEAD加密套件
    • atsf4g-co的进化:协程框架v2、对象路由系统和一些其他细节优化
    • 协程框架(libcopp)v2优化、自适应栈池和同类库的Benchmark对比
    • 可执行文件压缩
    • 初识Rust
    • 使用restructedtext编写xresloader文档
    • atframework的etcd模块化重构
    • C++的backtrace
  • 2017
    • ECDH椭圆双曲线(比DH快10倍的密钥交换)算法简介和封装
    • protobuf-net的动态Message实现
    • pbc的proto3接入
    • atgateway内置协议流程优化-加密、算法协商和ECDH
    • 整理一波软件源镜像同步工具+DevOps工具
    • Blog切换到Hugo
    • libcopp v2的第一波优化完成
    • libcopp(v2) vs goroutine性能测试
    • libcopp的线程安全、栈池和merge boost.context 1.64.0
    • GCC 7和LLVM+Clang+libc++abi 4.0的构建脚本
    • libatbus的几个藏得很深的bug
    • 用cmake交叉编译到iOS和Android
    • 开源项目得一些小维护
    • atapp的c binding和c#适配
    • 对象路由系统设计
    • 2016年总结
    • 近期的一个协程流程BUG
  • 2016
    • 重写了llvm+clang+libc++和libc++abi的构建脚本
    • atsf4g完整游戏工程示例
    • atframework基本框架已经完成
    • 游戏服务器的不停服更新
    • 对atbus的小数据包的优化
    • Android和IOS的TLS问题
    • pbc的一个陈年老BUG
    • boost.context-1.61版本的设计模型变化
    • 接入letsencrypt+全面启用HTTP/2
    • 理解Raft算法
    • libatbus基本功能及单元测试终于写完啦
    • 博客文章和文档迁移到gitbook
  • 2015
    • 博客文章和文档迁移到gitbook
    • 给客户端写得LRU缓存
    • 近期活动比较零散
    • 关于BUS通信系统的一些思考(三)
    • 针对Java JIT的优化(转表工具:xresloader)
    • libcopp更新 (merge boost 1.59 context)
    • 小记最近踩得两个C++坑
    • Redis全异步(HA)Driver设计稿
    • Vim常用命令
    • 关于firewalld和systemd的一些命令速记
    • Jenkins(hudson)插件记录
    • 我们的Lua类绑定机制
    • LLVM+Clang+Libcxx+Libcxxabi(3.6)工具链编译(完成自举编译)
    • 回顾2014
    • Android NDK undefined reference to ___tls_get_addr 错误
    • gitlab腾讯企业邮箱配置
  • 2014
    • 回顾2013
    • C++11动态模板参数和type_traits
    • C++又一坑:动态链接库中的全局变量
    • tolua++内存释放坑
    • [转]类似github的框架
    • Lua性能分析
    • 集成Qt Webkit 到cocos2d-x
    • Gitlab环境搭建小计
    • 近期研究VPN的一些记录(OpenVPN,pptp,l2tp)
    • LLVM + Clang + Libcxx + Libcxxabi 工具链编译
    • 关于BUS通信系统的一些思考(二)
    • 关于BUS通信系统的一些思考(一)
    • [libiniloader] Project
    • 记录一些在线编辑器
    • [WP Code Highlight.js] Project
    • 再议 C++ 11 Lambda表达式
    • 基于Chrome插件的开发工具链
    • [ACM] HDU 1006 解题报告
    • Linux 编译安装 GCC 4.9
    • 又碰到了这个解谜游戏,顺带记下地址
    • 简单C++单元测试框架(支持一键切到GTest或Boost.Test)
    • 捣鼓一个协程库
  • 2013
    • std和boost的function与bind实现剖析
    • 不知道是哪一年的腾讯马拉松题目 照片评级 解题报告
    • Lua 挺好用的样子
    • VC和GCC成员函数指针实现的研究(三)
    • VC和GCC成员函数指针实现的研究(二)
    • VC和GCC内成员函数指针实现的研究(一)
    • 一个C++关于成员变量偏移地址的小Trick
    • ptmalloc,tcmalloc和jemalloc内存分配策略研究
    • POJ 2192 Zipper HDU 2059 龟兔赛跑
    • 从Javascript到Typescript到Node.js
    • 网络编程小结
    • 试试Boost.Asio
    • Lnmp yum 安装脚本 (for CentOS)
    • ARM 交叉编译环境搭建
    • Linux 编译安装 GCC 4.8
    • [记录]虚拟硬盘的压缩|磁盘写零
  • 2012
    • Boost.Spirit 初体验
    • “C++的90个坑”-阅读笔记
    • AC自动机
    • C++ 标准过渡期
    • 程序员修炼之道 -- 阅读笔记
    • [转载]狼与哈士奇
    • C++ 新特性学习(八) — 原子操作和多线程库[多工内存模型]
    • C++ 新特性学习(七) — 右值引用
    • 理解Protobuf的数据编码规则
    • 忆往昔ECUST的ACM时代
    • Linux编译安装GCC 4.7
    • JSON显示库 -- showJson (Javascript)
    • C++ 新特性学习(六) — 新的字符串编码和伪随机数
    • C++ 新特性学习(五) — 引用包装、元编程的类型属性和计算函数对象返回类型
    • C++ 新特性学习(四) — Bind和Function
  • 2011
    • C++ 新特性学习(三) — Regex库
    • C++ 新特性学习(二) -- Array、Tuple和Hash库
    • C++ 新特性学习(一) -- 概述+智能指针(smart_ptr)
    • Linux 和 Windows PowerShell 常用工具/命令 记录
    • 非常帅气的Linq to sql
    • 2011 Google Code Jam 小记
    • C++总是很神奇
    • 大学生创新项目[国家级]经费使用记录
    • 常用官方文档整理
    • 我们学校的IPV6很不错嘛
  • 2010
    • 线段树相关问题 (引用 PKU POJ题目) 整理
    • 2010 ACM 赛前笔记
    • POJ PKU 2596 Dice Stacking 解题报告
    • POJ PKU 3631 Cuckoo Hashing 解题报告
    • POJ PKU 1065 Wooden Sticks 3636 Nested Dolls 解题报告
    • HDU 3336 Count the string 解题报告
    • Hash模板 个人模板
    • ZOJ 3309 Search New Posts 解题报告
    • POJ PKU Let's Go to the Movies 解题报告
    • 注册表常用键值意义
    • PKU POJ 1724 ROADS 解题报告
    • 《神奇古今秘方集锦》&《民间秘术大全》
    • PKU POJ 1720 SQUARES 解题报告
    • POJ PKU 2155 Matrix 解题报告
    • PKU POJ 1141 Brackets Sequence 解题报告
    • PKU POJ 2728 Desert King 解题报告
    • PKU POJ 2976 Dropping tests 解题报告
    • PKU POJ 3757 Simple Distributed storage system 解题报告
    • GCD Determinant 解题报告
    • Southeastern European 2008 Sky Code 解题报告
    • HDU HDOJ 3400 Line belt 解题报告
    • 线性筛法求质数(素数)表 及其原理
    • HDU HDOJ 3398 String 解题报告
    • 树状数组模块(个人模板)
    • 浙江理工 省赛总结 team62 By OWenT of Coeus
    • POJ PKU 3659 Cell Phone Network 解题报告
    • USACO 2008 March Gold Cow Jogging 解题报告
    • C#格式化输出(记录)
    • 参加有道难题笔记
    • POJ PKU 2446 Chessboard 解题报告
    • POJ PKU 1986 Distance Queries 解题报告
    • 计算几何算法概览[转载]
    • 关于差分约束(转载)
    • POJ PKU 2826 An Easy Problem?! 解题报告
    • 数论模板(个人模板)
    • 简易四则运算(ACM个人模板)
    • Catalan 数
    • The 35th ACM/ICPC Asia Regional Tianjin Site —— Online Contest 1009 Convex 解题报告
    • JQuery扩展插件--提示信息
    • ACM 计算几何 个人模板
    • 解析网站字符串型参数 Javascript QueryString 操作 TQueryString类
    • POJ PKU 1474 Video Surveillance 解题报告
  • 2009
    • 模式匹配(kmp)个人模板
    • 并查集 模板
    • POJ 3267 The Cow Lexicon 解题报告
    • C/C++语言常用排序算法
    • POJ 2606 Rabbit hunt 2780 Linearity 1118 Lining Up 解题报告
    • 打造最快的Hash表(转) [以暴雪的游戏的Hash为例]
    • ECUST 09年 校赛个人赛第六,七场总结
    • ECUST 09年 校赛个人赛第三场部分解题报告(A,D,F,I)
    • 牛顿迭代解方程 ax^3+bX^2+cx+d=0
    • 09年8月9日 ECUST ACM 练习赛总结
    • 连接最多点直线 (OWenT 个人模板)
    • 点到直线距离 和 线段间最短距离 (OWenT 模板)
    • ECUST 09年 校赛个人训练赛第五场总结
    • ECUST 09年 校赛个人赛第八场(最后一场)总结
    • 09年8月14日 ECUST ACM 练习赛总结
    • 矩阵相关 (增强中)
    • Prime最小生成树(个人模板)
    • 最长单调子序列 复杂度nlog(n)
    • POJ PKU 2549 Sumsets 解题报告
    • POJ PKU 3277 City Horizon 解题报告
    • 我的ACM生涯
    • POJ PKU 2528 Mayor's posters 解题报告
    • POJ PKU 2378 Tree Cutting 解题报告
    • POJ PKU 1990 MooFest 解题报告
Powered by GitBook
On this page
  • 加密协商
  • 协商和动态算法
  • 密钥验证
  • Cipher
  • 集成XXTEA算法
  • CHACHA20和CHACHA20-POLY1305
  • 跨平台和跨库
  • 重新适配C#的binding
  • ECDH
  • 后续

Was this helpful?

  1. 2017

atgateway内置协议流程优化-加密、算法协商和ECDH

Previouspbc的proto3接入Next整理一波软件源镜像同步工具+DevOps工具

Last updated 6 years ago

Was this helpful?

之前就有计划优化游戏服务器框架网关层的内部协议了,这次泰国旅游回来,新公司入职前,正海有空来做这件事。

加密协商

以前提到过,最初决定重构这个流程是因为我觉得之前的方法,如果以后要扩展新的算法的话非常的麻烦。而后我看了一下shadowsocksr对多种加解密算法的实现方法,觉得还不错。就打算用类似的方法重写一下。当然也是因为写第一版的时候没考虑太多关于加解密方面的细节,还是优先实现出工程上可用的东西。这次就先稍微深入看了下像和的一些实现,特别是下面会提到的cipher的实现。并以这个为基础来实现以后可能的增加加密算法的扩展。

协商和动态算法

新的加密算法的适配目标是改成通过字符串来指定可接受或者可用的加密算法(比如:XXTEA:AES-256-CFB:AES-128-CFB)。我思考了一下,似乎是没法向前兼容地实现新的协议流程,所以既然向前不兼容,那么干脆协商这边也可以优化一下。

原先是服务器和客户端自己配的加密算法ID和密钥长度,然后握手阶段校验两边的算法和密钥长度是否一致。现在就改为服务器先配置接受的加密算法,客户端发起握手的时候提交可用的加密算法集合。然后由服务器选定具体用什么算法。重连的时候就只能传上一次的密钥和加密算法了,当然重连成功后任然会触发一次密钥更新。

当然我也考虑并看了一下是否直接使用SSL,但是一方面并不是特别需要类似CA校验这种流程,而且直接使用SSL还有一些额外开销,并且还不太好评估有多大。另一方面这个替换改造起来会更复杂的多,所以至少这个v1的inner协议是不会使用SSL了,可能有需要后面专门写一个SSL的模块。

另外协商流程没有变化,还是不加密、直接发送密钥和DH密钥交换,当然还多预留了一个ECDH。这部分的基础设施还没像加密算法那样在基础库里做比较好的抽象和适配,所以目前暂时不做变化。(我怎么觉得要是都改了相当于我自己手写了个SSL流程?)

有一个额外增加的协商的部分是初始向量(iv)。之前的AES的加密的初始向量写死的是全0值,这次也通过协商算法搞出来了。

密钥验证

原先的流程在DH算出密钥之后,会那一段随机出来的数据测试两边是否一致。

具体来说就是,服务器向客户端发送一段数据,客户端加点尾巴,在发回来。服务器校验前缀。但是这个流程是有问题的,因为后来了解到,加密算法的加密是按block来的,如果对齐的话,后缀数据并不影响前缀的加密结果。所以会原样发回,这样校验也就失去了意义。

那么现在改成客户端把服务端发来的数据的奇数字节重置掉发回去。这样两边的数据就不一致了,然后服务器校验偶数字节即可。

当然也可以对密钥hash然会发回校验,不过这个也需要等后续有时间我可以对Hash算法也做类似cipher的基础组件之后。当然和都有类似的设施,但是我不想直接用,还是想可以加入自定的Hash算法,因为这里并不特别在意减少碰撞,所以不需要md5或者sha1那种长度。当然考虑到以后改造要向前兼容的话,只要加一个字段。如果是默认值,走现在的校验流程,否则,走某种Hash校验算法即可。

Cipher

另外,虽然加密算法库都有提供cipher,但是他们的字符串名称是不一样的,所以这里也要适配一下(就这个地方和shadowsocksr类似)。

static const char *supported_ciphers[] = {
  "xxtea",
  "rc4",
  "aes-128-cfb",
  "aes-192-cfb",
  "aes-256-cfb",
  "aes-128-ctr",
  "aes-192-ctr",
  "aes-256-ctr",
  "bf-cfb",
  "camellia-128-cfb",
  "camellia-192-cfb",
  "camellia-256-cfb",
  "chacha20",          // only available on openssl 1.1.0 and upper
  "chacha20-poly1305", // only available on openssl 1.1.0 and upper
  NULL,                // end
};

#if !(defined(CRYPTO_USE_OPENSSL) || defined(CRYPTO_USE_LIBRESSL) || defined(CRYPTO_USE_BORINGSSL)) && defined(CRYPTO_USE_MBEDTLS)
static const char *supported_ciphers_mbedtls[] = {
  "xxtea",
  "ARC4-128",
  "AES-128-CFB128",
  "AES-192-CFB128",
  "AES-256-CFB128",
  "AES-128-CTR",
  "AES-192-CTR",
  "AES-256-CTR",
  "BLOWFISH-CFB64",
  "CAMELLIA-128-CFB128",
  "CAMELLIA-192-CFB128",
  "CAMELLIA-256-CFB128",
  "CHACHA20",          // only available on later mbedtls version, @see https://github.com/ARMmbed/mbedtls/pull/485
  "CHACHA20-POLY1305", // only available on later mbedtls version, @see https://github.com/ARMmbed/mbedtls/pull/485
  NULL,                // end
};

STD_STATIC_ASSERT(sizeof(supported_ciphers) == sizeof(supported_ciphers_mbedtls));
#endif
}

我们全部用上面的名称,也就是openssl里的名称,其他库里做别名映射。

集成XXTEA算法

uint32_t cipher::get_iv_size() const {
  switch (method_) {
    case method_t::EN_CMT_INVALID:
    case method_t::EN_CMT_XXTEA:
      return 0;
    case method_t::EN_CMT_CIPHER:
      if (NULL != cipher_context_.enc) {
        #if defined(CRYPTO_USE_OPENSSL) || defined(CRYPTO_USE_LIBRESSL) || defined(CRYPTO_USE_BORINGSSL)
        return static_cast<uint32_t>(EVP_CIPHER_CTX_iv_length(cipher_context_.enc));
        #elif defined(CRYPTO_USE_MBEDTLS)
        return static_cast<uint32_t>(mbedtls_cipher_get_iv_size(cipher_context_.enc));
        #endif
      } else if (NULL != cipher_context_.dec) {
        #if defined(CRYPTO_USE_OPENSSL) || defined(CRYPTO_USE_LIBRESSL) || defined(CRYPTO_USE_BORINGSSL)
        return static_cast<uint32_t>(EVP_CIPHER_CTX_iv_length(cipher_context_.dec));
        #elif defined(CRYPTO_USE_MBEDTLS)
        return static_cast<uint32_t>(mbedtls_cipher_get_iv_size(cipher_context_.dec));
        #endif
      } else {
        return 0;
      }
    default:
      return 0;
  }
}

这里面我同时封装了加密端(ciphercontext.enc)和解密端(ciphercontext.dec),所以有两个。

不过哪天接入的自定义算法多了我就和这个库的cipher的写法一样,改成回调函数的函数组的形式。其实相当于手写面向对象的虚表啦。

CHACHA20和CHACHA20-POLY1305

跨平台和跨库

其实再以后再有空还可以试试适配Apple内置的加密库。不过如果只是cipher还好,然而还要另外接DH之类,还是有点麻烦。所以也往后放放吧。

重新适配C#的binding

ECDH

后续

除了前面提到的关于协商方式和校验密钥的可以改进之处以外,有空的话感觉还是应该写下单元测试。虽然这个单元测试很麻烦而且得先抽离服务端的接口。或者改成一个单元测试的脚本也许也可以,具体还没想好。不然像现在跨平台测试+跨库测试,真是很是折腾人。

这一次是人工都测好了,并且已经合入master分支,但是自测过程非常麻烦。实在不想再次折腾,不过得等有空再说吧。优先还是实现ECDH。

不过协议安全的考量上似乎还有点小问题。假设第三方劫持了网关,让网关同时当服务器和客户端,并解码转发数据,似乎还是可以获取原始内容。这种方法和现在一些路由器上破解HTTPS的方法如出一辙。这种也有一种防御方法,就是加一层RSA,然后客户端保存public key的hash码。客户端收到公钥后要校验HASH码。好像饿了么客户端就是这么做的。不过这也挡不了万一人家再改你的包,而且这样公钥就不能更新了,玩意泄露了就GG了。所以暂时我也没做这一层。也许后面有什么更好的方法可以解决这个问题。

前面有说,之后新算法的适配就靠这个Cipher了。其实也是以前不知道,、或者其他假面算法库基本都有写这个加冕算法流程的抽象。以前我们都是自己写,也是因为我们一种业务也不需要太多种加密算法。其实同时他们也有类似地对Hash也有类似的抽象的设施,称为MD,然后因为要支持类似HTTPS里那种TLS或者SSL的交换流程,所以对密钥交换(DH、RSA、ECDH)也有类似的设施。当然他们还有更多得验证啊之类的流程,比较复杂。

所以有了这层抽象以后,我就不需要单独针对每一种加密算法自己做适配了。只要适配cipher即可。同时再加入一些我们自己定义的额外的加密算法,比如。

XXTEA算法在里有提供,但是里没有。这个算法很简单而且相当高效,虽然安全性稍差些。但是在游戏服务器里,我们会定期换密钥,可以抹平这个安全性稍差带来的风险。所以里一直内置支持。不过这次适配cipher之后,这个算法流程就有点小变化。现在这个版本额外加入的自定义算法只有所以我就直接switch实现了,像这样:

其实我是比较想加入这个的算法的,据说新能4倍于AES,特别是移动设备上性能特别好。但是我还不清楚他的实现细节,所以没有擅自作为自定义算法加进来。而且以后新版本的加密算法库都会陆续支持起来,比如的1.1.0以上的版本。所以我就依赖cipher做适配了。在2016年就有人打过一个patch是增加chacha20算法的。不过官方现在都还没review并放进来。

跨平台和跨库还是用之前的方法。前面都贴了代码了,这里就不贴了。唯一就是碰到一个坑,因为我豆子自己处理的文件读取,然后读出来的Buffer传给或者库。是正常的,但是的mbedtls_dhm_parse_dhm接口要求传入的数据的最后一个是0。结果我还得给它补个0。也是醉醉的。

重新适配的问题倒是不大,就确定了一下文件名,然后协议的更新和接口,移除keybits之类,然后加了个可以获取所有支持的加密算法的接口。

也叫椭圆双曲线密钥交换,仍然是使用DH算法做密钥交换,但是用[ECC椭圆曲线的离散对数][9]替换掉DH Paramater。据说是在同等安全性的情况下大幅减少密钥长度,所以消耗也会大幅降低。这个只是协议上做了预留,还没接,因为按之前接DH的尿性,又是得去看下和的源码和test才能知道标准的流程。会稍微麻烦点。不过因为它和DH的流程是差不多的,所以接起来应该不会很困难。

[9]:

openssl
mbedtls
atgateway
mbedtls
openssl
openssl
mbedtls
XXTEA
mbedtls
openssl
atgateway
XXTEA
XXTEA
CHACHA20
openssl
mbedtls
mbedtls
openssl
openssl
mbedtls
C# binding
ECDH
mbedtls
openssl
https://zh.wikipedia.org/wiki/椭圆曲线密码学