OWenT's blog
  • Introduction
  • About Me
  • 2020
    • 近期对libatapp的一些优化调整(增加服务发现和连接管理,支持yaml等)
    • xresloader转表工具链增加了一些新功能(map,oneof支持,输出矩阵,基于模板引擎的加载代码生成等)
    • 在游戏服务器中使用分布式事务
    • libcopp接入C++20 Coroutine和一些过渡期的设计
    • libatbus 的大幅优化
    • nftables初体验
    • 容器配置开发环境小计
  • 2019
    • PALM Tree - 适合多核并发架构的B+树 - 论文阅读小记
    • 跨平台协程库 - libcopp 简介
    • C++20 Coroutine 性能测试 (附带和libcopp/libco/libgo/goroutine/linux ucontext对比)
    • 尝鲜Github Action
    • 一些xresloader(转表工具)的改进
    • protobuf、flatbuffer、msgpack 针对小数据包的简单对比
    • 协程框架(libcopp) 小幅优化
    • Excel转表工具(xresloader) 增加protobuf插件功能和集成 UnrealEngine 支持
    • Anna(支持任意扩展和超高性能的KV数据库系统)阅读笔记
    • C++20 Coroutine
    • libcopp merge boost.context 1.69.0
    • Google去中心化分布式系统论文三件套(Percolator、Spanner、F1)读后感
    • Rust玩具-企业微信机器人通用服务
  • 2018
    • 使用ELK辅助监控开发测试环境服务质量和问题定位
    • Webpack+vue+boostrap+ejs构建Web版GM工具
    • 2018年的新通用伪随机数算法(xoshiro / xoroshiro)的C++(head only)实现
    • Rust的第二次接触-写个小服务器程序
    • 理解和适配AEAD加密套件
    • atsf4g-co的进化:协程框架v2、对象路由系统和一些其他细节优化
    • 协程框架(libcopp)v2优化、自适应栈池和同类库的Benchmark对比
    • 可执行文件压缩
    • 初识Rust
    • 使用restructedtext编写xresloader文档
    • atframework的etcd模块化重构
    • C++的backtrace
  • 2017
    • ECDH椭圆双曲线(比DH快10倍的密钥交换)算法简介和封装
    • protobuf-net的动态Message实现
    • pbc的proto3接入
    • atgateway内置协议流程优化-加密、算法协商和ECDH
    • 整理一波软件源镜像同步工具+DevOps工具
    • Blog切换到Hugo
    • libcopp v2的第一波优化完成
    • libcopp(v2) vs goroutine性能测试
    • libcopp的线程安全、栈池和merge boost.context 1.64.0
    • GCC 7和LLVM+Clang+libc++abi 4.0的构建脚本
    • libatbus的几个藏得很深的bug
    • 用cmake交叉编译到iOS和Android
    • 开源项目得一些小维护
    • atapp的c binding和c#适配
    • 对象路由系统设计
    • 2016年总结
    • 近期的一个协程流程BUG
  • 2016
    • 重写了llvm+clang+libc++和libc++abi的构建脚本
    • atsf4g完整游戏工程示例
    • atframework基本框架已经完成
    • 游戏服务器的不停服更新
    • 对atbus的小数据包的优化
    • Android和IOS的TLS问题
    • pbc的一个陈年老BUG
    • boost.context-1.61版本的设计模型变化
    • 接入letsencrypt+全面启用HTTP/2
    • 理解Raft算法
    • libatbus基本功能及单元测试终于写完啦
    • 博客文章和文档迁移到gitbook
  • 2015
    • 博客文章和文档迁移到gitbook
    • 给客户端写得LRU缓存
    • 近期活动比较零散
    • 关于BUS通信系统的一些思考(三)
    • 针对Java JIT的优化(转表工具:xresloader)
    • libcopp更新 (merge boost 1.59 context)
    • 小记最近踩得两个C++坑
    • Redis全异步(HA)Driver设计稿
    • Vim常用命令
    • 关于firewalld和systemd的一些命令速记
    • Jenkins(hudson)插件记录
    • 我们的Lua类绑定机制
    • LLVM+Clang+Libcxx+Libcxxabi(3.6)工具链编译(完成自举编译)
    • 回顾2014
    • Android NDK undefined reference to ___tls_get_addr 错误
    • gitlab腾讯企业邮箱配置
  • 2014
    • 回顾2013
    • C++11动态模板参数和type_traits
    • C++又一坑:动态链接库中的全局变量
    • tolua++内存释放坑
    • [转]类似github的框架
    • Lua性能分析
    • 集成Qt Webkit 到cocos2d-x
    • Gitlab环境搭建小计
    • 近期研究VPN的一些记录(OpenVPN,pptp,l2tp)
    • LLVM + Clang + Libcxx + Libcxxabi 工具链编译
    • 关于BUS通信系统的一些思考(二)
    • 关于BUS通信系统的一些思考(一)
    • [libiniloader] Project
    • 记录一些在线编辑器
    • [WP Code Highlight.js] Project
    • 再议 C++ 11 Lambda表达式
    • 基于Chrome插件的开发工具链
    • [ACM] HDU 1006 解题报告
    • Linux 编译安装 GCC 4.9
    • 又碰到了这个解谜游戏,顺带记下地址
    • 简单C++单元测试框架(支持一键切到GTest或Boost.Test)
    • 捣鼓一个协程库
  • 2013
    • std和boost的function与bind实现剖析
    • 不知道是哪一年的腾讯马拉松题目 照片评级 解题报告
    • Lua 挺好用的样子
    • VC和GCC成员函数指针实现的研究(三)
    • VC和GCC成员函数指针实现的研究(二)
    • VC和GCC内成员函数指针实现的研究(一)
    • 一个C++关于成员变量偏移地址的小Trick
    • ptmalloc,tcmalloc和jemalloc内存分配策略研究
    • POJ 2192 Zipper HDU 2059 龟兔赛跑
    • 从Javascript到Typescript到Node.js
    • 网络编程小结
    • 试试Boost.Asio
    • Lnmp yum 安装脚本 (for CentOS)
    • ARM 交叉编译环境搭建
    • Linux 编译安装 GCC 4.8
    • [记录]虚拟硬盘的压缩|磁盘写零
  • 2012
    • Boost.Spirit 初体验
    • “C++的90个坑”-阅读笔记
    • AC自动机
    • C++ 标准过渡期
    • 程序员修炼之道 -- 阅读笔记
    • [转载]狼与哈士奇
    • C++ 新特性学习(八) — 原子操作和多线程库[多工内存模型]
    • C++ 新特性学习(七) — 右值引用
    • 理解Protobuf的数据编码规则
    • 忆往昔ECUST的ACM时代
    • Linux编译安装GCC 4.7
    • JSON显示库 -- showJson (Javascript)
    • C++ 新特性学习(六) — 新的字符串编码和伪随机数
    • C++ 新特性学习(五) — 引用包装、元编程的类型属性和计算函数对象返回类型
    • C++ 新特性学习(四) — Bind和Function
  • 2011
    • C++ 新特性学习(三) — Regex库
    • C++ 新特性学习(二) -- Array、Tuple和Hash库
    • C++ 新特性学习(一) -- 概述+智能指针(smart_ptr)
    • Linux 和 Windows PowerShell 常用工具/命令 记录
    • 非常帅气的Linq to sql
    • 2011 Google Code Jam 小记
    • C++总是很神奇
    • 大学生创新项目[国家级]经费使用记录
    • 常用官方文档整理
    • 我们学校的IPV6很不错嘛
  • 2010
    • 线段树相关问题 (引用 PKU POJ题目) 整理
    • 2010 ACM 赛前笔记
    • POJ PKU 2596 Dice Stacking 解题报告
    • POJ PKU 3631 Cuckoo Hashing 解题报告
    • POJ PKU 1065 Wooden Sticks 3636 Nested Dolls 解题报告
    • HDU 3336 Count the string 解题报告
    • Hash模板 个人模板
    • ZOJ 3309 Search New Posts 解题报告
    • POJ PKU Let's Go to the Movies 解题报告
    • 注册表常用键值意义
    • PKU POJ 1724 ROADS 解题报告
    • 《神奇古今秘方集锦》&《民间秘术大全》
    • PKU POJ 1720 SQUARES 解题报告
    • POJ PKU 2155 Matrix 解题报告
    • PKU POJ 1141 Brackets Sequence 解题报告
    • PKU POJ 2728 Desert King 解题报告
    • PKU POJ 2976 Dropping tests 解题报告
    • PKU POJ 3757 Simple Distributed storage system 解题报告
    • GCD Determinant 解题报告
    • Southeastern European 2008 Sky Code 解题报告
    • HDU HDOJ 3400 Line belt 解题报告
    • 线性筛法求质数(素数)表 及其原理
    • HDU HDOJ 3398 String 解题报告
    • 树状数组模块(个人模板)
    • 浙江理工 省赛总结 team62 By OWenT of Coeus
    • POJ PKU 3659 Cell Phone Network 解题报告
    • USACO 2008 March Gold Cow Jogging 解题报告
    • C#格式化输出(记录)
    • 参加有道难题笔记
    • POJ PKU 2446 Chessboard 解题报告
    • POJ PKU 1986 Distance Queries 解题报告
    • 计算几何算法概览[转载]
    • 关于差分约束(转载)
    • POJ PKU 2826 An Easy Problem?! 解题报告
    • 数论模板(个人模板)
    • 简易四则运算(ACM个人模板)
    • Catalan 数
    • The 35th ACM/ICPC Asia Regional Tianjin Site —— Online Contest 1009 Convex 解题报告
    • JQuery扩展插件--提示信息
    • ACM 计算几何 个人模板
    • 解析网站字符串型参数 Javascript QueryString 操作 TQueryString类
    • POJ PKU 1474 Video Surveillance 解题报告
  • 2009
    • 模式匹配(kmp)个人模板
    • 并查集 模板
    • POJ 3267 The Cow Lexicon 解题报告
    • C/C++语言常用排序算法
    • POJ 2606 Rabbit hunt 2780 Linearity 1118 Lining Up 解题报告
    • 打造最快的Hash表(转) [以暴雪的游戏的Hash为例]
    • ECUST 09年 校赛个人赛第六,七场总结
    • ECUST 09年 校赛个人赛第三场部分解题报告(A,D,F,I)
    • 牛顿迭代解方程 ax^3+bX^2+cx+d=0
    • 09年8月9日 ECUST ACM 练习赛总结
    • 连接最多点直线 (OWenT 个人模板)
    • 点到直线距离 和 线段间最短距离 (OWenT 模板)
    • ECUST 09年 校赛个人训练赛第五场总结
    • ECUST 09年 校赛个人赛第八场(最后一场)总结
    • 09年8月14日 ECUST ACM 练习赛总结
    • 矩阵相关 (增强中)
    • Prime最小生成树(个人模板)
    • 最长单调子序列 复杂度nlog(n)
    • POJ PKU 2549 Sumsets 解题报告
    • POJ PKU 3277 City Horizon 解题报告
    • 我的ACM生涯
    • POJ PKU 2528 Mayor's posters 解题报告
    • POJ PKU 2378 Tree Cutting 解题报告
    • POJ PKU 1990 MooFest 解题报告
Powered by GitBook
On this page
  • 完整工程
  • 指定登入流程
  • 协议实现
  • 资源管理方面:
  • 任务和消息分发:
  • 数据库
  • 配置加载
  • 数据结构优化
  • 监控
  • 配置生成工具
  • 静态分析
  • 跨平台适配和工具适配
  • CI
  • 后续计划

Was this helpful?

  1. 2016

atsf4g完整游戏工程示例

Previous重写了llvm+clang+libc++和libc++abi的构建脚本Nextatframework基本框架已经完成

Last updated 6 years ago

Was this helpful?

近期仍然在搭建完整的游戏服务器架构。基于的完整解决方案终于接近完成。基本框架之前其实已经做完了,但是之前解决的只是基本的框架层代码,不包含任何特定的交互模型、协议模型、配置服务等等。这回就整理了一个只包含登入登出逻辑的完整工程,另外优化了一些小细节和周边工具的支持。

完整示例地址:

完整工程

其实很多游戏服务在具体的通信模型,请求/响应的包装还有资源管理等等方面大同小异,可以复用的部分还是很多的,所以我就按我们上一个游戏的模型写了一个完整的sample,放在了分支。

所谓完整的sample,就是按照具体项目的设计,保留了主要的通信流程和交互的封装。这里CS协议采用了(顺便升级到了proto3版本),然后保留了登入逻辑,踢出逻辑,基本信息拉取逻辑和基本的ping/pong逻辑。

指定登入流程

  1. client->loginsvr: 请求鉴权,生成token

  2. loginsvr->client: 然后拿token去gamesvr登入。loginsvr仅实现了最基本的鉴权方式(帐号&密码)。由loginsvr负责gamesvr的负载均衡。

  3. client->gamesvr: 使用token登入

协议实现

  • 鉴权和负载均衡:loginsvr仅实现了最基本的鉴权方式(帐号&密码)。由loginsvr负责gamesvr的负载均衡。loginsvr全程无状态。

  • 登入流程:保证用户数据只在一处上线,保留踢出逻辑,故障修复功能

  • Ping/Pong:保留加速器检测和网络短期拥塞的处理,token续期

  • 拉取信息:作为一个典型逻辑处理的流程

资源管理方面:

  • 定时自动保存

  • 缓存和自动失效管理(配合断线重连)

  • Session管理

  • 统一配置管理

任务和消息分发:

数据库

配置加载

  1. 定义excel转换规则

  2. 在代码里定义配置的类型,key类型和容器类型(可选key-value,key-list,index-value,index-list)

  3. 配置管理器里指定加载文件名称和怎么读取key

  4. [可选] 可以根据需要指定数据过滤规则和如果值是list类型的话可以指定排序规则

数据结构优化

因为是整理框架,所以我们之前项目里有一些非跨平台或者编译器版本限定的东西移植过来前就再优化了一下。比如一些不需要排序的容器改成了根据环境尽量使用hash_map。有些调用(特别是sprintf之类)包了一层,用于解决某些编译器里会有warning的问题。并且尽量使用safe的API。

监控

监控方面目前只是加了个log分类,还没写进去。这个sample基本只会监控协程任务的延迟问题,还有RPC的响应时间。上报的话目前只接入本地日志。因为监控和报警的话不同的项目可以接入不同的系统,差异很大,并且具体的业务逻辑得具体的业务自己加,所以框架也只能监控最基本的东西。

配置生成工具

静态分析

跨平台适配和工具适配

因为是框架级的整理,所以在周边工具上也是需要适配一下跨平台和多种工具的,就列举一下碰到的问题吧

CI

这个是准备最后才会接入的,所以目前也不急。

后续计划

首先当然还是把配置生成解决掉,然后把上面的未完成部分一点一点解决掉。首先当然还是质量优先,所以静态分析是优先级比较高的部分。其他的就看情况吧。

接下来整理出的框架会用于下一个项目。然后再一点一点地在这个框架的基础上搭建出更多的通用服务和配套工具。同时再来调整框架架构。现在完全是以源码的方式提供框架,这会导致很容易需要重新编译框架和一些不太改动的库,头文件分析也会浪费一些时间,所以等到工程更大了以后,必然还是会抽离成库和服务,然后封装成隔离性更好的设计(当然一定会保持开源的)。不过这也是后话了。

这个项目指定使用协程,所以会比多依赖一个,用来做协程任务管理的封装。然后默认模型是Request/Pesponse的模式,由协程任务管理器管理每个协程的生命周期。 然后在协程任务的基础上包装了消息分发的规则,要求消息分发管理器必须实现一些接口,比如:提取消息ID或提取消息名称、打解包方式、怎么存储和提取关联的协程任务ID等等。然后由统一的方式启动新协程任务或者恢复协程上下文。 因为是最小工程,目前只保留了客户端-服务器(CS)消息dispatcher和、服务器间(SS)消息dispatcher和数据库(DB)消息dispatcher。其他的暂时没移植过来,不过后续因为有一些基本的功能也是蛮通用的,后续有空可能也会再移植一些过来。比如Curl消息dispatcher来处理HTTP消息,再或者websocket。到时候移植的时候都会再重构一次代码,但是对于需要额外依赖的功能会更谨慎一些,因为毕竟是个通用的sample所以不想加一些可能用不到的依赖进来。

因为暴露了原始地址,并且要切换前后地址不变,所以要专门给每个协程分配栈。我们这里走的是系统接口(Linux走mmap+mprotect,Windows走VirtualAlloc+VirtualProtect)。

虽然功能,并且动态栈特别适合协程(因为基本可以按需分配栈内存),但是由于并不跨平台并且文档不多,所以只是底层支持,并没有默认启用。以后等这个功能更成熟一些(主要是可以控制最大栈大小的话)可以尝试默认用动态栈。

完整游戏服务器sample的话,数据库肯定是不能少的。这方面直接用了,并且是,由于目前并没有一个很好的connector,所以我们自己开发了(高可用),基于实现了对的接入并做了自动重连和自动失败重试的功能。所以整个工程比会再多依赖这两个库。

配置加载走的是的方案,主要流程是:

定义配置结构,转出pb文件。

用或调用加载pb和转换规则转换出配置数据二进制文件

我们以前的配置生成工具是写得。当时并不会,并且是想刚好本来就是设计来当通过模板生成code的(虽然大部分是Web相关的)。好像很合适做成配置模板然后生成各个服务器的配置。但是慢慢发现,用一次性生成多个服务器模板并不是很方便。特别是系统信息检测和多个server传递多个参数并且隔离server配置后,服务器间要在配置上建立关系,很不方便。

之前的的生成系统会通过加载一个服务器组配置,然后通过调用另一个文件,把输出流重定向到生成目标,以此来实现加载模板脚本生成配置。但是这样的话首先意味着很多脚本会完全重新加载,并且参数传递只能走命令行。再就是比如loginsvr在开发环境需要知道gamesvr关联的gateway绑定的地址,那么就只能通过统一的算法,然后通过传参加重新计算一次得出来,非常麻烦。

最近看了下的库,似乎拿来做模板生成挺好用,不过麻烦的一点是的ini读取有纯的扩展实现可以支持多个层级,但是的不行。并且python2和python3在解析配置文件的支持度上还是差异比较大。但是这比起的问题倒不是什么大事儿。而且比容易安装,标准库丰富得多,特别是生成配置的时候需要检测系统信息就不需要再借助外部工具了,所以现在就用重写了配置和脚本生成系统。

脚本生成也像以前一样预留可选预加载或者和设置响应的debug配置,还有支持。

不过截止至写这篇文章的时候,这部分还没有全部完成,只是大体完成。预计很快就会finish并且merge进。

之前我们项目里的静态分析使用的是,但是其实配置起来比较麻烦,特别是工程项目大了以后,各种选项比较麻烦,并且cppcheck还是有一定的误报率。所以现在的流程更贴近编译器行为,而且更精确,所以我先接入了。不过不清楚和相比是否有漏报,等再过一段时间有空了我再把也接入进来看看。

这个静态分析接入倒是没什么问题,框架已经能做到3.8版本无报警了,但是sample还没有跑,过段时间我会跑跑看,因为的原因,在Windows下无法编译出二进制,但是框架可以,所以分支已经清理了所有的报警,的话等过段时间在linux上编译一套llvm系工具再fix。不过整体不会有太大的问题。

适配的时候还是碰到了点问题的,首先不知道是哪些api微软没做完,在不设置仅bind ipv4的情况下,是起不来的。但是我们自己的框架其实是可以正常listen和使用ipv6。不过在bash on windows里并不能使用共享内存,所以配置生成工具就改成了在检查不到linux共享内存配置的时候就走IP。(Windows下的全局共享内存必须开管理员权限才能创建,为了防止上手困难,和开发环境麻烦,所以默认Windows下也是走tcp而不是共享内存,本身支持Windows也只是为了开发方便)

MinGW64下编译框架和服务器代码是没有问题的,但是由于不支持windows,而微软自己做的并没有把单独开放出来,做自动化工具比较麻烦,暂时也就没花这个时间去搞(理论上自己编译好prebuilt然后设置LIBHIREDIS_ROOT也是可以的)。现在在Mingw64上的状态是正常,能编译但是链接不过。目前静态分析我都是在的mingw64里用源里的包跑,所以这也是暂时还没处理静态分析的原因。

Written with .

atsf4g(asynchronously-tree server framework fo game)
https://github.com/atframework/atsf4g-co/tree/full_sample
full_sample
protobuf
master
libcopp
C++协程
gcc在linux下支持动态栈
libcopp
redis
redis cluster
redis cluster
hiredis-happ
hiredis
hiredis
redis cluster
master
xresloader
protobuf
xresloader-gui
xresloader-cli
xresloader
php
python
php
php
php
php
php
python
mako
php
php
python
php
python
php
python
jemalloc
tcmalloc
valgrind
master
cppcheck
cppcheck
clang-analyzer
clang-analyzer
cppcheck
cppcheck
Clang-analyzer
hiredis
full_sample
master
full_sample
Bash on windows
Bash on windows
redis
redis
MinGW64@MSYS2
hiredis
redis系列的porting
hiredis
master
full_sample
msys2
full_sample
StackEdit