荣锋亮 - 博客园

minio gataway 模式快速提供s3 兼容的文件服务

摘要：实际很多场景我们已经有了遗留系统的文件存储方式（ftp，或者共享目录），但是这个方式可能不是很好，对于web 不是很友好实际上minio 也提供了gateway 的模式，可以方便快速的将遗留系统的存储服务暴露为一个可复用，web 应用友好的存储模型以下演示一个简单的本地文件暴露s3 的方式环境阅读全文

posted @ 2019-08-18 11:23 荣锋亮阅读(2223) 评论(0) 推荐(0)

cratedb 做为prometheus 的后端存储

摘要： prometheus 提供了remote_write 以及remote_read 的数据存储方式，可以帮助我们进行数据的长时间存储、方便查询 cratedb 提供了对应的adapter，可以直接进行适配。以下演示一个简单的cratedb 集群以及通过write 以及read 存储通过grok ex 阅读全文

posted @ 2019-08-18 10:17 荣锋亮阅读(1516) 评论(0) 推荐(0)

Centrifugo 语言无关的实时消息服务

摘要： Centrifugo 语言无关的实时消息服务，基于golang编写，提供了websocket 以及sockjs 的兼容处理，使用上很简单同时也支持基于redis的扩展，以下是一个简单的运行测试环境准备 docker-compose 文件 version: "3" services: centri 阅读全文

posted @ 2019-08-17 10:46 荣锋亮阅读(1129) 评论(0) 推荐(0)

netflix conductor 学习（一）docker-compose 运行

摘要：为了方便学习以及使用netflix conductor 基于官方的dockerfile，构建了server 以及ui 的容器镜像并push dockerhub 环境准备官方docker-compose文件需要基于容器的构建很慢需要基于容器的构建很慢 version: '2.3' service 阅读全文

posted @ 2019-08-16 13:07 荣锋亮阅读(2033) 评论(0) 推荐(0)

netflix conductor 2.x 版本新功能简单说明

摘要： netflix conductor 2.x 已经发布很长时间了，同时官方也发布了关于2.x 新特性的说明，当前github 行的release 版本为2.14.4 新特性 grpc 框架支持一个可选的rest api 的替代 cassandra 持久层的持支持外部负载存储主要是减轻后端数据存储阅读全文

posted @ 2019-08-16 09:56 荣锋亮阅读(2085) 评论(0) 推荐(0)

netflix flamescope 方便的不同时间范围的火焰图查看工具

摘要： flamescope 是netflix 开源的方便的火焰图查看工具，我们可以选择不同时间范围的数据，方便分析调用链环境准备使用docker-compose运行，基于官方的dockerfile 创建构建了一个docker 镜像 dalongrong/flamescope docker-compos 阅读全文

posted @ 2019-08-14 11:22 荣锋亮阅读(730) 评论(0) 推荐(0)

使用grok exporter 做为log 与prometheus 的桥

摘要： grok 是一个工具，可以用来解析非结构化的日志文件，可以使其结构化，同时方便查询，grok 被logstash 大量依赖同时社区也提供了一个prometheus 的exporter 可以方便的进行log 指标，暴露为promethesu 的标准数据格式，当然谷歌的mtail 也是一个不错的选择阅读全文

posted @ 2019-08-13 10:34 荣锋亮阅读(3478) 评论(0) 推荐(0)

benchmarkdotnet docker 运行

摘要：使用docker 运行基准测试是一个不错的选择，可以减少我们环境搭建的时间，同时也可以加速ci/cd 环境准备 docker-compose 文件 version: "3" services: app-benchmark: build: context: ./ dockerfile: Dockerf 阅读全文

posted @ 2019-08-13 08:57 荣锋亮阅读(456) 评论(0) 推荐(0)

Micro Benchmark Framework java 基准测试类库

摘要： Micro Benchmark Framework 框架主要是method 层面上的 benchmark，精度可以精确到微秒级比较典型的使用场景还有：想定量地知道某个函数需要执行多长时间，以及执行时间和输入 n 的相关性一个函数有两种不同实现，不知道哪种实现性能更好简单demo 创建项目 m 阅读全文

posted @ 2019-08-12 16:43 荣锋亮阅读(653) 评论(0) 推荐(0)

benchmarkdotnet dotnet 基准测试类库试用(一)

摘要：使用基准测试对于我们应用的性能优化是比较好的方式，可以快速看出优化的结果同时可以给出报告结果 benchmarkdotnet 是dotnet 版本的一个工具，以下是一个简单的试用环境准备我使用的是mac系统安装dotnetcoresdk 这个很简单，选择操作系统安装就可以了创建简单conso 阅读全文

posted @ 2019-08-12 10:10 荣锋亮阅读(1198) 评论(0) 推荐(1)

rust crates 国内镜像加速配置

摘要： rust 很不错，但是crates 经常下载有点慢，当前阿里云还没有相关的镜像，还有科大为我们提供了一个配置方法添加crates 配置 $HOME/.cargo/config 目录 [registry] index = "git://mirrors.ustc.edu.cn/crates.io-i 阅读全文

posted @ 2019-08-11 22:48 荣锋亮阅读(5529) 评论(1) 推荐(0)

dotnetcore docker 简单运行

摘要：今天试用了下mac 版本的dotnetcore sdk，发现还是很方便的，同时官方的容器运行方式，相对小了好多同时使用多阶段构建的方式运行dotnetcore 安装sdk 下载地址： https://dotnet.microsoft.com/download 选择版本下载并安装即可简单demo 阅读全文

posted @ 2019-08-09 21:14 荣锋亮阅读(587) 评论(0) 推荐(0)

apache pinot-docker-compose 运行试用

摘要： apache pinot 是一个实时的OLAP 数据存储，同时包含了自己的查询语言，因为maven 构建花费时间较大所以使用docker-compose 运行 docker-compose 文件 version: "3.7" services: app: image: winedepot/pino 阅读全文

posted @ 2019-08-08 20:27 荣锋亮阅读(768) 评论(0) 推荐(0)

Thanos prometheus 集群以及多租户解决方案docker-compose 试用(一)

摘要： prometheus 是一个非常不多的metrics 监控解决方案，但是对于ha 以及多租户的处理并不是很好，当前有好多解决方案 cortex Thanos prometheus+ influxdb Timebala M3db 以下结合github 上的一个docker-compose项目学习下Th 阅读全文

posted @ 2019-08-08 11:03 荣锋亮阅读(4496) 评论(0) 推荐(0)

linux mustache bash 实现mo 做为docker容器运行动态配置工具数组的处理

摘要：前面有说过关于使用mo 工具的简单配置使用，但是实际中我们可能存在比较复杂的数据处理，比如数组，mo 可以进行数组的处理，但是在测试的过程中，一直失败，查看了官方的demo以及帮助命令发现可以通过参数 -s 引入变量文件，可以方便的注入到模版引擎中，所以通过重定向环境变量到文件，然后注入，之后删除即阅读全文

posted @ 2019-08-07 20:38 荣锋亮阅读(379) 评论(0) 推荐(0)

使用mustache 做为docker容器运行动态配置工具

摘要：很多时候我们需要在启动容器的时候基于配置文件运行，如果在配置比较简单的时候我们可以通过环境变量注入，同时当前12 factors 越来越融入大家的开发中了（对于配置通过环境变量处理），但是好多老的软件架构，或者是比较复杂的软件架构可能没有提供通过环境变量的运行方式，我们可以结合mustache 阅读全文

posted @ 2019-08-07 14:07 荣锋亮阅读(605) 评论(0) 推荐(0)

pmm 添加proxysql metrics

摘要： pmm 对于proxysql 的管理是基于metrics的进行处理的，使用的是proxysql exporter 对于proxysql exporter的添加，比较简单，我们可以通过独立的额容器运行exporter 服务 pmm 参考架构方便大家对于pmm 加深印象环境准备 docker-com 阅读全文

posted @ 2019-08-06 17:15 荣锋亮阅读(770) 评论(0) 推荐(0)

pmm docker-compose 运行试用

摘要： pmm 是一个很不错的mysql、mongo、postgresql 数据库监控平台，基于prometheus、grafana、exporter 算是一个比较完整的数据库分析平台参考架构图环境准备对于pg 以及mysql 的运行基于docker 官方镜像，添加了pmm client 包，同时为阅读全文

posted @ 2019-08-05 22:58 荣锋亮阅读(1113) 评论(0) 推荐(0)

promethues exporter+ grafana 监控pg+mysql

摘要：这篇文章本来是打算使用pmm 进行数据库监控的，但是居然参考官方文档使用docker 运行起来有点问题，所以直接改用 exporter 进行处理，但是比pmm 弱好多 pmm 的参考架构说明，以上图比较早了，实际上也可以监控mongodb，同时也是使用exporter处理的，只是pmm 基于gr 阅读全文

posted @ 2019-08-05 19:45 荣锋亮阅读(1401) 评论(0) 推荐(0)

diffy 方便的bug 以及流量测试系统

摘要： diffy 是twiiter 开源的流量以及bug 查找系统参考使用图几点说明使用diffy我们需要三个角色 candidate instance 候选实例，运行新的代码 primary instance 主实例，运行最新已知可运行的代码 secondary instance 次要运行与pri 阅读全文

posted @ 2019-08-02 16:11 荣锋亮阅读(1332) 评论(0) 推荐(0)

sql server 性能优化的几个专家工具

摘要：以下为一个方便的sql server 分析的专家工具 sp_WhoIsActive 提供了方便的文档说明参考链接 http://whoisactive.com/docs/ dba_BlockTracer 参考链接 https://blogs.msdn.microsoft.com/nikhilsi/ 阅读全文

posted @ 2019-08-02 10:33 荣锋亮阅读(805) 评论(0) 推荐(0)

prisma2 预览版

摘要： prisma2 预览版已经发布好几个版本了，同时官方的参考文档也在github 可以看到新版本的架构变动参考图说明 photon 为一个类型安全的数据库客户端（替换orm） lift 数据模型的定义已经迁移 studio admin ui 用来支持各种数据库的工作流每个组件可以独立的使用，同阅读全文

posted @ 2019-08-02 09:47 荣锋亮阅读(725) 评论(0) 推荐(0)

redisql 试用

摘要： redisql 是一个redis 模块，可以让redis 支持sql 查询，基于rust编写具有以下特性快速，每秒130k的插入使用标准sql 容易操作，基于redis，使用标准的redis 二进制文件（主要还是4.0 的的模块机制）使用简单，可以使用基于redis 的任务语言绑定 stre 阅读全文

posted @ 2019-08-01 20:08 荣锋亮阅读(2254) 评论(0) 推荐(0)

genie 来自netflix 的分布式大数据调度服务

摘要： Genie是Netflix开发的联合作业编排引擎。Genie提供REST-ful API来运行各种大数据工作，如Hadoop，Pig，Hive，Spark，Presto，Sqoop等。它还提供用于管理许多分布式处理集群的元数据以及在其上运行的命令和应用程序的API。说明官方同时也提供了docke 阅读全文

posted @ 2019-07-31 08:49 荣锋亮阅读(916) 评论(0) 推荐(0)

proxysql 学习二 admin-web 启用

摘要： proxysql 从1.4.4 开始内置了一个简单的http server，可以方便进行状态信息的查看，今天在尝试通过配置参数以及update global_variables 没有生效，set 也没有生效，后边通过直接修改proxysql sqlite 数据库成功，以下记录下 docker-c 阅读全文

posted @ 2019-07-30 16:38 荣锋亮阅读(1147) 评论(0) 推荐(0)

proxysql 学习一 proxysql docker 运行试用

摘要： proxysql 是一个比较强大的mysql proxy 服务，支持动态mysql 实例调整，查询重写，查询cache，监控，数据镜像，读写分离以及ha，最近已经发布了2.0 ，很值得试用下环境准备 docker-compose 文件 version: "3" services: mysql: 阅读全文

posted @ 2019-07-30 09:26 荣锋亮阅读(1670) 评论(0) 推荐(0)

telegraf 学习三 telegra inputs.net_response + smtp2http+ grafana 进行tcp服务状态监控

摘要：以下演示一个简单的使用telegra inputs.net_response 进行tcp 服务状态的监控，统计集成grafana 的alert 为了方便使用了一个smtp2http 的服务，对于http 的webhook 使用benthos 环境准备项目使用docker-compose 运行，配置阅读全文

posted @ 2019-07-29 14:19 荣锋亮阅读(2129) 评论(0) 推荐(0)

telegraf 学习二几个概念

摘要： telegraf 自身包好了自己处理metrics 的数据模型，以及出炉方法 metrics Telegraf指标是用于在处理期间对数据建模的内部表示。这些指标完全基于InfluxDB的数据模型，包含四个主要组件：度量名称：度量标准的描述和命名空间。标签：键/值字符串对，通常用于标识度量标准。阅读全文

posted @ 2019-07-28 10:17 荣锋亮阅读(1749) 评论(0) 推荐(0)

telegraf 学习一基本安装

摘要： telegraf 是influxdata 开发的一个插件驱动的服务器代理，可以方便的用来收集以及报告系统的metrics 我使用mac 系统，测试安装使用了brew 安装下载地址说明官方也提供了mac版本说明官方也提供了mac版本 https://github.com/influxdata/t 阅读全文

posted @ 2019-07-27 23:46 荣锋亮阅读(2459) 评论(0) 推荐(0)

nginx syslog 配置

摘要：以下是一个简单的实践，主要是打算测试nginx 与graylog 的集成，为了简单都是使用容器运行的，同时也测试了 nginx 对于配置多个access_log 的处理环境准备 docker-compose 文件 version: "3" services: log: image: openres 阅读全文

posted @ 2019-07-26 16:55 荣锋亮阅读(1822) 评论(0) 推荐(0)

通过granfana 以及prometheus 比较zulu 、oracle、openjdk 等jvm 运行

摘要：说明，此测试不完备，只是一个简单的集成，详细的需要进行jvm 参数的调整环境准备参考项目 https://github.com/rongfengliang/zulu-openjdk-openjdk-oracle-jdk 简单webapi spring boot 集成了prometheus,详细代阅读全文

posted @ 2019-07-25 20:30 荣锋亮阅读(6460) 评论(0) 推荐(1)

关于新版本cube.js 集成preosto 的一个说明

摘要：实际上cubejs cli 是可以使用的，只是官方文档对于dbtype 说明的问题使用如下命令我们可以创建prestodb 的基本项目 cubejs create -d prestodb mydemo cubejs create -d prestodb mydemo cubejs create - 阅读全文

posted @ 2019-07-24 18:40 荣锋亮阅读(915) 评论(0) 推荐(0)

cube.js 新版本试用preosto

摘要： cube.js 新的版本添加了更多的数据库的支持，但是目前cubejs-cli 以及官方文档问题还挺多，使用不清晰，文档有明显的错误以下演示presto 数据库的使用环境准备安装新版本的cubejs-cli npm install -g cubejs-cli npm install -g cu 阅读全文

posted @ 2019-07-24 16:58 荣锋亮阅读(545) 评论(0) 推荐(0)

关于redash 自定义可视化以及query runner 开发的几篇文章

摘要：以下是几篇关于如如何编码redash 自定义可视化插件以及query runner 的连接，很有借鉴价值参考连接 https://discuss.redash.io/t/how-to-create-new-visualization-types-in-redash/86/2 https://dis 阅读全文

posted @ 2019-07-24 13:43 荣锋亮阅读(1557) 评论(0) 推荐(0)

通过redash query results 数据源实现跨数据库的查询

摘要： redash 提供了一个简单的 query results 可以帮助我们进行跨数据源的查询处理底层数据的存储是基于sqlite的，期望后期有调整（毕竟处理能力有限），同时 query results 也提供了cache 的功能，可以加速数据的查询处理约定 query results 创建 que 阅读全文

posted @ 2019-07-24 13:26 荣锋亮阅读(3835) 评论(0) 推荐(0)

cube.js 最近版本的一些更新

摘要：有一段时间没有关注cube.js 了，刚好晚上收到一封来自官方的更新介绍，这里简单说明下更多的数据驱动支持 bigquey, clickhouse snowflake,presto (很棒)，hive，oracle 支持的完整列表在docs 开发这的playground 有了很多的提升，可以查看查阅读全文

posted @ 2019-07-23 23:25 荣锋亮阅读(473) 评论(0) 推荐(0)

zeebe 0.20.0 集群部署试用

摘要： zeebe 0.20.0 是生产可用的第一个版本，同时也有好多变动，以下是一个简单集群的运行以及一个简单的运行说明环境准备 docker-compose 文件 version: "3" services: db: image: 1000kit/h2 container_name: zeebe_d 阅读全文

posted @ 2019-07-23 23:05 荣锋亮阅读(1906) 评论(2) 推荐(0)

redash oracle 数据源docker 镜像

摘要： redash 官方的docker 镜像是没有包含oracle的，需要我们自己添加，参考了一个docker 镜像进行了简单的修改 Dockerfile FROM redash/redash:7.0.0.b18042 USER root # Oracle instantclient ADD or 阅读全文

posted @ 2019-07-23 20:31 荣锋亮阅读(1588) 评论(0) 推荐(0)

使用jmx-exporter&&jmxtrans && nexus jmx 暴露nexus 系统指标信息

摘要：以下演示一个简单的使用jmxexporter 暴露nexus jmx 指标为prometheus metrics，同时也集成了一个简单的jmxtrans 输出数据到 graphite 环境准备 docker-compose 文件 version: "3" services: graphite: im 阅读全文

posted @ 2019-07-22 14:45 荣锋亮阅读(1208) 评论(0) 推荐(0)

jmxtrans docker-compose 运行

摘要：以下是一个简单的demo，使用jmxtrans 进行jmx 指标的处理，项目使用docker-compose 运行同时写入数据到graphite 环境准备 docker-compose文件 version: "3" services: graphite: image: graphiteapp/gr 阅读全文

posted @ 2019-07-22 02:18 荣锋亮阅读(554) 评论(0) 推荐(0)

导航

公告