Celery 又一坑：时区错误

Celery 使用过程中又遇一坑，最近升级项目中使用的 Celery 到 4.1.1，突然发现一些定时任务突然不执行了。开始还以为代码哪里做了变化，尝试找了很久，然后打开 scheduler 的日志观察了一段时间。 Celery config 中的配置是如下所示，理论上，早间的任务应该在 8 点到 12 点每隔 5 分钟执行一次，然后午间和晚间的以此类推。 app.conf.timezone = 'Asia/Shanghai' app.conf.beat_schedule = { 'morning': { 'task': Read more ...

2018-06-13 celery , python , linux , message , queue , bug

使用 lombok 简化 Java 代码

lombok 在编译器编译时通过操作 AST（抽象语法树）改变字节码生成。也就是说他可以改变 Java 语法。lombok 不像 Spring 的依赖注入是运行时的特性，而是编译时的特性。使用 lombok 需要对应 IDE 插件配合，具体可参考官网。安装配置官网地址：https://projectlombok.org/ 添加 maven <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok< Read more ...

2018-06-11 lombok , java , annotation

通过 HOST 去除 Android 广告：adaway

Adaway 通过修改 Host 来去除手机上的广告。支持自定义 HOST 源，这就意味着稳定可用的屏蔽规则依赖于可靠及时更新的 Host 规则了。为了避免误伤，我尽量会不全部启用，只会启用一些特别恼人的广告。内置 Host 地址 Adaway 官方 https://adaway.org/hosts.txt hpHosts - Ad and Tracking servers only http://hosts-file.net/ad_servers.txt Yoyos Hosts https://pgl.yoyo.org/adserv Read more ...

2018-06-05 adaway , android , host

Kafka 副本备份机制

leader 维护了 ISR（能完全赶得上 leader 的副本集）, 每个 Partition 当前的 leader 和 ISR 信息会记录在 ZooKeeper 中。leader 会跟踪与其保持同步的 Replica 列表，该列表称为 ISR。如果一个 follower 宕机，或者落后太多，leader 将把它从 ISR 中移除。只有 leader 才能知道哪些 Replica 能够及时完全赶得上。所有 follower 都会和 leader 通信获取最新的消息。但是 follower 之间并不互相知道彼此的信息。所以由 leader 来管理 ISR Read more ...

2018-06-04 kafka , message , broker , replication

FileRun 又一款文件同步工具

这两天浏览开源项目的时候又 1 发现了一款文件同步工具 FileRun，打开官网一看发现设计非常简洁，功能也同样强大。最吸引我的是和 Google Docs ，Office Web View ，Pixlr 等等的支持，这样就可以在线预览 docx 等等文件。虽然是闭源产品，但是如果类似官网显示的那样，也是非常不错的文件同步管理的选择。 FileRun 是用 PHP 开发，从部署的文档可以看出来，部署的过程也可以使用 Docker，所以可以非常方便的部署到 Docker 环境中。如果自己配置环境，和 NextCloud 一样有 PHP 的运行环境 Read more ...

2018-06-02 filerun , file-syncing , file-sharing , php , self-host , selfhosted

Kafka 资料收集整理

学 Kafka 的时候找到了一些非常友好的资料，这里整理下。教程不得不说的官方教程，另外我正在翻译官方教程 https://kafka.apache.org/intro cloudurable 这个网站提供了非常详细的 Kafka 教程，从入门 Kafka 是什么，到写 Java 代码，到 Kafka 项目各个部分架构都有着非常详细的介绍。 http://cloudurable.com/kafka-training/index.html 第三个要推荐的就是一本 Gitbook ，尤其是第二章使用 Unix 管道类比来解释 Read more ...

2018-05-31 kafka , message

静态博客评论系统选择对比

今天浏览网页的时候发现了一个新的评论系统 —- livere，打开官网发现支持登录方式挺多，界面也挺友好。然后想起来之前多说关闭等等事情，觉得有必要整理整理，所以有了这样一篇文章。来必力第一个想要吐槽的就是这个中文名，其实看官网大致就能够猜到这是一家韩国的公司，不过就其官网来说，非常的本地化，包括官网，文档都中文化做的非常到位，只是这个中文名我是无论如何都无法接受呢。 https://livere.com Disqus 一直是我使用的评论系统，自从有了博客起基本就是用的 Disqus，从来没有遇到任何问题，有人说被墙了，这可能算不上个问 Read more ...

2018-05-30 blog , comment , disqus

Kafka 基础知识笔记

Kakfa 起初是由 LinkedIn 公司开发的一个分布式的消息系统，后成为 Apache 的一部分，它使用 Scala 编写，以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如 Cloudera、Apache Storm、Spark 等都支持与 Kafka 集成。体系架构生产者使用 push 向 broker 发送消息，消费者使用 pull 模式拉取并消费消息 producer 可能是服务器日志，业务数据 broker 消息中间件节点，支持水平扩展，一般 broker 数量越多，集群吞吐率越高 consume Read more ...

2018-05-29 Kafka , linkedin , message , broker

SSH 端口转发

SSH 全称 Secure Shell，是一种加密的网络传输协议，可以在不安全的网络中为网络服务提供安全的传输环境。几个 ssh 命令的参数 C 压缩数据传输 -f 后台登录用户名密码，如果省去该参数 ssh 会一直等待 -g 允许打开的端口让远程主机访问 -N 不执行shell -T 表示不为该连接分配TTY -p 后接端口本地端口转发本地端口转发，就是将发送到本地端口的请求，转发到目标主机端口。 ssh -L 本地网络地址：本地端口：目标主机地址：目标端口 root@<主机地址> ssh -L l Read more ...

2018-05-28 ssh , port , forward , linux

每天学习一个命令：netcat 查看网络信息

nc 是 netcat 的简称，nc 工具是一个 TCP/IP 的瑞士军刀类型的工具，netcat 可以使用 TCP 或者 UDP 协议来进行网络连接的读写诊断，nc 命令可以用于 TCP，UDP，Unix 套接字相关的任何事情，是一个非常强大的网络工具。端口是 Linux 机器上的应用、服务、进程与网络进行通信的端点。常用的 netstat 或者 nmap 等也能够列出本地机器上的开放端口。但是 nc 可以用来确定远程主机端口是否开放。安装 sudo apt install netcat 使用实例监听本地端口 nc -l -p 80 Read more ...

2018-05-28 netcat , nc , linux , tcp , udp , command , netcat , port-scan , security