Flask+Celery+Redis+Gunicorn+Nginx+Supervisor部署异步任务

2024-04-09 09:32

本文主要是介绍Flask+Celery+Redis+Gunicorn+Nginx+Supervisor部署异步任务,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

环境:

        系统:Ubuntu16.04

        语言:Python3.6.5

安装:

       安装redis:

sudo apt-get install redis-server

       验证redis:

ideal@ideal196:~$ redis-cli
127.0.0.1:6379> 

        安装Flask,Celery,Redis,Gunicorn, Supervisor;我安装了Anaconda3.5.2,这个安装完之后就不需要安装Flask,我假设你没有用Anaconda,那就用pip安装

python -m pip install flask redis celery gunicorn supervisor

        安装Nginx

sudo apt-get install nginx -y

异步任务:

     创建Flask服务:

       编辑app.py

from flask import Flaskapp = Flask(__name__)     @app.route("/mul/<arg1>/<arg2>")
def sum_(arg1,arg2):return str(int(arg1)+ int(arg2))

        运行该服务

flask run -h 0.0.0.0 -p 8000

        测试接口:

ideal@ideal196:~$ curl http://127.0.0.1:8000/mul/2/3
6

      利用Gunicorn部署Flask服务

         启动命令:

gunicorn --workers=4 --bind=0.0.0.0:8000 app:app

       如果正常启动,没有报错,你请求上述接口应该可以计算出两个数的积, --workers是用来定义工作线程的数量,一般 worker 的数量为 (2×$num_cores)+1,你后边会用到这个值,这里给了4个线程。

    我们通过配置文件来部署gunicorn,编写gunicorn_flask.py

import multiprocessingbind = '0.0.0.0:8000'
workers = multiprocessing.cpu_count() * 2 + 1   # 获取cpu数量来设置进程数量backlog = 2048
# worker_class = "gevent" #  默认为sync, 也可以使用eventlet, gevent, tornado, gthread
worker_connections = 1000
daemon = False
debug = True
proc_name = 'app'         # Flask 主程序文件名
pidfile = './logs/gunicorn.pid'
errorlog = './logs/gunicorn.log'

       启动命令:

gunicorn -c gunicorn_flask.py app:app

        再次测试接口是否可以正常访问,如果没有问题,那我们接着往下部署,

利用Supervisor部署gunicorn

         生成配置文件,

ideal@ideal196:~/$ echo_supervisord_conf > supervisords.conf
ideal@ideal196:~/$ sudo mv supervisords.conf /etc/supervisords.conf

       在supervisor.conf中配置gunicorn

[program:gunicorn]               # gunicorn为进程的名字
user=ideal                       # 操作的用户
directory=/home/ideal/workspace/tilyp  # 项目目录,
command=/home/ideal/anaconda3/bin/gunicorn -c gunicorn_flask.py app:app  # 启动flask服务的命令
startsecs=5                            # 启动5秒后没有异常退出,视作正常启动
autostart=true                         # 在 supervisord 启动时自动启动
autorestart=true                       # 程序异常退出后重启
redirect_stderr=true                   # 将错误信息重定向至stdout日志
stdout_logfile=/home/ideal/workspace/tilyp/logs/gunicorn.log    # 进程日志

       加载配置文件

supervisord -c /etc/supervisord.conf

       启动gunicorn

supervisorctl start gunicorn

       supervisor的常用命令

supervisorctl status                # 获取所有进程状态supervisorctl stop gunicorn         # 停止进程supervisorctl start gunicorn        # 启动进程supervisorctl restart gunicorn      # 重启进程,不会重新加载配置文件supervisorctl reread                # 重新加载配置文件,不会新增和删除进程supervisorctl update                # 加载配置文件,会删除和新增进程,并重启受影响的程序supervisorctl shutdown              # 停止supervisord supervisorctl all                   # 停止全部进程

       这时我们继续访问接口,如果可以正常访问,那就证明没有问题,

利用celery部署异步任务

     创建celery_task.py


from celery import Celery
from time import sleepCELERY_BROKER_URL = 'redis://127.0.0.1:6379/0'
CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/0'
app = Celery("app", broker=CELERY_BROKER_URL, backend=CELERY_RESULT_BACKEND)@app.task                              # 这里写了一个异步方法,等待被调用
def mul(arg1, arg2):sleep(10)result = arg1*arg2return resultdef get_result(task_id):               # 通过任务id可以获取该任务的结果result = app.AsyncResult(task_id)return result.result

      修改app.py

from flask import Flask
from celery_task import *app = Flask(__name__)@app.route("/mul/<arg1>/<arg2>")
def mul_(arg1,arg2):result = mul.delay(int(arg1),int(arg2))        # 调用异步方法并传参数return result.id@app.route("/get_result/<result_id>")
def result_(result_id):result = get_result(result_id)return str(result)

      重启flask服务:

supervisorctl restart gunicorn

      启动celery服务

ideal@ideal196:~/workspace/tilyp$ celery -A celery_task worker --loglevel=info-------------- celery@ideal196 v4.3.0 (rhubarb)
---- **** ----- 
--- * ***  * -- Linux-4.10.0-28-generic-x86_64-with-debian-stretch-sid 2019-08-09 14:11:06
-- * - **** --- 
- ** ---------- [config]
- ** ---------- .> app:         app:0x7f6793813668
- ** ---------- .> transport:   redis://127.0.0.1:6379/0
- ** ---------- .> results:     redis://127.0.0.1:6379/0
- *** --- * --- .> concurrency: 32 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** ----- -------------- [queues].> celery           exchange=celery(direct) key=celery[tasks]. celery_task.mul[2019-08-09 14:11:07,278: INFO/MainProcess] Connected to redis://127.0.0.1:6379/0
[2019-08-09 14:11:07,285: INFO/MainProcess] mingle: searching for neighbors
[2019-08-09 14:11:08,302: INFO/MainProcess] mingle: all alone
[2019-08-09 14:11:08,315: INFO/MainProcess] celery@ideal196 ready.

       看到这些信息,证明没有错,测试接口

ideal@ideal196:~$ curl http://127.0.0.1:8000/mul/4/5
4de1a42c-194d-45fe-98d9-dfdcb8363ee6
ideal@ideal196:~$ curl http://127.0.0.1:8000/get_result/4de1a42c-194d-45fe-98d9-dfdcb8363ee6
20

         接下来在supervisor中部署celery,在/etc/supervisord.conf中添加如下内容:

[program:celeryworker]                          # celeryworker是进程的名字,随意起
command=celery -A celery_task worker --loglevel=info
directory=/home/ideal/workspace/tilyp           # 项目路径,
user=ideal
numprocs=1
# 设置log的路径
stdout_logfile=/home/ideal/workspace/tilyp/logs/celeryworker.log
stderr_logfile=/home/ideal/workspace/tilyp/logs/celeryworker.log
autostart=true
autorestart=true
startsecs=10
stopwaitsecs = 600
priority=15

            更新supervisor配置

ideal@ideal196:~$ supervisorctl update
celeryworker: added process group
ideal@ideal196:~$ 

         至此我们的异步任务框架已经搭建起来了,但是还是不完美,gunicorn应该和nginx搭配使用,所以我们再来配置一下nginx

配置nginx

        上边已经安装好了nginx,我们接下来直接配置即可,

ideal@ideal196:~$ cd /etc/nginx/sites-enabled/
ideal@ideal196:/etc/nginx/sites-enabled$ rm defult
ideal@ideal196:/etc/nginx/sites-enabled$ vim app
server {listen 80;server_name _;                           # 有域名可以配置在这里access_log  /var/log/nginx/access.log;    error_log  /var/log/nginx/error.log;location / {proxy_pass         http://127.0.0.1:8000/;     # 转发服务的地址proxy_redirect     off;proxy_set_header    Host                 $host;proxy_set_header    X-Real-IP            $remote_addr;proxy_set_header    X-Forwarded-For      $proxy_add_x_forwarded_for;proxy_set_header    X-Forwarded-Proto    $scheme;}
}

           测试配置文件是否正确

nginx -t

           没有报错则重启nginx

nginx -s reload

         或者

service nginx restart

           再次测试接口是否可用,如果没有报错,那么整个部署步骤到此为止。

如有问题请加技术交流群:526855734

这篇关于Flask+Celery+Redis+Gunicorn+Nginx+Supervisor部署异步任务的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/887782

相关文章

Python FastAPI+Celery+RabbitMQ实现分布式图片水印处理系统

《PythonFastAPI+Celery+RabbitMQ实现分布式图片水印处理系统》这篇文章主要为大家详细介绍了PythonFastAPI如何结合Celery以及RabbitMQ实现简单的分布式... 实现思路FastAPI 服务器Celery 任务队列RabbitMQ 作为消息代理定时任务处理完整

tomcat多实例部署的项目实践

《tomcat多实例部署的项目实践》Tomcat多实例是指在一台设备上运行多个Tomcat服务,这些Tomcat相互独立,本文主要介绍了tomcat多实例部署的项目实践,具有一定的参考价值,感兴趣的可... 目录1.创建项目目录,测试文China编程件2js.创建实例的安装目录3.准备实例的配置文件4.编辑实例的

SpringBoot配置Ollama实现本地部署DeepSeek

《SpringBoot配置Ollama实现本地部署DeepSeek》本文主要介绍了在本地环境中使用Ollama配置DeepSeek模型,并在IntelliJIDEA中创建一个Sprin... 目录前言详细步骤一、本地配置DeepSeek二、SpringBoot项目调用本地DeepSeek前言随着人工智能技

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Spring定时任务只执行一次的原因分析与解决方案

《Spring定时任务只执行一次的原因分析与解决方案》在使用Spring的@Scheduled定时任务时,你是否遇到过任务只执行一次,后续不再触发的情况?这种情况可能由多种原因导致,如未启用调度、线程... 目录1. 问题背景2. Spring定时任务的基本用法3. 为什么定时任务只执行一次?3.1 未启用

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

Redis 中的热点键和数据倾斜示例详解

《Redis中的热点键和数据倾斜示例详解》热点键是指在Redis中被频繁访问的特定键,这些键由于其高访问频率,可能导致Redis服务器的性能问题,尤其是在高并发场景下,本文给大家介绍Redis中的热... 目录Redis 中的热点键和数据倾斜热点键(Hot Key)定义特点应对策略示例数据倾斜(Data S

如何自定义Nginx JSON日志格式配置

《如何自定义NginxJSON日志格式配置》Nginx作为最流行的Web服务器之一,其灵活的日志配置能力允许我们根据需求定制日志格式,本文将详细介绍如何配置Nginx以JSON格式记录访问日志,这种... 目录前言为什么选择jsON格式日志?配置步骤详解1. 安装Nginx服务2. 自定义JSON日志格式各

通过Docker Compose部署MySQL的详细教程

《通过DockerCompose部署MySQL的详细教程》DockerCompose作为Docker官方的容器编排工具,为MySQL数据库部署带来了显著优势,下面小编就来为大家详细介绍一... 目录一、docker Compose 部署 mysql 的优势二、环境准备与基础配置2.1 项目目录结构2.2 基

Java 中实现异步的多种方式

《Java中实现异步的多种方式》文章介绍了Java中实现异步处理的几种常见方式,每种方式都有其特点和适用场景,通过选择合适的异步处理方式,可以提高程序的性能和可维护性,感兴趣的朋友一起看看吧... 目录1. 线程池(ExecutorService)2. CompletableFuture3. ForkJoi