python爬取网页接口数据,以yearning为例

2024-09-05 22:44

本文主要是介绍python爬取网页接口数据,以yearning为例,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

模拟登陆获取token,传token到对应的接口获取数据,下载到csv里面 

import getpass
import os
import requests
import time
import csv
from datetime import datetimeclass Yearning:def __init__(self):self.session = requests.Session()self.host = 'http://yearning.xxxx.com:8000'self.token_file = './token.txt'if not os.path.exists(self.token_file):open(self.token_file, 'w').close()file = open(self.token_file, 'r')token = file.read()file.close()self.authorization = ''if token:self.authorization = f'Bearer {token}'def query(self, database, source, sql, print_sql=False):if print_sql:print(sql)uri = f'{self.host}/api/v2/query/results'body = {'data_base': database,'source': source,'sql': sql}try:result_data = self.get_result_data(uri, body, False)if result_data and 'data' in result_data and result_data['data']:return result_data['data']return []except Exception as e:print(f'query exception! database={database}, source={source}, sql={sql}')print(e)return []def login(self, username, password):uri = f'{self.host}/ldap'headers = {'Content-Type': 'application/json; charset=UTF-8','cookie': '',}body = {'username': username,'password': password}try:result_data = self.get_result_data(uri, body, False)if result_data and 'token' in result_data:token = result_data['token']self.authorization = f'Bearer {token}'file = open(self.token_file, 'w')file.truncate()file.write(token)file.close()else:print(f'login fail!')except Exception as e:print(f'login error! e={e}')def get_result_data(self, uri, body, isGet):headers = {'Content-Type': 'application/json; charset=UTF-8','cookie': '','Authorization': self.authorization}if isGet:response = requests.get(uri, headers=headers)else:response = requests.post(uri, json=body, headers=headers)result_data = response.json()if result_data == 'missing or malformed jwt' or result_data == 'Token is expired' or result_data == '':print('登录授权已失效,请重新登录!')username = input('账号:')password = getpass.getpass('密码:')# 可以hardcode账号密码#username = ''#password = ''self.login(username, password)return self.get_result_data(uri, body, isGet)if 'code' in result_data and result_data['code'] == 1200 and 'payload' in result_data:return result_data['payload']else:print(f'其他异常,休眠1s!{result_data}')time.sleep(1)return Noneyearning = Yearning()def export():sql = "select   count(*), driver_id from   order_info group by driver_id"db = "order"source = "order_readonly"# 获取当前时间now = datetime.now()# 格式化时间为年月日时分秒字符串,例如:"2023-04-01 14:30:45"datetime_str = now.strftime("%Y%m%d%H%M%S")#windows的换行符是\r\n 会导致有空行,需要将换行符修改为\n,lineterminator='\n'save_file = csv.writer(open(f'res/data-{datetime_str}.csv', 'w'),lineterminator='\n')data_list = yearning.query(db, source, sql, True)data = data_list[0]key_list = [key for key in data]save_file.writerow(key_list)print(key_list)for data in data_list:list = [data[key].strip() for key in key_list]print(list)save_file.writerow(list)if __name__ == '__main__':export()

这篇关于python爬取网页接口数据,以yearning为例的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1140273

相关文章

python中各种常见文件的读写操作与类型转换详细指南

《python中各种常见文件的读写操作与类型转换详细指南》这篇文章主要为大家详细介绍了python中各种常见文件(txt,xls,csv,sql,二进制文件)的读写操作与类型转换,感兴趣的小伙伴可以跟... 目录1.文件txt读写标准用法1.1写入文件1.2读取文件2. 二进制文件读取3. 大文件读取3.1

使用Python实现一个优雅的异步定时器

《使用Python实现一个优雅的异步定时器》在Python中实现定时器功能是一个常见需求,尤其是在需要周期性执行任务的场景下,本文给大家介绍了基于asyncio和threading模块,可扩展的异步定... 目录需求背景代码1. 单例事件循环的实现2. 事件循环的运行与关闭3. 定时器核心逻辑4. 启动与停

基于Python实现读取嵌套压缩包下文件的方法

《基于Python实现读取嵌套压缩包下文件的方法》工作中遇到的问题,需要用Python实现嵌套压缩包下文件读取,本文给大家介绍了详细的解决方法,并有相关的代码示例供大家参考,需要的朋友可以参考下... 目录思路完整代码代码优化思路打开外层zip压缩包并遍历文件:使用with zipfile.ZipFil

Python处理函数调用超时的四种方法

《Python处理函数调用超时的四种方法》在实际开发过程中,我们可能会遇到一些场景,需要对函数的执行时间进行限制,例如,当一个函数执行时间过长时,可能会导致程序卡顿、资源占用过高,因此,在某些情况下,... 目录前言func-timeout1. 安装 func-timeout2. 基本用法自定义进程subp

Python实现word文档内容智能提取以及合成

《Python实现word文档内容智能提取以及合成》这篇文章主要为大家详细介绍了如何使用Python实现从10个左右的docx文档中抽取内容,再调整语言风格后生成新的文档,感兴趣的小伙伴可以了解一下... 目录核心思路技术路径实现步骤阶段一:准备工作阶段二:内容提取 (python 脚本)阶段三:语言风格调

Python结合PyWebView库打造跨平台桌面应用

《Python结合PyWebView库打造跨平台桌面应用》随着Web技术的发展,将HTML/CSS/JavaScript与Python结合构建桌面应用成为可能,本文将系统讲解如何使用PyWebView... 目录一、技术原理与优势分析1.1 架构原理1.2 核心优势二、开发环境搭建2.1 安装依赖2.2 验

一文详解如何在Python中从字符串中提取部分内容

《一文详解如何在Python中从字符串中提取部分内容》:本文主要介绍如何在Python中从字符串中提取部分内容的相关资料,包括使用正则表达式、Pyparsing库、AST(抽象语法树)、字符串操作... 目录前言解决方案方法一:使用正则表达式方法二:使用 Pyparsing方法三:使用 AST方法四:使用字

Python列表去重的4种核心方法与实战指南详解

《Python列表去重的4种核心方法与实战指南详解》在Python开发中,处理列表数据时经常需要去除重复元素,本文将详细介绍4种最实用的列表去重方法,有需要的小伙伴可以根据自己的需要进行选择... 目录方法1:集合(set)去重法(最快速)方法2:顺序遍历法(保持顺序)方法3:副本删除法(原地修改)方法4:

Python运行中频繁出现Restart提示的解决办法

《Python运行中频繁出现Restart提示的解决办法》在编程的世界里,遇到各种奇怪的问题是家常便饭,但是,当你的Python程序在运行过程中频繁出现“Restart”提示时,这可能不仅仅是令人头疼... 目录问题描述代码示例无限循环递归调用内存泄漏解决方案1. 检查代码逻辑无限循环递归调用内存泄漏2.

Python中判断对象是否为空的方法

《Python中判断对象是否为空的方法》在Python开发中,判断对象是否为“空”是高频操作,但看似简单的需求却暗藏玄机,从None到空容器,从零值到自定义对象的“假值”状态,不同场景下的“空”需要精... 目录一、python中的“空”值体系二、精准判定方法对比三、常见误区解析四、进阶处理技巧五、性能优化