低代码自动翻页采集山姆商品数据

2023-10-11 03:52

本文主要是介绍低代码自动翻页采集山姆商品数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1 前言

山姆超市以会员经营为主,会员需要向商家购买会员卡才可以获得购物权,享受更多的优惠和折扣,这种模式实际上是通过高质量的商品和服务吸引顾客忠诚度,建立"忠诚顾客"的经营模式。山姆超市的商品销售以大批次和整箱销售为主,这种销售方式可降低物流和库存成本,让顾客享受到更低的商品价格。

山姆超市的商品种类非常多,包括生鲜、烘焙、零食、熟食和日用品等,比如生鲜有樱桃番茄、草莓提子等水果,烘焙有瑞士卷蛋糕、菠萝包等,零食有青柠汁、麻辣牛肉等,熟食有烤鸡、披萨等,日用品有牙膏、毛巾等。每个类别都有很多可选商品,能满足不同人群的消费需求。

山姆官网已经不提供商品显示功能,只能通过京东山姆会员商店的页面查看和购买商品。

2 采集方法

京东上山姆商品页面如下图

A区:为商品分类,每个分类对应有相应商品列表。

B区:为商品列表,显示每个分类的商品数据。

根据页面内容组织情况,采集需要分两个步骤:

1、采集商品分类,同时采集分类对应页面URL。

2、采集分类页面里商品数据,自动翻页采集,直到所有商品采集完成。

本文使用小O网兜软件进行自动化采集。

下载软件登录官网 www.gis9.com ,首页往下滚动,下载【小O网兜】。

软件无需安装,下载后直接运行,可能会被防火墙或者软件管家之类的软件拦截,请将软件添加到信任列表里。

软件启动后进入主界面如图,请注册登录后使用软件。

3 操作步骤

根据用户需求,网兜已经配置好对应的模板,用户进入软件,直接下载山姆模板任务,进行简单重置操作即可执行采集任务。

该模板分为两个子步骤:

1、采集商品分类:采集分类数据,以及分类页面的URL

2、采集商品信息:按上一步,循环打开分类页面,并自动翻页采集商品数据。

具体步骤如下:

新建任务

打开任务模板,下图,点击模板后软件自动下载任务文件,并打开。

如模板中没有所需任务,可点击【客服】,将需求网址发给后台客服,客服将按需求配置并上线新模板。

重置任务

由于山姆商品页面内容定期更新,因此商品分类和商品数据也会变化,每次执行前,需要执行重置,将商品类别记录清空,然后先执行采集商品类别,之后再循环执行商品采集。

打开【数据表】,将商品分类表数据清空,如下。

读取商品分类

接下来,执行第一个步骤,读取商品分类,分类数据只需读取一次即可,无需循环。

如下图,执行【打开页面】,如遇提示,点击【是】即可,右侧浏览器打开目标页面。

再执行【读取数据】,读取页面中分类数据至表格中。

执行完毕后,打开【数据表】窗口,查看分类数据,包括类别URL和类别名称。其中URL为读取商品时循环打开页面使用。

读取商品数据

读取商品数据,根据上一步采集的数据,依次打开商品分类URL页面,自动翻页读取商品数据。

先执行【重置】如下图

然后,循环执行打开页面,程序会自动依次执行步骤,读取数据

当执行完成一次【3 读取数据】后,可以打开【数据表】查看采集商品信息,包含页面中显示的商品信息。

如下图,显示商品列表数据,以及读取商品记录的数量。

执行过程无需人工干预,自动翻页,自动打开商品分类的URL页面,直到所有分类页面都打开并执行完毕。

数据排重

采集完毕数据,可能会出现数据重复的情况,可以在数据表格窗口中选择【】,对数据进行排重处理。

同时也提供导出数据功能,将采集数据导出为CSV格式,可在EXCEL、WPS等表格软件中进行查看和处理。

异常情况

京东页面登陆

执行时可能会遇到页面提示登陆,可以先登陆京东账号,然后再执行采集。登陆过程均在页面中完成,程序不会采集任何账号信息。

分类页面找不到

参考上文读取商品分类步骤。

异常任务停止

执行过程如遇特殊情况,导致任务中断(图标圆点变红色),可在该步骤上点击右键,点击循环执行即可。

任务执行过程支持断点执行,即可在中断处继续往下执行。

4 小结

本文演示使用小O网兜软件采集京东山姆超市商品信息,可以为研究机构和商超提供数据源,执行商品数据分析和可视化操作。

小O网兜提供网页信息采集功能,除了提供任务模板方式采集,也可以自行配置任务,采集其他页面的信息,并对数据进行排重和导出等操作。

这篇关于低代码自动翻页采集山姆商品数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/185332

相关文章

Mysql如何将数据按照年月分组的统计

《Mysql如何将数据按照年月分组的统计》:本文主要介绍Mysql如何将数据按照年月分组的统计方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录mysql将数据按照年月分组的统计要的效果方案总结Mysql将数据按照年月分组的统计要的效果方案① 使用 DA

鸿蒙中Axios数据请求的封装和配置方法

《鸿蒙中Axios数据请求的封装和配置方法》:本文主要介绍鸿蒙中Axios数据请求的封装和配置方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.配置权限 应用级权限和系统级权限2.配置网络请求的代码3.下载在Entry中 下载AxIOS4.封装Htt

jupyter代码块没有运行图标的解决方案

《jupyter代码块没有运行图标的解决方案》:本文主要介绍jupyter代码块没有运行图标的解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录jupyter代码块没有运行图标的解决1.找到Jupyter notebook的系统配置文件2.这时候一般会搜索到

Spring Boot项目中结合MyBatis实现MySQL的自动主从切换功能

《SpringBoot项目中结合MyBatis实现MySQL的自动主从切换功能》:本文主要介绍SpringBoot项目中结合MyBatis实现MySQL的自动主从切换功能,本文分步骤给大家介绍的... 目录原理解析1. mysql主从复制(Master-Slave Replication)2. 读写分离3.

Python通过模块化开发优化代码的技巧分享

《Python通过模块化开发优化代码的技巧分享》模块化开发就是把代码拆成一个个“零件”,该封装封装,该拆分拆分,下面小编就来和大家简单聊聊python如何用模块化开发进行代码优化吧... 目录什么是模块化开发如何拆分代码改进版:拆分成模块让模块更强大:使用 __init__.py你一定会遇到的问题模www.

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢?我尝试一种更为智能的方法:P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验,

微信公众号脚本-获取热搜自动新建草稿并发布文章

《微信公众号脚本-获取热搜自动新建草稿并发布文章》本来想写一个自动化发布微信公众号的小绿书的脚本,但是微信公众号官网没有小绿书的接口,那就写一个获取热搜微信普通文章的脚本吧,:本文主要介绍微信公众... 目录介绍思路前期准备环境要求获取接口token获取热搜获取热搜数据下载热搜图片给图片加上标题文字上传图片

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

使用C#代码在PDF文档中添加、删除和替换图片

《使用C#代码在PDF文档中添加、删除和替换图片》在当今数字化文档处理场景中,动态操作PDF文档中的图像已成为企业级应用开发的核心需求之一,本文将介绍如何在.NET平台使用C#代码在PDF文档中添加、... 目录引言用C#添加图片到PDF文档用C#删除PDF文档中的图片用C#替换PDF文档中的图片引言在当

C#使用SQLite进行大数据量高效处理的代码示例

《C#使用SQLite进行大数据量高效处理的代码示例》在软件开发中,高效处理大数据量是一个常见且具有挑战性的任务,SQLite因其零配置、嵌入式、跨平台的特性,成为许多开发者的首选数据库,本文将深入探... 目录前言准备工作数据实体核心技术批量插入:从乌龟到猎豹的蜕变分页查询:加载百万数据异步处理:拒绝界面