Python字符编码及应用

2024-09-08 07:08
文章标签 python 应用 编码 字符

本文主要是介绍Python字符编码及应用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

字符集概念
字符集就是一套文字符号及其编码的描述。从第一个计算机字符集ASCII开始,为了处理不同的文字,发明过几百种字符集,例如ASCII、USC、GBK、BIG5等,这些不同的字符集从收录到编码都各不相同。在编程中出现比较严重的问题是字符乱码。
几个概念
位:计算机的最小单位二进制中的一位,用二进制的0,1表示。
字节:八位组成一个字节。(位与字节有对应关系)
字符:我们肉眼可见的文字与符号。(字节和字符没有对应关系,不同的编码体系中都是不同的)
字符集:字符的集合。
编码:将字符转换成计算机可识别的0,1代码。
解码:将计算机表示的0,1编码转换成肉眼可见的字符。
字符编码的起源:ASCLL
第一代计算机的时候就确定了以二进制方式存储数据的基本逻辑,所以我们所见的所有信息,要想持久化就必须转换成计算机可识别的二进制编码,所以就必须建立一套字符对应二进制的对应关系。当时使用的所有字符(一共128个)采用8个二进制位来建立了字符和对应的二进制编码的对应关系,一共128个占7位,高位补0,所以共8位,也就是说一个字符占用一个字节。
字符编码的发展:GBK和GB2312
GB2312编码收录了常用汉字。在计算机传入中国后,国家面临字符编码相关的问题,所以当时就制定了一套双字节编码规范,收录了中文、东亚文字及欧美文字,所有的字母采用两个字节进行编码。GBK是GB2312的扩展字符集,支持繁体字,占用2bytes。Big5中国台湾支持的编码技术。EASCII欧洲国家联合进行的统一编码技术,是单字节编码。
字符编码的现状:Unicode
UCS系列,随着信息交流频繁和字符乱码问题越来越严重,统一编码的需求越来越强烈,IOS组织提出了统一的编码方案。规则是:所有的字符采用四个字节进行编码;将整个编码空间划分为四个部分(组、面、行、列),最高位固定为0。Unicode系列在UCS-4编码推出后遭受到一些大公司反对后,由一些大公司如google、IBM、SUN等公司成立Unicode委员会,研发的编码和解码规范。
UTF-8
基于节约的原则,出现了把Unicode编码转化为“可变长编码”的UTF-8编码。把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常为3个字节,只有较生僻的字符才会被编码成4-6个字节。
Python的字符串
在python3中字符串是以Unicode编码的,字符串默认支持多语言。
ord():将字符转换成整数表示,只接受单个字符。
chr():将整数转换成对应的文字。
在这里插入图片描述
在这里插入图片描述
在客户端与服务端的网络传输中,字符串无法直接传输,需要转换成bytes类型。如:
在这里插入图片描述
在这里插入图片描述
可以看出,在字符串前加上一个b就是bytes类型。当使用汉字时,我们使用编码和解码方式进行转换:
encode():将字符串转为bytes类型。
decode():将bytes类型转为字符串。
在这里插入图片描述
在这里插入图片描述

这篇关于Python字符编码及应用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1147453

相关文章

python中各种常见文件的读写操作与类型转换详细指南

《python中各种常见文件的读写操作与类型转换详细指南》这篇文章主要为大家详细介绍了python中各种常见文件(txt,xls,csv,sql,二进制文件)的读写操作与类型转换,感兴趣的小伙伴可以跟... 目录1.文件txt读写标准用法1.1写入文件1.2读取文件2. 二进制文件读取3. 大文件读取3.1

使用Python实现一个优雅的异步定时器

《使用Python实现一个优雅的异步定时器》在Python中实现定时器功能是一个常见需求,尤其是在需要周期性执行任务的场景下,本文给大家介绍了基于asyncio和threading模块,可扩展的异步定... 目录需求背景代码1. 单例事件循环的实现2. 事件循环的运行与关闭3. 定时器核心逻辑4. 启动与停

基于Python实现读取嵌套压缩包下文件的方法

《基于Python实现读取嵌套压缩包下文件的方法》工作中遇到的问题,需要用Python实现嵌套压缩包下文件读取,本文给大家介绍了详细的解决方法,并有相关的代码示例供大家参考,需要的朋友可以参考下... 目录思路完整代码代码优化思路打开外层zip压缩包并遍历文件:使用with zipfile.ZipFil

Python处理函数调用超时的四种方法

《Python处理函数调用超时的四种方法》在实际开发过程中,我们可能会遇到一些场景,需要对函数的执行时间进行限制,例如,当一个函数执行时间过长时,可能会导致程序卡顿、资源占用过高,因此,在某些情况下,... 目录前言func-timeout1. 安装 func-timeout2. 基本用法自定义进程subp

Python实现word文档内容智能提取以及合成

《Python实现word文档内容智能提取以及合成》这篇文章主要为大家详细介绍了如何使用Python实现从10个左右的docx文档中抽取内容,再调整语言风格后生成新的文档,感兴趣的小伙伴可以了解一下... 目录核心思路技术路径实现步骤阶段一:准备工作阶段二:内容提取 (python 脚本)阶段三:语言风格调

Python结合PyWebView库打造跨平台桌面应用

《Python结合PyWebView库打造跨平台桌面应用》随着Web技术的发展,将HTML/CSS/JavaScript与Python结合构建桌面应用成为可能,本文将系统讲解如何使用PyWebView... 目录一、技术原理与优势分析1.1 架构原理1.2 核心优势二、开发环境搭建2.1 安装依赖2.2 验

Java字符串操作技巧之语法、示例与应用场景分析

《Java字符串操作技巧之语法、示例与应用场景分析》在Java算法题和日常开发中,字符串处理是必备的核心技能,本文全面梳理Java中字符串的常用操作语法,结合代码示例、应用场景和避坑指南,可快速掌握字... 目录引言1. 基础操作1.1 创建字符串1.2 获取长度1.3 访问字符2. 字符串处理2.1 子字

一文详解如何在Python中从字符串中提取部分内容

《一文详解如何在Python中从字符串中提取部分内容》:本文主要介绍如何在Python中从字符串中提取部分内容的相关资料,包括使用正则表达式、Pyparsing库、AST(抽象语法树)、字符串操作... 目录前言解决方案方法一:使用正则表达式方法二:使用 Pyparsing方法三:使用 AST方法四:使用字

Python列表去重的4种核心方法与实战指南详解

《Python列表去重的4种核心方法与实战指南详解》在Python开发中,处理列表数据时经常需要去除重复元素,本文将详细介绍4种最实用的列表去重方法,有需要的小伙伴可以根据自己的需要进行选择... 目录方法1:集合(set)去重法(最快速)方法2:顺序遍历法(保持顺序)方法3:副本删除法(原地修改)方法4:

Python运行中频繁出现Restart提示的解决办法

《Python运行中频繁出现Restart提示的解决办法》在编程的世界里,遇到各种奇怪的问题是家常便饭,但是,当你的Python程序在运行过程中频繁出现“Restart”提示时,这可能不仅仅是令人头疼... 目录问题描述代码示例无限循环递归调用内存泄漏解决方案1. 检查代码逻辑无限循环递归调用内存泄漏2.