PHP 里进行字符串 Unicode 编码并正确截短的方法

2024-03-14 05:38

本文主要是介绍PHP 里进行字符串 Unicode 编码并正确截短的方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在 PHP 与其它语言互相调用传输数据的时候,经常会遇到字符串编码的问题。比如我最近使用 go 语言开发的一个 RPC 服务,在使用 PHP 作为客户端调用的时候,传输的对象数据就使用了 json_encode 来进行序列化,

源字符串:

> 测试41
> {"json":['test json 测试json串格式'不对'}

它序列化后得到的内容应该类似下面的:

> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}

这个序列化看起来没有问题,我们可以很方便的用 json_decode 来获得原始字符串。

但是因为我的服务需要限制字符串长度,也就是说如果超出限制的字符串,会被截短,类似下面的:

> 测试41
> {"json":['test json 测试...

这里出现的问题,首先是截短的字符串长度不是预期的长度。为什么呢?因为 PHP 客户端如果在序列化之前就按限制长度来截短字符串,那么截短后的字符串序列化之后的长度肯定与源字符串序列化之后才截短的结果不一致。

假定我们限制长度为50(个单字节字符),我们撰写一个下面的脚本来展示一下截短序列化之前和之后的结果:

<?php$str1 = "> 测试41\n> {\"json\":['test json 测试json串格式'不对'}";$str2 = json_encode($str1);echo "str1: ".$str1."\n";
echo "Length of str1: ".strlen($str1)."\n\n";echo "str2: ".$str2."\n";
echo "Length of str2: ".strlen($str2)."\n\n";echo "MultiByte Length of str1: ".mb_strlen($str1)."\n\n";$limit = 50;$cut1 = substr($str1, 0, $limit);
$cut2 = substr($str2, 0, $limit);
$cut3 = mb_substr($str1, 0, $limit);echo "cut1: ".$cut1."\n";
echo "Encode cut1: ".json_encode($cut1)."\n";
echo "Length of encoded cut1: ".strlen(json_encode($cut1))."\n\n";echo "cut2: ".$cut2."\n";
echo "Length of cut2: ".strlen($cut2)."\n\n";echo "cut3: ".$cut3."\n";
echo "Encode cut3: ".json_encode($cut3)."\n";
echo "Length of encoded cut3: ".strlen(json_encode($cut3))."\n\n";

该脚本的运行结果如下:

str1: > 测试41
> {"json":['test json 测试json串格式'不对'}
Length of str1: 61str2: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}"
Length of str2: 93MultiByte Length of str1: 43cut1: > 测试41
> {"json":['test json 测试json串格�
Encode cut1: 
Length of encoded cut1: 0cut2: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\
Length of cut2: 50cut3: > 测试41
> {"json":['test json 测试json串格式'不对'}
Encode cut3: "> \u6d4b\u8bd541\n> {\"json\":['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'}"
Length of encoded cut3: 93

可以看到源字符串被截短后,再 json_encode 出了问题,得到的序列化结果为空字符串……

但是如果我们用 mbstring 的方法来衡量和截短字符串,其序列化之后的字符串长度超出了我们的限制……

所以,正确的做法是 先对字符串进行序列化,然后根据限制截短字符串。这样能够确保字符串在不同的语言里处理都能有一致的结果。

网络上有很多序列化 Unicode 字符串的方法,但经过测试我发现,如果截短后都可能因为包含 JSON 的特殊符号大括号、中括号或其它符号,导致反序列化出现问题。最后经过尝试,我利用 PHP 的 JSON 模块实现了如下的编码方法:

<?php
//将内容进行UNICODE编码
function unicode_encode($str){$pattern = '/([\[\]\{\}])/i';$replacement = '\\\\${1}';$str = preg_replace($pattern, $replacement, $str);$str = '{"str":"'. $str.'"}';$encode = json_encode($str);return substr($encode, 12, -4);
}//将UNICODE编码后的内容进行解码
function unicode_decode($unicode_str){//避免一半 unicode 截断的情况$cut_pos_check = strrpos($unicode_str, '\u', 0);if(strlen($unicode_str) - $cut_pos_check < 6) { // unicode 编码都是 6 个字节:\uxxxx$unicode_str = substr($unicode_str, 0, $cut_pos_check);}if(substr($unicode_str, -1) == "\\" && substr($unicode_str, -2, 1) != "\\") {  //去掉截断最后为 \ 且不是 \\ 的情况$unicode_str = substr($unicode_str, 0, -1);}$json = '{"str":"'.$unicode_str.'"}';$obj = json_decode($json);if(empty($obj)) return '';return $obj->str;
}//截断字符串
function cutData($data, $occupied, $limit) {if($limit < 0) $limit = intval($this->config->ratchet->msglimit);$msglimit = $limit - $occupied;   //有些必须占用的长度去掉echo(date("Y-m-d h:i:s")." Msg length: ".strlen($data)."\n");echo(date("Y-m-d h:i:s")." Msg limit: ".$msglimit."\n");$tmp = preg_replace("/\&nbsp\;/", " ", unicode_encode(trim(htmlspecialchars_decode($data))));    //编码为Unicode$encoded_len = strlen($tmp);echo(date("Y-m-d h:i:s")." Unicode Encoded: ".$tmp."\n\n");echo(date("Y-m-d h:i:s")." Unicode Encoded Msg length: ".$encoded_len."\n");if($encoded_len > $msglimit) {  //超出限制长度$sub = substr($tmp, 0, $msglimit);echo(date("Y-m-d h:i:s")." Substring: ".$sub."\n\n");echo(date("Y-m-d h:i:s")." Unicode Decoded: ".unicode_decode($sub)."\n\n");return unicode_decode($sub) . "...";   //返回截短后的解码字符串}return preg_replace("/\&nbsp\;/", " ", $data);
}

再用一个测试脚本测试一下:

<?php
$str1 = "> 测试41\n> {\"json\":['test json 测试json串格式'不对'}";$str2 = unicode_encode($str1);echo "str1: ".$str1."\n";
echo "Length of str1: ".strlen($str1)."\n\n";$limit = 50;$cut = cutData($str1, 0, $limit);echo "cut: ".$cut."\n";

结果类似下面的:

str1: > 测试41
> {"json":['test json 测试json串格式'不对'}
Length of str1: 612021-08-28 11:18:26 Msg length: 61
2021-08-28 11:18:26 Unicode Encoded: > \u6d4b\u8bd541\n> \\{\"json\":\\['test json \u6d4b\u8bd5json\u4e32\u683c\u5f0f'\u4e0d\u5bf9'\\}2021-08-28 11:18:26 Unicode Encoded Msg length: 97
2021-08-28 11:18:26 Msg limit: 50
2021-08-28 11:18:26 Substring: > \u6d4b\u8bd541\n> \\{\"json\":\\['test json \u6d2021-08-28 11:18:26 Unicode Decoded: > 测试41
> \{"json":\['test json cut: > 测试41
> \{"json":\['test json ...

这篇关于PHP 里进行字符串 Unicode 编码并正确截短的方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/807361

相关文章

MySQL查询JSON数组字段包含特定字符串的方法

《MySQL查询JSON数组字段包含特定字符串的方法》在MySQL数据库中,当某个字段存储的是JSON数组,需要查询数组中包含特定字符串的记录时传统的LIKE语句无法直接使用,下面小编就为大家介绍两种... 目录问题背景解决方案对比1. 精确匹配方案(推荐)2. 模糊匹配方案参数化查询示例使用场景建议性能优

关于集合与数组转换实现方法

《关于集合与数组转换实现方法》:本文主要介绍关于集合与数组转换实现方法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、Arrays.asList()1.1、方法作用1.2、内部实现1.3、修改元素的影响1.4、注意事项2、list.toArray()2.1、方

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤

Golang如何对cron进行二次封装实现指定时间执行定时任务

《Golang如何对cron进行二次封装实现指定时间执行定时任务》:本文主要介绍Golang如何对cron进行二次封装实现指定时间执行定时任务问题,具有很好的参考价值,希望对大家有所帮助,如有错误... 目录背景cron库下载代码示例【1】结构体定义【2】定时任务开启【3】使用示例【4】控制台输出总结背景

MySQL 获取字符串长度及注意事项

《MySQL获取字符串长度及注意事项》本文通过实例代码给大家介绍MySQL获取字符串长度及注意事项,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录mysql 获取字符串长度详解 核心长度函数对比⚠️ 六大关键注意事项1. 字符编码决定字节长度2

Springboot如何正确使用AOP问题

《Springboot如何正确使用AOP问题》:本文主要介绍Springboot如何正确使用AOP问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录​一、AOP概念二、切点表达式​execution表达式案例三、AOP通知四、springboot中使用AOP导出

在Golang中实现定时任务的几种高效方法

《在Golang中实现定时任务的几种高效方法》本文将详细介绍在Golang中实现定时任务的几种高效方法,包括time包中的Ticker和Timer、第三方库cron的使用,以及基于channel和go... 目录背景介绍目的和范围预期读者文档结构概述术语表核心概念与联系故事引入核心概念解释核心概念之间的关系

在Linux终端中统计非二进制文件行数的实现方法

《在Linux终端中统计非二进制文件行数的实现方法》在Linux系统中,有时需要统计非二进制文件(如CSV、TXT文件)的行数,而不希望手动打开文件进行查看,例如,在处理大型日志文件、数据文件时,了解... 目录在linux终端中统计非二进制文件的行数技术背景实现步骤1. 使用wc命令2. 使用grep命令

Python中Tensorflow无法调用GPU问题的解决方法

《Python中Tensorflow无法调用GPU问题的解决方法》文章详解如何解决TensorFlow在Windows无法识别GPU的问题,需降级至2.10版本,安装匹配CUDA11.2和cuDNN... 当用以下代码查看GPU数量时,gpuspython返回的是一个空列表,说明tensorflow没有找到