当前位置： 首页 > news >正文

关于字符编码你应该知道的事情

news 来源：原创 2024/4/26 19:34:50

读完本文你将了解的知识点

  1. 为什么 Windows 上使用 Notepad 会出现乱码
  2. 为什么 Emoji 表情在有些手机上显示不准确
  3. 为什么 Emoji 在没有做过特殊优化的数据库中存储失败
  4. 为什么使用 Linux 开发的代码他人使用 Windows 开发后换行符全变了
  5. 为什么在 JS 中 [...'?‍?‍?‍?'] => ["?", "‍", "?", "‍", "?", "‍", "?"]
  6. 新版本 ECMAScript 针对 JavaScript 编码问题做了哪些改进
  7. 为什么使用 Google Chrome 打开 JS 文件，文件中的中文字符会变成乱码

比特、字节

  1. 比特 ( Bit / Binary digit )
    缩写为 b，计算机最小的存储单位，以 0/1 来表示值
  2. 字节 ( Byte )
    缩写为 B，8 个比特表示一个字节

    在计算机内部，所有的信息最终都表示为一个二进制的序列。每一个二进制位 ( Bit ) 有 0 和 1 两种状态，因此八个二进制位就可以组合出 256 种状态，这被称为一个字节 ( Byte ) ，也就是说，一个字节一共可以用来表示 256 种不同的状态或者符号。如果我们制作一张对应表格，对于每一个 8 位二进制序列，都对应唯一的一个符号。每一个状态对应一个符号，就是 256 个符号，从 0000 0000 到 1111 1111 。

ASCII 与 EASCII

  1. ASCII (American Standard Code for Information Interchange，美国信息交换标准代码)

    1967 年发布，最后更新于 1986 年，共定义了 128 ( 2⁷ ) 个字符( 0x00 - 0x7F ) ，其中 33 个字符为不可打印字符 ( 0x00 - 0x1F & 0x7F )，95 个可打印字符 ( 0x20 - 0x7E )

    可打印字符为标准键盘中可输入的字符，如下所示：

    10 个数字 ( 0-9 )，26×2 个大小写字母 ( a-z A-Z ) ，32 个标点符号 1 个空格 ( ,./;'[]\-=~!@#$%^&*()_+{}|:"<>? )

    ASCII 的局限在于只能显示 26 个基本拉丁字母、阿拉伯数目字和英式标点符号，因此只能用于显示现代美国英语，而其他携带类似于重音符号的字母无法显示 ( naïve、café )

  2. EASCII ( Extended ASCII，延伸美国标准信息交换码 )

    由于 ASCII 的天然不足，它的变种体迅速出现，兼容字符集对ASCII的处理

  • ISO/IEC 646 1972年

    该标准来自数个国家标准，最主要的是美国的 ASCII 标准，ISO 646 为了表示欧洲各种语言的带附加符号（ diacritical mark ）的变音字母，由于没有码位空间去直接编码这些变音字母，所以用几个标点符号来兼作变音字母的附加符号

  • ISO/IEC 8859

    扩展字符：0xA0 ( 160 ) - 0xFF ( 255 )
    淘汰了 ISO 646 编码标准

    ISO 8859 统一了此前各国各语言的单独编码的混乱局面；废弃了 ISO 646 使用的退格键开始的转义序列来表示变音字母的方法，而是在 G1 区域直接编码表示变音字母。

    ISO 8859 有 15 个子版本（ 1-11，13-16 ），其中囊括了大部分欧州语言，英语因为没有重音字母，所有可以使用其中任何一个子版本表示

    Microsoft Codepage 1252 为 ISO 8859-1 的超集，扩充了 0x80 - 0x9F 来编码一些可打印字符 ( € ‚ ƒ „ … † ‡ ˆ ‰ Š ‹ Œ Ž ‘ ’ “ ” • – — ˜ ™ š › œ ž Ÿ )

    例如在中国 GB/T 1988-80 标准中： $ u+0024 替换为 ¥ u+00A5 ，~ u+007E 替换为 ‾ u+203E

  1. ANSI

    Windows 操作系统上的 ANSI 编码并不是指的是美国国家标准学会 ( ANSI )，而是用来指称多个不同的代码页，比如在简体中文编码操作系统中，ANSI 实际使用 GB 系字符编码

中文

  • GB2312 ( 1981 ) 6763 个汉字，最初版本，双字节编码
  • GB12345 ( 1993 ) 6866 个汉字，为了适应繁体汉字信息处理而制定的标准
  • GBK ( 1995 ) 21886个汉字和图形符号，不属于国家标准
  • GB18030 ( 2000 )，70244 个字符，基于 GBK，现行版本

国际通用标准

  • Unicode ( 万国码、国际码、统一码、单一码 )

    最初版本：1.0.0 发布，1991 年 10 月发布，7161 个字符
    当前正式版本 Unicode 11.0 ( 2018 年 6 月 ) 拥有 137374 个字符
    当前最新版本：Emoji 12.0 Beta

    表示方法：

    • 基本平面：通常会用 "U+" 然后紧接着 4 个 16 进制的数字来表示这一个字，可表示 6 万余个字符
    • 其他平面使用 "U-" 然后接着 8 个 16 进制数字表示
  • ISO/IEC 10646 ( UCS / 通用字符集 )

    该字符集包括了其他所有字符集，保证了与其他字符集的双向兼容，ISO 10646 有三种实现级别，不同的实现级别能支持的字符数量不同

    与 Unicode 的关系：

  • 所有字符在相同位置且有相同名字
  • Unicode 标准里有详细说明某些语言和文字的表达算法等
  • ISO 承诺，ISO 10646 将不会替超出 U+10FFFF（ Unicode 编码以 U+ 开头） 的 UCS-4 编码赋值

UTF ( Unicode Transformation Format )

Unicode 是一个字符集，其实现方式称为 Unicode 转换格式，即 UTF

  • UTF-32

    Unicode 与 UCS 合并之前已经产生了 UCS-4 编码方式，UCS-4 使用了 32 位来表示每个编码，为了兼容 Unicode 产生了 UTF-32 标准，编码空间限制在了 0x000000 - 0x10FFFF 之间，因此可以说 UTF-32 是 UCS-4 的子集。由于 UTF-32 的编码空间占用过大，因此在 HTML5 标准中明确规定不能使用 UTF-32 进行编码

  • UTF-16

    UTF-16 编码拥有定长和变长两个编码特点，对于 Unicode 基本平面的字符，UTF-16 占用两个字节，对于辅助平面的字符，UTF-16 编码占用四个字节

    Unicode 规范定义，每一个文件的最前面分别加入一个表示编码顺序的字符，这个字符的名字叫做 “零宽度非换行空格 ( zero width no-break space )”，用 FE FF 表示。但在不同计算机系统中对字节顺序的理解是不一致的，即出现了大端序 ( UTF-16 BE ) 与小端序 ( UTF-16 LE ) 两种情况。文本头部使用 FE FF 与 FF FE 进行区分,此区分符称为“字节顺序标记 ( BOM ) ”

    如何确定双字节和四字节：

    在基本平面内，从 U+D800 到 U+DFFF 是一个空段，不对应任何码点，这个空段用来映射辅助平面的字符，即一个辅助平面的字符，被拆成两个基本平面的字符表示。

    例如： ? 可以表示为 U+D83D U+DC68

  • UTF-8

    由于前两种编码方式的编码规则对与英语国家来说非常浪费（2-4 字节编码）

    UTF-8 当前使用 1-6 个字节为每个字符编码

  1. 对于单字节的符号，字节的第一位设为 0 ，后面 7 位为这个符号的 Unicode 码。因此对于英语字母，UTF-8 编码和 ASCII 码是相同的。
  2. 对于n字节的符号（ n > 1 ），第一个字节的前n位都设为 1，第 n + 1 位设为0，后面字节的前两位一律设为 10。剩下的没有提及的二进制位，全部为这个符号的 Unicode 码。
  3. 带有附加符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及它拿字母则需要两个字节编码 ( Unicode 范围由 U+0080 至 U+07FF )。
  4. 其他基本多文种平面 ( BMP ) 中的字符（这包含了大部分常用字，如大部分的汉字）使用三个字节编码 ( Unicode范围由U+0800至U+FFFF )。
  5. 其他极少使用的 Unicode 辅助平面的字符使用 4-6 字节编码
  • UCS-2

    JavaScript 采用了 Unicode 字符集。但是只支持一种编码方式。JS 最先采用的编码既不是 UTF-16 也不是 UTF-32 或 UTF-8 ，而是 UCS-2 。UTF-16 明确宣布是 UCS-2 的超集。UTF-16 中基本平面字符延用 UCS-2 编码。辅助平面字符定义了 4 个字节的表示方法。

    JS 只能处理 UCS-2 编码，造成所有字符在这门语言中都是两个字节，如果是四个字节的字符。会被当做两个双字节的字符处理。

    两者的关系简单说，就是 UTF-16 取代了 UCS-2，或者说 UCS-2 整合进了 UTF-16。所以，现在只有 UTF-16，没有 UCS-2。

码点和平面

字符会从 0 开始为每个字符指定一个编码， 这个编码叫做码点

举例
Unicode 中给字符进行分区定义，每个区称为一个面，Unicode 拥有 0-16 共 17 个平面，每个平面 16⁴ 个字符

平面字符值描述
0号平面U+0000 - U+FFFF基本多文种平面
1号平面U+10000 - U+1FFFF多文种补充平面
2号平面U+20000 - U+2FFFF表意文字补充平面
3号平面U+30000 - U+3FFFF表意文字第三平面（未正式使用）
4 - 13号平面U+40000 - U+DFFFF（尚未使用）
14号平面U+E0000 - U+EFFFF特别用途补充平面
15号平面U+F0000 - U+FFFFF保留作为私人使用区（A区）
16号平面U+100000 - U+10FFFF保留作为私人使用区（B区）

题首问题

  • 为什么 Windows 上使用 Notepad 会出现乱码

    Windows 上的 Notepad 软件在保存文件时默认使用的是 ANSI 编码保存，而在打开的时候需要猜测 txt 文件的编码方式，如果文档中出现了 ANSI 编码以外的字符，则在打开时候可能会出现编码识别错误的情况，由于 txt 文件为纯文本文件，没有保存文档编码信息的区域，则此问题可能一直存在。

    解决该问题可在保存文件的时候使用 UTF-8 编码保存，但需要注意的是：

    Windows 的 Notepad 应用使用 UTF-8 保存的时候实际使用的为 UTF-8 BOM 方式，其表现为在文本最开头添加 EF BB BF ，这部分称为 UTF-8 字节顺序标记 ，该方式并非强制标准，如果在代码文件中使用该方式保存则有可能出现运行错误。
  • 为什么 Emoji 表情在有些手机上显示不准确

    当前 iOS 12 使用的 Unicode 版本为 11，而大众使用比较的 Android 8.0 使用的Unicode 版本为 9，如果在 Android 系统中出现了新版本的字符，则会出现无法显示或显示错误的情况。

    例如在 Unicode 8.0 中加入了 5 个菲茨帕特里克修饰符，用来调节人形表情的肤色，如果在低于此版本的 Unicode 中显示的字符为两个字符，分别是颜色加人偶。

    另外 Unicode 新版本中使用 U+200D 零宽连字 ( ZWJ ) 将多个 Emoji 连起来，例如 ?‍?‍?‍? => ????

  • 为什么 Emoji 在没有做过特殊优化的数据库中存储失败

    Emoji 表情占用 4 个字节，但是 MySQL 数据库使用的 utf-8 默认编码最多只能存储 3 个字节 ( UTF-8 标准支持最长编码为 6 字节 )，就会导致存储不进去，在读取的时候读取不完整，导致乱码

    修复方法为：修改数据库字符集为 uft8mb4，如果数据库连接池中对字符集作出了设置需要在链接中去掉 characterEncoding 参数

  • 为什么使用 Linux 开发的代码他人使用 Windows 开发后换行符全变了

    Windows 系列系统使用的换行标志为 CRLF，该换行标志与 Unix/Linux 的 LF 换行及 macOS 的 CR 换行不相同。
    如果在代码工程中使用了 Code Lint 工具自动格式化，可能会使代码中的 LF 换行自动转换为 CRLF 换行，Git 中也能捕获或忽略这个变化。
    另外，从 Windows 10 1803 开始，支持 Unix/Linux 的 LF 换行及 macOS 的 CR 换行。

  • 为什么在 JS 中 [...'?‍?‍?‍?'] => ["?", "‍", "?", "‍", "?", "‍", "?"]

    ?‍?‍?‍? 是 2015 年添加到 Emoji 2.0 中的新字符，使用 U+200D 零宽连字 (ZWJ) 将4个 Emoji 连起来，可使用以下代码检测

    [...'?‍?‍?‍?'].forEach(e=>{console.log(e.codePointAt().toString(16))})

  • 新版本 ECMAScript 针对 JavaScript 编码问题做了哪些改进

    由于 JavaScript 使用的是只支持双字节编码的 USC-2 编码方式，所以所有超过二字节编码的 Unicode 字符都无法在 JavaScript 中处理

    例如 '?'.charCodeAt().toString(16) 输出的结果为 d83d ，而?的Unicode 码点却不是 d83d，造成这样的原因为 JavaScript 只处理了该字符的前两个字节

    为了解决这些问题，ECMAScript 6 种增强了对新版本 Unicode 的支持。
    例如：

    1. for of 循环中对双字节以上字符能识别正确长度
    2. Array.from 等方法能正确划分字符串
    3. 支持直接使用码点表示字符，例如'\ud83d\udc68' === '?' === '\u{1F468}'
    4. String.fromCodePoint() 和 String.prototype.codePointAt() 等方法代替 String.fromCharCode() 和String.prototype.charCodeAt() 等方法，以用于支持 UTF-16 编码字符
    5. 正则表达式提供了 u 修饰符，对正则表达式添加4字节码点的支持
    6. 提供了normalize方法，允许"Unicode正规化" ，例如：'\u01D1'.normalize() === '\u004F\u030C'.normalize()

  • 为什么使用 Google Chrome 打开 JS 文件，文件中的中文字符会变成乱码

    由于 2017 年更新的某版本 Chrome 中，去除了对 JS 文件默认编码 UTF-8 的支持，使用了系统默认编码（例如中文操作系统使用 GB18030 ）对 JS 文件的解码，所以导致 JS 文件中的中文字符变成乱码。

    解决方法有两种：

    1. 在文件服务器中对返回头的 Content-Type 设置加上 charset=UTF-8
    2. 浏览器中使用插件改变网页编码方式，例如使用 FEHelper 工具

参考资料：

  • WikiPedia
  • Unicode与JavaScript详解 - ruanyifeng
  • 一个表情引发的思考 - JDC
  • 「记事本」程序的BUG？ - 知乎
  • 解决Emoji存储MySQL乱码问题

本文首发地址

blog.shoyuf.top

第二次在 segmentfault 上发文章，欢迎各位评论区中吐槽指正

相关文章：

  • 微信小程序--------语音识别（前端自己也能玩）
  • IoC组件Unity再续~根据类型字符串动态生产对象
  • Netty+SpringBoot+FastDFS+Html5实现聊天App(六)
  • 什么是API网关 如何设计亿万级统一网关
  • React的组件模式
  • passportjs 源码分析
  • Google Play 下架 App 之后的替身制作
  • 安卓应用性能调试和优化经验分享
  • Redis 懒删除(lazy free)简史
  • vue全家桶+Koa2开发笔记(8)--开发网页
  • Mycat - 实现数据库的读写分离与高可用
  • 理解 JavaScript 中的 this
  • 块级、内联、内联块级
  • Spring Boot 运作原理
  • 虚拟机网络不通故障解决
  • 07.Android之多媒体问题
  • 4月23日世界读书日 网络营销论坛推荐《正在爆发的营销革命》
  • Apache Pulsar 2.1 重磅发布
  • ES6系统学习----从Apollo Client看解构赋值
  • Hexo+码云+git快速搭建免费的静态Blog
  • javascript从右向左截取指定位数字符的3种方法
  • Java应用性能调优
  • k个最大的数及变种小结
  • Mac 鼠须管 Rime 输入法 安装五笔输入法 教程
  • miniui datagrid 的客户端分页解决方案 - CS结合
  • October CMS - 快速入门 9 Images And Galleries
  • React+TypeScript入门
  • Three.js 再探 - 写一个跳一跳极简版游戏
  • vue和cordova项目整合打包，并实现vue调用android的相机的demo
  • Webpack 4x 之路 （ 四 ）
  • 技术发展面试
  • 什么软件可以提取视频中的音频制作成手机铃声
  • 在Mac OS X上安装 Ruby运行环境
  • 没有任何编程基础可以直接学习python语言吗？学会后能够做什么？ ...
  • #我与Java虚拟机的故事#连载15：完整阅读的第一本技术书籍
  • ( )的作用是将计算机中的信息传送给用户,计算机应用基础 吉大15春学期《计算机应用基础》在线作业二及答案...
  • ( 10 )MySQL中的外键
  • （￥1011）－（一千零一拾一元整）输出
  • （1）安装hadoop之虚拟机准备（配置IP与主机名）
  • （30）数组元素和与数字和的绝对差
  • （C）一些题4
  • (floyd+补集) poj 3275
  • （草履虫都可以看懂的）PyQt子窗口向主窗口传递参数，主窗口接收子窗口信号、参数。
  • (读书笔记)Javascript高级程序设计---ECMAScript基础
  • (附源码）spring boot网络空间安全实验教学示范中心网站 毕业设计 111454
  • （附源码）spring boot校园健康监测管理系统 毕业设计 151047
  • （附源码）ssm考试题库管理系统 毕业设计 069043
  • （三）elasticsearch 源码之启动流程分析
  • （十一）c52学习之旅-动态数码管
  • (一)基于IDEA的JAVA基础10
  • (原創) 如何動態建立二維陣列(多維陣列)? (.NET) (C#)
  • (转)大型网站架构演变和知识体系
  • （状压dp）uva 10817 Headmaster's Headache
  • .gitignore
  • .NET 4.0中的泛型协变和反变