码迷,mamicode.com
首页 > 其他好文 > 详细

es6=>>unicode码详解

时间:2017-10-11 20:35:42      阅读:219      评论:0      收藏:0      [点我收藏+]

标签:正则   int()   不同   text   多个参数   字符串长度   canonical   溢出   arc   

字符的Unicode表示法

JavaScript允许采用\uxxxx形式表示一个字符,其中xxxx表示字符的Unicode码点。

             

"\u0061"
// "a"

但是,这种表示法只限于码点在\u0000~\uFFFF之间的字符。超出这个范围的字符,必须用两个双字节的形式表示。

        

"\uD842\uDFB7"
// "??"

"\u20BB7"
// " 7"

上面代码表示,如果直接在\u 后面跟上超过0xFFFF的数值(比如\u20BB7),JavaScript会理解成\u20BB+7。由于\u20BB是一个不可打印字符,所以只会显示一个空格,后面跟着一个7

ES6对这一点做出了改进,只要将码点放入大括号,就能正确解读该字符。

      

"\u{20BB7}"
// "??"

"\u{41}\u{42}\u{43}"
// "ABC"

let hello = 123;
hell\u{6F} // 123

‘\u{1F680}‘ === ‘\uD83D\uDE80‘
// true

上面代码中,最后一个例子表明,大括号表示法与四字节的UTF-16编码是等价的。

有了这种表示法之后,JavaScript共有6种方法可以表示一个字符。

     

‘\z‘ === ‘z‘  // true
‘\172‘ === ‘z‘ // true
‘\x7A‘ === ‘z‘ // true
‘\u007A‘ === ‘z‘ // true
‘\u{7A}‘ === ‘z‘ // true

codePointAt()

JavaScript内部,字符以UTF-16的格式存储,每个字符固定为2个字节。对于那些需要4个字节储存的字符(Unicode码点大于0xFFFF的字符),JavaScript会认为它们是两个字符

       

var s = "??";

s.length // 2
s.charAt(0) // ‘‘
s.charAt(1) // ‘‘
s.charCodeAt(0) // 55362
s.charCodeAt(1) // 57271

上面代码中,汉字“??”(注意,这个字不是”吉祥“的”吉“)的码点是0x20BB7UTF-16编码为0xD842 0xDFB7(十进制为55362 57271),需要4个字节储存。对于这种4个字节的字符,JavaScript不能正确处理,字符串长度会误判为2,而且charAt方法无法读取整个字符,charCodeAt方法只能分别返回前两个字节和后两个字节的值。

ES6提供了codePointAt方法,能够正确处理4个字节储存的字符,返回一个字符的码点。

    

var s = ‘??a‘;

s.codePointAt(0) // 134071
s.codePointAt(1) // 57271

s.codePointAt(2) // 97

codePointAt方法的参数,是字符在字符串中的位置(从0开始)。上面代码中,JavaScript“??a”视为三个字符,codePointAt方法在第一个字符上,正确地识别了“??”,返回了它的十进制码点134071(即十六进制的20BB7)。在第二个字符(即“??”的后两个字节)和第三个字符“a”上,codePointAt方法的结果与charCodeAt方法相同。

总之,codePointAt方法会正确返回32位的UTF-16字符的码点。对于那些两个字节储存的常规字符,它的返回结果与charCodeAt方法相同。

codePointAt方法返回的是码点的十进制值,如果想要十六进制的值,可以使用toString方法转换一下。

       

var s = ‘??a‘;

s.codePointAt(0).toString(16) // "20bb7"
s.codePointAt(2).toString(16) // "61"

codePointAt方法的参数,仍然是不正确的。比如,上面代码中,字符a在字符串s的正确位置序号应该是1,但是必须向codePointAt方法传入2,解决这个问题的一个办法是使用for...of循环,因为它会正确识别32位的UTF-16字符。

    

var s = ‘??a‘;
for (let ch of s) {
  console.log(ch.codePointAt(0).toString(16));
}
// 20bb7
// 61

codePointAt方法是测试一个字符由两个字节还是由四个字节组成的最简单方法。

     

function is32Bit(c) {
  return c.codePointAt(0) > 0xFFFF;
}

is32Bit("??") // true
is32Bit("a") // false

String.fromCodePoint()

ES5提供string.fromCharCode方法,用于从码点返回对应字符,但是这个方法不能识别32位的UTF-16字符(Unicode编号大于0xFFFF)。

     

String.fromCharCode(0x20BB7)
// "?"

上面代码中,String.fromCharCode不能识别大于0xFFFF的码点,所以0x20BB7就发生了溢出,最高位2被舍弃了,最后返回码点U+0BB7对应的字符,而不是码点U+20BB7对应的字符。

ES6提供了String.fromCodePoint方法,可以识别大于0xFFFF的字符,弥补了String.fromCharCode方法的不足,在作用上,正好与codePointAt方法相反。

     

String.fromCodePoint(0x20BB7)
// "??"
String.fromCodePoint(0x78, 0x1f680, 0x79) === ‘x\uD83D\uDE80y‘
// true

上面代码中,如果String.fromCodePoint方法有多个参数,则它们会被合并成一个字符串返回。

注意,fromCodePoint方法定义在String对象上,而codePointAt方法定义在字符串的实例对象上。

字符串的遍历器接口

ES6为字符串添加了遍历器接口,是的字符串可以被for...of循环遍历。

     

for(let codePoint of ‘foo‘){
    console.log(codePoint);
}
// "f"
// "o"
// "o"

除了遍历字符串,这个遍历器最大的优点是可以识别大于0xFFFF的码点,传统的for循环无法识别这样的码点。

     

var text = String.fromCodePoint(0x20BB7);

for(let i = 0; i < text.length; i++){
   console.log(text[i]);
}
// ?
// ?

for(let i of text){
  console.log(i);
}
// "??"

上面代码中,字符串text只有一个字符,但是for循环会认为它包含两个字符(并且都不可打印),而for...of循环会正确的识别这一个字符。

at()

ES5对字符串对象提供charAt()方法,返回字符串给定位置的字符,该方法不能识别码点大于0xFFFF的字符。

    

‘abc‘.charAt(0) // "a"
‘??‘.charAt(0) // "?"

上面代码中,charAt方法返回的是UTF-16编码的第一个字节,实际上是无法显示的。

目前有一个题案,提出字符串实例的at方法,可以识别Unicode编号大于0xFFFF的字符,返回正确的字符。

      

‘abc‘.at(0) // "a"
‘??‘.at(0) // "??"

normalize()

许多欧洲语言有语调符号和重音符号。为了表示它们,Unicode提供了两种方法。一种是直接提供带重音符号的字符,比如ǒ(\u01D1)。另一种是提供合成符号(combining character),即原字符与重音符号的合成,两个字符合成一个字符,比如O(\u004F)和ˇ(\u030C)合成ǒ(\u004F\u030C)。

这两种表示方法,在视觉和语义上都等价,但是JavaScript不能识别。

     

‘\u01D1‘===‘\u004F\u030C‘ //false

‘\u01D1‘.length // 1
‘\u004F\u030C‘.length // 2

上面代码表示,JavaScript将合成字符视为两个字符,导致两种表示方法不相等。

ES6提供字符串实例的normalize()方法,用来将字符的不同表示方法统一为同样的形式,这称为Unicode正规化。

    

‘\u01D1‘.normalize() === ‘\u004F\u030C‘.normalize()
// true

normalize方法可以接受一个参数来指定normalize的方式,参数的四个可选值如下。

  • NFC,默认参数,表示“标准等价合成”(Normalization Form Canonical Composition),返回多个简单字符的合成字符。所谓“标准等价”指的是视觉和语义上的等价。
  • NFD,表示“标准等价分解”(Normalization Form Canonical Decomposition),即在标准等价的前提下,返回合成字符分解的多个简单字符。
  • NFKC,表示“兼容等价合成”(Normalization Form Compatibility Composition),返回合成字符。所谓“兼容等价”指的是语义上存在等价,但视觉上不等价,比如“囍”和“喜喜”。(这只是用来举例,normalize方法不能识别中文。)
  • NFKD,表示“兼容等价分解”(Normalization Form Compatibility Decomposition),即在兼容等价的前提下,返回合成字符分解的多个简单字符。
  •     
    ‘\u004F\u030C‘.normalize(‘NFC‘).length // 1
    ‘\u004F\u030C‘.normalize(‘NFD‘).length // 2

上面代码表示,NFC参数返回字符的合成形式,NFD参数返回字符的分解形式。

不过,normalize方法目前不能识别三个或三个以上字符的合成。这种情况下,还是只能使用正则表达式,通过Unicode编号区间判断。

es6=>>unicode码详解

标签:正则   int()   不同   text   多个参数   字符串长度   canonical   溢出   arc   

原文地址:http://www.cnblogs.com/ccnNL/p/7652478.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!