科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航

至顶网软件频道跟你一起分析JAVA中文比较问题的解决

跟你一起分析JAVA中文比较问题的解决

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

  Java的中文问题由来已久,前不久笔者需要做内存中的中文比较排序,对字符串进行GBK或者GB2312编码以后,使用String.compareTo方法仍然不能得到正确结果。因此,怀着怀疑的态度,对JDK中String类的源代码做了一翻探究。

作者:中国IT实验室 来源:中国IT实验室 2007年9月24日

关键字: 编程 java

  • 评论
  • 分享微博
  • 分享邮件

  Java的中文问题由来已久,前不久笔者需要做内存中的中文比较排序,对字符串进行GBK或者GB2312编码以后,使用String.compareTo方法仍然不能得到正确结果。因此,怀着怀疑的态度,对JDK中String类的源代码做了一翻探究。(作者使用JDK为1.3.1版本)
  
  以下是String.java中compareTo的源代码,请注意其中的注释:
  
  public class String
  {
  …
  public int compareTo(String anotherString) {
  int len1 = count;
  int len2 = anotherString.count;
  //n为两个字符串长度的最小者
  int n = Math.min(len1, len2);
  //获取字符数组
  char v1[] = value;
  char v2[] = anotherString.value;
  //取偏依位置
  /** The offset is the first index of the storage that is used. */
  //offset 是第一个存储索引
  int i = offset;
  int j = anotherString.offset;
  //如果i == j
  //这里可能是判断取同一内存中两个字符串的情景。。。
  // A  <--  <----
  // B  s1   |
  // C  <--   |
  // D      s2
  // E      |
  // F      |
  // G  <----------
  // 可能这种情况 i = j
  if (i == j) {
  int k = i;
  int lim = n + i;
  
  while (k < lim)
  {
  char c1 = v1[k];
  char c2 = v2[k];
  if (c1 != c2) file://直到找到一个不相等的字符,返回c1 - c2
  return c1 - c2;
  k++;
  }
  } else {
  while (n-- != 0)
  file://直到两个字符串长度记数为0
  {
  char c1 = v1[i++]; file://分别取字符
  char c2 = v2[j++];
  if (c1 != c2) {
  //发现不相等,立即返回c1 - c2;
  return c1 - c2;
  }
  }
  }
  return len1 - len2;
  //最后这里可能出现的情况是: 两个字符串比较完之后还没有得到结果。相等的情况
  }
  …
  }//end of class String c2) file://直到找到一个不相等的字符,返回c1 - c2              return c1 - c2;           k++;      }    } else {      while (n-- != 0) file://直到两个字符串长度记数为0       {           char c1 = v1[i++]; file://分别取字符           char c2 = v2[j++];           if (c1 != c2) { //发现不相等,立即返回c1 - c2;              return c1 - c2;           }      }    }    return len1 - len2; //最后这里可能出现的情况是: 两个字符串比较完之后还没有得到结果。相等的情况  }…}//end of class String
  
  为什么Java在做汉字的CompareTo时比较会有问题呢?通过对compareTo源代码的分析发现,关键在于JDK的compareTo实现是直接使用Char来进行比较的:
  
  char c1 = v1[k];
  
  char c2 = v2[k];
  
  可是当Java使用GB2312编码时,一个对汉字所获取到的Char值却是不规则的,即一个汉字在Java中作为一个char来处理(双字节字符)时,将这样的双字节字符进行强制转换成int类型时,所得到的不是包含了汉字编码顺序的中文内码。可以看一下一组测试数据可以看到其中奥妙:
  
  字符
  Char值
  Byte[]值
  按Byte[]合成的值
  
  我
  25105
  [50:46]
  [-5046]
  
  爱
  29233
  [80:82]
  [-8082]
  
  北
  21271
  [79:79]
  [-7979]
  
  京
  20140
  [66:87]
  [-6687]
  
  天
  22825
  [52:20]
  [-5220]
  
  安
  23433
  [80:78]
  [-8078]
  
  门
  38376
  [61:59]
  [-6159]
  
  A
  65
  [-65]
  [65]
  
  B
  66
  [-66]
  [66]
  
  C
  67
  [-67]
  [67]
  
  D
  68
  [-68]
  [68]
  
  按照中文顺序:“我”字应该在“爱”字后面,因此理论上来讲"我"字的Char值应该比“爱"字的char值要大。可是不知道为什么Java的汉字char(两个byte)->int类型的转换会发生很大偏差。而失去了汉字原本在GBK规范当中,按内码排列好的顺序。但从一个汉字拆分成2个字节的byte[]时,所得到的值并没有打乱GBK编码规定的顺序,因此得到解决问题的思路:将String进行GB2312编码后取得某个汉字获取其Char值时,将汉字拆分成2个字节byte[]再进行计算,从而得到正确的内码。
  
  因此我自己写了下面这样几个函数,基本上解决了汉字比较的问题:
  
  函数包括三个,你可以随意放置到任何类当中作为辅助函数使用(Private Helper)。
  
  n public int compare(String s1, String s2) :主要工作是为比较做一些前期的编码工作可以说是系统的一个外壳。
  
  n public int chineseCompareTo(String s1, String s2):该函数则是中文字符串比较主体,其内部实现了比较的最基本逻辑,和JDK的compareTo所使用的逻辑是一样的。调用接口也一样。
  
  n public static int getCharCode(String s):该函数则负责将一个以字符串形式存在的字符转换成为int编码,儿不损失其位置信息。注意输入通常是:“我”或者“A”,如果输入更长的字符串,则改函数获得的是第一个字符的值。
  
  private static String __ENCODE__ = "GBK"; file://一定要是GBKprivate static String __SERVER_ENCODE__ = "GB2312"; file://服务器上的缺省编码/*比较两字符串*/    public int compare(String s1, String s2)    {       String m_s1 = null, m_s2 = null;       try       {           //先将两字符串编码成GBK           m_s1 = new String ( s1.getBytes(__SERVER_ENCODE__), __ENCODE__);           m_s2 = new String ( s2.getBytes(__SERVER_ENCODE__), __ENCODE__);       }       catch( Exception ex)       {           return s1.compareTo(s2);       }       int res = chineseCompareTo(m_s1, m_s2);        System.out.println("比较:" + s1 + " | " + s2 + "==== Result: " + res);       return res;    } //获取一个汉字/字母的Char值    public static int getCharCode(String s)    {       if (s==null && s.equals(“”)) return -1; file://保护代码byte [] b = s.getBytes();       int value = 0;       //保证取第一个字符(汉字或者英文)       for (int i = 0; i < b.length && i <= 2; i ++)       {           value = value * 100 + b[i];       }       return value;    } //比较两个字符串    public int chineseCompareTo(String s1, String s2)    {       int len1 = s1.length();       int len2 = s2.length();        int n = Math.min(len1, len2);        for (int i = 0; i < n; i ++)       {           int s1_code = getCharCode(s1.charAt(i) + "");           int s2_code = getCharCode(s2.charAt(i) + "");           if (s1_code != s2_code) return s1_code - s2_code;       }       return len1 - len2;    }
  
  可见,对系统源代码的解剖,能让我们在迷惑之余同样有机会窥探系统内部运作的奥妙。不过让人非常费解的是,Java内部的某些类书写风格非常不好,同时存在一些Bug。不过这也许是笔者个人感受。偶有所获,愿与大家共同分享,其中疏漏之处望不吝赐教。
  

查看本文来源

    • 评论
    • 分享微博
    • 分享邮件