内码转换技术的详细介绍

内码转换技术的详细介绍

一、基本概念
·GB码
全称是GB2312-80《信息交换用汉字编码字符集 基本集》,1980年发布,是中文信息处理的国家标准,在大陆及海外使用简体中文的地区(如新加坡等)是强制使用的唯一中文编码。P-Windows3.2和苹果OS就是以GB2312为基本汉字编码, Windows 95/98则以GBK为基本汉字编码、但兼容支持GB2312。GB码共收录6763个简体汉字、682个符号,其中汉字部分:一级字3755,以拼音排序,二级字3008,以偏旁排序。该标准的制定和应用为规范、推动中文信息化进程起了很大作用。1990年又制定了繁体字的编码标准GB12345-90《信息交换用汉字编码字符集 第一辅助集》,目的在于规范必须使用繁体字的各种场合,以及古籍整理等。该标准共收录6866个汉字(比GB2312多103个字,其它厂商的字库大多不包括这些字),纯繁体的字大概有2200余个。(2312集与12345集不是相交的。一个是简体,一个是繁体)
·BIG5编
是目前台湾、香港地区普遍使用的一种繁体汉字的编码标准,包括440个符号,一级汉字5401个、二级汉字7652个,共计13060个汉字。Big-5 是一个双字节编码方案,其第一字节的值在 16 进制的 A0~FE 之间,第二字节在 40~7E 和 A1~FE 之间。因此,其第一字节的最高位是 1,第二字节的最高位则可能是 1,也可能是 0。
·GBK编码(Chinese Internal Code Specification)
GBK编码(俗称大字符集)是中国大陆制订的、等同于UCS的新的中文编码扩展国家标准。GBK工作小组于1995年10月,同年12月完成GBK规范。该编码标准兼容GB2312,共收录汉字21003个、符号883个,并提供1894个造字码位,简、繁体字融于一库。Windows95/98简体中文版的字库表层编码就采用的是GBK,通过GBK与UCS之间一一对应的码表与底层字库联系。其第一字节的值在 16 进制的 81~FE 之间,第二字节在 40~FE,除去xx7F一线。
·Unicode编码(Universal Multiple Octet Coded Character Set)
国际标准组织于1984年4月成立ISO/IEC JTC1/SC2/WG2工作组,针对各国文字、符号进行统一性编码。1991年美国跨国公司成立Unicode Consortium,并于1991年10月与WG2达成协议,采用同一编码字集。目前Unicode是采用16位编码体系,其字符集内容与ISO10646的BMP(Basic Multilingual Plane)相同。Unicode于1992年6月通过DIS(Draf International Standard),目前版本V2.0于1996公布,内容包含符号6811个,汉字20902个,韩文拼音11172个,造字区6400个,保留20249个,共计65534个。

二、一些注解
在此解释一下我们常见的一些汉字内码转换工具:
1、最常见的是GB2Big5和Big52GB转换工具。这里的GB指是GB2312集。
2、GBK简体兼容GB2312字符集及其编码。不规范理解为GB就是GBK简体。
3、繁体不等同于Big5,在GBK集中也有繁体,GB12345集也有繁体。但这三者的汉字编码方式不同。Windows95/98/NT/2000(简体中)中使用的都是GBK字符集;繁体版使用的是Big5字符集,在简体版中无法正常显示Big5字符,繁体版无法显示GB字符。
4、在IE中,进入Big5码网站(如:台湾网站),如果安装有Big5字符集支持,IE会将Big5网页转换成GBK繁体显示,没有则是乱码。IE以GBK繁体显示时,在网页中输入的汉字应当是GBK繁体,以Big5码显示时(乱码),要输入Big5码字符(输入乱码? 先输入GBK简体----GB码,再使用小工具将其转换成Big5,拷贝,粘贴即可)。
5、常见的小工具中,可将Big5转换成GBK繁体的不多,可将GBK简体繁体相互转换的也不多。其原因是,他们是将GB2312字符集与Big5字符集建立了对应关系。

三、内码转换原理及方法
内码转换:就是在不同字符集之间建立一种对应关系。
以GBK2Big5(简繁体都可)
如:让字,在GBK中编码是C8C3。如果我们将GBK码表中的字符变成Big5码格式,则C8C3位上的应该是” 让”字的Big5码字符”琵”(琵字不是GBK中的琵,而是”让”字的Big5码汉字在GBK环境中显示结果)。这样我们读出要转换的文字,在GBK(已经转换成Big5格式)码表中找到它的位置,取出该位置上的字符,将原字符替换即可。

读写字符不是问题。关键是如何在码表文件中对该汉字进行定位和如何将纯GBK码表转换成Big5格式表示的GBK码表。
问题一、对汉字进行定位。
GBK 代码表(按代码顺序排列)
81-8788-8F90-9798-9FA0-A7A8-AFB0-B7B8-BF
C0-C7C8-CFD0-D7D8-DFE0-E7E8-EFF0-F7F8-FE

810123456789ABCDEF
4丂丄丅丆丏丒丗丟丠両丣並丩丮丯丱
5丳丵丷丼乀乁乂乄乆乊乑乕乗乚乛乢
6乣乤乥乧乨乪乫乬乭乮乯乲乴乵乶乷
7乸乹乺乻乼乽乿亀亁亂亃亄亅亇亊
8亐亖亗亙亜亝亞亣亪亯亰亱亴亶亷亸
9亹亼亽亾仈仌仏仐仒仚仛仜仠仢仦仧
A仩仭仮仯仱仴仸仹仺仼仾伀伂伃伄伅
B伆伇伈伋伌伒伓伔伕伖伜伝伡伣伨伩
C伬伭伮伱伳伵伷伹伻伾伿佀佁佂佄佅
D佇佈佉佊佋佌佒佔佖佡佢佦佨佪佫佭
E佮佱佲併佷佸佹佺佽侀侁侂侅來侇侊
F侌侎侐侒侓侕侖侘侙侚侜侞侟価侢


以上是按代码顺序排列GBK码表,共126个区,每区190个汉字。汉字位置的计算如下:

内码转换技术的详细介绍posit=(ch1-129)*190+(ch2-64)-(ch2/128);//第n个汉字
内码转换技术的详细介绍posit=posit*2; //第n个字节


第一个问题就算搞定。

问题二、将GBK码表用Big5来表示。
我们可以利用现有的工具,如东方快车3000,将GBK码表转换成Big5的格式。但实际中有问题,因为GBK较Big5的汉字要多,那么在GBK中有的字符,而Big5中没有的字符在转换中可能被删除,那上面后码表定位就不能用了。而且实际上几乎无法定位。不过我在网上找到了一个以Big5表示的GBK码表的文本(可能是官方的),字符一个不缺。
这个问题也搞定了。


同样我们可以进行
Big52GBKT(繁体),Big52GBKS(简体),GBKS2GBKT,GBKT2GBKS,GBK2BIG5的转化。这里给出Big5码表格式,和定位算法:
BIG-5 代码表
A0-A7A8-AFB0-B7B8-BFC0-C7C8-CF
D0-D7D8-DFE0-E7E8-EFF0-F7F8-FE
(已被转化成GBK)
B00123456789ABCDEF
4虔蚊蚪蚓蚤蚩蚌蚣蚜衰衷袁袂衽衹記
5訐討訌訕訊託訓訖訏訑豈豺豹財貢起
6躬軒軔軏辱送逆迷退迺迴逃追逅迸邕
7郡郝郢酒配酌釘針釗釜釙閃院陣陡
A陛陝除陘陞隻飢馬骨高鬥鬲鬼乾偺
B偽停假偃偌做偉健偶偎偕偵側偷偏倏
C偯偭兜冕凰剪副勒務勘動匐匏匙匿區
D匾參曼商啪啦啄啞啡啃啊唱啖問啕唯
E啤唸售啜唬啣唳啁啗圈國圉域堅堊堆
F埠埤基堂堵執培夠奢娶婁婉婦婪婀


定位方法:

内码转换技术的详细介绍if((ch2>=64)&&(ch2<=126))
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍posit
=(ch1-160)*157+(ch2-64);
内码转换技术的详细介绍posit
=posit*2-1;
内码转换技术的详细介绍}

内码转换技术的详细介绍elseif((ch2>=161)&&(ch2<=254))
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍posit
=(ch1-160)*157+62+(ch2-160);
内码转换技术的详细介绍posit
=posit*2-1;
内码转换技术的详细介绍}


在这里给出GBK2Big5的C++Builder的程序:

内码转换技术的详细介绍fGBK2Big5=fopen("pureGBK2Big5byOrder.txt","rb");
内码转换技术的详细介绍
内码转换技术的详细介绍unsigned
longi,posit;//把gb码转换为gbkT
内码转换技术的详细介绍unsignedcharch1,ch2;
内码转换技术的详细介绍StringsContext;
内码转换技术的详细介绍
charchr;
内码转换技术的详细介绍
内码转换技术的详细介绍sContext
=Memo1->Lines->Text;
内码转换技术的详细介绍i
=1;
内码转换技术的详细介绍
while(i<sContext.Length())
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍ch1
=sContext[i];
内码转换技术的详细介绍ch2
=sContext[i+1];
内码转换技术的详细介绍
内码转换技术的详细介绍
if((ch1>=129)&&(ch1<=254))
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍
if(((ch2>=64)&&(ch2<127))||((ch2>127)&&(ch2<=254)))
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍posit
=(ch1-129)*190+(ch2-64)-(ch2/128);
内码转换技术的详细介绍posit
=posit*2;
内码转换技术的详细介绍
if((posit>23940*2)||(posit<0))
内码转换技术的详细介绍内码转换技术的详细介绍
{
内码转换技术的详细介绍i
++;
内码转换技术的详细介绍
continue;
内码转换技术的详细介绍}

内码转换技术的详细介绍fseek(fGBK2Big5,posit-ftell(fGBK2Big5),1);
内码转换技术的详细介绍fread((
void*)(&chr),sizeof(char),1,fGBK2Big5);
内码转换技术的详细介绍sContext[i]
=chr;
内码转换技术的详细介绍fread((
void*)(&chr),sizeof(char),1,fGBK2Big5);
内码转换技术的详细介绍sContext[i
+1]=chr;
内码转换技术的详细介绍i
+=2;
内码转换技术的详细介绍}

内码转换技术的详细介绍else
内码转换技术的详细介绍内码转换技术的详细介绍{
内码转换技术的详细介绍i
++;
内码转换技术的详细介绍}

内码转换技术的详细介绍}

内码转换技术的详细介绍else
内码转换技术的详细介绍内码转换技术的详细介绍{
内码转换技术的详细介绍i
++;
内码转换技术的详细介绍}

内码转换技术的详细介绍}

内码转换技术的详细介绍
内码转换技术的详细介绍Memo1
->Lines->Text=sContext;



以上很多资料来源于网路灯塔的参考资料(http://www.haiyan.com/steelk/navigator/ref/gbindex1.htm)。
要5个码表,和源程序的支声