Từ ascii đến Unicode



tải về 37.39 Kb.
Chuyển đổi dữ liệu21.08.2016
Kích37.39 Kb.
#25716

http://www.echip.com.vn/echiproot/weblh/traodoi/2001/kienthuc/tasciidu.htm

Từ ASCII đến Unicode.

kpham2@erols.com
(Xin cám ơn bạn Minh Sơn ở TP HCM đã dịch bài viết này từ Anh ra Việt).

Bài viết này là để giúp các bạn có trình độ máy tính trung bình hiểu được Unicode và UTF-8 rõ ràng hơn. Sau khi đọc xong, các bạn sẽ biết được lịch sử của Unicode, nó có các dạng thức nào, UTF-8 là gì và tại sao luôn đi đôi với Unicode.

Khi tổng hợp nên tài liệu này, để cho đơn giản, tôi đã bỏ qua nhiều khía cạnh hơi phức tạp của Unicode như các đề tài về mã tổ hợp, mã dựng sẵn. Nếu có thiếu sót, mong các bạn thông cảm. Thêm vào đó, bài viết không bàn về cách cài đặt/sử dụng Unicode font trong các hệ điều hành hay phần mềm. Về chuyện này, các bạn có thể tham khảo trang web của Lê Hoàn hay các thư trao đổi về Unicode.

Một vài điều cần lưu ý:

Trong bài viết, tôi chỉ dùng hệ thập lục phân (hệ 16) để chỉ giá trị của các mã. Ví dụ, khi tôi nói kí tự "a" có mã là 61, bạn phải hiểu rằng đây là 61 trong hệ thập lục phân (bằng 97 hệ thập phân). Lí do là trong các bảng mã, các mã thường có dạng thập lục phân chứ ít khi có dạng thập phân.

Ở cuối bài, tôi có một bảng mã Unicode cho các kí tự Việt nam các bạn tham khảo.  Nếu muốn xem toàn bộ bảng mã Unicode (dưới dạng file PDF) vào http://www.unicode.org. Trong đó, click "Code Charts" và bạn sẽ thấy nhiều "trang mã". Toàn bộ các kí tự tiếng Việt có thể được tìm thấy ở các trang Latin-1 Supplement, Latin Extend A và Latin Extend B, và Latin Extended Additional. Bạn có thể in các trang mã nếu muốn.

Cuối cùng, bạn có thể bỏ qua các phần mình đã biết và đi thẳng đến nơi tôi nói về UTF-16, UTF-8. Tuy nhiên, tôi cho rằng nếu bạn hiểu rõ hơn về các bảng mã ASCII và ANSI thì sẽ hiểu rõ hơn sự ra đời và phát triển của Unicode.



Một số định nghĩa hữu ích:

-Bảng mã: Một tập hợp nhiều kí tự khác nhau. Một ví dụ là bảng mã chuẩn ASCII (American Standard Code for Information Interchange - Mã chuẩn Hoa kỳ trong Trao đổi Thông tin) bao gồm 128 kí tự, phần lớn là các kí số, kí tự tiếng Anh, những ký tự đặc biệt và thông dụng như các dấu cộng, trừ, phần trăm...  Unicode là một bảng mã chuẩn khác, gồm có hàng ngàn các kí tự gồm tiếng Anh và quốc tế bao gồm cả các kí tự Việt nam. Cũng có một vài bảng mã tiếng Việt (không chuẩn) như TCVN-ABC, VNI, VISCII, chúng chỉ có tối đa là 256 kí tự .

- : Một số nguyên dương đại diện cho một kí tự trong một bảng mã. Mã của một kí tự thay đổi tùy theo bảng mã. Ví dụ, trong bảng mã tiếng Việt TCVN-ABC, kí tự "ầ" có mã C7. Trong bảng tiếng Việt VISCII, "ầ" có mã là A5. Trong bảng Unicode, "ầ" có mã là 1EA7 (=7847 thập phân).

Lưu ý là mã của một kí tự cho thấy vị trí của kí tự trong bảng mã. Ví dụ, trong bảng Unicode, "ầ" nằm ở vị trí 7847 . Mỗi kí tự Unicode chỉ được "gắn" một mã duy nhất. Ví dụ, trong Unicode, bạn không thể tìm thấy kí tự "ầ" tại bất kỳ chổ nào khác ngoài vị trí 7847. Các máy tính chỉ biết một kí tự qua mã của nó. Ví dụ, khi bạn đánh Unicode dùng một bộ gõ tiếng Việt và bạn muốn nhập chữ "ầ", bộ gõ tìm cách gửi mã 1EA7 (sau khi đã được mã hóa dưới dạng nhị phân) đến bộ xử lý trung ương của máy tính.

- Font Unicode: Một font được gọi là font Unicode khi nó cung cấp cấu hình của các kí tự trong bảng mã Unicode. Một font file (tập tin font) dùng mã của một kí tự để chỉ định cấu hình cho kí tự đó. Ví dụ, khi phải thể hiện kí tự "ầ" trên màn hình dùng font Arial, phần mềm sẽ lục tìm mã 1EA7 trong font file Arial.ttf và xác định cấu hình tương ứng. Nếu một font như VNI-Times không hổ trợ Unicode, nó sẽ không có cấu hình cho mã 1EA7 vì nó chỉ có mã lớn nhất là FF (=255 thập phân). Vì vậy, nó không thể hiển thị kí tự "ầ" và nó không được gọi là font Unicode. Tương tự như vậy, các font Arial, Times New Roman, Tahoma của các hệ điều hành như Windows 95 hoặc Windows 98 không có cấu hình cho các kí tự Unicode; do đó bạn phải "cập nhật" chúng bằng cách tải và cài đặt các font Unicode với các tên tương tự vào máy nếu bạn muốn đọc mail hay duyệt các web site dùng Unicode font.

- Chuỗi bit: Một chuỗi các số nhị phân, như 01100001. Do máy vi tính chỉ "đọc" được số nhị phân, dữ liệu phải được chuyển đổi thành các chuỗi bit trước khi được nhập vào máy. Mỗi kí số trong một số thập lục phân luôn được biểu diễn bằng bốn 4 số nhị phân. Ví dụ,  6 = 0110,  1 = 0001,  F = 1111, 7 = 0111, 61 = 01100001, 7F=01111111.

- Mã hóa (encoding): Cách biểu diễn một kí tự trong dạng một chuỗi bit. Tùy theo cách mã hóa, một kí tự có thể được biểu diễn khác nhau.

 "UTF-16" là một kiểu mã hóa các kí tự Unicode trong đó mỗi kí tự được biểu diễn dưới dạng một chuỗi 16-bit tương đương với giá trị của mã. Ví dụ, trong UTF-16, "ầ" được mã hoá thành một chuỗi 16-bit: 0001111010100111 (= 1EA7), tương đương với mã gốc của "ầ" trong bảng Unicode.



"UTF-8" là một kiểu mã hóa khác cho các kí tự Unicode, trong đó mỗi kí tự được biểu diễn dưới dạng MỘT hay NHIỀU chuỗi 8-bit, có thể KHÔNG tương đương với mã gốc. Ví dụ, trong UTF-8, "ầ" được mã hóa thành ba chuỗi 8-bit (cũng có thể gọi là một chuỗi 24 bit) 111000011011101010100111 (= E1BAA7)  không tương đương với mã gốc là 1EA7.  Tại sao cần UTF-8. Chúng ta sẽ biết sau.

- Giải mã: Sau khi hệ điều hành nhận được một kí tự (ví dụ đọc từ một file) đã được mã hóa, nó phải giải mã để lấy lại mã gốc của kí tự trong bảng mã trước khi vào font file để tìm cấu hình và thể hiện kí tự trên màn hình. Một font file chỉ dùng các mã gốc chứ không dùng dạng đã mã hóa.

Hệ ASCII/ANSI: các hệ điều hành chỉ dùng các bảng mã ASCII hay ANSI. Ví dụ: Windows 95 dùng bảng mã ANSI. Các hệ ASCII và ANSI luôn luôn dùng một đơn vị dữ liệu là 8 bit (1 byte).



QUÁ TRÌNH PHÁT TRIỂN: từ ASCII đến ANSI cho đến Unicode.

1. Bảng mã ASCII: 7-bit, cho phép 128 mã (2 mũ 7) Còn có tên khác là ISO 646-IRV. ASCII là bộ mã đầu tiên lúc máy tính được
phát minh
Mã cho phép: từ 0 đến 7F
Mã nhỏ nhất: 0, dùng cho kí tự NUL (null: trống trơn, không có gì).
Mã lớn nhất  7F  (=thập phân 127, =nhị phân 01111111). Được dùng cho phím DEL (delete-xoá).
(lưu ý: mặc dù đơn vị dữ liệu là 8 bit, chỉ có 7 bit cuối được dùng, )

Ví dụ: Trong bảng ASCII, kí tự "a" có mã là  61.


Khuyết điểm: chỉ có 128 kí tự được cho phép. Mọi người cần nhiều mã hơn, nhất là sau khi hệ DOS và máy tính cá nhân xuất hiện. Vì vậy, người ta phải nghĩ ra bộ mã ANSI.

2. Bảng mã ANSI : 8-bit, là bảng mã ASCII mở rộng; cho phép 256 mã (2 mũ 8).
Các tên khác: ISO-8859-1, LATIN-1.
Mã cho phép: từ 0 đến FF
Mã nhỏ nhất: 0, dùng cho kí tự NUL.
Mã lớn nhất 255 =  FF ( =thập phân 255, =nhị phân 11111111 ) .
(lưu ý: tất cả 8 bit trong đơn vị dữ liệu được dùng)

Ví dụ: trong bảng ANSI, kí tự "ô" của tiếng Việt có mã là  F4. (các bộ mã tiếng Việt đều dựa trên ANSI với nhiều sửa đổi)


Lưu ý: 128 kí tự đầu tiên (các mã từ 0...7F) giống nhau trong ASCII và ANSI.
Ví dụ, ký tự "a" có mã là  61 trong cả hai bảng ASCII và ANSI. Nói cách khác, ASCII là tập con của ANSI.

Ưu điểm: số lượng mã cho phép đã được tăng đến 256. Do đó, bây giờ bảng mã có chỗ cho các kí tự khác bên cạnh tiếng Anh.


Khuyết điểm: Vẫn chưa đủ chỗ cho các kí tự quốc tế. (Tàu, Hàn Quốc, Ä Rập, Do Thái...,quá nhiều!) Vì vậy, người ta phát minh ra Unicode 16-bit.

3. Bảng mã Unicode 16-bit: Cho phép 65536 mã. (2 mũ 16)
Các tên khác: ISO-14646, UCS-2.
Mã cho phép: từ 0 đến FFFF  Mã nhỏ nhất: 0, dùng cho NUL
Mã lớn nhất 65535 =  FFFF (= thập phân  65535, = nhị phân 1111111111111111 )

Ví dụ: trong bảng Unicode,  kí tự "â`" của tiếng Việt có mã là 1EA7.


Lưu ý: 256 kí tự đầu tiên (các mã từ 0...255= FF) giống nhau trong ANSI và Unicode. Ví dụ, ký tự "a" có mã là  61 trong cả ba bảng ASCII và ANSI và Unicode. Nói cách khác, ANSI (cũng như ASCII) là tập con của Unicode.

Ưu điểm: đủ chỗ chứa toàn bộ các kí tự của các dân tộc trên thế giới.


Khuyết điểm: Hầu hết các máy tính vẫn còn dùng bộ mã ASCII, do đó chúng không nhận ra các mã lớn hơn 7F. Và còn một vấn đề lớn hơn là, các hệ ASCII và ANSI, vốn chỉ xử lý dữ liệu theo từng chuỗi 8-bit, sẽ lầm lẫn khi xử lý các kí tự Unicode được mã hóa dưới dạng 16-bit (UTF-16). Các hệ ASCII/ANSI sẽ diễn dịch MỘT kí tự Unicode 16-bit thành HAI kí tự 8-bit. Ví dụ, kí tự "a" dạng 16-bit sẽ được dịch thành HAI kí tự: kí tự thứ nhất là NUL (00000000), và kí tự thứ hai là kí tự ASCII "a" (01100001). Chẳng hạn, khi bạn muốn thể hiện hàng chữ : "ABCDEF" được mã hóa UTF-16, có khả năng bạn sẽ nhìn thấy " A B C D E F" trên màn hình. (trên màn hình, các kí tự NUL có thể được thể hiện thành các ô trống hay là các ô vuông, tùy theo máy).
Vấn đề này cần phải được giải quyết. Chúng ta vẫn muốn dùng bảng mã Unicode nhưng cần mã hoá các kí tự theo cách nào đó mà các hệ ASCII có thể nhận ra các kí tự của chúng ta. Cách mã hoá UTF-16 rõ ràng là có vấn đề cho các hệ điều hành phổ biến hiện nay vẫn đang dùng chuẩn ASCII/ANSI. Ðó là lý do người ta sáng chế ra cách mã hoá UTF-8.


4. Nguyên tắc mã hoá UTF-8:
- Một kí tự Unicode sẽ được mã hóa thành một hay nhiều chuỗi 8-bit để các hệ ASCII hay ANSI có thể nhận diện.
- Ðể tương thích với ASCII, các kí tự Unicode thuộc bảng mã ASCII (mã từ 0 đến 7F) được mã hóa thành một chuỗi 8-bit tương đương với giá trị nhị phân của mã. Vì bảng ASCII chỉ có thuần các kí tự tiếng Anh, điều này cũng có nghĩa là các hệ ASCII có thể đọc các văn bản tiếng Anh viết bằng Unicode UTF-8 một cách dễ dàng, không cần phải chuyển đổi gì.
- Tất cả các kí tự Unicode có mã lớn hơn  7F được mã hoá thành HAI hoặc BA chuỗi 8-bit (byte) phù hợp với nguyên tắc trong bảng phía dưới.
- Trong UTF-8, byte đầu tiên của một kí tự Unicode sẽ chỉ định có bao nhiêu byte đi kèm theo dành cho kí tự đó. Như vậy nếu một hệ ASCII/ ANSI sau khi đọc được byte thứ nhất của một kí tự UTF-8 thì sẽ biết có bao nhiêu byte đi kèm cho kí tự đó. Ðiều này giúp cho nó trong việc giải mã (để lấy trở lại mã Unicode) cho kí tự.

Dưới đây là hai bảng mã hoá UTF-16 và UTF-8 cho các kí tự Unicode. Trong cáccbảng, một chữ "x", "y" hoặc "z" có thể là một bit 0 hoặc một bit 1.

Bảng A: Cho mã có giá trị từ 0 đến  7F (các kí tự ASCII):

mã                    UTF-16                           UTF-8


----               --------------------                     -----------
                 byte 1     byte 2
0-7F      00000000  0xxxxxxx              0xxxxxxxx

Bảng B: cho mã từ hex 80 trở lên:

mã                        UTF-16                                   UTF-8
-------                -------------------                    -------------------------------
                     byte 1      byte 2              byte 1       byte 2        byte 3
80-7FF       00000yyy  yyxxxxxx        110yyyyy  10xxxxxx
800-FFFF  zzzzyyyy   yyxxxxxx        1110zzzz  10yyyyyy   10xxxxxx

Theo bảng A::


- Nếu mã NHỎ HƠN hoặc BẰNG 7F thì được mã hoá thành 8-bit tương đương với dạng nhị phân của mã.

Theo bảng B:


- Nếu mã LỚN HƠN 7F và NHỎ HƠN hoặc BẰNG 7FF thì được mã hoá thành 2 chuỗi 8-bit.
- Nếu mã LỚN HƠN 7FF thì được mã hoá thành 3 chuỗi 8-bit.

Ví dụ: Mã hoá kí tự Unicode tiếng Việt "ầ" (mã = 1EA7) dùng UTF-8:

1) Ðầu tiên viết mã thành 1 chuỗi 16-bit (UTF-16): 0001111010100111 tương đương với 1EA7.
2) Cắt chuỗi 16-bit thành hai byte: byte 1 là: 00011110 và byte 2 là: 10100111.
3) 1EA7 lớn hơn 7FF và nhỏ hơn FFFF. Theo bảng trên, dùng dòng cuối cùng để chuyển đổi (nghĩa là dạng mã hóa UTF-8 của bạn cho kí tự "ầ" sẽ có 3 chuỗi 8-bit (3-byte) .
4) Đối chiếu với byte 1 và byte 2 trong dòng cuối của cột UTF-16, bạn sẽ có: zzzz = 0001; yyyyyy = 111010; và xxxxxx = 100111.
5) Đối chiếu với byte 1 và byte 2 trong dòng cuối của cột UTF-8, bạn sẽ có dạng UTF-8:
byte 1 là: 1110zzzz = 11100001. (=E1)
byte 2  là: 10yyyyyy = 10111010 (= BA)
byte 3 là: 10xxxxxx = 10100111 (=A7).
Tổng hợp lại, kí tự "ầ" đã được mã hóa dưới dạng UTF-8 là: E1BAA7.

Lưu ý rằng bây giờ bạn có 3 byte cho kí tự ầ, khác với kí tự gốc chỉ có 2 byte. Nếu bạn theo nguyên tắc trên, bạn có thể viết các trình mã hoá/giải mã UTF-8 cho hệ thống của mình.

Thêm vài ví dụ UTF-8
kí tự/     mã                     UTF-8
 ----------------                  ---------------
a         97                          97
A.       7840              225, 186,160;
A(`     7856               225, 186,176;
E^`     7872               225, 187,128;
O^’    7888                225, 187, 144;
O*~   7904                225, 187, 160

Bảng Unicode cho các kí tự Việt Nam.



   225  a'
   224  a`
  7843 a?
   227   a~
   7841 a.
   7855 a(' a(` a(? a(~.
   7857
   7859
   7861
   7863
   7845 a^' a^` a^? a^~ a^.
   7847
   7849
   7851
   7853
   250  u' u` u? u~ u.
   249
   7911
   361
   7909
   7913 u*' u*` u*? u*~ u*.
   7915
   7917
   7919
   7921
   233  e' e` e? e~ e.
   232
   7867
   7869
   7865
   7871 e^' e^` e^?  e^~  e^.
   7873
   7875
   7877
   7879
   243 o' o` o?  o~  o.
   242
   7887
   245
   7885
   7889 o^' o^` o^?  o^~  o^.
   7891
   7893
   7895
   7897
   7899 o*' o*` o*?  o*~  o*.
   7901
   7903
   7905
   7907
   237 i' i` i?  i~  i.
   236
   7881
   297
   7883
   253 y' y` ...
   7923
   7927
   7929
   7925
   259 a( a^ u* e^ o* o^
   226
   432
   234
   417
   244
   273 d-
   193 A'   A`   A?   A~  A.
   192
   7842
   195
   7840
   7854  A('  A(`  A(?  A(~  A(.
   7856
   7858
   7860
   7862
   7844  A^'  A^`  A^?  A^~  A^.
   7846
   7848
   7850
   7852
    218  U'  U`  U?  U~  U.
    217
   7910
   360
   7908
   7912  U*'  U*` U*?   U*~   U*.
   7914
  7916
  7918
  7920
  201   E'  E`  E?  E~  E.
  200
 7866
 7868
 7864
 7870  E^  E^  E^  E^   E^
 7872
 7874
 7876
 7878
 211  O'  O`  O?  O~  O.
 210
 7886
 213
 7884
 7888 O^'  O^`  O^?  O^~  O^.
 7890
7892
 7894
 7896
 7898 O*' O*` O*?  O*~  O*.
 7900
 7902
 7904
 7906
 205 I'  I`  I?  I~  I.
 204
 7880
 296
 7882
 221  Y'  Y`  Y?  Y~  Y.
 7922
 7926
 7928
 7924
 258   A(   A^   U*   E^    O*   O^
 195
 431
 202
 416
 212
 208  D-
Каталог: 2009
2009 -> Công ty cổ phần Xây dựng Điện vneco3
2009 -> Ủy ban nhân dân cộng hòa xã HỘi chủ nghĩa việt nam thành phố HỒ chí minh độc lập Tự do Hạnh phúc
2009 -> BỘ NÔng nghiệp và phát triển nông thôN
2009 -> Nghị ĐỊnh số 163/2004/NĐ-cp ngàY 07/9/2004 quy đỊnh chi tiết thi hành một số ĐIỀu của pháp lệNH
2009 -> BỘ CÔng thưƠng cộng hoà XÃ HỘi chủ nghĩa việt nam
2009 -> Mẫu số: 01 (Ban hành kèm theo Thông tư liên tịch số 31 /2009/ttlt-btc –BLĐtbxh ngày 09 tháng 09 năm 2009) CỘng hòa xã HỘi chủ nghĩa việt nam
2009 -> BỘ y tế Số: 12/2006/QĐ-byt cộng hoà XÃ HỘi chủ nghĩa việt nam
2009 -> CỘng hòa xã HỘi chủ nghĩa việt nam sở TƯ pháP Độc lập Tự do Hạnh phúc
2009 -> CÔng ty cp đIỆn tử BÌnh hòa cộng hòa xã HỘi chủ nghĩa việt nam
2009 -> Ủy ban nhân dân thành phố HỒ chí minh

tải về 37.39 Kb.

Chia sẻ với bạn bè của bạn:




Cơ sở dữ liệu được bảo vệ bởi bản quyền ©hocday.com 2024
được sử dụng cho việc quản lý

    Quê hương