Encodage de caractères
Cet article est une ébauche à compléter. Une ébauche est une entrée ayant un contenu (très) maigre et qui a donc besoin d'un auteur.
Definition
Un codage de caractères est un code qui associe un jeu de caractères d'une langue naturelle (comme un alphabet ou un syllabaire) avec un jeu de quelque chose d'autres, comme par exemple des nombres ou des signaux électriques. Par exemple, le code Morse (qui associe l'alphabet latin à une série de pressions longues et de pressions courtes sur le manipulateur Morse du télégraphe) et le code ASCII (qui code les lettres, les chiffres et d'autres symboles comme des entiers codés sur 7 bits) sont des codages de caractères. (Wikipedia, retrieved 26 mars 2007 à 20:38 (MEST))
Voir aussi Codec (Encoding/decoding of compression formats that for simple files, archive files or files with multiple contents (e.g. in en:multimedia container formats).
Une petite intro
(à refaire un jour ....)
Le problème des caractères n'est loin d'être résolu, au contraire en fait. Le monde est en train de migrer de jeux ISO-latin (langages européennes) vers UTF-8 (une variante Unicode permettant d'encoder la plupart des langues et ASCII compatible) et on a donc on a problème d'encodage comme il y a qqs années lorsqu'on migrait de ASCII vers ISO, et cela peut devenir cauchemardesque. D'autant plus que Windows ajoute qqs. complications.
Encodage d'un contenu de document
Voici deux exemples:
Encodage pour les "blancs": normalement pas de problème si on laisse le caractère "tel quel". Pour représenter par exemple un blanc on a:
- l'encodage ISO latin 1 (ISO 8859-1): 32 en décimal et %20 en hexadecimal
- en UTF-8 c'est pareil: 0020 (c.a.d dire le caractère se trouve dans la position 32).
Mais pour compliquer les choses, il existe un certain nombre d'autres blancs (thin, non-breaking etc.).
Par contre pour les accents (tous les caractères au delà de la position 127) c'est une autre histoire: Par exemple le à donne:
- en ISO-Latin: 224 (decimal) E0 (hexadecimal),
- en UTF-8: 00E0
Donc au meme endroit mais pas encodé totalement de la même façon. De ISO vers UTF-8 cela peut marcher, mais pas dans l'autre sens et il y a bien sûr des problèmes avec des variantes iso-latin (skandinave, windows, etc etc.). Un jeu ISO ne comprend jamais toute la gamme des caractères accentués (et donc un même code signifie parfois autre chose dans un autre jeu)
Au dela de ces qqs. dizaines de caractères européens iso-latin-1 il n'y a plus aucune compatibilité entre les anciens codes à 1 byte et les nouvelles normes Unicode à plusieurs bytes.
Les entites HTML et références de caractères HTML
On peut utiliser des entités ou références de caractères HTML (marche avec tous les navigateurs modernes), mais cela rend le texte difficilement lisible dans un éditeur qui ne fait pas la traduction dans l'autre sens. Donc la tendance est plutot indiquer l'encodage au début du fichier.
- Exemples d'entités et de références de caractères
Entité Référence de caractère Le blanc: (pas d'entité)   Le à: à à
Ces encodages &#n; (références de caractères) sont implémentés dans tous les navigateurs modernes.
Par contre, si on veut taper les caractères "tel quel", il faut toujours éditer le fichier avec le même encodage: Donc soit en ISO-latinXXX, soit en UTF-8. Le trend va vers UTF-8 (car on peut mélanger toutes les langues dans une page, sans devoir taper des entités HTML ...).
Par ex: vous tapez "àé" en mode UTF-8, cela vous donne "à é" en mode ISO et dans un navigateur vous verrez des rectangles blancs ou des "?" si votre page "tourne" en ISO-latin.
Il faut donc s'assurer à ce que le jeux de caractères soit clairement indiqué au début du fichier HTML. Par exemple en HTML:
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1;"> <meta http-equiv="Content-type" content="text/html; charset=UTF-8;" />
En XHTML il faut aussi déclarer l'encodage dans l'entête XML, par exemple:
<?xml version="1.0" ?> <?xml version="1.0" encoding="iso-8859-1"?>
Pour compliquer les choses, Windows fait une extension de ISO-Latin1: WinLatin1 alias windows-1252. (problèmes surtout avec un des apostrophe et les double guillemets et qui se manifestent lorsqu'on passe de Word à un autre éditeur. Certains logiciels qui tournent sous Windows adoptent plutot ISO-latin simple, donc pas la version Microsoft ! Même type de problème pour le jeu de Apple MacRoman.).
Les URLs compliquent les choses (!)
La spécification des URLS interdit l'usage des blancs (pour plusieurs raisons). Donc normalement, pour les blancs, on DOIT utiliser l'encodage hexadecimal ISO latin / UTF-8 dans un URL.
Mon fichier.htm
devient:
Mon%20fichier.htm
En principe il faudrait aussi appliquer ce principe pour tous les caractères accentués, mais le problème se corse:
http://edutechwiki.unige.ch/fr/Encodage_de_caractères
devient en ISO hexadecimal (et peut marcher, mais il ne faut pas parier):
http://edutechwiki.unige.ch/fr/Encodage_de_caract%E8res
Dans le wiki on voit un encodage sur 2 bytes (représentation en UTF-8):
http://edutechwiki.unige.ch/fr/Encodage_de_caract%C3%A8res
Maintenant pour revenir aux simples "blancs": certains logiciels ont de la peine à traduire un caractère blanc dans un lien vers une solution correcte (%20). Pour les autres caractères: si vos noms de fichiers dans le texte sont en UTF-8 et sur le serveur en ISO-latin voir Windows cela peut aussi poser problème (à développer).
Et c'est pour cela qu'on déconseille normalement d'utiliser des blancs pour des fichiers et leurs liens.
Le mail ajoute
Tout texte envoyé par mail (et surtout les entêtes doit aussi être encodé)
To: Dave Crocker <dcrocker@mordor.stanford.edu> Cc: ietf-822@dimacs.rutgers.edu, paf@comsol.se From: =?ISO-8859-1?Q?Patrik_F=E4ltstr=F6m?= <paf@nada.kth.se> Subject: Re: RFC-HDR care and feeding
Si votre mailer n'arrive pas à gérer ces entetes cela cela pose moins problèmes (car normalement votre adresse email ne contient pas d'accents). Par contre, si vous attachez des fichiers qui ont des noms avec des accents, certains de vos correspondants ne pourront pas les ouvrir.
Il existe actuellement deux standards incompatibles pour coder les noms de fichier de pièces-jointes qui comprennent des caractères accentués (comme le fichier "à Genève français.png" attaché à ce message), ce qui peut causer des difficultés à celui qui reçoit de tels fichiers (nom du fichier remplacé par "Untitledn" avec Eudora, par "ATTnnnnn" avec Outlook, etc...). La version Thunderbird 1.5 code par défault ces noms de fichier selon le nouveau standard RFC2231 alors que la plupart des autres logiciels, y compris les versions précédentes de Thunderbird, utilise l'ancien standard RFC2047.
Conclusion
Utiliser des caractères sur Internet reste un cauchemar et je ne peux conseiller que 2 choses pour vous simplifier la vie:
- Toujours vérifier ce que votre éditeur sait éditer comme code (et tjrs utiliser le même, je conseille UTF-8)
- Pas de blancs ni de caractères accentués pour les noms de fichiers et URLs.
Liens
Spécifications
(some)
- Character codes
- UniCode Home Page (includes for example code-charts and the Unicode and the Web FAQ)
- Character Model for the World Wide Web 1.0: Fundamentals (W3C Recommendation 2005).
- Unicode in XML and other Markup Languages (W3C Technical Report)
- W3C I18N GEO Working Group
- MIME
- RFC 2045 - Multipurpose Internet Mail Extensions (MIME) Part One: Format of Internet Message Bodies
- RFC 2047 - MIME (Multipurpose Internet Mail Extensions) Part Three: Message Header Extensions for Non-ASCII Text (extended by RFC 2231)
- RFC 2231 - MIME Parameter Value and Encoded Word Extensions: Character Sets, Languages, and Continuations
Tables
- Unicode 4.1.0 Chart
- Unicode Character Code Charts (PDF files)
- HTML
- HTM entities table
- Character Converter(Iain Tucker)
- ISO8859-1 (Latin-1) (HEX/Dec/Entities)
- iso8859-1 Table
- Table of character entity references in HTML 4
- ASCII - ISO 8859-1 (Latin-1)Table with HTML Entity Names
- The ISO 8859 Alphabet Soup
Convertisseurs en ligne
Comme ces sites changent souvent, cherchez: "Online utf-8 converter"
- UniCode Tools utf-8 to latin1 et dans l'autre sens.
- Text to UTF-8 or HTML Entities Tool
- Unicode (UTF-8) to HTML entity online converter
- UTF Converter
- Converter for funny characters into the proper HTML
Tutorials
- En français
- Comprendre les jeux de caractères
- Le minimum absolu que tout développeur doit absolument, positivement savoir sur Unicode et les jeux de caractères (aucune excuse !)
- Introduction aux jeux de caractères
- Foire Aux Questions des Tuteurs : Unicode, UTF-8
- En Anglais
- Characters and encodings by Jukka "Yucca" Korpela, very good reading ! See e.g. A tutorial on character code issues and On the use of some MS Windows characters in HTML
- HTML and Browsers Character encoding, entity references and UTF-8. Good short tutorial.
- Articles Wikipedia
URL encoding
- URL Encoding (or what are those " " codes in URLs?') by Brian Wilson
Internationalisation et localisation
[[::Internationalisation|Internationalisation]] (edutech wiki )