16進数からテキストへの変換が失敗する理由——バイトを文字化けにしてしまうエンコードのミス

16進数をテキストに変換するのは、絶対に失敗しないはずの単純な作業に思える——16進数2桁で1バイト、そのバイトを文字に対応させるだけ、それで終わり。ところが実際には頻繁に失敗し、しかもそれはほとんどの場合、変換ツールが壊れているからではない。失敗するのは、16進数がバイトを書き表す方法の一つに過ぎず、バイトが特定の文字を意味するには、事前に合意されたエンコード方式が必要だからだ。ここでは、出力が文字化けするときに実際に何が起きているのかを解説する。

原因1：想定した文字エンコードが間違っている

圧倒的に最も多い原因。この16進数のバイト列は本来UTF-8でエンコードされていた（実際の文字の多くは2〜4バイトを使う）のに、変換ツールがそれをLatin-1や単純なASCII（すべてのバイトがちょうど1文字に対応する）だと思い込んで1バイトずつデコードしている。結果として、アクセント記号付きの文字、カーブした引用符、ダッシュ記号、あるいは英語以外の文字はどれも、正しい1文字ではなく2〜3個の文字化けした記号になってしまう。

正しい対処法は常に、そのバイト列が最初に書き込まれたときと同じエンコードでデコードすることだ——どのエンコードかわからない場合、現代的な用途（ウェブコンテンツ、JSON、大半のAPI）ではUTF-8が正しいデフォルトである。Latin-1/Windows-1252が出てくるのは、主にWindows由来の古いテキストファイルや、レガシーなメールヘッダーくらいだ。

原因2：バイト順（エンディアン）の不一致

これはマルチバイトの数値（テキストそのものではない）に特有の問題だが、バイナリとテキストが混在したデータを扱う16進数変換ツールでは十分によく起きるので、名前を挙げておく価値がある。00 01をビッグエンディアンで読めば1だが、同じ2バイトをリトルエンディアンで読めば256になる。16進数の文字列が、それ以外はテキストであるデータに埋め込まれた数値の長さプレフィックスやバイナリフィールドを表している場合、間違ったバイト順で読むと、その数値だけが誤読されるのではなく——それ以降のすべてのバイト位置がずれてしまう。ツールはテキストが間違ったオフセットから始まると誤認するからだ。

原因3：ニブル（半バイト）の分割ミス

16進数は常にペアで扱われるべきだ——16進数2桁で1バイトになる。奇数個の16進数文字（余分な1桁、コピー＆ペーストで文字が1つ抜け落ちた、パース前に取り除かれなかった先頭の0x）があると、それ以降のすべてのペアが半バイトずつずれていく。エラー発生後のすべてのバイトは、まったく無関係な別の文字にデコードされてしまう——出力は「少しおかしい」のではなく、その地点から先は完全に崩壊する。これは実は有用な診断の手がかりでもある。最初はきれいで途中から乱れ始める文字化けは、その特定の位置での分割ミスを示しており（分割ミスの場合）、エンコード自体の間違い（この場合はテキスト全体にわたってより均一に崩れる）ではないことを意味する。

原因4：目に見えない・印字できないバイト

すべてのバイトが目に見える文字に対応しているわけではない。制御文字（0x00～0x1F）、バイト順マーク（UTF-8でのEF BB BF）、さまざまなUnicodeの書式設定用文字は「成功裏に」デコードされるが、表示フォントによっては何も表示されなかったり、四角い記号になったり、疑問符になったりする——これは変換自体が完全に正しかったとしても、デコード失敗とまったく同じように見えることがある。出力の長さが正しそうなのに、テキストの文字がいくつか欠けているように見える場合は、デコードロジックが間違っていると決めつける前に、制御バイトの存在を確認してほしい。

原因を素早く絞り込む方法

まず16進数文字列の文字数が偶数であることを確認する——奇数なら原因3なので、まず入力を修正する。
まずUTF-8として、次にLatin-1としてデコードを試し、比較する——片方がきれいなテキストになり、もう片方がならない場合は原因1だったということだ。
文字化けが最初の文字から均一に起きている場合はエンコードを疑い（原因1）、最初はきれいで途中から乱れ始める場合はその位置での分割ミスを疑う（原因3）。
長さは期待通りなのに特定の文字だけが欠けていたり四角記号として表示されたりする場合は、エンコードを再確認するのではなく、制御・書式設定用バイト（原因4）を確認する。

16進数からテキストへの変換自体は、どの言語でも1行のコードで済む処理だ——実際のデバッグ作業のほとんどは、これら4つの前提のうちどれが密かに間違っていたかを突き止めることにあり、変換のロジック自体にあるわけではない。