そもそも日本という漢字が使われ始めたのは、飛鳥時代後半から奈良時代初期にかけてのことです。それ以前は「大和(やまと)」や「倭(わ)」と呼ばれていましたが、中国(唐)に対して「日の昇る東の国」を示す意味を込めて「日本」の国号が誕生しました。
漢字の導入当初、日本は「ひのもと」と読まれていましたが、奈良・平安時代にかけて漢字の音読みが普及する中で、「にっぽん(呉音系の読み)」や「にほん(漢音系の読み)」という発音が定着していきます。
室町時代の文献や、戦国時代に来日したポルトガル人宣教師の記録(日葡辞書など)を確認すると、当時は「にっぽん(Nippon)」と発音されるケースが優勢でした。その後、江戸時代以降に発音の簡略化が進む中で「にほん」という発音も日常語として広く浸透しました。
1934年(昭和9年)には、文部省の臨時国語調査会が「国号としては『にっぽん』に統一する」という案を提出したものの、法制化には至らず、現在のように双方が共存する形が受け継がれています。