Родился в Ливенском уезде Орловской губернии. В 1818—1820 проходил обучение в Благородном пансионе при Педагогическом институте в Петербурге. Его учителями были В. К. Кюхельбекер, К. П. Арсеньев, А. П. Куницын.

В 1824—1834 служил в Московском архиве коллегии иностранных дел, где вступил в кружок «любомудров». Вместе сС. П. Шевыревым и с В. П. Титовым перевёл книгу Л. Тика и В. Г. Вакенродера «Об искусстве и художниках» (1826). В 1834вышел в отставку. Много времени провёл за границей, занимаясь популяризацией русской литературы. В 1837 в Германиивышла книга немецкого писателя Г. И. Кёнига «Очерки русской литературы», которую он написал на основе бесед с Мельгуновым[2].

Мельгунов также известен как автор повестей, очерков, литературоведческих и музыковедческих статей, романсов.

Был знаком с П.Я.Чаадаевым.

Похоронен на Ваганьковском кладбище.