Поселение на месте современного города впервые упоминается в 1171 году в Новгородской летописикак село Нарвия. Официально временем возникновения города принято считать в Эстонии - 1223 год. В начале XIII века северную Эстонию захватили датчане, вплоть до естественного географического рубежа — реки Наровы. У датчан Нарва впервые упоминается в датской поземельной книге как - селение Narvia. В первой половине XIV века Нарве даны права города. С 1223 по 1346 гг. Нарва принадлежала Дании, а затем до 1558 года − Ливонскому ордену. В это время строится замок Германа (XIII—XVI вв.), являющийся наглядным свидетельством стратегической важности города. В 1492 году для борьбы с Ливонией  Иван III,  русский царь,  построил напротив Нарвы (Ругодива ) Ивангородскую крепость. Во время Ливонской войны Нарва была взята русскими войсками 11 мая 1558 года. Царь Иван Грозный планировал сделать Нарву крупным торговым и военным портом Руси на Балтийском море. В городе были построены православные храмы, за 23 года русского правления в него переселились немало русских купцов и ремесленников. Нарвская торговля с городами Северной Германии, Дании, Голландии, Франции и Англии стала очень прибыльной и быстро развивалась. Однако для Шведского королевства и Речи Посполитой появление русских в Балтийском море было крайне нежелательным, из-за чего оба государства вступили в войну. В битве под Венденомна ливонском театре военных действий наступил перелом. В августе 1579 года шведы предприняли первую попытку овладеть Нарвой, но отступили, потеряв около 4000 человек. Во время осады 1581 года шведам удалось овладеть городом, после чего в нём было вырезано около 7000 русских горожан. В 1590 году Нарва вновь осаждалась русской армией. В 1595 году между Россией и Швецией был заключён Тявзинский мир. По этому договору Россия навсегда отказывалась от притязаний на города Нарва и Ревель, но получала все земли восточнее реки Наровы. С попытки отвоевать Нарву Пётр I начал Северную войну. Русская армия осадила город, но 19 (30) ноября 1700 года была разбита шведскими войсками (см. Битва при Нарве). Лишь 9 (20) августа 1704 года русские войска взяли Нарву. В результате Северной войны Эстляндия и Лифляндия отошли к России, что было закреплено Ништадским мирным договором 1721 года. В 1719 году была образована Ревельская губерния, при этом Нарва осталась в Петербургской губернии. Позднее Нарва была выведена из губернского подчинения, а с 1802 года вновь вошла в состав Петербургской губернии. После основания крепостей Кронштадт и Свеаборг Нарва утратила своё стратегическое значение.

К середине XIX века Нарва стала крупным центром текстильной промышленности благодаря основанию А. Л. Штиглицем суконной и льнопрядильной фабрик, а также возникновению Кренгольмской мануфактуры. Среди учредителей мануфактуры были: Лев Герасимович Кноп, Козьма Терентьевич Солдатенков, Алексей Иванович Хлудов, Ричард Васильевич Барлов, Эрнст Федорович Кольбе. Существенные перемены в судьбе города произошли в результате революционных событий 1917 года. 30 марта 1917 года Временное правительство России приняло постановление «О временном устройстве административного управления и местного самоуправления Эстляндской губернии», согласно которому Эстляндской губернии передавалась эстонская (по этническому составу) часть Лифляндской губернии: Тартуский, Вырусский, Вильяндский, Пярнусский и Сааресский уезды. 2 июля Нарвский общественный комитет инициировал движение за присоединение к Эстляндии. В Нарве был проведен опрос, большинство участников которого высказались за присоединение Нарвы и её окрестностей к Эстляндской губернии. Итоги опроса были доведены до Эстляндского земского губернского управления, однако развития не получили. После свержения Временного правительства Нарвская городская управа продолжила переговоры уже с правительством Советской России и 14 ноября 1917 года направила в Петроград прошение о выделении Нарвы из состава Ямбургского уезда и передаче её в Эстляндскую губернию. Советское правительство согласилось с этим пожеланием, и, по результатам референдума, проведённого 10 (23) декабря, Нарва перешла в состав Эстляндской губернии. Постановлением исполкома Советов рабочих и солдатских депутатов Эстляндской губернии от 23 декабря 1917 года (5 января 1918 года) город был передан из Петроградской губернии в Эстляндскую губернию, где был создан Нарвский уезд. В состав Нарвского уезда входили: город Нарва, Вайварская и Сыренецкая волости, волости Ийзаку, Йыхви Везенбергского уезда Эстляндской губернии и ряд селений Ямбургского уезда Петроградской губернии. 6 (19) февраля 1918 года в Ревеле (Таллине) членами Совета старейшин Земского Совета Эстляндской губернии, находящимися в подполье с ноября 1917 года, был создан новый и единственный исполнительный орган — Комитет Спасения Эстонии. 21 февраля 1918 года новая власть публично огласила в Пярну (Пернов) «Манифест народам Эстляндии», в котором город Нарва с окрестностями в одностороннем порядке был присоединён к провозглашённой независимой Эстонской Республике. С 4 марта по 28 ноября 1918 года город был оккупирован германскими войсками. 19 ноября 1918 года в Риге представители Германии подписали с Временным правительством самопровозглашённой Эстонской республики договор о передаче последнему всей власти в стране. После поражения Германии в Первой мировой войне Красная Армия 27 ноября 1918 года захватила Нарву, а затем развернула наступление вглубь Эстонии. По мирному договору между Советской Россией и Эстонией от 2 февраля 1920 года Нарва осталась в составе Эстонии.

Во время Второй мировой войны с 17 августа 1941 года была оккупирована германскими войсками. Освобождена 26 июля 1944 года в ходе Нарвской операции. Во время войны Старый город был сильно разрушен в ходе действий советской авиации, а также при отступлении немцев их специальными сапёрными командами. Старый город Нарвы после окончания войны восстановлен не был. Однако часть зданий впоследствии всё же была восстановлена: Ратуша (в которой располагался Дворец пионеров, а на 3-м этаже находился фотокружок), Ливонский замок с башней Германа (сейчас там расположен Нарвский музей), дом Офицерского собрания и другие. Всего сейчас сохранилось 16 зданий Старого города, в том числе и большая часть здания Владимирской церкви (сейчас там отделение детской стоматологии), часть этих зданий находится под защитой государства. При распаде СССР в 1990—1991 гг. в эстонской части Принаровья (Ида-Вирумаа) распространялись идеи о провозглашении Нарвской республики (Принаровской ССР). Летом 1993 года по решению городского совета в Нарве (а также в Силламяэ) был проведён референдум об автономии. По официальным данным, большинство поддержало автономию; однако, присутствовали заявления о фальсификациях. После распада СССР Нарва вошла в  состав Республики  Эстония.