Toponimul Neamt este mentionat intaia oara in lista rusa de orase "valahe", adica romanesti, intocmita intre anii 1387 si 1392, unde este inscris "Neamtul in munti". Ulterior, regele Ungariei, Sigismund de Luxemburg, a folosit acest toponim "ante castrum Nempch" (inaintea Cetatii Neamt) intr-un act emis in ziua de 2 februarie 1395, cu ocazia unei incursiuni in Moldova, urmata de o lupta la Ghindaoani, unde a fost invins de domnul Stefan I.

La 7 ianuarie 1403, toponimul Neamt apare intr-un document al cancelariei Moldovei, unde domnul tarii, Alexandru cel Bun, mentiona pe boierul "pan Sansru de la Neamt" ca facand parte din sfatul domnesc. Apoi termenul apare din ce in ce mai des in documentele vremii. Asupra originii toponimului Neamt au existat diferite discutii si ipoteze, care nu au solutionat multumitor aceasta problema.

Bogdan Petriceicu Hasdeu (1870) considera ca "Neamt e tot Neamt", adica numele de Neamt se refera la grupul de nemti, poate chiar cavaleri teutoni ori sasi, care au zidit Cetatea Neamt. Aceasta ipoteza a fost sustinuta si de alti istorici: D. Onciul, A.D. Xenopol, G. Mandrea, N. Boierescu, C. Matasa, Grigore Ionescu si altii.

O parere deosebita a avut Ilie Minea (1943) (sustinuta de mai multi lingvisti si istorici: Al. Lepadatu, N. Iorga, R. Rosetti, N. Constantinescu, N. Grigoras, Gh. Cojoc, V. Vataseanu, D. Constantinescu, C. Turcu si altii), care considera toponimul Neamt de origine slava, de la termenul "nemeti", care inseamna linistit sau tacut, definind caracteristicile zonei si ale raului principal.

Numele orasului vine de la toponimul raului Neamt (rau tacut sau linistit). In sprijinul acestei idei sunt si insemnarile episcopului catolic Marco Bandini, care, vizitand comunitatea catolica din Tagru Neamt, in 1646, nota: "orasul este asezat langa un rau ..., de la care isi ia numele" (Calatori straini prin Tarile Romane, t. V, 1973). Daca numele orasului ar fi fost de origine germana, sigur Marco Bandini sublinia acest lucru.

De la orasul Neamt si-a luat numele cetatea din apropiere - Cetatea Neamt, apoi Manastirea Neamt. Toponimul Neamt s-a extins asupra oculului si tinutului care si-a avut centrul in oras sau la cetate. In cele din urma a intrat si in componenta numelui Piatra care din "Piatra lui Craciun", cum se numea la inceput, a devenit "Piatra Neamt".