Svoje poslednje godine života Dimitrije Davidović provodi u Smederevu. Razlog tome jeste njegovo proterivanje od strane knjaza Miloša. Iako proteran, Dimitrije Davidović je od knjaza dobio kuću u centru grada i određenu vrstu prihoda ili apanže.
Apanaža je često znala da kasni, a Dimitrije nije bio neko ko se mogao baviti, naročito u tim godinama, poljoprivredom. Bez porodice, često je samovao u bedi, a ostala su i pisma u kojima je knjaza molio za dodeljivanje obećanih sredstava. Knjaz je bio veoma neumoljiv, mada su često postojali i kratki intervali u kojima bi knjaz i Dimitrije ponovo bili prijatelji. Nakon tri mučne godine provedene u Smederevu, Dimitrije Davidović je umro u tom gradu 6. aprila 1838. godine. Njegova sahrana u Smederevu prošla je neobeleženo, a nijedne novine, pa ni one koje je sam uređivao, nisu prenele vest da je preminuo.
Dimitrije Davidović je sahranjen na neobeleženom mestu, izvan groblja, na livadi, verovatno na zemlji koju mu je dao knjaz Miloš. Nakon nekog vremena, kada je Miloševa vladavina završena, na Davidovićevu ulogu u stvaranju srpske države i kulture bačeno je novo svetlo i odnos prema njemu se promenio.
Pronađen je, mada ne tako lako, njegov neobeležen grob, a Davidovićevi ostaci su preneti u uređenu grobnicu na Smederevskom groblju, gde su sahranjene na posebnom mestu odmah pored crkve.