元至元二十九年，即公元1292年上海由原來的上海鎮升格為上海縣，上海建城已經七百餘年，一個縣必定有縣衙門，那麼，上海的縣衙門設在哪裡，是否有過搬遷，還留下什麼遺蹟，這是許多對上海歷史感興趣的人經常會問的問題。 元朝上海建縣後，一直到明初的洪武年間才有了第一部《上海縣誌》，不過，這部《上海縣誌》可能未刊印就丟失了，後人只在其他的著錄中見到一些片言隻語，現存的上海第一部縣誌是明《弘治上海縣誌》，該《志》卷五“公署”中是這樣講的： 縣署，元市舶司也。至正（應是“元”之誤）二十九年閏六月，始立上海縣，以舊榷場為之。至大德戊戌，適有並舶司歸四明之命，遂移縣署於司，今縣是也。 這段文字比較簡潔，當時人可能看得懂，今人理解會有困難。
唐時措是元朝上海紳士，他不僅出資建立上海鎮的“鎮學”，還直接參與上海縣的籌建，還寫了一篇上海《建縣治記》，《弘治上海縣誌》抄錄全文，文章太長，摘錄部分如下： （元）至元壬辰春，聖天子以華亭地廣，民眾難理，命分高昌、長人、北亭、海隅、新江五鄉，凡二十六保立縣，上海因以名……初，主簿郗將仕首至，是年閏六月二十二日卜廨蒞事，惟舊榷場聽（廳）宇為鎮守總管府、運糧千戶所因之，居不安焉，且庭宇湫隘，藏櫝無庋，繫囚無圉。大德戊戌秋，方議遷，十月，適有並海舶歸四明之命，官吏例革，衙宇空閒，是造物者以遺縣而莫克專問之。……己亥四月，劄下，俾移置廳堂兩廡，較舊衙門倍寬。”但是，元朝時吳淞江淤塞嚴重，今黃浦江的下游河段還沒形成，從外洋進入中國的商船均為深水船，難以經內河進入上海，而大多數蕃舶直接駛抵四明（即寧波），於是在大德戊戌（1298年）撤銷上海市舶司，併入四明市舶司。上海市舶司撤銷後，官吏被調任或裁減，衙門就空置了，於是上海縣打報告，申請把市舶市衙門建築改為上海縣衙門，第二年，報告獲批准，上海縣衙門就遷到原上海市舶司衙門，《弘治上海縣誌》又講： 明年，為海潮所壞，達魯花赤雅合雅率僚佐新之。洪武二十五年，知縣林廷瑾建鼓樓。二十九年，知縣張守約建穿堂。正統四年，巡撫、侍郎周公忱巡歷至縣，頗陋其制，乃命知縣張禎、丞蔣文凱修建儀門及穿堂、後堂，煥乎有可觀者焉。後，鼓樓壞，成化間知縣劉宇復改建之，整整翼翼，與邑稱矣。
《弘治上海縣誌》中附有“上海縣圖”，傳統的中國界畫往往只是“示意圖”，但尚能看清明弘治年間上海縣衙門的佈局和形式。清《同治上海縣誌·卷二·建置·衙署》在記上海縣衙門時，前段基本抄《弘治上海縣誌》，接著說： 正德七年，知縣黃希英新廳事：面廳為戒石亭，廳東為鑾架、庫廳，西為典史廳、架閣庫，兩廡為六房，儀門東為土地祠，西為獄舍。嘉靖元年，鼓樓毀，知縣鄭洛書即其地立絃歌坊。十六年，知縣梅凌雲重建鼓樓。十九年，知縣張秉壺立牧愛坊在儀門內。三十二年，倭寇突至，廳宇悉燼。三十三年，知縣劉克學重建：門、廡、堂、寢、庫、獄及東西衙署。四十二年，知縣黃文煒於儀門西置迎賓館今廢，重建土地祠。萬曆五年，同知鄭重亨於大門內建東、西，南三坊。十年，知縣鄧炳開西偏馬道，與東稱。二十六年，知縣許汝魁重立戒石亭，並立親民坊。三十六年，知縣李繼周重建內衙廳事及丞、尉衙舍，改造獄舍。四十年，知縣徐日久建可堂於中堂之右。四十六年，知縣呂浚重修內外，改建大門，設左右榜廊，易民居餘地，恢廓舊規，重建二坊，曰“潔愛”、“廉平”。國朝順治十七年，知縣塗贄各加修葺。康熙九年，知縣朱光輝建堂於內衙之西，後知縣任辰旦題曰“介和”。
十二年，知縣陳之佐建二亭，在東、西坊外，為民有事於縣者憩息所今廢。二十年，知縣史彩改建內衙，額曰“問心堂”。雍正九年，知縣張濤重修大堂。乾隆十三年，知縣王侹築月臺，重建吏舍及皁役班房。五十二年，知縣周雲翮重修內外堂屋。嘉慶二年，知縣湯燾於署之正西重建自新所。四年，復增修衙署。十七年，知縣王大同改葺大堂及勤補堂。道光十五年，知縣黃冕就署東箭道建問耕亭。道光二十四年，西人入城，半遭毀壞，署知縣蔡維新重修。咸豐三年八月，閩廣會匪作亂，署知縣袁祖德死亡，縣署及僚佐署俱被毀。五年春，城復，署知縣孫豐重建。六年，知縣黃芳增修。 這段引文有點長，以流水賬的方式記錄了上海縣衙門歷年修建的情況，可以得出一個結論，那就是從元大德三年上海縣衙門遷到原市舶司址後，將近六百年沒有搬遷過。《光緒上海縣續志》是續《同治上海縣誌》的，文說： 知縣署，光緒三年，知縣莫祥芝詳準重建三堂及慕寮，增建監獄圍牆……宣統二年七月，知縣田寶榮就舊監獄地址改建改良監獄，計大小房屋一百十五間，糜銀三萬三千七百三十餘兩……
中國的知縣是“父母官”，其主要的職責，一是保證上海縣衙門被滬軍都督府司法署佔用後，必須另建縣衙門，今天的蓬萊路本來是一條叫作“半段涇”的小河，今蓬萊路與文廟路之間有一條叫“半涇園弄”的小路，即以半段涇的叉河而得名，據《同治上海縣誌》中講，在半段涇的北岸有一“廣安會館”，是廣東旅滬同鄉人團體，1853年小刀會起義時，廣東三合會的成員就潛伏在廣安會館，等號令一下就出擊進攻相鄰的清軍兵營，當小刀會被鎮壓後，廣安會館的產業即被充公，1906年後上海填半段涇築路，以邊上有蓬萊道院而取名蓬萊路，民國肇始，就在廣安會館舊址另建上海縣衙門，約1915年遷入新址辦公。1927年成立上海特別市，原來上海縣東部的面積大部分劃入上海特別市，僅剩西部的農村屬上海縣，使上海縣署不在上海縣的土地上，於是，1933年又將上海縣治遷北橋鎮，蓬萊路的舊縣治改為上海市警察局址，後改為上海市警察局蓬萊分局，解放後的相當長的一段時期裡為上海市公安局南市區分局址，址為蓬萊路171號。今建築保存完整，並已公佈為上海市優秀歷史建築。 上海縣的建置在民國後變化很大，縣治也幾經搬遷，1954年縣治遷閔行、1960年劃出閔行鎮及吳涇地區置閔行區，次年，上海縣治又遷莘莊鎮。1981—1984年，又將上海縣毗連上海市區的漕河涇、龍華、北新涇三鎮及八鄉的部分分別劃入長寧、徐匯和閔行區，1992年，撤銷上海縣和閔行區，建立新的閔行區，上海縣的建置從此結束。
