漠河歷史悠久，在舊石器時(shí)代已有遠古人類(lèi)聚落。漠河地處高緯度，受太平洋影響，生態(tài)環(huán)境得天獨厚，依山傍水，植物繁茂，動(dòng)物繁多，是古人類(lèi)理想的居住場(chǎng)所。境內發(fā)現的老溝和洛古河兩處古遺址，是距今1萬(wàn)～3萬(wàn)年前古人類(lèi)活動(dòng)的遺跡，兩處出土的文物證明：漠河當時(shí)的遠古人類(lèi)處于母系社會(huì )階段，過(guò)著(zhù)原始的漁獵生活，并形成聚落定居。

唐虞三代漠河境域為邊域荒服之地。

春秋戰國，漠河境域為東胡、山戎之地。《伊尹朝商書(shū)》記載：早在商朝之初，東胡族已出現商的北方。又據《逸周書(shū)·王會(huì )篇》載：兩周之初，東胡又達周的北方正東。《史記·匈奴列傳》記載：“燕北有匈奴”，戰國時(shí)東胡勢力強盛，曾打敗燕國，迫使其賢將秦開(kāi)為人質(zhì)，后秦開(kāi)歸燕，率軍“襲破走東胡，東胡卻千余里”。

兩漢時(shí)期漠河境域屬于烏桓和鮮卑之地。

魏晉南北朝時(shí)期，漠河境域為鮮卑東部之境。鮮卑為東胡族余支，其居住地在黑龍江、西伯利亞和遼水流域一帶，西伯利亞即由鮮卑一音而得。南北朝時(shí)，北魏太平真君四年(公元443年)，李敞住祭石室，其地在今大興安嶺內蒙古鄂倫春自治旗首府阿里河鎮西北10千米處的嘎仙洞。

隋唐時(shí)期，漠河境域屬于契丹室韋之地二唐代，契丹居室韋一山，室韋山在漠河西南境，漠河一帶稱(chēng)為室韋國，唐王朝在黑龍江西部設置室韋都督府，漠河地受其管轄。

室韋之名始見(jiàn)于北魏史籍，該民族分布于今天大興安嶺東西兩側，黑龍江南北兩岸。據《舊唐書(shū)·室韋傳》載：“東至黑水，西接突厥，南接契丹，北至于海”，與《新唐書(shū)》所載略同。唐代室韋東界到精奇里江至牛滿(mǎn)江一帶；西界在今呼倫湖一帶，南界在霍林河流域，北界所到之海當為今鄂霍次克海。

室韋從唐貞觀(guān)三年(公元629年)入貢，歷開(kāi)元、天寶、大歷、貞元、太和、開(kāi)成、大中、咸通朝貢不絕。唐并于室韋居住中心地區設室韋都督府管轄室韋諸郡。據《通典·邊防典》、《舊唐書(shū)·室韋傳》、《新唐書(shū)·室韋傳》和《隋書(shū)》記載：“唐代室韋共有22部。”其中：落俎室韋，在今精奇里江東西北，黑龍江上游北岸一帶。大室韋，在今額爾古納河下游之南。蒙兀室韋，在阿爾巴西河，即今額木爾河流域(漠河縣境內)。據《舊唐書(shū)·室韋傳》：“其北大山之北有大室韋部落，其部落傍望建河居。其河源出突厥東北界俱倫泊，屈曲東流，經(jīng)西室韋界又東經(jīng)大室韋界，又東經(jīng)蒙兀室韋之北、落俎室韋之南，又東流與那河、忽汗河合”。蒙兀室韋從額木爾河西遷的時(shí)間，《蒙古秘史》載：“在7世紀，成吉思汗的始祖孛兒貼亦那帶領(lǐng)部落離開(kāi)興安叢林西遷，渡騰汲思海，到鄂嫩河的不兒罕山駐牧。”但7世紀是初唐，當時(shí)蒙兀室韋并未離開(kāi)額木爾河流域，直到唐末仍在呼倫湖北一帶定居。

遼時(shí)期，公元916年，居住東北的契丹族興起，耶律阿保機統一契丹8部，平定了“奚”和“室韋”，建立了“契丹國”；后改國號為“遼”。公元10世紀，室韋各部盡屬于遼朝。《契丹國志》記載：“太祖并儲蕃三十六國，室韋在其中。”遼繼唐在黑龍江上游地區設治管轄室韋各部。遼初，漠河地方屬東京道室韋王國府管轄，到遼圣宗時(shí)，改屬西北路招討司室韋節度使管轄。

金時(shí)期，漠河為上京治下的蒲與路(路治所在今克東縣境內)的西境。公元1115年，女真首領(lǐng)完顏阿骨打率部滅遼后，建立金國，于公元1125年統一了東北全境。

1129年(金天會(huì )七年)金在東北地區設置了上京、咸平、東京和北京4個(gè)路，蒲與路為上京管轄。《金史·地理志》載：“蒲與路，國初置萬(wàn)戶(hù)，海陵閣罷萬(wàn)戶(hù)，乃改置節度使。”經(jīng)當代考古證實(shí)蒲與路南起今呼蘭、肇州以北之地，西境以嫩江和今泰來(lái)縣接壤，東境至湯旺河，北抵外興安嶺，漠河地自在其中。

元初，漠河屬蒙古貴族鐵木哥斡亦斤的封地，后改為遼陽(yáng)行省蒲與路管轄。公元13世紀，成吉思汗滅金后，開(kāi)始分封諸侯，劃分領(lǐng)地，將今嫩江流域以北、外興安嶺以南之地，封給其三弟鐵木哥斡赤斤。后諸王叛亂被平定后設立嶺北行中書(shū)省，漠河地在其治下的和林總管府管轄地區內。嶺北行省，管轄區域從大興安嶺以西、哲里木盟以北直至北冰洋盡屬嶺北行省；大興安嶺東至日本海，屬遼陽(yáng)行省轄地。

明時(shí)期，漠河屬奴兒干都司木河衛之地。1409年(明永樂(lè )七年)，明王朝在黑龍江下游與阿姆貢河江流處右岸的特林設立奴兒干都司，“奴兒干’’為滿(mǎn)語(yǔ)的譯音，漢語(yǔ)意為“圖畫(huà)”，因該地山川秀麗、風(fēng)景如畫(huà)，故名。奴兒干都司共轄384衛、24所、7城站、1寨，所轄區域北界至外興安嶺，東至鄂霍次克海的庫頁(yè)島。

明正統(1436～1449年)后設立木河衛，對黑龍江上游地區實(shí)行有效管轄。據滿(mǎn)文檔案記載：木河衛直至1564年(明嘉靖四十年)還向明王朝請求襲職。

在清軍入關(guān)前，東起鄂霍次克海、西至貝加爾湖之間的廣大地區的索倫部各族都已臣服于清王朝。清初漠河為索倫達斡爾頭人拉夫凱王爺的領(lǐng)地。因清軍入關(guān)，無(wú)暇顧及東北邊防，致使羅剎(沙俄)不斷侵擾，居住在黑龍江上游地區的達斡爾人先后遷到嫩江流域定居。同時(shí)游獵在外興安嶺勒拿河和結雅河流域的鄂溫克人和鄂倫春人，逐漸遷徙到阿木爾河、盤(pán)古河和牛耳河流域等黑龍江右岸上游一帶。

1644年，清軍入關(guān)后，整個(gè)東北地區由盛京總管府管轄。1653年，設立寧古塔昂邦章京。1662年(清康熙元年)，昂邦章京改為鎮守寧古塔等處將軍(簡(jiǎn)稱(chēng)寧古塔將軍)，漠河地方在其管轄之下。

1674年(康熙十三年)，清政府開(kāi)始在黑龍江左精奇里江口以南的黑龍江東岸(明代忽里平寨舊址)修建木城。1683年(康熙二十二年)設立黑龍江將軍，黑龍江第一任將軍薩布素率部戍邊于璦琿，統轄松花江左岸以北，包括漠河在內至外興安嶺的廣大地區。1685年(康熙二十四年)后于黑龍江城(璦琿)設立黑龍江副都統，漠河為黑龍江副都統所轄。1691年(康熙三十年)設布特哈總管衙門(mén)，漠河境內原為黑龍江城所轄的鄂倫春、索倫、奇勒爾等牧獵地區，改屬布特哈巡查與管轄。

1882年(光緒八年)，漠河劃規興安城總管衙門(mén)。1883年俄人結伙在阿勒巴金河(今額木爾河)支流的什都哈河(今老溝河)流域盜采黃金，并成立所謂極吐?tīng)柤庸埠蛧?885年清政府察覺(jué)后令黑龍江副都統到漠河調查，1886年(光緒十二年)派兵消滅“‘極吐?tīng)柤印埠蛧?888年(光緒十四年)北洋政府于此處創(chuàng )辦漠河金礦總局。1894年(光緒二十年)后，漠河為黑龍江副都統下庫馬爾路協(xié)領(lǐng)管轄，1907年(光緒三十三年)興安城總管衙門(mén)裁撤黑龍江將軍衙門(mén)改行省。1908年(光緒三十四年)設黑河府，今漠河地域則隸屬黑河府管轄。同年，東三省總督徐世昌、黑龍江巡撫周樹(shù)模奏請設立漠河直隸廳，為緩設之缺，未及實(shí)行。

宣統元年(1909年)11月17日在漠河設立總卡衙門(mén)。總卡衙門(mén)為璦琿道所轄，委佐領(lǐng)文景為總卡官，同時(shí)成立漠河守備隊，在黑龍江沿岸漠河境內設監視所6處，由守備隊管轄。總卡官文景于1910年(宣統二年)五月初一正式接管一切地方事務(wù)，節制洛古河至安羅之間的8處卡倫。總卡衙門(mén)負責漠河一帶地方政治、軍事、經(jīng)濟、文化、稅收、民事和涉外事務(wù)等職責，是軍政合一的地方政權機構。是為漠河地方政權設治伊始總轄境域，西至洛古河卡倫以上8千米的額爾古納河口，下至呼瑪爾總卡所屬伊西肯卡倫分界，東西長(cháng)約350余千米。南以伊勒阿林山(今伊勒呼里山)山脊線(xiàn)與嫩江縣分界；北至黑龍江主航道分界與俄羅斯隔江相望。

1912年(民國元年)6月，北洋政府撤銷(xiāo)璦琿兵備道，7月在黑河成立黑河道。1913年(民國二年)，北洋政府又將黑河道改為黑河觀(guān)察使，漠河則先后隸屬于黑河道、黑河觀(guān)察使統轄。

1914年(民國三年)黑河觀(guān)察使又改為黑河道。同年7月1日漠河總卡衙門(mén)改為漠河設治局，管轄額爾古納河下游的珠爾干河和漠河兩處總卡所轄區域。設治局駐漠河街，漠河設治局隸屬于黑龍江省黑河道管轄。

1917年(民國六年)1月26日，漠河設治局改升為漠河縣，為二等縣，隸屬于黑河道轄治。

1929年(民國十八年)，廢道制，黑河道改為黑河市政籌備處。漠河縣改由省直轄，直屬黑龍江省公署，為一等縣。

1912年(民國元年)冬，因呼倫貝爾蒙古獨立，珠爾干河總卡宮趙春芳組織漢軍二營(yíng)占據吉拉林，與叛軍拼死戰爭。呼倫蒙古獨立后，唯珠爾干河總卡地不服叛亂。之后，黑龍江督軍命令趙春芳率兵退守漠河，并決定將珠爾干河總卡并入漠河總卡。1914年(民國三年)初，珠爾干河總卡轄地與漠河總卡轄地完全合并后，于同年5月間成立漠河設治局，其轄境范圍包括珠爾干河總卡并入轄地6．2萬(wàn)方里，合1．55萬(wàn)平方千米。轄境四至：東部以安羅卡轄界與呼瑪的依西肯卡轄界接壤，西部經(jīng)額爾古納河與俄羅斯的后貝加爾州為界，東西長(cháng)435千米，南至伊勒呼里阿林山與嫩江縣毗鄰，北至黑龍江主航道與俄羅斯的阿穆?tīng)栔轂榻纾媳睂捈s375千米。據1914年(民國三年)黑河道尹調查，漠河設治局轄境總面積為22萬(wàn)方里，合5．5萬(wàn)平方千米，相當于今天漠河縣總面積的3倍多。

1917年(民國六年)1月26日，漠河縣成立，縣轄區域與設治局區域相同，又據1928年(民國十七年)漠河縣公署內務(wù)調查統計，漠河縣總面積為30．36萬(wàn)方里，合7．59萬(wàn)平方千米。1929年(民國十八年)鷗浦設治建縣。將漠河東北部劃規鷗浦縣，漠河區域變化為：東至馬倫與鷗浦、呼瑪縣接壤，西至額爾古納河，與俄羅斯后貝加爾州為界，東西寬345千米，南至伊勒呼里山，與嫩江縣和牛耳河與呼倫貝爾的一部分為界，北至黑龍江主航道中心線(xiàn)與俄國阿穆?tīng)栔轂榻纾媳睂?75千米。

1931年“9·18”事變后，日本帝國主義侵入中國東三省，1932年4月1日，黑河淪陷。1934年1月，日軍討伐隊侵占漠河。同年5月，偽漠河公署成立，定為丙級縣。10月，偽滿(mǎn)政府決定將東北三省劃為14省，偽滿(mǎn)洲帝國民政部于黑河設立了黑河省，開(kāi)設辦事處，11月，改為黑河省籌備委員會(huì )，12月1日，偽黑河省在黑河宣告成立，漠河縣直至偽滿(mǎn)政府滅亡，均隸屬偽黑河省所轄。

據偽黑河省總務(wù)廳于1935年10月調查，漠河縣總面積32638．7平方千米。1939年6月，又將興安北省北部劃歸漠河縣管轄。其四至：東與鷗浦、呼瑪兩縣接壤，南與興安北省交界，西南、西部與室韋、奇乾兩縣毗鄰，西北和北部隔黑龍江中心線(xiàn)主航道與俄羅斯赤塔、阿穆?tīng)杻芍菹嗤?/p>

解放戰爭時(shí)期。1945年8月8日，蘇聯(lián)紅軍對日宣戰。8月11日，蘇軍陸、海、空三軍對漠河日軍發(fā)起進(jìn)攻，8月13日，漠河全縣光復。在此期間，漠河隸屬黑龍江省轄區內。1947年2月，黑龍江省和嫩江省合并為黑龍江嫩江聯(lián)合省，簡(jiǎn)稱(chēng)黑嫩省，成立黑龍江嫩江聯(lián)合政府，漠河縣為其第五專(zhuān)署(黑河)。3月，人民解放軍某部三旅挺進(jìn)漠河，解放漠河全境，同時(shí)撤銷(xiāo)縣制并入呼瑪縣。6月，黑河專(zhuān)署專(zhuān)員許烈到漠河視察，并率章文坦、謝寶齋2人帶工作隊正式接收漠河，成立“建聯(lián)會(huì )”，統管民主政權。9月，漠河復歸黑龍江省領(lǐng)導。

1948年1月，因西部斯大遼克距漠河太遠，交通困難，不便領(lǐng)導，黑河專(zhuān)署派“建聯(lián)會(huì )”主任謝寶齋到內蒙古協(xié)商劃界，將斯大遼克以西劃給內蒙古管轄，劃定洛古河以上第1號航標燈為內蒙古和黑龍江省的分界點(diǎn)，同時(shí)成為漠河西部的分界線(xiàn)。

1948年，土改運動(dòng)結束后，在原漠河縣設立呼瑪縣第五行政區，下轄漠河、額木爾、馬倫、開(kāi)庫康4個(gè)鄉。

中華人民共和國成立后，漠河仍為呼瑪縣領(lǐng)導。1958年，改鄉成立人民公社，由黑河專(zhuān)區呼瑪縣領(lǐng)導。1967年，呼瑪縣革命委員會(huì )成立，歸黑河地區革命委員會(huì )領(lǐng)導。1970年，呼瑪縣從黑河地區劃出，歸大興安嶺地區領(lǐng)導。同年8月5日，古蓮區和阿木爾區成立。1976年，將阿木爾西部劃出，成立圖強區，三個(gè)區均為縣級政企合一體制，均隸屬于大興安嶺地區領(lǐng)導。

1981年5月14日，國務(wù)院批準成立塔河、漠河兩縣，將呼瑪縣西北部的馬倫、開(kāi)庫康兩個(gè)公社劃歸塔河縣，將漠河、興安兩個(gè)公社和阿木爾、圖強、古蓮3個(gè)行政區及富克山待開(kāi)發(fā)無(wú)人區均歸漠河縣，縣人民政府于同年8月16日在西林吉鎮成立，歸黑龍江省大興安嶺地區行政公署領(lǐng)導。