1954年2月至6月中蘇專家共120餘人行程1200公里進行了黃河現場大考察。在蘇聯專家的指導和幫助下，1954年10月中共完成了《黃河綜合利用規劃》的編制。黑山峽大壩工程作為治理黃河的四點重點水庫大壩工程就出現在《黃河綜合利用規劃》中，其他三個工程分別是黃河三門峽、劉家峽和青銅峽大壩工程。
1955年7月18國務院副總理鄧子恢在第一屆全國人民代表大會第二次會議上做《關於根治黃河水害和開發黃河水利的綜合規劃的報告》，提請全國人民代表大會審查批准興建黃河三門峽大壩工程。
鄧子恢在報告中論述了中共治理黃河的任務：「我們的任務就是不但要從根本上治理黃河的水害，而且要同時制止黃河流域的水土流失和消除黃河流域的旱災；不但要消除黃河的水旱災害，尤其要充分利用黃河的水利資源來進行灌溉、發電和通航，來促進農業、工業和運輸業的發展。總之，我們要徹底征服黃河，改造黃河流域的自然條件，以便從根本上改變黃河流域的經濟面貌，滿足現在的社會主義建設時代和將來的共產主義建設時代整個國民經濟對於黃河資源的要求。」
中共的決心很大，既要從根本上治理黃河的水害，還要制止黃河流域的水土流失和消除黃河流域的旱災，又要充分利用黃河的水利資源來進行灌溉、發電和通航。
作為馬克思列寧主義的理論依據，鄧子恢在報告中搬出了斯大林的教導：「斯大林在「蘇聯社會主義經濟問題」一書中曾說過一段著名的話：「在上古時代，江河泛濫、洪水橫流以及由此引起的房屋和莊稼的毀滅，曾認為是人們無法避免的災害。可是，後來隨着人類知識的發展，當人們學會了修築堤壩和水電站的時候，就能使社會防止在從前看來是無法防止的水災。不但如此，人們還學會了制止自然的破壞力，可以說是學會了駕馭它們，使水力轉而為社會造福，利用水來灌溉田地，取得動力。」我們今天所要做的工作正是如此。」
鄧子恢解釋說：「黃河綜合利用規劃包括遠景計劃和第一期計劃兩部分。遠景計劃的主要內容，首先就是所謂「黃河幹流階梯開發計劃」，也就是前面所說的在黃河幹流上修建一系列的攔河壩，從而把黃河改造成為「梯河」的計劃。這一計劃撰定由青海貴德上游龍羊峽起，到河南成皋桃花峪止，按照河流的特點，把黃河中游分做四段來分別加以利用。第一段從龍羊峽到甘肅金積縣境的青銅峽。這一段河道穿行山嶺之間，河身的坡度很陡，水力資源很豐富，而新的工業區域正在迅速發展，所以需要着重利用水力來發電，同時可以利用水庫來防洪和灌溉。第二段從青銅峽到內蒙古自治區的河口鎮。這一段兩岸是山谷間的平原，土壤肥沃，但是缺少雨水，河道開擴，坡度平緩，宜於通航，因此這一段主要的任務是發展灌溉和航運。第三段從河口鎮到山西河津的禹門口。這一段黃河進入山西、陝西兩岸的峽谷，河道坡度很陡，但因地質條件和地理條件的限制，不能修建大的水壩和水庫，只有在上游調節流量的大水庫建成以後才能利用水力來發電。第四段從禹門口到桃花峪。這一段從禹門口到陝縣兩岸是黃土原地，河道開擴；從陝縣到孟津是峽谷地帶，是控制黃河下游洪水的關鍵地段，又同山西、河南、陝西的工業區都靠近，因此這一段的主要任務是防洪和發電；從孟津以下基本上是平原，河道平緩，可以設垻灌溉附近的重要農業區。根據初步設計，在上述黃河中游的四個河段準備修建適應於不同條件不同任務的攔河壩四十四座，另外在黃河下游也準備修建用於灌溉的攔河壩兩座，共為四十六座。」
根據詳細的勘測和周密的研究，黃河幹流階梯開發計劃選定在陝縣三門峽地方修建一座最大和最重要的防洪、發電、灌溉的綜合性工程。三門峽縣以東和著名的「中流砥柱」以西，河心有兩座石島河道隔成所謂「人門」「神門」「鬼門」的「三門」。由於河道窄狹，河底都是堅固的岩石，便於修建大型的水壩。計劃中的垻高九十米左右，攔阻河水的水位可以高出海面三百五十米。被攔阻的河水由陝縣上溯到潼關以北臨晉和朝邑的黃河兩岸，潼關以西臨潼以下的渭河兩岸和大荔以下的北洛河兩岸，形成巨大的水庫。它的容積達到三百六十億公方，僅次於世界最大的古比雪夫水電站的水庫，等於我國現有較大的水庫豐滿水庫（一百億公方）的三·六倍，宮廳水庫（二十二億七千萬公方）的十六倍。它的面積約為二千三百五十平方公里，比太湖（二千二百多平方公里）還大些。此外，在青海的龍羊峽、積石峽（黃南藏族自治州）和甘肅的劉家峽（永靖）、黑山峽（中衛）也將修建大型的綜合性工程。其中劉家峽水庫容積可達四十九億公方。」
黑山峽水庫大壩工程以顯著的位置出現在鄧子恢副總理的報告中。
第一屆全國人民代表大會第二次會議審查批准了興建黃河三門峽水庫大壩工程的議案，蘇聯專家組組長柯洛略夫被任命為三門峽水庫大壩工程設計總工程師。
1957年4月13日黃河三門峽水庫大壩工程開工修建，
1958年黃河劉家峽水庫大壩工程開始修建。
龍羊峽和黑山峽水庫大壩工程準備晚一些時間開工建設。
1960年9月三門峽水庫開始蓄水，1961年4月大壩主體工程完工，1961年2月第一台15萬千瓦機組開始發電。一切似乎十分順利。
二、黃河三門峽水庫大壩工程的失敗
但是從1960年9月到1962年3月，三門峽水庫蓄水1年半，水庫中淤積泥沙達15.3億噸。泥沙淤積抬高了潼關水位4.4米，並在渭河入黃河的河口形成攔門沙，渭河下游兩岸受淹沒，地下水位抬升，土壤出現鹽鹼化。三門峽水庫清水下泄，幾乎衝垮了當時最重要的交通幹線鄭州黃河鐵橋的橋墩，威脅黃河河堤的安全，沖毀了大量的農田，損失十分慘重。
