第二节是全诗的主体部分，为了表现颂歌的气势，“由男高音独唱，歌带悲壮，在伴奏中可以听出黄河奔流的力量”（冼星海《我怎样写〈黄河〉》）。第二节歌词的内容层次比较分明，并且有明显的关键词语可作为思路梳理的依据。首先，是“望黄河滚滚”的“望”字，一直统领到“把中原大地，劈成南北两面”。

而这所“望”的内容，既有写实的成分，也有雄奇瑰丽的想像，条理清楚，章法严谨。接着，开始赞颂黄河对于中华民族的伟大贡献，进入“颂”的阶段。“啊！黄河！”反复出现，把从“啊！黄河！／你是中华民族的摇篮”到“将要在你的哺育下／发扬滋长”分为三个层次，歌颂黄河养育了中华民族，指出黄河的历史贡献；像一道天然屏障保卫着中华民族，指出黄河的地理优势；最后由实到虚，歌颂黄河流域宽广，泽被众生。