梁山泊又称梁山泺，最早见于《资治通鉴》。后周显德六年（959），“复汴水，浚五丈渠，东过曹、济、梁山泊，以通青、郓之漕”。可见，那时的梁山泊不过是连通青、郓漕运的一片水域，并不以汪洋浩瀚著称。大约在后晋开运和北宋天禧、熙宁年间，黄河先后三次大决口，滔滔的河水倾泻到汴、曹、单、濮、郓、澶、齐、徐等州，淹没的田野与零散的湖泊连成一片，形成了一个以梁山为中心、水域达八百里的大湖，统称为梁山泊。

当时，梁山泊的生态环境十分和谐，岸边有垂杨绿柳，湖上有鸥鹭翔集，荷花满望，渔歌唱和。宋代著名文学家苏辙途经此地，恍然有置身江南之感，禁不住在《梁山泊见荷花忆吴兴》（之一）中写道：花开南北一般红，路过江淮万里通。飞盖靓妆迎客笑，鲜鱼白酒醉船中。

不过，梁山泊的广阔开始引起了人们的注意。邵博《闻见后录》载：“王荆公好言利。有小人谄曰：‘决梁山泊八百里水以为田，其利大矣。’荆公喜甚，徐曰：‘策固善，决水何地可容？’刘贡公在坐中，曰：‘自其旁别凿八百里泊，则可容矣。’荆公笑而后止。”别以为这是反变法派编造的政治笑话，苏辙在另一首《梁山泊》诗中自注：“时议者将干此泊以种菽麦。”可见，北宋的改革家们确实在怎样利用梁山泊的问题上做过文章。

徽宗政和年间，朝廷成立了一个掌管公田的机构，名曰“西城括田所”。括田所以清理公田为名，把民间地契不全的、地契与实地方位或面积有异的，以及当权者想要的良田美地，一律指为公田。然后抑勒百姓承佃，强征公田钱。“由是破产者比屋，有朝为豪姓而暮乞丐于市者”。前后所括，共得田三万四千三百余顷。当然，梁山泊也在劫难逃。

《宋史·杨戬传》载：“梁山泺（泊）……绵亘数百里，济、郓数州，赖其蒲鱼之利。”杨戬宣布将整个梁山泊八百里水域全部收为“公有”，“立租算船纳直，犯者盗执之”。根据规定，百姓凡入湖捕鱼、采藕、割蒲，都要依船只大小课以重税，若有违规犯禁者，则以盗贼论处。自此之后，水泊梁山开始不得安宁。