传说古时候有两座大山，一座叫太行山，一座叫王屋山。这两座山从山下到山顶，有一万多丈高。绕着山走一圈，有七百里，它们原来位于冀州的南部、黄河的北岸。
与两座山正对着的北山脚下住着一户人家，当家的是一位快九十岁的老人。老人很善良，但脾气倔犟，只要他认准了的事，哪怕别人说不可能，他也会固执地做下去。人们认为他过于认死理，也就是“愚”所以都叫他“愚公”。
太行、王屋两座大山把他家门前的风景全部挡住了，而且家人出门办事也没有一条道路可以直通外面，必须先绕着大山走一大圈，非常不方便。于是，有一天，他把家人都叫到跟前来，对他们说：“门前那两座山，我厌恶它们已经很久了！它们挡在那里，每次我们出门办事，总要兜个大圈子，实在很不方便。我想把它们搬走。”
家人都觉得老人的话很有道理，但他的妻子提出疑问：“凭您的力量，连魁父这样的小山都不能削减，又怎能把太行、王屋两座山挖平呢？况且，山上的土石又放到哪里去呢？”
愚公想了想，说：“我们把它们移到渤海去。”听他这么说，妻子不再说话。
于是，愚公带领大家即刻动手，挖土的挖土，运泥的运泥，干得热火朝天。
离愚公家不远处有一户人家，丈夫死得早，寡居的妻子和她刚刚七八岁的小儿子生活在一起。小孩看愚公家的人干得这样津津有味，也蹦蹦跳跳跑来帮忙。
从两座大山到东方的渤海，路途遥远，等他们车拉筐抬，把泥土运到渤海再返回来，半年的时间就过去了。但是，他们一家人并不认为这会妨碍他们移山的计划，仍是日夜不停地挖掘、搬运土石，周而复始，锲而不舍。
太行山和王屋山下有一条河，河水沿着山脚蜿蜒流出，在大山的拐弯处河道变宽，拐个弯汇入另一条河。这两条河的交汇处有一片三角洲，土地肥沃，水草丰美。三角洲上也住着一位老人。这个老人喜欢动脑子，凡事都会认真权衡利弊，再做出选择。大家都认为他很聪明，所以叫他“智叟”。
愚公带领家人移山的事情被智叟知道了，智叟觉得愚公真是愚不可及。他拄着拐杖，步行了好长一段路，来到愚公和家人劳作的地方，说：“老头，你先歇口气。我来问你，你这是干什么呀？”
“我想把这两座大山搬走。”愚公头也不抬地回答。
“唉，你真是太不聪明了！我问你，你觉得是移走两座大山容易，还是搬家容易呢？”
“当然是搬家省力。”愚公回答。
“那问题不就解决了吗？你移山不就是因为山挡路了吗？你搬到山外边去，它们不就挡不住你的路了吗？”
“问题是我不想搬家！”
“唉，”见愚公这么倔，智叟叹了口气，“果然是个愚公，真是名不虚传啊！”但他还想最后劝他一次，于是又说：“你们干了这么久，连半个小山尖也没能搬走。想一想，就凭你们几个，整座大山能移走吗？”
听了这话，愚公放下镐头对智叟说：“人们都说你聪明，我看你得见识还不如寡妇个幼小的孩子。没错，我是老了，可我还有儿子、孙子呀。即使我死了，他们还会继续挖；等我的儿子们死了，孙子接着挖；孙子死了，孙子的儿子再接着挖。这样，儿子又生孙子，孙子又有儿子，子子孙孙没有穷尽，可是山不会增高加大，为什么会移不走呢？”
这下，智叟无话可说了。他无奈地摇摇头，拄着拐杖一步一步返回了三角洲。
不料，他们的对话被手握长蛇的山神听见了？他还真怕愚公把山移到海里去，连忙向天帝报告了这件事。天帝听了，觉得很好笑，但是又被愚公的精神所感动。于是，他找来夸娥氏的两个儿子，让他们趁着夜色，把两座山都背走了，其中一座山被背到了朔东，另一座则被背到了雍南。
从此，冀州的南部，汉水的南面，没有高山阻隔了，愚公一家也不必再绕道而行了。