祥云寺地处黄河之滨，千百万年来的黄河决口、沉淀，形成了现今独特的中牟黄沙丘陵地貌。该地土质松软，极易干旱。传说有一年夏季，此地又逢大旱。连续数月不见降雨。农民靠挑池塘、小溪之水播种的庄稼苗眼看着将要旱死，而池塘、小溪里面的流水也日见干涸。当地老百姓个个唉声叹气，甚至有些百姓打理行李，准备外出逃荒。当地官吏是一个清官，眼看这情景也是心急万分，可是又没有什么办法。

　　这天县官带人去视察旱情，看着将要枯死的整地禾苗，县吏禁不住潸然泪下。就在这时候，忽然对面走来一个穿着破烂的流浪汉，而且口里在唱着歌谣 “天也灵，地也灵，唯有佛祖最为灵;不用急，不用燥，佛祖显灵自然笑。”县吏看到过路人这奇异举动，感到莫名其妙。县吏身边有一位师爷是位很聪明的人，他幡然醒悟：“难道是佛祖点化?”于是他贴近县官，掩口告诉他说：“这可能是佛祖点化，让我们不用担心吧。”县官半信半疑，就命令师爷：“把刚才那个过路人叫来，问个仔细。”当大家回过神找那过路人时，那穿破衣的过路人却没了踪影。县官一下子就怔住了，心想：“莫非真是佛祖要帮忙吗?”于是就吩咐手下，前往肖韩寺，去求佛祖显灵。

　　他们来到寺院门口，方丈已经在山门口等候了。县官向方丈说明情况，要祈求佛祖显灵，降雨济生。方丈说：“佛祖显灵，重要的是我们要心诚。俗话说 ‘心诚则灵’嘛。”县官说：“好，那就设坛吧。”于是县官在佛前摆了一个供桌，上面放了一个粮斗。斗里下面放了很多炸药，炸药上放一层沙土。把三柱香插在斗里面，拜了三拜。县官心里想，我身为父母官，不能看着子民饿死。如果求雨不成，我也不苟且偷生。于是向佛祖祈祷：“愿佛祖显灵，拯救苍生。如果灵验，我将率民重塑佛祖金身，扩建殿宇。如若不验，本官誓与此斗共存亡。”

　　三支香很快就烧了一半，可是烈日炎炎，不见半点下雨的迹象。县官和很多百姓都心急如焚，汗流浃背。只有肖韩寺的方丈盘坐一边，手掐念珠，纹丝不动。又过一会，三支香烧得只剩1寸长了，还是没有变化。县官心想：“佛祖不验，我死不瞑目。”就在香烧到只剩一扁指的时候，忽见大殿里飘出一朵祥云，迅速升到天空、变大，而且电闪雷鸣，倾盆大雨从天而降，把斗里的香火浇灭了。雨一直下了很久，解救了这场大旱之灾。

　　事情过后，县官及当地老百姓为感佛祖之恩，兑现了诺言。为寺院重修了大殿，并为佛祖重塑了金身，非常庄严。而且为纪念佛祖化祥云施雨济众，遂将肖韩寺改名祥云寺，至今有些老人还一直称该寺为“小槐寺”(肖韩寺)。