据说王祥至孝，而且他所孝顺的是他的后母朱氏。他的后母人品一般，常在他的生父耳边“谮贬”王祥，以至于王融也渐渐讨厌王祥。但是在生父继母生病的时候，王祥却能衣不解带地伺候奉养。朱氏喜欢吃新鲜鱼，在一个天寒地冻的夜晚居然要求王祥为她去捉活鱼。王祥立刻来到河边，却见河上冰层极厚……正待他打算轮锹凿冰之时，冰面突然自行裂了个缝，从中蹦出两条鲜活的鲤鱼来到王祥脚下。这条传说后来又被可爱的古人们修改成王祥脱掉衣服用身体融化坚冰，这便是“卧冰求鲤”的传说。人们都为他的纯孝所感，便把那条河改名作“孝感河”。即便如此，后娘朱氏也经常虐待王祥，还让他在风雨交加的夜晚去找看果树。风雷震坼，天公威懔，谁又能以一人之力保护这几株果树呢？可是王祥做到了。每遇风雨，他便抱树而泣，后来这几株果树居然都枝桠无损。在今天，山东临沂孝感河边还有一块碑，他告诉人们：此地便是王祥“风雨守李处”……
王览和王祥不是一个妈妈，却非常爱护自己的哥哥。据说每次朱氏虐待王祥，王览便“与俱”，让朱氏狠不起来。长大之后王览更是多次劝谏母亲，为了防止母亲把王祥毒死，每次饭前他都要先尝一遍。
这哥俩的故事有些确实离奇，不能不排除被后人偶像化的可能。但是两人的孝友却还是可信的，这一方面从时人对他们的评价可以看出，也可以从当时的社会风气推断。东汉尚名教，忠义孝信既是朝廷选拔人才的衡量标准，也是当时人的行为信条。德操人品在当时为人所重，王氏兄弟的孝友仁爱，本就是很平常的事情了。东汉“伪名士”很多，而且很多都被戳穿，王祥哥俩的好名声却伴随他们始终，看来他们应该不是装的了。
不过，从兄弟俩的行为中，我们却可以看到这个家族得以兴旺的一个深层原因：王氏家族在以后几百年的发展过程中，在多数情况下都能够互相影响互相提携甚至互相庇阴，并且坚持家风家学教育，使得王家能够世代繁盛不衰，盛名播于江左。
兄弟俩的孝悌给他们带来了好名声，也给他们搭起了步入仕途的阶梯。汉魏时期从征辟制到九品中正的人才选拔制度，从月旦到清议，高尚的操守还是为人所重的。因此，当王家因避战乱来到庐江之后，便“屡受征辟”。终于，在虐待了王祥半辈子的后母死后，王祥应徐州刺史吕虔之邀，作了已经篡汉的魏朝的别驾。从此，琅琊王氏家族开始步入中国政治舞台。
琅琊王氏家族据说是汉代谏议大夫王吉的后代。王祥的祖父王仁还作过青州刺史，可是王祥、王览的父亲王融却“公府辟不就”，不肯做官。这个平民老头也许不知道，在他身后，他的后代们将在中国统治层的金字塔尖活跃数百年。
王祥仅比诸葛亮小三岁。在他出任别驾的时候已经是个老者了。不过他的政绩不错，吕虔又非常信任这个孝子。他击灭匪盗，大行政事，不长的时间内就把州中智力的井井有条，人民安居乐业。当时有歌谣说：“海沂之康，实赖王祥。邦国不空，别驾之功。”
此后，王祥的官越做越顺，最后直到封万户亭侯，位列九卿。太学以之为“三老”，他南面几杖，教诲天子，位极荣宠，成为一个资深老官僚。
王祥在朝廷作大官的时候，正是司马氏横行的年代。甘露五年，曹髦被司马氏兄弟杀死。这时，朝廷中人人自危，王祥却抱着小皇帝的尸体大哭，并高喊：“老臣无状。”这个行为一方面表示了他对旧主的忠心，使其他人“面有愧色”。另一方面，这“老臣无状”的自责又把错误都推到了高贵乡公身上，替司马兄弟的丑行进行了开脱。聪明绝顶的司马兄弟怎能不领情？于是，孝友忠义并且勇于批评和自我批评的老王祥不但没有受到牵连，反而升为三公。
咸熙二年，也就是晋取代魏的前一年，司马昭被封为晋王，同为三公的何曾、顾顗（音蚁）和王祥前去庆贺。前两者都是晋公的心腹，事前和王祥商量是不是要跪拜。王祥危言道：“相国诚为尊贵，然是魏之宰相。吾等魏之三公，公王相去，一阶而已，班例大同，安有天子三司而辄拜人者！损魏朝之望，亏晋王之德，君子爱人以礼，吾不为也。”拒绝向司马昭跪拜，看起来象是很有骨梗之气，其实这仅仅是一方面。另一方面，三公在晋公面前下跪磕头，确实容易让司马昭难堪，这么做也算是替司马氏考虑。司马昭自然也对这件事情心知肚明。