劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　謝萬北征，常以嘯詠自高，未嘗撫慰眾士。謝公甚器愛萬，而審其必敗，乃俱行。從容謂萬曰：“汝為元帥，宜數喚諸將宴會，以說眾心。”萬從之。因召集諸將，都無所說，直以如意指四坐雲：“諸君皆是勁卒。”諸將甚忿恨之。謝公欲深箸恩信，自隊主將帥以下，無不身造，厚相遜謝。及萬事敗，軍中因欲除之。復雲：“當為隱士。”故幸而得免。

　　桓玄問羊孚：“何以共重吳聲？”羊曰：“當以其妖而浮。”