羊侃字祖忻，泰山梁父人也。父祉，北史有传。侃少而瑰伟，身长七尺八寸，雅爱文史。弱冠随父在梁州立功，初爲尚书郎，以力闻。魏帝常谓曰：「郎官谓卿爲虎，岂羊质虎皮乎？试作虎状。」侃因伏，以手抉殿没指。魏帝壮之，赐以珠剑。正光中，秦州羌莫折念生据州反，仍遣其弟天生攻陷岐州，寇雍州。侃爲偏将，隶萧宝寅往讨之，射杀天生，其衆即溃。以功爲征东大将军、东道行台，领泰山太守，进爵钜平侯。

初，其父祉恒使侃南归，侃至是将举济、河以成先志。其从兄兖州刺史敦密知之，据州拒侃，侃乃率精兵三万袭之，不克，仍筑十馀城以守之。梁朝赏授一与元法僧同。魏帝闻之，使授侃骠骑大将军、司徒、泰山郡公，长爲兖州刺史。侃斩其使。魏人大骇，令仆射于晖率衆十万及高欢、尔朱阳都等相继而至。栅中矢尽，南军不进，乃夜溃围而出。一日一夜，乃出魏境。至渣口，衆尚万余人，马二千匹。将入南，士卒竟夜悲歌，侃乃谢曰；「卿等怀土，幸适去留。」各拜辞而去。

侃以大通三年至建邺，授徐州刺史，并其兄默及三弟忱、给、元皆拜刺史。侃封高昌县侯，累迁太子左卫率，中。车驾幸乐游苑，侃预宴。时少府奏新造两刃矟成，长二丈四尺，围一尺三寸。帝因赐侃河南国紫骝令试之。侃执矟上马，左右击刺，特尽其妙。观者登树。帝曰：「此树必爲侍中折矣。」俄而果折，因号此矟爲折树矟。北人降者，唯侃是衣冠馀绪，帝宠之踰于他者，谓曰：「朕少时捉矟，形势似卿，今失其旧体，殊觉不奇。」上又制武宴诗三十韵示侃，侃即席上应诏。帝览曰：「吾闻仁者有勇，今见勇者有仁，可谓邹、鲁遗风，英贤不绝。」是日诏入直殿省，啓尚方仗不堪用。上大怒，坐者非一。及侯景作逆，果弊于仗粗。

后迁都官尚书，尚书令何敬容用事，与之并省，未尝游造。左卫兰钦同侍宫宴，词色少交，侃于坐折之曰：「小子！汝以铜鼓买朱异作父，韦粲作兄，何敢无宜适。」朱时在席。后华林法会，钦拜谢于省中。王铨谓钦曰：「卿能屈膝廉公，弥见尽美；然羊公意犹未释，容能更置一拜？」钦从之。宦者张僧胤尝候侃，侃曰：「我床非阉人所坐。」竟不前之。时论美其贞正。

太清元年，爲侍中，会大举北侵，以侃爲冠军将军，监作寒山堰事。堰立，侃劝元帅贞阳侯明乘水攻彭城，不见纳。既而魏援大至，侃频言乘其远来可击，旦日又劝出战，并不从。侃乃率所领顿堰上。及衆军败，侃结阵徐还。

二年，复爲都官尚书。侯景反，攻陷历阳，帝问侃讨景之策。侃求以二千人急据采石，令邵陵王袭取寿春，使景进不得前，退失巢窟，乌合之衆，自然瓦解。议者谓景未敢便逼都，遂寝其策。令王质往。侃曰：「今兹败矣。」乃令侃率千馀骑顿望国门。景至新林，追侃入副宣城王都督城内诸军事。

时景既卒至，百姓竞入，公私混乱，无复次序。侃乃区分防拟，皆以宗室间之。军人争入武库，自取器甲，所司不能禁，侃命斩数人方得止。是时梁兴四十七年，境内无事，公卿在位，及闾里士大夫莫见兵甲。贼至卒迫，公私骇震。时宿将已尽，后进少年并出在外，城中唯有侃及柳津、韦黯。津年老且疾，黯懦而无谋，军旅指撝，一决于侃，胆力俱壮，简文深仗之。