比干是商纣王的叔叔，同时也是商朝重臣，对于纣王的倒行逆施多次劝谏，可惜纣王不但不听，反而杀了比干。并抄了比干的家，比干的夫人当时怀有身孕，带着几个侍女逃到牧野避难，住在一个林中的石洞里，在这里生下一个儿子，取名坚。后来武王伐纣，牧野之战大破商军，纣王自焚而死，商朝灭亡。天下大定后，武王感于比干的忠君爱国，派人四处寻找比干后人的下落，在林中找到了比干的夫人和儿子。因为坚生于林中，于是武王赐姓林，并拜为大夫。于是比干就成了林姓祖师爷。

这个故事还有一个民间传说的版本，相传纣王剖了比干的心后，去比干家中抓人，府上一个女佣人也正好怀孕，有感于比干忠肝义胆，不想比干绝后，于是自己假装比干夫人，真正的比干夫人逃到了山林。后来武王伐纣，天下大定后，姜子牙开天眼，说民间有忠臣之后，于是派人到处找，找到了比干夫人和儿子坚，可是他们并不知道商朝已经灭亡，以为是来抓他们的，于是官兵问他们姓什么时，他们一看树林，答说姓林。姜子牙听说了，算到这林坚就是比干之后，于是带到了武王面前。后面的故事相同。

因为比干葬于现河南卫辉市，后来每年的四月初四比干诞辰，很多全球各地林氏子孙都会去卫辉市寻根问祖。

现在林姓早已发扬光大，据统计全国共有1400多万人，排名全国第16位，南方林姓尤其多，排到第四位。其中在福建省更是排名第一，占到全省的15%。