陈玉林，乳名细弟，南平县(今南平市)人。生于清光绪二十五年(1899)八月二十八日。祖籍长乐县，父迁樟湖坂定居，以打铁为生。陈玉林于宣统元年(1909)开始学打铁。民国3年(1914)冬，经樟湖坂基督教堂介绍，进南平流芳学校工读。民国5年在南平县□吡哩医院附设高级医士班学习6年毕业。民国11年1月，陈玉林任南平吐吡哩医院(民国29年改称卫理医院)医师，后改任沙县卫理医院院长。民国12年他与吐吡哩医院护士长赫慕德(美国人)结成伉俪，婚后其妻入中国籍。民国13年入山东齐鲁大学医科进修一年。民国15年9月，玉林任吐吡哩总医院医师。当年底在南平中山路开设惠民医院，是闽北私人开业最早的一所医院。民国17年春，基督教南平议会选陈玉林赴美出席教友代表总议会会议。他探望在美国的美籍岳父，随后在美国加利福尼亚大学医科进修眼科，于民国18年底回国，任惠民医院院长。民国19年春，第二次基督教南平议会教友代表又选他赴美出席总议会会议，再入美国哈佛大学医院专门实习小儿科，年底回国在惠民医院继续任院长。
中华人民共和国成立后，人民政府对私立医院和诊所进行改造整顿，组成联合诊所。惠民医院并入市人民医院(今中医院)，陈玉林任院长。1953年他自动参加延、沙、永公路修建巡回医疗队，受到上级表彰。1959年市人民医院并入市立医院，他为副院长。他连续被选为南平市政治协商委员会第二、三、四、五、六届委员。
“文革”中，陈玉林被错列为“特嫌”，停职审查。后平反昭雪。1990年8月逝世，终年91岁。