黄由自幼好学，年方十二三岁便教授群童读书，20岁时考入太学。考取状元后，通判绍兴府，当时大旱，黄由赈灾有政绩，升秘书省正字，迁著作佐郎。后奉命出使金国，回国后升任将作监、嘉王府赞读。绍兴中（1190～1194），因帮助宁宗即位，深得宁宗赏识，权礼部尚书兼吏部尚书。行将委以重任之时，上疏劝阻罢斥道学人物，忤怒帝旨，被-，知成都，以学士奉祠。嘉定初（1207），知绍兴府，进浙东安抚使，官至正奉大夫，刑部尚书兼直学士院。死后，追赠太子少师。
黄由擅长诗文，其《归来》诗描绘了恬淡的田园生活。诗云：“归来三阅月，无事一关心。刈草寻花径，开池漾竹阴。江边问明月，天际数归禽。幸有高宾至，相逢似竹林。”