白钺是兵部尚书白圭之子。白钺于成化十六年（1480)，参加顺天府乡试获得第一名，解元。成化二十年（1484）考中榜眼，授翰林编修。
白钺，博览群书，长于记诵，体貌魁梧，器宇不凡。为礼部尚书时，正值宦官刘瑾用事，遇有两难之处，宁可稍为逊避，这在当时亦不失其为正。
弘治九年（1496）五月，白钺升为翰林侍读，充东宫讲读。弘治十六年（1503)，以修《大明会典》成，升为侍讲学士。弘治十七年(1504)，出任应天府乡试主考官。正德元年（1506)，以曾为东宫讲读升翰林学士，充日讲官。正德二年（1507）正月，与状元李旻教习庶吉士，掌翰林院事。四月，又升为礼部右侍郎。不久，改吏部。正德三年（1508)十月，任礼部尚书，赐玉带。正德五年（1510)九月，命兼学士，掌詹事府事，入内阁，专典诰敕，加太子太保。十月，病逝。赐祭葬，赠太子太保，谥文裕。大学士李东阳为其撰写墓志铭，称白钺“为人重厚，政尚宽简”。
著有《怡靖稿》若干卷。