徐琼自幼聪慧又博通经史，才华出众。景泰年乡试第四十二名。天顺元年（1457)会试第三十六名，殿试一甲第二名，授翰林院编修，参与《大明一统志》、《英宗实录》的编纂工作。成化三年(1467）八月，升侍讲。成化七年（1471)徐琼充任应天府乡试主考官。成化十二年（1476)十二月，升侍读学士，掌管南京翰林院事。
成化年中，司礼太监黄赐的母亲去世，廷臣皆去凭吊，翰林却没有人去。当时徐琼想与众位翰林-商议也去凭吊，编修陈音大怒道：“堂堂翰林相率而拜中人之门，天下其谓何？斯文其谓何？”词语激愤，闻者畏惧，徐琼碰了一鼻子灰。
成化二十三年（1487）春，徐琼升为南京太常寺卿，任南京国子监祭酒。弘治三年（1490）升为南京礼部右侍郎，任满进京，改礼部左侍郎。弘治九年四月，又升为礼部尚书。弘治十一年加太子少保。弘治十三年五月，徐琼请求致仕归养。皇帝念其为朝廷效劳年久，特晋升为太子太保，赐敕给驿归。朝廷还诏告地方-月给米，岁给役，以示优礼。弘治十八年（1505）六月，徐琼卒于家。
徐琼为人气度端雅，为官敢于言事，曾上疏提出：“禁奢侈，广用人，抑奔竞，开言路”的主张。又因四方灾异上言，请皇上“勤圣学、崇君德、罢斋醮、停工役、禁传奉、辨忠邪”。人称他有古大臣之风。徐琼在文学上有较高的造诣。早年书法逼晋，文章写得明快畅达，时有警语，智慧超群，文辞浩渺，一时名流为之倾倒。但徐琼为官建树不多，为翰林时曾纳一妾，靠此妾与皇后、妃子有点关系，徐琼升迁的很快，据说其被提拔为尚书，是孝宗特旨。因此，常有-论劾，说他有所攀附。此论一直闹到徐琼不得已退休归养。但也有人对徐琼称善不已，当时南京太常少卿罗玘就说：“徐琼之量宏矣而无量名，文优矣而无文名，书善矣而无书名。”有“三不近名”之誉。
著有《东谷文集》。