同治七年（1868年）3月17日生于苏州。父亲俞祖仁有病，故俞陛云出生后即跟随他的祖父母，由祖父亲自教育，《曲园课孙草》就是俞樾（号曲园）为此而编写的。
1881年与彭雪琴尚书之长孙女（名见贞，字素华），结婚。
光绪十年（1884年）应县试考取秀才第一名。 1885年9月赴浙江应乡试，俞陛云中举人第二名，称亚元。
1894年彭夫人病故。1895年11月俞陛云的祖父为他续娶杭州名门之女许之仙为妻（即俞平伯之生母，也通诗文）。
1898年（光绪二十四年）戊戌科中进士后参加殿试，与夏同龢、夏寿田同登戊戌科进士前三名，俞陛云以一甲三名赐探花及第，授编修。
1902年（光绪二十八年）钦命出任四川副主考。翌年由江苏巡府以俞陛云长经史，不独以科贸见长，保举应经济特科复试，名列一等。
1912年（民国元年）任浙江省图书馆监督（馆长）。
1914年被聘为清史馆协修，编修清史，不久由此移居北京，与爱新觉罗·溥仪私交甚厚。
1932年3月，接溥仪邀佐政伪满洲国书，撕信逐使，终生不与往来。
1937年芦构桥事变后，他不愿出任敌伪工作，居京郊寓所，以卖字谋生，闭门以书、画自娱，保持民族气节。
1950年10月12日卒于北京。
光绪二十八年，俞陛云出任四川乡试副考官。提出阅卷不分主次，正副主考各自挑选，但在固定的名额中选合格的试卷。俞陛云选中十四名举人，此后这十四名考生成为他的门生。第二年应礼部春闱，其中十人考中进士。可见俞陛云慧眼识才。俞陛云完成差事回京，旅途多有名胜古迹，俞陛云诗兴大发。由于是皇帝钦派赴成都提督乡试，故称此诗文为《蜀輶诗记》。光绪二十九年，引见散馆人员，光绪皇帝下旨，俞陛云、夏寿田业经授职编修，其余人等分别授职。同年，俞陛云由翰林院编修，征举经济特科。闰五月，礼部引见考取经济特科人员，得旨，翰林院编修俞陛云等著记名遇缺题奏。
民国三年（1914），俞陛云应聘入清史馆。1950年，俞陛云去世。俞陛云自幼受曲园老人（俞樾）教育培养，着力于诗词、文章。俞陛云写诗自16岁开始，到20岁弱冠，已积诗千余首，俞樾为此诗集题名《小竹里馆吟草》。以后，俞陛云谨记祖父关于诗的教诲“贵真而忌浮”，坚持数十年。但他不屑以诗闻名天下，所以直到他的下一代，才将他的诗稿整理、刻印、出版。俞陛云在词的方面也有研究，有《乐静词》初编以及《乐静词》二编。
晚年的俞陛云以读书自娱。由于他对梅花的偏爱，见到涉及梅花的故事，即随手录下来，并缀以诗，天长日久汇成《梅花记事百咏》。时称此事为“人与花契，人不异花；花以人传，花不异人。”
此外，他为悼念他的夫人彭氏，还写了不少表达自己悲切、思念之情的诗作，汇集为《徇华室诗纪》，刊刻成行。他的著作《诗境浅说》，影响久远，此书在1984年上海书店再次印行，发行极广。
西湖不厌百回经。风日忆承平。画船散后供幽赏，烟云态、百变阴晴。
秋在寂无人处，诗怀荡入空明。
凤林重听晚钟鸣。坏壁认题名。墙阴一片苔衣绣，想拈毫、曾立娉婷。
摇落江天文藻，钱塘凄咽潮声。
试招来、辽鹤下空冥，回首旧瑶京。看九衢车马，万家门帖，物态全更。
凄绝梁园词笔，霜雪老枚生。且酹花前酒，一醉无名。
浩荡风轮火劫，扫霸图王迹，瞥眼消沈。忆钧天残梦，犹及见承平。
听隔座、嬉春弦管，到愁边、都作断肠声。凭阑望，绕城山色，冷碧无情。
