1909年清政府成立了游美学务处，负责直接选派学生游美，同时着手筹设游美肄业馆。1910年11月，游美学务处向外务部、学部提出了改革游美肄业馆办法。其中提到，因已确定清华园为校址，故呈请将游美肄业馆名称改为“清华学堂”。12月，清政府学部批准了这个改革办法。之后，清末兼管学部和外务部的军机大臣那桐于宣统辛亥年（1911年）为清华学堂题写了校名。我们今天看到的清华学堂大楼大门外，正额“清华学堂”四字即为那桐手书。
清华学堂大楼分西部、东部两期建成。其西部建于1909～1911年，学校同期兴建的还有二院（在清华学堂以北、电机馆的西边，现已拆除）、三院（在大礼堂以北，现已拆除，在其原址扩建新图书馆）、同方部等一批建筑。俟这批建筑基本竣工后，清华学堂于1911年4月29日在清华园开学，这就是清华历史的开端。周诒春校长到职后积极筹备改办大学，在任职期间（1913年8月～1918年1月）又盖了一批适应未来大学需要的高标准建筑（清华著名的“四大建筑”——大礼堂、图书馆、科学馆、体育馆均始建于周诒春任内）。其间，1916年清华学堂大楼向东进行了扩建，扩建后总建筑面积达4560平方米。当时清华学堂是清华园内第一座“大楼”，虽然高不过两层，但因四大建筑那时还未落成，故在当时的校园建筑中已是鹤立鸡群了。
清华学堂大楼西部建成后成为高等科学生的教室，东部建成后曾是高等科毕业班的学生宿舍，所以历史上也称“高等科”。高等科宿舍的设施相当华丽舒适，有闪闪发亮的打蜡地板，能抵御北方风沙的双层拉窗。据1923年毕业于清华学校的梁实秋先生回忆：“临毕业前一年是最舒服的一年，搬到向往已久的大楼里面去住，别是一番滋味。这一部分的宿舍有较好的设备，床是钢丝的，屋里有暖气炉，厕所里面有淋浴有抽水马桶。不过也有人不能适应抽水马桶，以为做这种事而不采取蹲的姿势是无法达成任务的……”在这里，当时清华学校的学生在毕业留洋前，已可以预先领略一下西方的生活方式了。
上个世纪二十年代，清华学堂曾是培养国学人才的摇篮。1925年，曹云祥校长执掌校政时，清华增设新制大学部和国学研究院。学校特别注意延聘名师，先后聘请了王国维、梁启超、陈寅恪、赵元任等著名学者担任清华国学院的“四大导师”。他们和考古学家李济、文学家吴宓等荟萃于清华学堂，培养学生分别研究中国文、史、哲诸学。国学研究院开设了古史新证（王国维先生）、中国通史（梁启超先生）、方言学（赵元任先生）、人文学（李济先生）等课程，除中国通史在同方部外，其余课程均在清华学堂117号教室讲授。由于种种原因，清华国学院于1929年终结。国学院存在的时间虽短，但为我国培养了一代国学专家，其中成就卓著为人们所熟知的有：姚明达、罗根泽、陈守寔、刘盼遂、刘节、陆侃如、谢国桢、王力、高亨、王静如、徐中舒、姜亮夫、戴家祥、蒋天枢、朱芳圃等。
在20世纪三四十年代，学校的教学、行政等领导机构基本都设在清华学堂大楼里。解放初期，学堂西部仍是校领导机关（校委会）所在地，东部的一部分曾用作中共清华党总支的办公室。五十年代以后，梁思成为主任的清华建筑系迁入此楼，清华学堂大楼成为建筑系专用系馆。那时，人们步入清华学堂，会看到门厅和长廊上悬挂了琳琅满目的名画，感受到浓厚的文化艺术气息。然而在“文革”期间，清华学堂大楼因年久失修遭到了严重损坏。
文革”结束后，关于如何处理这座残旧的建筑，曾存在着不同的意见。在刘达校长的坚持下，由张维副校长亲自向技术室下达修缮加固任务。1978年底学校基建处许大华等人经丈量重新绘制了、档案馆目前仅存的清华学堂的建筑图。在翻修过程中拆除了一楼腐朽的木地板，填平了积水的地下室；为了抗震还用钢材加固了二层楼板和整体结构，外观也被修葺刷新。如今清华学堂建筑面积仅有3600平方米，作为清华园内早期的文物建筑被保留了下来。但是屋面原为红瓦，现为（内侧）灰（外侧）红两色瓦。外部砖石经历多年风化侵蚀，现开裂剥落较多。清华学堂是校园里最引人注目的早期建筑之一，保护修复它，仍需做很大努力。在七八十年代，这里曾为精密仪器系工程制图教研组所用，并有全校公用制图教室。目前，清华学堂大楼是学校研究生院、教务处、科技处、注册中心等机构的办公场所。
1990年代末，清华校教务处迁入东半部，成为全校学生返校注册的必到之处；校研究生部迁入西半部，从此结束了清华学堂用作教室的历史。
2001年，清华学堂作为“清华大学早期建筑”的一部分，进入国务院公布的全国重点文物保护单位名单。