赵高让子婴继承秦王之位，就在咸阳宫商议了数日，子婴唯唯诺诺，假装不能胜任，这却是故意在向赵高示弱。而陪同他的宦官韩谈却是一位忠义之士，此人恨赵高入骨，一日看见赵高身上佩戴的传国玉玺，就正义凛然道：“传国玉玺是国之重器，现在丞相既然决定要公子继承王位，理应将玉玺交给公子保管。”赵高冷笑道：“传国玉玺暂且由我保管，这不是你们下人操心的！等大王即位之时，我自然会把玉玺归还大王！”子婴连声说好。韩谈强忍怒火，又道：“丞相既然已经确定了人选，那么二世皇帝的遗体不可不下葬，这也是对新王的一个安慰啊！”
赵高为了笼络人心，只好答应安葬二世。就派军士赶往望夷宫，将二世的遗体装殓起来，用车载到杜南的宜春苑中埋葬。因为二世即位后把陵寝选在那里动土修建了，虽说地方不是很大，但还是有一定的规模，只不过是按照普通人的规格下葬，没有多少陪葬品而已。坟冢至今还在西安市曲江池旁，墓碑上写着：秦二世皇帝陵。到汉武帝朝时，有一次大辞赋家司马相如来到陵园凭吊，还写了一首《哀秦二世赋》，意在警示后世帝王不可重蹈其覆辙，赋文为：
登陂（pō）阤（tuó）之长阪兮，坌（bèn）入曾宫之嵯峨。临曲江之隑（qì）州兮，望南山之参差。岩岩深山之谾（lòng）谾兮，通谷谷害兮谽（hān）谺（xiā）。汩（gǔ）淢（yù）噏（xī）习以永逝兮，注平皋之广衍。观众树之蓊薆（ài）兮，鉴竹林之榛（zhēn）榛。东驰土山兮，北揭石濑。弥节容与兮，历吊二世。
持身不谨兮，亡国失势；信谗不寤兮，宗庙灭绝。呜呼哀哉！操行之不得兮，坟墓芜秽而不修兮，魂无归而不食。夐（xiòng）邈绝而不齐兮，弥久远而愈佅（mài）。精罔阆而飞扬兮，拾九天而永逝。呜呼哀哉！
赋文不易读懂，为今天的读者着想，翻译过来就是：
我登上崎岖不平的山坡啊，这里是层叠又高大的山峦。面前是曲江的江岸和小岛