权德舆秉性耿直,为人宽和,言语质朴自然,风度甚佳,为时人所称道。他办事光明正大。有一次,运粮使董溪、于皋谟盗用军费,案发后,被流放岭南。宪宗感到量刑太轻,很后悔,又暗暗派宦官赶去将两人杀死于流放途中。权德舆就立即上疏说,依据这两人的罪名,本当公开处死的,但既然已经宣判了流放,就应当遵照执行,如今却又暗暗地将他们处死,这是名不正,言不顺,有损朝廷信誉,劝宪宗今后再也不能如此干了。这足见他为人之耿直。
权德舆好著述,善写铭文表章,文辞雅正而又弘博,当时,王侯将相的铭志十有八九都请他撰写。他尤其喜欢读书,常常手不释卷,作有文集50卷,称《权文公集》,流传后世。
宪宗曾询问权德舆:“宰相为政,宽猛何先?”权德舆对答说:“秦朝以严酷而亡国,汉朝以宽大而兴盛,为政该以何者为先,由此就可知了。”
权德舆任相的次年,李吉甫和李绛又先后被拜为宰相。李吉甫好逢迎宪宗心意,而李绛为人梗直,两人常为政事在宪宗面前争论。每当此时,权德舆总不表态,并因此而受到朝臣的指责,也引起了宪宗的不满。元和八年 (公元813年)正月,他被罢去相职,以检校吏部尚书留守东都,后又拜为太常卿,改刑部尚书。公元816年,他又以检校吏部尚书外出担任山南西道(今陕西汉中)节度使。二年后,以病乞还,卒于途中,享年60岁。赠尚书左仆射,谥曰文。
权德舆寓居阳羡期间,曾游览玉女潭,称玉女潭为“阳羡胜境,以此为首”。另有诗作《周平西墓》:“英威今寂寞,陈迹对崇丘。壮志清风在,荒坟白日愁。穷泉那复晓,乔木不知秋。岁岁寒塘侧,无人水自流”传世。