元载出身寒微，因精通道学，得以入仕，历任新平县尉、大理司直、祠部员外郎、洪州刺史、度支郎中、户部侍郎等职。他与权宦李辅国交好，在代宗继位后被任命为中书侍郎、同平章事，封许昌县子，后授天下元帅府行军司马。大历年间，元载先后助代宗杀死李辅国、鱼朝恩两个掌权宦官，因而深受皇帝信任。但他志得意满，此后独揽朝政，排除异己，专权跋扈，又专营私产，大兴土木，逐渐引起代宗的厌恶。大历十二年(777年)，代宗命左金吾大将军吴凑将元载逮捕，不久与其家人被先后赐死。兴元元年(784年)德宗感念其帮助自己成为太子的功劳，下诏恢复元载官职，追谥为荒，后改为成纵。
