长安初年,参加修《三教珠英》。后迁右史、考功员外郎,主张科举考试。升凤阁舍人(中书舍人),公开为魏元忠辩诬,反对武党,得罪武则天,流放钦州。玄宗为太子时,任侍读,“深见亲敬”。开元元年(713)后,因与亲王谋,反对姚崇为相,贬相州刺史,后转御史大夫。
开元九年(721),继张嘉贞为宰相。张说与姚、宋不同,他是文学家,玄宗当时之所以请张说为相,是由于开元元年以来八年多的政治改革取得显著成效,国家欣欣向荣,天下出现太平景象。伴随着经济的发展,文化事业也跟着兴盛。重用文学之士,必然提到议事日程上来。
张说是当时文坛领袖人物,他兼任集贤院期间,引用大量文采之士。如韦述、贺知章、徐安贞等人。韦述兼综文史二者之长,贺知章“少以文词知名”。进士及第以后,晚年“醉后属辞,动成卷轴,文不加点,咸有可观”。徐安贞则“尤善五言诗,尝应制举,一岁三推甲科”,后掌知制诰,尤负盛名。其他由张说所提拔之人,也皆以文词知名。开元十一年(723),张说兼任修书使,徐坚辅佐。罗致全国知名学者,编写、整理、抄录各种图书,为唐朝文化发展做出重大贡献。
开元十四年(726)四月,张说罢相,李元纮继任,杜暹、源乾曜为副相。李元纮系长安万年人,前后任宰相三年。中宗时,曾任好畴县令,赋役均平,社会安定,后转润州司马。