张柬之“深厚有谋，能断大事”,颇有政治头脑和手腕。然而久在下位，制举及第时，已年七十，可以说是不得志的。到八十时，才当上宰相，必然要设法尽快施展其政治才能。当时武则天年老多病，二张得宠，他虽为宰相，总觉得没有用武之地。因此，他必然不满现实，而要另寻出路，由于他“涉猎经史，尤好三礼”,喜欢抱残守缺，不满女人参政，久以李唐为意。
因此，当他看到不少士人亦思唐德，即以发动宫廷政变为已任。入相不久，便开始密谋活动。这时宰相桓彦范、崔玄肺、姚元之等人皆与二张不合。桓彦范、崔玄肺还多次上疏，要求罢免二张之官，将他们统统处斩。若二张得势，他们的结局不堪设想。另外，二张得宠，武则天立太子而无禅位之意，也引起了皇太子兄弟的疑虑，在这种场合下，张柬之正好可以利用崔玄肺、姚元之及其它大臣与二张之间的矛盾，组织力量，联络太子，以诛二张为名而发动政变。于是，政变便一步步变成事实。
应当强调的是，张柬之政变的目的不只为了诛二张，更重要的是要废黜武则天，抢夺拥立之功。这一点从张柬之等人的言论和行动中表现的十分明显。史载“张柬之将诛二张以(李)多祚素感慨，可动以义，乃从容谓曰： ‘将军击钟鼎食，贵重当世，非大帝恩乎?’多祚泣数行下，曰： ‘死且不忘!’柬之曰： ‘今在东宫乃大帝子，而嬖竖擅朝，危逼宗社。国家废兴在将军，将军诚有意乎?舍今日尚何在?’
