El Infante don Luis Antonio de Borbón compra el Señorío de Boadilla en 1761 y dos años después, convertido en el XIII Conde de Chinchón, encarga al arquitecto Ventura Rodríguez la construcción de un palacio para independizarse de la corte, ya que siete años antes había renunciado a sus cargos eclesiásticos.