二叉树中的最大子树总和，以使子树也是 BST

本题要求找到二叉树中的最大子树总和，并且子树也必须是BST。BST指二叉搜索树，即对于任意节点，它的左子树中所有节点都小于它，右子树中所有节点都大于它。

解题思路

本题可以采用深度优先搜索的方法求解。我们需要定义一个递归函数来计算每个节点的子树的最大和。在这个递归函数中，我们需要递归计算它的左右子树的最大和，并且需要判断左右子树是否也是BST。如果左右子树都是BST，则可以将该节点作为根节点的子树也是BST的一部分，需要计算其子树的总和。如果左右子树不是BST，则不能将该节点作为根节点的子树也是BST的一部分。

具体步骤如下：

1. 定义函数 maxSubtree(root)，递归计算以当前节点root为根节点的子树的最大和以及子树是否是BST。
2. 对于当前节点root，递归调用 maxSubtree 函数计算其左右子树的最大和和是否是BST。
3. 如果左右子树都是BST，则将该节点和其左右子树的值相加得到当前节点的最大子树总和，并判断当前节点的整棵子树是否是BST。
4. 如果左右子树中存在不是 BST 的情况，则当前节点的最大子树总和就是其左右子树中的最大子树总和之一。因为其左右子树可以不连续，所以子树总和之间可以取较大者。

代码实现

下面是用 Python 语言实现的代码：

# Definition for a binary tree node.
# class TreeNode(object):
#     def __init__(self, x):
#         self.val = x
#         self.left = None
#         self.right = None

class Solution(object):
    def __init__(self):
        self.max_sum = float('-inf')

    def maxSubtree(self, root):
        """
        :type root: TreeNode
        :rtype: (int, bool)
        """
        # 当前节点为空节点，返回 (0, True)
        if not root:
            return 0, True

        # 递归计算左子树和右子树的最大和和是否是BST
        l_sum, l_is_bst = self.maxSubtree(root.left)
        r_sum, r_is_bst = self.maxSubtree(root.right)

        # 当前节点能作为 BST 子树的根节点，判断是否是整棵 BST 树。
        if l_is_bst and r_is_bst and (not root.left or root.val > root.left.val) and (not root.right or root.val < root.right.val):
            self.max_sum = max(self.max_sum, l_sum + r_sum + root.val)
            return l_sum + r_sum + root.val, True

        # 当前节点不能作为 BST 子树的根节点，返回左右子树中较大的值。
        return max(l_sum, r_sum), False

    def maxSumBST(self, root):
        """
        :type root: TreeNode
        :rtype: int
        """
        self.maxSubtree(root)
        return max(self.max_sum, 0)

复杂度分析

本算法采用深度优先搜索的方法遍历整棵二叉树，时间复杂度为 $O(N)$，其中 $N$ 表示二叉树中节点的个数。因为使用了递归函数，所以需要额外的 $O(H)$ 的空间来存储递归栈信息，其中 $H$ 表示二叉树的高度。