要计算这个积分，我们可以使用变量替换的方法。首先，我们将指数函数中的二次型项进行平方完成平方和分解，即x² - 2xy + y² = (x - y)².接下来，我们引入新的变量：u = x - y,v = x + y.通过这个变换，我们可以计算雅可比矩阵的行列式：∂(x, y) / ∂(u, v) = 2.同时，我们可以解出原始变量 x 和 y：x = (u + v) / 2,y = (v - u) / 2.接下来，我们要计算指数函数的表达式在新变量 u 和 v 下的形式。由于变量替换是一对一的，我们可以写出：exp[-(x² - 2xy + y²)] = exp[-(u² + v²)].然后，我们要计算新坐标系下的面积元素 dA。根据变换的雅可比矩阵行列式，我们有：d(A) = |∂(x, y) / ∂(u, v)| du dv = 2 du dv.现在，我们对新的变量 u 和 v 进行积分：∫∫[x² - xy + 3y²] exp[-(x² - 2xy + y²)] dx dy = ∫∫[(u + v)² - (u + v)(v - u) + 3(v - u)²] exp[-(u² + v²)] (2 du dv) / 4 = 1/4 ∫∫[(u + v)² - (v³ - 3uv²) + 3(u² - 2uv + v²)] exp[-(u² + v²)] du dv = 1/4 ∫∫[u² + 4uv - 2v³ + 6uv² - 6(u² + v²)] exp[-(u² + v²)] du dv = 1/4 ∫∫[-5u² + 10uv - 2v³ + 6uv²] exp[-(u² + v²)] du dv.接下来，我们可以对 u 和 v 分别进行积分。首先，对于 u 的积分：∫[-5u² + 10uv - 2v³ + 6uv²] exp[-(u² + v²)] du = [-5u³/3 + 5v - u(2v³ - 6v)] exp[-(u² + v²)] + C = [-5u³/3 + 5v(1 - u^2)] exp[-(u² + v²)] + C.然后，对于 v 的积分：∫[-5u³/3 + 5v(1 - u²)] exp[-(u² + v²)] dv = [5v²(1 - u²) - 5u³v/3] exp[-(u² + v²)] + C = [5v² - 5u²v + 5u²] exp[-(u² + v²)] / 3 + C.最后的结果是：1/4 [5v²(1 - u²) - 5u³v/3 - 5u³/3 + 5v - u(2v³ - 6v) + 6(u² + v²)(1 - u²)] exp[-(u² + v²)] + C.所以，积分 ∫∫[x² - xy + 3y²] exp[-(x² - 2xy + y²)] dx dy的结果是 1/4 [5v²(1 - u²) - 5u³v/3 - 5u³/3 + 5v - u(2v³ - 6v) + 6(u² + v²)(1 - u²)] exp[-(u² + v²)] + C.
