在研究两个矢量的数量积的基础上，现在我们来研究三个矢量的乘积。

如果我们先把矢量作出数量积，然后再和第三个矢量相乘，那么得到与矢量共线的矢量，因此这样相乘的情况，不必再讨论。

如果我们先把矢量和作出矢量积，那么这个矢量还可以与第三个矢量再作数量积或矢量积，在前一种情形，我们得到，在后一种情形，我们得到。在这一节我们先计论的性质。

定义1  给定空间的三个矢量，如果先做前两个矢量与的矢量积，再做所得的矢量与第三个矢量的数量积，最后得到的这个数称为三矢量的混合积，记作或或。

混合积具有下列性质：

定理1  三个不共面矢量的混合积的绝对值等于以为棱的平行六面体的体积，并且当构成右手系时混合积是正数；当构成左手系时，混合积是负数，也就是有，当是右手系时；当是左手系时。

证  由于三矢量不共面，把它们归结到共同的始点可以构成以为棱的平行六面体（图1-43），它的底面是以为边的平行四边形，面积为，它的高，它的体积为。

根据数量积定义,                   (1)

其中是和的夹角。

当成右手系时，，因而由（1）得

。

当成左手系时，

因而由(1)得

定理2  三矢量共面的充要条件是。

证  当与共线，即时，或时，显然共面且又有。下面假设与不共线，且，我们来证明定理也成立。

如果，即，则，另一方面据矢量积的定义知，所以三矢量共面。

反过来，如果共面，那么据知，于是，即。

定理3  轮换混合积的三个因子，并不改变它的值，对调任何两个因子要改变乘积的符号，即

         (1.9-2)

证  当共面时，定理显然成立；当不共面时，轮换因子或对调因子，混合积的绝对值都等于以为棱平行六面体的体积（定理1）。又因为轮换的顺序时，决不会把右手系变为左手系，也不会把左手系变为右手系，因而混合积不变，而当对调任意两个因子的位置时，就将右手系变成左手系，或将左手系变成右手系，所以这时混合积要改变符号。

推论1                    (1.9.3)

证

例1  设三矢量满足，试证三矢量共面。

证 将两边与作数量积

得

而

所以，因而共面。

下面在右手直角坐标系下，我们用矢量的分量表示三个矢量的混合积。

定理4  若，那么

             (1.9-4)

证  因为，

根据数量积的分量表示法，得

，

所以(1.9-4)成立

根据定理2，从(1.9-4)式，立即可得：

三个矢量，共面的充要条件是。

例2  已知四面体的顶点坐标，求它的体积。

解  由初等几何知道，四面体的体积等于以和为棱的平行六面体积的六分之一，因此；

但，

所以，

从而

例3 设为三个不共面的矢量，求矢量对于的分解式。

解  因为不共面，所以，

为了要决定的值，可在等式两边分别与矢量作数量积，即在等式两边分别与作混合积，那么有

而，

所以，

因为不共面，所以，因此，

同理可求得与的值为。

如果取直角坐标系，并设的分量分别为

将这些分量代入上面的对的分解式与的表达式，那么容易看出，上面的解法就是解线性方程组

的克莱姆（Cramer）法则。