ネットに頼る前に、乏しい知識で頑張ろうとした痕跡を残しておきます。
こうして見るとやはり先人の知恵は偉大です。
同一平面上にあるかどうかの判定
三次元空間中の二線分が同一平面上にあるかどうかを判定するには、二つの線分を構成する四点の位置関係を調べます。
まず、空間上の三点は必ず同一平面上にあります。これは分かりますね？
よって、四点全てが同一平面上にあるためには、三点により定義される平面上に四点目が存在していればいいというわけです。
ここでは簡単に、点 P1、P2、Q1 の三点で定義される平面上に点 Q2 が存在するかどうかを考えましょう。
以下書きかけ。
面倒くさいあの計算
(P1X・P1P2)2 = (P1X・P1X)(P1P2・P1P2)
{(X-P1)・(P2-P1)}2 = {(X-P1)・(X-P1)}{(P2-P1)・(P2-P1)}
(P1・P1-P1・P2-P1・X+P2・X)2 = (P1・P1-2P1・X+X・X)(P1・P1-2P1・P2+P2・P2)
((P1・P1)-(P1・P2)-(P1・X)+(P2・X))2 = ((P1・P1)-2(P1・X)+(X・X))((P1・P1)-2(P1・P2)+(P2・P2))
(P1・P1)2+(P1・P2)2+(P1・X)2+(P2・X)2-2(P1・P1)(P1・P2)-2(P1・P1)(P1・X)+2(P1・P1)(P2・X)+2(P1・P2)(P1・X)-2(P1・P2)(P2・X)-2(P1・X)(P2・X) = (P1・P1)2-2(P1・P1)(P1・P2)-2(P1・P1)(P1・X)+(P1・P1)(P2・P2)+(P1・P1)(X・X)+4(P1・P2)(P1・X)-2(P1・P2)(X・X)-2(P1・X)(P2・P2)+(P2・P2)(X・X)
(P1・P2)2+(P1・X)2+(P2・X)2+2(P1・P1)(P2・X)-2(P1・P2)(P2・X)-2(P1・X)(P2・X) = (P1・P1)(P2・P2)+(P1・P1)(X・X)+2(P1・P2)(P1・X)-2(P1・P2)(X・X)-2(P1・X)(P2・P2)+(P2・P2)(X・X)
めんどくさ。
以下書きかけ。