放物線と2直線で囲まれる図形の面積を求める問題です。 放物線と直線で囲まれる図形の面積公式 を活用するのがポイントです。

ラフ図をかいて放物線y=x²-2xとx軸,y=xで囲まれる図形を確認しましょう。
交点のx座標は
x²-2x=0より
x(x-2x)=0
x=0と2
x²-2x=xより
x(x-3x)=0
x=0と3
とわかります。

求める面積Sは、太実線で囲んだS₁から斜線部分のS₂をひいたものだということがわかりますね。

S₁もS₂も、 放物線と直線で囲まれる図形の面積 になりますね。つまり、公式|a|/6(β-α)³を使うことができるのです。
S₁の場合、放物線と直線の交点は 0(=α)と3(=β) 。S₂の場合、放物線と直線の交点は 0(=α)と2(=β) 。したがって、求める面積S=S₁-S₂は、次のように計算できるわけです。