（□＋△）ⁿにおいて、指定された項の係数を求める問題ですね。
まずは、（□＋△）ⁿの展開公式を振り返ってみましょう。

（x－2）⁵において、x²がどこにいるかを考えていきましょう。
ポイントを使って考えると、 （□＋△）ⁿはnＣkのところに□^n－k×△^k がいます。
いまはn＝5、□＝x、△＝－2なので、代入すると、
5Ｃk× x^5－k ×(－2)^k
x²の係数を知りたいときは、x^5－kがx²となるkの値を考えればよい のです。

x^5－k＝x²より、k＝3となりますね。
5Ｃk× x^5－k ×(－2)^kに代入すると求めたい係数を出すことができます。