先頭がｘ²じゃなくて３ｘ²になっている因数分解だね。
「たすきがけ」を使って解いていこう。

まずは３ｘ²に注目して、
３ｘ²＋５ｘｙ＋２ｙ²＝（３ｘ＋□ｙ）（ｘ＋△ｙ）
をイメージしよう。
ｙ²だから、カッコの中にはあらかじめｙの文字を入れておくよ。

次に、最後の項に注目しよう。
３ｘ²＋５ｘｙ ＋２ ｙ²＝（３ｘ＋□ｙ）（ｘ＋△ｙ）
だから、カッコの中にはいる２つの数は「かけて２」となるペアになるね。

「かけて２」➔１×２
が候補になるね。

３ｘ²＋５ｘｙ＋２ｙ²＝（３ｘ＋□ｙ）（ｘ＋△ｙ）
の□に入るペアは１と２に絞られたね。

ただし、答えが
（３ｘ＋ｙ）（ｘ＋２ｙ）なのか、
（３ｘ＋２ｙ）（ｘ＋ｙ）なのか、
まだ判断できない。

そこで「たして５」となるヒントを使おう。
このときに、たすきがけの計算が役に立つよ。

（３ｘ＋２ｙ）（ｘ＋ｙ）だったら、ｘの係数が「たして５」になるよね。