重なり合った2つの物体についての問題ですね。台車と床面には摩擦力がはたらいていませんが、小物体と台車との接触面には摩擦力がはたらきます。運動方向をプラスに定め、それぞれの物体にはたらく力を書きこむと次のようになります。

まず質量mの小物体にはたらく力から考えましょう。 重力 mgと台車からの 垂直抗力 Nがはたらきますね。さらに、先ほどのポイントで確認したように、小物体は台車の上で静止をしているので 静止摩擦力 fが 右向き にはたらきます。

次に質量Mの台車にはたらく力です。 重力 はMgですね。台車は小物体mと床に接しています。小物体から受ける力は 垂直抗力Nの反作用 と、 静止摩擦力fの反作用 を受けますね。さらに床から押し上げられる 垂直抗力N' もはたらきます。

台車と小物体は一体となって動いています。加速度をa、小物体が台車から受ける摩擦力をfとして、それぞれの大きさを求めましょう。運動する物体における「加速度」と「力」の関係式は、運動方程式によって表すことができますね。

小物体の運動方程式は、質量m[kg]、加速度a[m/s²]、加速度に平行な力f[N]より、
ma=f……①
台車の運動方程式は、質量M[kg]、加速度a[m/s²]、加速度に平行な力F−f[N]より、
Ma=F−f……②

①、②の式より、fを消去してaの値を求めると次のようになります。

次に静止摩擦力fを求めましょう。先ほど求めたaを①に代入すれば求められますね。

小物体が台車の上を滑り始めたときの力F₀を求めましょう。滑り始めた、ということは 静止摩擦力fが最大値μNになった ということですね。(1)より、fはm,M,F₀を使って、f=m/(m+M)×F₀と表すことができるので、次のように式変形しましょう。
f=μN
⇔ m/(m+M)×F₀=μN
⇔ F₀=(m+M)/m×μN

ただし、垂直抗力Nは問題で与えられていない文字なので、このまま答えにはできません。小物体mにおける 鉛直方向のつりあいの式 に注目しましょう。 垂直抗力Nは重力mgとつりあっている ので、N=mgですね。これを代入して答えとしましょう。