Как распределяется нормальная сила по поверхности контакта?

Я думаю, что вы делаете эту проблему более сложной, чем она должна быть, чтобы просто определить, опрокинется ли сборка или нет. На самом деле вам не нужно пространственное распределение сил, прилагаемых столом или землей к сборке. Все, что вам нужно отметить, это то, что если точка поворота находится в точке x=D1, то земля будет оказывать любой противодействующий крутящий момент, необходимый для предотвращения вращения сборки против часовой стрелки вокруг точки вращения.

Поэтому все, что вам нужно сделать, это рассчитать крутящие моменты, создаваемые массой m и массой M относительно точки вращения. Если сумма этих двух крутящих моментов действует в направлении против часовой стрелки, то земля будет оказывать противодействующий крутящий момент той же величины, но в противоположном направлении, чтобы предотвратить вращение всей сборки против часовой стрелки. С другой стороны, если сумма двух крутящих моментов от m и M действует в направлении по часовой стрелке, земля не играет никакой роли в создании противодействующего крутящего момента, и вся сборка опрокидывается в направлении по часовой стрелке вокруг точки поворота.

Вычисление общего крутящего момента, обусловленного m и M, не должно вызвать затруднений. В целях расчета крутящего момента, вызванного M, вы можете принять только одну силу величины Mg (где g — ускорение свободного падения), действующую вниз в его центре масс.

Если крутящего момента нет, то

$$\sum \tau = \mathbf{r_1}\times\mathbf{F_M}+\mathbf{r_2}\times\mathbf{F_m}=0$$ Поэтому, $$\mathbf{r_1}\times M\mathbf{g}+\mathbf{r_2}\times m\mathbf{g}=0\tag{1}$$ где $\mathbf{r_i}$обозначает положение центра масс объединенной системы относительно приложенной силы. Если мы дадим размеры коробки $h$и $l$, мяч радиусом $R$, и говорят, что пандус простирается на расстояние $d$от $x=0$, затем $$\mathbf{x_{cm}}=\frac{\frac{1}{2}\mathbf{l}M+\left(\frac{1}{2}\mathbf{l}+\mathbf{d}-\frac{1}{2}\mathbf{R}\right)m}{M+m}$$ и $$\mathbf{y_{cm}}=\frac{\frac{1}{2}\mathbf{h}m+\left(\mathbf{h+\frac{1}{2}R}\right)M}{M+m}$$ ( $x_{cm}$, $y_{cm}$) — координаты центра масс. Затем вы можете вычислить $\mathbf{r_1}$и $\mathbf{r_2}$. Если $(1)$держится, то вы правы; если нет, то ваш друг прав.

Крутящий момент? Почему вы думаете, что вам нужно думать о крутящем моменте?

Находится ли центр масс над основанием опоры? Это если$0 < M D_1/2 + m D_2 < D_1$. Т.е. если$\frac{-M D_1}{2 D_2}< m < \frac{D_1}{D_2} (1-M/2)$.