(3)の分離する速度に関してはどこで分離するかをまず求める必要があります
やり方としてはつりあいの位置を原点とするx座標を設定し、BとCとの間に働く抗力をNとおいてNが0になるようなxを求めます
BとCとに分けて運動方程式を立てて連立すればいいでしょう

その後エネルギー保存でその場合における速度を求めればよいということですね