Подвижные запасы как раз и считаются по коэф. вытеснения (из ваших фазовых).

Не совсем понятно почему решил взять массовые а не объемные in-situ

Мне кажется, напрямую этой формулой можно пользоваться при отсуствии значительной переходной зоны. 

В обратном случае ваш Квыт может оказаться заниженным. Ведь переходная зона может содержать существенный объем  запасов, при этом нефтенасыщенность в этой зоне может быть меньше, чем остаточная нефтенасыщенность (при приближениии к УСВ) и соответвенно все эти запасы будут неподвижными. 

Поэтому мне кажется надо либо по офп считать, либо ставить фильтр на запасы - выше ВНК.