етить не люблю я эти инкрементально декрементальные формулы,
но в общем ошибка у тебя что ты забыл поправку вставить на новый Scale
Код:
private static function Zoom(_zoomDec:Number) {
var newScale:Number = Base.baseClip._xscale+_zoomDec;
var oldX:Number=Base.baseClip._xmouse;
var oldY:Number=Base.baseClip._ymouse;
//не даём слишком увеличить или уменьшить клип *
if (newScale>33 && newScale<300) {
 Base.baseClip._yscale=Base.baseClip._xscale=newScale;
} else {
 return;
}

//компенсируем растяжение
Base.baseClip._x-=(oldX-Base.baseClip._xmouse)*Base.baseClip._xscale/100;
Base.baseClip._y-=(oldY-Base.baseClip._ymouse)*Base.baseClip._yscale/100;
}