256 м оперативной памяти, в настройках 100% использования выставила ,процессор правда 900Мгц,
считает минут 10, -так что такая пикселизация с разрешением таки связана?

Добавлено. Вопреки здравому смыслу сегодня попробовала Ваше разрешение 2000х2000 -всё сработало,посчитало(15мин) даже выровнялось,на
1024х768 и 800х600 (с100п.д.) не считает , где смеяться? Выполз другой глюк изображение в 2 раза по контрастности ниже чем в окне проги... при увеличении гаммы лезут шумы ...