как он это сделал?
Прочитайте внимательней урок: "Щелкаем по маске и идем Image - Apply Image."
Щёлкаем по маске это значит не по слою с маской, а именно по картинке с маской, чтобы перейти к редактированию маски, а не изображения на этом слое.

а можно в 2х словах как эта маска работает?
Смотри
[Только зарегистрированные пользователи могут видеть ссылки. ]

слой будет прозрачен в тех областях, где маска темнее. Чем темнее область, тем прозрачнее слой.

Надеюсь доступно обьяснил. Желаю удачи! =)