Medyan, есть такие понятия, как модальное и немодальное окно.
Модальное - скрипт будет висеть на строчке вызова окна, пока пользователь его не закроет (так работает MessageBox).
Немодальное - скрипт откроет окно и продолжит выполняться дальше, забыв о нем (так работает QuestionBox).
Команда открытия немодального окна не может ничего вернуть, потому что пользователь нажмет кнопку на нем когда она давно уже отработает. Поэтому в ней используется другой механизм - передаются названия функций, соответствующих вариантам ответов, а окно само вызывает эти функции после нажатия пользователем одной из кнопок.