В книге рассматривается связь между динамическим программированием и марковскими процессами. Используя идеи и методы этих разделов математики, автор предлагает метод выбора оптимального поведения в системах, описываемых управляемыми марковскими процессами с непрерывным и дискретным временем. Рассматриваемый вопрос обсуждается также с точки зрения выполнения вычислений, и предлагается хорошо разработанная схема вычислений.Материал излагается с использованием простого математического аппарата и иллюстрируется большим числом примеров. Это делает книгу доступной широкому кругу читателей.Книга может быть полезна инженерам, математикам, специалистам, работающим в областях эконометрики, исследования операций и военных приложений, а также студентам и аспирантам различных вузов, интересующимся указанными вопросами.