Один из участников нашего сообщества Алексей Войнов давеча прислал мне ссылку на книгу Dynamics of Complex Systems (Yaneer Bar-Yam). Эту книгу можно рассматривать как введение в изучение сложных систем с перечислением некоторых примеров исследования сложных систем (нейронные сети, происхождение сложных организмов).
Кстати, на сайте у Алексея есть ссылка на онлайн курс по моделированию.