Здравствуйте,

Tornado действительно быстр при обработке запросов неблокирующих подписчиков (Websockets соединений), но при этом не стоит забывать что он работает в однопоточном режиме, и блокирующие запросы будут вязнуть.

1. Разделите по инстансам WebSocket обработчики и обработчик блокирующих запросов. При необходимости можно добавить больше инстансов для обработки обычных запросов, но не желательно запускать больше инстансов, чем количество процессорных ядер. Для балансировки используйте Nginx.

2. Для тяжелых запросов (отработка алгоритмов требующих задержек времени) необходимо использовать декораторы из родного модуля tornado.gen.

3. Для работы с БД, лучше использовать многопоточные пулы соединений:

   • Для Postgres хорошо подойдет Momoko;

   • Для MySQL TorMySQL или Tornado-MySQL;

   • Для работы с Redis не рекомендуется использовать многопоточные декораторы. Чаще обработка Redis запросов происходит быстрее чем tornado создает дополнительные нити. Поэтому для быстрых Redis запросов лучше использовать однопоточный обработчик.

4. В очень тяжелых обработчиках используйте менеджеры очередей Zeromq, RabbitMQ, Gearman или Redis. Сразу после передачи задания в очередь, обработчик tornado готов взять следующий запрос.

Tornado очень быстр в однопоточном режиме, проектируйте приложение используя балнс между необходимостью в дополнительных нитях и продуманным алгоритмом однопоточных обработчиков. Многопоточные обработчики дают хороший результат, но до определенного момента. При повальном загоне всего и вся в отдельные потоки скорость торнадо заметно падает.