不要太重型的武器 ~
就是类似以下这种：

• POST /user -> server01
• GET /user/1001 -> server02

最好是效率好点的，如果一般的解决，写个 Flask 手工转发一下也可以。
使用 Nginx 可以吗？
如果使用 Node.js 或者 Tornade with PyPy 是不是效率损失很小？

这跟Linux有什么关系

nginx
haproxy

nginx [engine x] is an HTTP and reverse proxy server, a mail proxy server, and a generic TCP proxy server, originally written by Igor Sysoev.
---摘自 http://nginx.org/en/

使用Nginx就可以了,定义location即可

我感觉楼主提到的东西和你要解决的问题不沾边了。
nginx和haproxy都可以的。

Squid、Nginx、HAProxy、Varnish、ATS，很多反向代理都能做到这样。