比如这些发行版所有用的kernel或crt版本可能不同，能实现么？
静态编译。

不考虑链接库的话，可执行文件的二进制兼容性只牵涉到：
指令集架构
操作系统调用接口
应用程序二进制接口(ABI)
如果只是按照你举例所说的，单个可执行文件，只用到基本的系统调用和glibc的话，跟发行版基本没关系，系统调用和glibc都是最基础的，对外接口极少会变动，否则就乱套了，这种简单情况你只需要考虑指令集架构区别就可以了（32位/64位/...）



glibc也是有versioning的，不静态编译的话，需要链接到稍老版本的glibc，不过也无法覆盖全部的发行版。

kernel ABI/API很稳定。glibc静态链接好了

CRT使用LSB或比主流发行版所带glibc早的版本编译。
想静态的话只要使用--static-libgcc就好，当然如果你还依赖其他shared库的话，就要附带这些shared库so，当然这些shared库也不能shared link glibc。
最后的手段就是全套static






多谢各位，我试试看效果。

也可以试试CDE打包工具：http://www.pgbovine.net/cde.html