山涛，字巨源，西晋河内怀县人，他从小品性纯朴，见识超群， 乡里中一些有名望的学者都很器重他。但是直到他四十岁，才当上郡 里的主簿、功曹之类的小官，后来被调到京城任尚书吏部郎。
    当时魏帝曹芳年轻无能，朝政分别掌握在太尉司马懿和大将军曹 爽手中，两人各自网罗党羽，勾心斗角，都想消灭对方，独揽大权。 山涛知道骄横鲁莽的曹爽敌不过足智多谋的司马懿，最后必将被消灭 ，但他并不想去投靠司马懿。为了避开这场权力之争，他经常深居简 出，不和朝中的权贵们来往。
    山涛酒量很大，每次能喝八斗。兴致来的时候，他就邀集嵇康、 阮籍、刘伶、阮咸、向秀、王戎等名士，到竹林里去纵情游乐，饮酒 谈玄，好像完全把人世的事情撇在一边。当时的士大夫阶层都称他们 为“竹林七贤”。在“竹林七贤”中，嵇康是最有才华和声望的名士 ，为人落拓不羁，敢于蔑视权贵，山涛很钦佩他。后来，山涛由吏部 郎调动官职时，特地上书推荐嵇康来接替自己。嵇康由于不满司马氏 集团独揽朝政，一直不愿意出来做官。他知道山涛上书推荐自己，就 立即写了一封信去，把山涛大大奚落了一番，并宣布从此和他断绝交 往。山涛深知嵇康的性格和为人，对此毫不介意。后来嵇康遭到钟会 的诬陷，被司马昭杀害，他的儿子稽绍孤苦无依。山涛一直牵挂在心 里，对稽绍十分关怀。
    公元265年，司马昭的儿子司马炎夺取魏政权，建立了晋朝。山涛 就上书推荐稽绍说：“父亲有罪，和儿子并不相干。稽绍德才兼备， 应当加以任用。”司马炎采纳了他的建议，下令任命稽绍为秘书丞。 山涛很善于鉴别人才，他在吏部先后任职二十多年，为朝廷推荐了许 多官员。他在奏章里对这些人的评价，基本上都能同他们后来的表现 相符合。当时人们把他的这些奏章成为《山公启事》。权臣贾充为了 结党营私，在司马炎面前把自己的心腹陆亮吹捧了一番，说他秉性忠 直，公正无私，要求让陆亮和山涛一起担任选官，司马炎答应了。
    山涛根据自己的了解，认为陆亮是个贪图财力的小人，而且一向 依附贾充，不可能忠于选官的职守，就极力表示反对。司马炎不听他 的劝告，山涛就告病辞官回家。不久陆亮果然由于贪财枉法被革职查 办。司马炎感到山涛忠贞可嘉，派人把他请回朝廷，对他更加信任和 重用。
    当时，有和鬲县县令袁毅，在任职期间搜刮了许多民脂民膏。为 了防止别人告发，他从中拿出很大一笔钱财来，向朝廷的公卿大臣们 行贿托情。山涛也收到袁毅送来的一百斤丝。他当时不想显出自己与 众不同，就不露声色地接受下来，然后命人把丝层层封裹好，不准动 用。后来袁毅贪污被揭发了，许多大臣都有牵连遭到查讯。当朝廷派 官员前来询问山涛时，他就当面叫人把封裹的丝全部都拿过来，只见 包袱上积满了灰尘，里面的丝一点也没有用过。
    山涛在士大夫阶层中有很高的声誉。“竹林七贤”之一的王戎称 赞他说：“山涛就像璞玉浑金一样，人们都为金玉的外表所倾倒，但 是对未经冶炼和雕琢的浑金璞玉，往往无法真正了解它内在的高贵品 质。”