卫臻，字公振，陈留襄邑人，因其父卫兹随曹操战死而受到曹操器重，初为汉黄门侍郎，又任参丞相军事、户曹掾，封关内侯。文帝时，为散骑常侍，封安国亭侯。迁尚书，转侍中、吏部尚书，行中领军。明帝时，进封康乡侯，任右仆射、侍中，掌选举，加光禄大夫。帝修殿舍，数谏。迁司空、司徒。正始中，进爵长垣侯。曹爽辅政，固乞辞官。位特进，秩如三司。卒，追赠太尉，谥敬侯。
卫臻的父亲卫兹，节操高尚，曾拒绝三公的征召，曹操初次到陈留，卫兹就说：“平天下者，必是此人。”曹操也觉得卫兹很奇特，好几次去他那里商议大事，后来卫兹跟随曹操讨伐董卓，战死在荥阳，曹操每次路过陈留，必定派使者前去祭扫他的陵墓。
夏侯惇当陈留太守的时候，举荐卫臻担任计吏，一次，夏侯惇命卫臻带着夫人出席宴会，卫臻认为这是末世才有的败俗之举，不合正礼，夏侯惇大怒，把他抓了起来，没过多久又把他放了，以后卫臻做了汉朝的黄门侍郎，东郡朱越谋反，供认卫臻参与其事，曹操下令说：“我和你父共同举事，对你格外提拔重用。开始听到朱越的供词说，我就丝毫不相信，等收到荀令君的书信，那上面把你的忠诚写得更明白了。”值曹操奉诏为献帝到魏聘取贵人，他借此上表让卫臻留下来担任参丞相军事。为追念其父卫兹的功勋，又赐封卫臻为关内侯，转任户曹掾。
曹睿继位后，封康乡侯。后来转任尚书右仆射，掌选举事，亦加侍中。时曹睿大兴土木，卫臻好几次恳切地规劝。等到殿中监擅自拘留了兰台令史，卫臻又把这事报告了曹睿。曹睿下诏说：“宫殿盖不成，我已经收心了，你怎么又管起这事来了呢？”卫臻上疏说：“古代制定处理官员的法规，并不是因为针对他们办事不勤勉，而是因为他们办的事情收益小而害处大。臣每天观察这类事情，大多如此。因此，我恐怕将来各职司会逐渐越职，以至犯了大罪。”诸葛亮又出兵斜谷，曹魏同时还接到报告说：“吴国的朱然也领兵过了荆城开始南征。”卫臻说：“朱然是东吴的一员猛将，孙权这次只不过作出南征的样子，做做幌子罢了。”没过多久，孙权果然召朱然进驻居巢，然后进攻合肥。
幽州刺史毋丘俭上疏曹睿说：“陛下即位以来，没有做出得以书写记载的业绩。眼下吴、蜀倚仗地势险要，也不是短时间就能平定的，不如姑且用国中闲置的兵力，前去克定辽东。”卫臻对曹睿说：“毋丘俭所说的都是战国时代使用的琐屑的计谋，并非成王业者应该做的大事。东吴连年举兵，进犯边境，而我国仍旧按兵不动，休养将士，没有寻找机会讨伐他，实在是因为老百姓疲惫劳累的缘故。况且辽东的头领公孙渊从小生长在海上，对辽东的统治已经沿续了三代，他们对外安抚胡人，对内整修武备习练战阵，而毋丘俭却想用一部分军队长驱直入，一蹴而就，他的设想太狂妄了。”以后毋丘俭草率出兵果然失利。
卫臻不爱加入朋党，如当日曹操未选继任人时，支持曹植的丁仪邀请卫臻与他们结交，卫臻则以大义拒绝，齐王曹芳时，曹爽专政，派夏侯玄劝请卫臻入守尚书令和为弟求婚，但卫臻都一一拒绝。