元岩，字君山，河南洛阳人。喜读书，不研究章节句读，刚正耿直有度量，注意培养自己的名节，年轻时与渤海的高颎、太原的王韶志同道合，交情很好。入后周为官，一做官就做到宣威将军、武贲给事。大冢宰宇文护见他后很器重他，让他担任中外记室，多次升迁至内史中大夫，封为昌国县伯。
周宣帝继位，施政昏庸残暴，京兆郡丞乐运就抬着棺材到朝堂，陈说宣帝八方面的过失，语言厉害情辞非常恳切，宣帝非常生气，将要杀他，朝中大臣都惊恐畏惧，没有人敢出面救乐运，元岩到朝堂中请求见宣帝，元岩对宣帝说：“乐运知道上书面奏一定得死，他之所以不顾及自己的性命，是想取得后世的名声。陛下如果杀了他，就成就了他的名声，落入他的圈套中了。不如安慰一下他，把他打发走，以此来显示陛下的大度。”乐运因此得以免死。
后来，宣帝要诛杀乌丸轨，元岩不肯书写诏书，御正颜之仪恳切进谏，宣帝不听，元岩进去接着进谏，他脱下头巾叩头，三次跪拜三次进谏，宣帝说：“你想要与乌丸轨结党吗?”元岩说：“臣不是想与他结党，只是担心滥杀大臣让天下人失望。”宣帝非常生气，让太监打元岩的脸，于是被罢职，回到了家里。
杨坚做丞相时，元岩被加位开府、做了民部中大夫。等到杨坚登上帝位，元岩担任了兵部尚书，进爵平昌郡公，食邑有二千户。元岩为人威严稳重，通晓世事，每当上奏表，议朝政，他都能侃侃而谈，一脸庄重之色，在朝庭上进谏，当面驳斥，没有什么可以顾虑的，皇帝和三公九卿都尊敬他畏惧他。当时杨坚刚刚即位，时常对后周诸侯势力衰弱感到痛心，因此招致灭亡，因为这把各位皇子分封为王，权势等于王室，想用这种分封王子的办法建立磐石一样的稳固统治，于是派遣晋王杨广镇守并州，蜀王杨秀镇守益州。
二位王子年纪都小，于是就广泛地选择忠贞优秀，有极高威望的人作他们的辅佐，当时元岩与王韶都因以耿直而闻名，人们说他们二人才华等于高颎，因此让元岩担任益州的总管长史，王韶担任河北道的行台右仆射。杨坚对元岩说：“您是作宰相的大材，现在受点委屈辅佐我的儿子，这就如同曹参辅助齐王一样。”等到元岩到任，法令明白严肃，官吏和百姓都称赞他。
蜀王本性喜好奢侈，曾经想用蛮人作太监，又想将活着的死刑犯剖腹，取出死囚的苦胆作药。每次元岩都不听从命令，径直到蜀王宫中极力进谏，蜀王每次在认错之后，不再作这样的事，他畏惧元岩的为人，做事时每每遵循法度。益州的各种案子，凡是经元岩审理过的，没有人不高兴心服，那些被判罪的人，互相说：“平昌公治我们的罪，我们还有什么怨恨的呢。”杨坚很欣赏他，赏赐很优厚。
后来，元岩死在官任上，皇上悼念惋惜了好长时间，益州百姓，没有不落泪的，到现在还在思念他。元岩死后，蜀王就能随便做他想做的事了，渐渐地到了违背法令的地步。和妃子一起出外打猎，以弹射人，捕了许多山里的蛮人，用他们充当宦官，手下的辅佐的人没有人能够劝阻，等到杨秀获罪，皇上说：“元岩如果还在，我儿子怎会有这样的结果呢!”元岩有儿子弘嗣，任给事郎、司朝谒者、以及北平通守。