关山父亲名关世栋，字少武。东北讲武堂毕业。解放前，曾任辽东师管区副司令。
1933年，关世栋大夫人金氏生下关山。抗日战争爆发，关世栋把儿子托付给七弟，自己上了前线。抗战胜利后，关世栋把关山接走，不久，关山就读于中山大学。关世栋退役后，全家搬到香港。不久，关世栋去世，关山被迫担起供养家庭的责任，辍学后陆续做过矿工、码头工、海水浴场救生员，后入铁工厂任车床工作，供养弟弟上学。
1954年关山看了陶秦执导的《人鬼恋》后，兴起进入影圈的想法。同年投考“自由公司”演员落选。1956年考入长城公司演员训练班，经过一年受训，导演袁仰安发现关山外型惇厚，熟悉农村生活，认为他适合演阿Q的角色。1958年，关山凭《阿Q正传》荣获瑞士罗迦诺国际电影节最佳男主角（银帆奖）。令他成为首位在国际影展中获奖的香港演员，时年25岁。
1954年考入“长城电影公司”演员训练班，四年后凭电影《阿Q正传》荣获“第十一届瑞士罗迦诺国际电影节”最佳男主角银帆奖，是香港首位拥有国际影帝衔头的男演员。
1961年，关山加盟邵氏电影公司，同年同著名影星林黛合演文艺巨片《不了情》，其他还有《红伶泪》、《烽火万里情》等，成为六十年代最红的国语电影男演员之一，以演文艺片最为出色。
七十年代起，关山以自由身在香港、台湾拍片，并于1972年创办关氏影业公司，制作《唐人客》等片，并自任导演。
1979年，他曾参演丽的电视剧集《天龙诀》。八十年代后，关山弃影从商，偶尔客串演出电影，包括《英雄本色续集》、《警察故事续集》等等。
2012年10月1日，关之琳发表声明，证实父亲关山离世，享年79岁。将于10日在香港殡仪馆一楼基恩堂，翌日早上8时举行大殓仪式，随即出殡奉柩深圳大鹏湾华侨墓园安葬。
关山，毕生致力电影事业，擅演文艺片的他多年来拍过多部脍炙人口的电影作品，是60年代最红的小生之一，之后才逐渐淡出幕前从商，但也曾经戏瘾大发，以客串性质拍摄《英雄本色续集》等电影。
据知，关山淡出后也定期出席“香港演艺人协会”和“华南电影工会”举行的茶叙，虽然身体不好但仍然活跃与老朋友见面，2011年也有出席好友邵音音的生日会，邵音音在电话中说：“我和关山合作过导演罗瑧作品。他(关山)2011年也有来祝我生日，也是最后一次见他，知道他一直有老人病，还好像有高血压，但当时他的精神没有什么大问题。”
关山1960年与长城公司女星张冰茜结婚，并于1962年诞下长女，取名关家慧，即日后的香港著名影星关之琳，9年后又生了一个儿子。1975年离婚后，张冰茜带儿子移民美国，关之琳与父亲留在香港。1980年代关山将工作重心逐渐移往生意，逐渐淡出影坛，后来移居美国弃影从商。
关山之女关之琳发表声明证实资深演员父亲关山于北京时间2012年10月1日离世，享年79岁。并于10日下午5时，在香港殡仪馆一楼基恩堂设灵。
关之琳所发声明全文如下：
家父关山(伯威)先生，于十月一日离世，积闰享寿七十有九岁。谨于公元2012年10月10日(星期三)下午5时，设灵于香港殡仪馆一楼基恩堂，翌日10月11日(星期四)早上8时举行大殓仪式，9时辞灵，随即出殡奉柩深圳大鹏湾华侨墓园安葬。
关之琳敬上。
更多关于关山的精彩内容请持续关注小红帽影院。