권오상은 1900년 경상북도 안동에서 아버지 안동 권씨 권동직(權東稷, 1868~1921)과 어머니 고성 이씨(1865~1908) 사이에서 3남 1녀 중 셋째로 태어났습니다. 할아버지 권준희(權準羲, 1849~1936)는 1910년대에 풍기광복단과 광복회에 가입하여 활동한 독립운동가로서 2005년에 대통령표창을 추서 받은 인물입니다. 또한 권오상은 권오설과 3살 차이의 14촌 형제지간으로 같은 동네에 살면서 가깝게 지내며 어울렸습니다.

권오상의 유년 시절 및 청소년 시절에 대한 기록이나 증언이 남아있지 않아 성장 과정이 어떠했는지 알기 어렵습니다. 다만 안동의 양반 가문 출신인 만큼 권오설과 마찬가지로 어린 시절 한학을 배웠을 것으로 추정됩니다. 권오상은 8살 때 어머니 고성 이씨가 돌아가심에 따라 홀아버지 밑에서 자라게 되었고, 11살 때는 큰형 권오관(權五寬, 1889~1911)까지 사망함으로써 어린 나이에 가족을 연달아 잃는 아픔을 겪게 됩니다.

18살이던 1918년에 할아버지 권준희가 일제에 체포되어 옥고를 치르는 모습을 지켜보게 되고, 이듬해인 1919년 3.1운동이 발발한 상황에서 친척 형 권오설이 옥고를 치른 후 고향으로 돌아와 계몽운동, 독립운동을 펼치는 모습을 보게 됩니다. 그러면서 권오상은 자연스럽게 그 영향을 받아 민족의식과 독립 의지를 키웠을 것으로 추정됩니다.
1921년 비교적 늦은 나이인 21세에 서울로 유학하여 중앙고등보통학교(현 중앙고등학교)에 입학하게 됩니다. 3년 전에 권오설이 입학했다가 경제적 형편이 어려워 중퇴했던 바로 그 학교입니다. 서울로 떠난 직후인 1921년 6월에 고향에 있던 아버지 권동직이 돌아가시게 되면서 권오상은 부모님을 모두 잃게 됩니다. 한편, 정확한 시기를 알 수 없으나 권오상은 한 살 연상인 정차한(鄭次漢, 1899~1972)을 아내로 맞아 결혼하게 됩니다.
