小霸尖山在大霸尖山之西南，規模稍小，山形孤立挺拔，高度3418公尺，與大霸尖山並立於雪山地壘的北側，兩山皆為硬質砂岩所構成，地層相當於始新世至漸新世之白冷層。泰雅族語稱大、小霸尖山為Babo papak，Babo是山，papak是指雙耳，日據時期即以意譯為「雙耳嶽」。兩山位於地層平緩疊置之箱型背斜軸部發育而成，在自然作用下，大霸尖山將會因侵蝕作用而逐漸崩塌縮小，形成類似現今所見的小霸尖山。 (原登錄表為劉桓吉於1995年調查登錄)

小霸尖山位在大霸尖山西南方約700公尺處，其地質構造與成因皆與大霸尖山相同，都是由硬質砂岩所構成，唯其山形規模較大霸尖山為小。 


照片遠方為名列雪山聖稜線之大霸尖山和小霸尖山，雪山聖稜線是連結雪山山脈雪山主峰與大霸尖山的稜脈，海拔高度均在3100公尺以上。