Hal pertama untuk pendirian Rumah adat Batak adalah proses yang dalam bahasa Batak Toba disebut "mangarade". Ini adalah pengumpulan bahan penyusun bangunan seperti tiang, tustus (pasak), pandingdingan, parhongkom, urur, ninggor, ture-ture, sijongjongi, sitindangi, songsong boltok dan ijuk sebagai bahan atap. Juga bahan kelengkapan bangunan seperti singa-singa, ulu paung dan sebagainya yang diperlukan. Prosesnya dilaksanakan dengan gotong royong yang dalam bahasa Batak toba dikenal sebagai "marsirumpa" suatu bentuk kerja sama tanpa pamrih antar penduduk sekampung.

Arsitektur Batak Toba terdiri atas ruma dan sopo (lumbung) yang saling berhadapan. Ruma dan sopo dipisahkan oleh pelataran luas yang berfungsi sebagai ruang bersama warga huta. Ada beberapa sebutan untuk rumah Batak, sesuai dengan kondisi rumahnya. Rumah adat dengan banyak hiasan (gorga), disebut Ruma Gorga Sarimunggu atau Jabu Batara Guru. Sedangkan rumah adat yang tidak berukir, disebut Jabu Ereng atau Jabu Batara Siang. Rumah berukuran besar, disebut Ruma Bolon. dan rumah yang berukuran kecil, disebut Jabu Parbale-balean. Selain itu, terdapat Ruma Parsantian, yaitu rumah adat yang menjadi hak anak bungsu.