Berdasarkan sejarah yang bersumber dari sesepuh Desa Semedo, sejak zaman kewalian wilayah Desa Semedo termasuk dalam wilayah Kabupaten Tegal dan merupakan daerah pedesaan yang dikelilingi hutan yang subur serta tumbuhan yang hijau di atas tanah yang berbukit dan lebat, tak heran Desa Semedo menjadi desa untuk berjuang pada zaman pelahiran antara zaman kewalian ke zaman kemerdekaan.
Pada tahun 1569 M datanglah seseorang dari Kerajaan Panjang (Pajang?) yang bernama Kanjeng Pangeran Surohadikusumo (Mbah Semedo) dan beliaulah yang pertamakali menempati dan berdiam di bukit, sampai wafat pada tahun 1679 M. Semenjak wafatnya beliau, tempat tesebut digunakan untuk bersemedi. Karena tempat tersebut untuk bersemedi, oleh masyarakat sekitar, daerah terebut diberi nama Semedi. Oleh karena perkembangan zaman dirubah menjadi Semedo.
Setelah wafatnya K.P Sukohadikusumo (Mbah Semedo) kemudian pada tahun 1819 Desa Semedo kedatangan jenazah yaitu seorang Bupati Kaloran yang bernama Raden Mas Panji Hadi Cokronegoro dan dikebumikan di sebelah barat Makam Mbah Semedo. Dan kedua makam tersebut sebagai situs sejarah Reliji Kabupaten Tegal.
Setelah zaman kemerdekaan pada tahun 1952 Desa Semedo digunakan untuk markas DI/TII yang bertempat di tengah hutan (Gerpelem) yang waktu itu di pimpin oleh Kartosuwiryo. Dan Desa Semedo menjadi markas TNI untuk menupas DI/TII.

Setelah DI/TII berhasil ditumas oleh TNI, maka dengan segala upaya masyarakat mengadakan Rembung Desa untuk memilih pemimpin atau sebutan sesepuh desa, walaupun sebelumnya sudah berjalan pemerintah pada Zaman Penjajahan Belanda.
Versi lain berdasarkan Juru Kunci Makam Semedo:

berkaitan dengan Mbah Semedo, dikisahkan pada masa Walisanga, di kerajaan Cirebon puteri dari Sultan Cirebon mengalami sakit yang tidak kunjung sembuh. Untuk mengobatinya Sultan mengumumkan sayembara bahwa sesiapa yag dapat menyembuhkannya akan mendapat hadiah.
Di Jayakarta, Kanjeng Pangeran Surahadikusumo, yang berdakwah Islam, mendengar kabar ini dan mengingat dia memiliki keahlian tentang tabib/ kesehatan berniat untuk membantu sang Sultan.
Berangkatlah dia ke timur menuju Cirebon untuk mengobati sang puteri.
Dengan seijinNya, sang puteri dapat disembuhkan, dan dia sementara waktu bermukim di daerah Cirebon. Ternyata sang sultan lupa akan janjinya dan tidak segera memberi hadiah kepada K.P. Surohadikusumo. Ketika dia mencoba menghadap untuk meminta hadiah yang dijanjikan, bukannya medapat sambutan namun justru dihardik untuk pergi dari wilayah Cirebon.
Karena menanggung malu (lingsem) beliau mengalah dan pergi ke arah timur dan menemukan tempat yang cocok untuk tinggal yaitu di daerah Semedo. Sampai akhir hayatnya beliau mengajarkan Ilmu Agama dan mendakwahkannya di sekitar wilayah Semedo.
Sedangkan mengenai Mbah Kaloran atau yang bernama lengkap RM Tumenggung Panji Haji Cokronegoro, kisahnya berkaitan dengan masa suram pemerintahan Gubernur Jenderal Daendels.
Pada abad 18, sewaktu Mr Herman William Daendels membuat jalan raya sepanjang 1000 Km dari Anyer sampai Penarukan, banyak rakyat pribumi menjadi korban akibat kerja rodi, termasuk rakyat Tegal yang tanahnya dilalui proyek pembuatan jalan.
Saat itu, Bupati Tegal yang dipimpin RM Tumenggung Panji Haji Cokronegoro setiap hari dibikin repot karena harus menyediakan 1000 orang untuk kerja paksa. Oleh karenanya, ia sangat prihatin dan sedih, tidak sedikit rakyat yang kurang patuh harus mendapat hukum pancung.
Hampir setiap hari, Bupati Tegal menyaksikan peristiwa yang memedihkan itu.
Peristiwa yang sering terjadi ini membuat Sang Bupati mengasingkan diri ke daerah Semedo hingga akhir hayatnya.

Sumber: Sumber RPJMDes Desa Semedo dan Bappeda Kabupaten Tegal
http://sejarahdanlegendatanahjawa.blogspot.com/2016/08/desa-semedo.html