향토예비군은 1968년 2월 27일 대통령령 제3386호로 「향토예비군설치법시행령」을, 1968년 4월 1일 국방부령 제123호로 「동법시행규칙」을 제정·공포하였다. 그 후 현실에 맞지 않는 부분이 많아 다시 1968년 5월 29일 법률 제2017호로 「향토예비군설치법」을, 1968년 6월 13일 대통령령 제3482호로 「동법시행령」을, 1969년 1월 8일 국방부령 제131호로 동시행규칙을 전문 개정하기에 이르렀다. 이 관계법령은 그 후에도 수차에 걸쳐 개정되었다.
북한은 1968년 휴전선 근방에서 교란행위뿐만 아니라 무장공비를 남파하여 청와대 공격을 기도하고 잇따라 해상에서도 미국 해군의 정보수집함 푸에블로 호를 비롯한 한국 어선의 납치행위 등을 계속하는가 하면, 무려 300여건, 1천 여 명에 달하는 무장간첩을 남파했다. 그러나 우리나라는 북한의 대남공작 전술에 효율적으로 대처할 방법이 없었다. 이와 같은 긴박한 상황 하에서 정부는 자위를 위한 중대 결의를 하고 유엔에 대해 자주국방 요구를 하게 되었다. 이 요구는 특히 미국의 대북한 유화정책에 대한 도전이기도 했다.
향토예비군은 최초 1968년 4월 1일에 창설되었다. 당시 북한은 전쟁에 대비하여 1962년 4대 군사노선을 발표하였고, 1966년 8월에는 이른바 자주노선을 선언하여 1970년대 ‘남조선 적화통일’이라는 목표를 두고 전쟁도발행위를 격화시키고 있었다.
박대통령은 유엔 중심의 국방정책을 자주국방태세로 전환하고, 향토예비군 2백50만 명의 무장화하고, 무기생산 공장의 연내 건설 등의 내용을 발표했다. 이 발표는 우리의 안보를 자주국방 개념으로 전환시킨 것이었다. 그러나 국회에서는 기존 향토예비군 설치법에 대한 개정안과 예산운영 문제에 대한 이의제기, 그리고 현 체제 하에서도 대공태세는 충분하다는 주장이 나와 여·야 간 공방전이 일어났다.
그러나 대 게릴라 대비 전에 대한 태세확립이 필요하다는 것이 대세였다. 이에 따라 1968년 3월 26일까지 향토예비군 191개 대대, 2천6백8개 중대, 478개 직장중대가 편성되어 총 1백66만2천143명으로 조직편성을 완료하고 이 해 4월 1일에 대전 공설운동장에서 창설식을 갖게 되었다. 그리하여 후방 방위임무를 부여받고 전국토의 방어 임무를 수행할 수 있게 되었으며 한편으로 주민들의 호응으로 협조체제를 구축 할 수 있었다. 그 후 향토예비군은 단계적으로 정비 강화되어 4백50만 명에 달하는 막강한 제2의 국군으로 성장하게 되었다. 향토예비군의 조직은 당시 북한군 2백10만여 명의 병력을 상회하는 우위효과를 주었으며 실질적으로 후방방위에 큰 역할을 하고 있다.
초창기의 향토예비군의 장비는 1968년 5월에 개최된 한·미 국방장관회의에서 결정된 1억 달러 추가 군사원조 중에서 M-2 카빈 소총을 비롯하여 탄약 및 부속품을 공급하기로 결정되어 이를 보급 받아 무장하였다. 이와 같이 창설된 향토예비군은 이해 7월 29일에 무안 허사도에 침투한 무장공비 2명을 사살한 전과를 시발로 군경과 함께 같은 해 11월 2일에 울진·삼척지역에 출현한 무장공비 107명 사살, 7명 생포, 그리고 주문진 무장공비 침투 시 8명을 사살하는 등 수많은 크고 작은 작전과 최근 재해복구 작업에서도 큰 역할을 수행하였다.