山縣 有朋（やまがた ありとも、、1838年6月14日〈天保9年閏4月22日〉- 1922年〈大正11年〉2月1日）は、日本の陸軍軍人・政治家。最終階級・称号は元帥陸軍大将。位階・勲等・功級・爵位は従一位大勲位功一級公爵。号は含雪
内務卿（第9代）、内務大臣（初代）、内閣総理大臣（第3・9代）、司法大臣（第7代）、枢密院議長（第5・9・11代）、陸軍第一軍司令官、貴族院議員、陸軍参謀総長（第5代）を歴任した。
概説 幼名辰之助、通称は小助、1864年以降は狂介・小輔・狂助・狂輔。変名として萩原鹿之助の名も用いた。1871年以降に有朋の諱を称した。号は1871年まで素狂、以降は無隣庵主、含雪。
長州藩の蔵元付仲間だった下級武士の家に生まれ、学問と槍の稽古に励んだ。学問を修めて松下村塾に入り尊王攘夷運動に従事。高杉晋作が創設した奇兵隊で軍監となり、戊辰戦争で転戦した。明治維新後の1869年に渡欧し、各国軍制を視察して1870年の帰国後に兵部大輔に就任。西郷隆盛とともに御親兵の組織と廃藩置県に尽力した。
1873年の陸軍省創設で陸軍卿に就任。1878年にはドイツに倣った参謀本部を創設し初代参謀本部長に就任。1878年の軍人訓誡、1882年の軍人勅諭の起案、頒布にあたった。1882年には参事院議長、1882年に内務卿、1885年に第1次伊藤内閣の内務大臣に就任し、黒田内閣でも留任。1884年に伯爵、1890年に陸軍大将に昇進した。
1889年に第1次山縣内閣を組閣。軍備拡張をめぐり民党と対立し、自由党土佐派を切り崩して切り抜けたが、結局1891年に内閣総辞職。この際に元勲優遇の勅語を受け、以降元老として大きな政治力を発揮した。
日清戦争では第一軍司令官として出征。1898年に元帥。同年の第1次大隈内閣瓦解後、第2次山縣内閣を組閣。憲政党と提携して地租増徴を行い、政党勢力の官僚機構進出を阻むため文官任用令改正、枢密院権限の拡大、軍部大臣現役武官制の制定などで官僚制を強化。また治安警察法の制定で台頭する労働運動に備えた。外交面では1900年の義和団事件で列強諸国と共に清に派兵し列強諸国の一員となる地歩を固めた。同年に伊藤博文が立憲政友会を組織したことで内閣総辞職。
日露戦争では参謀総長として指揮し、その戦功で1907年に公爵。1909年の伊藤博文の死後には軍の巨頭として元老内の最有力者となったが、大正期に政党政治の力が本格的に強まってくると影響力を弱め政党政治を容認するに至った。1922年に死去し、国葬に付された。
生涯 幼少期 天保9年閏4月22日（1838年6月14日）、萩城下近郊の阿武郡川島村（現：山口県萩市川島）に、長州藩の蔵元仲間組の山縣三郎有稔（中村喜左衛門の子）の長男として生まれた。長州藩における蔵元仲間組は戦時には武具を運び、平時には奉行所の下役人として働く足軽であり、両刀を差すことはできたが、一般の武士より低い扱いを受けていた。母は有朋が数え年5歳のころに病没し、厳格な祖母のもとで育てられた。
有稔は手子役という、奉行所の下級職人であったが、国学を学び歌を詠むなど、学問に優れていた。その父から勉強を教えられた。15歳で元服し、蔵元両人所、次いで明倫館の手子役となった。その後は代官所の手子役となり、農村を回って実務を学んだという。その後御徒目付の家来の横目役についた。このころには撃剣・槍術などの武芸にも励み、23歳ごろには宝蔵院流の使い手として藩内で知られていたという。友人の杉山松助らに松下村塾への入塾を勧められるも、「吾は文学の士ならず」として辞退したともいわれる。
尊攘志士 安政5年（1858年）7月、時勢を学ぶためとして、山縣を含む6人の若者が京都に派遣されることとなった。派遣された6名のうち、4人は杉山と伊藤俊輔（のちの伊藤博文）を始めとする松下村塾の塾生であり、山縣が選ばれたのは杉山が吉田松陰に推薦したためであるという。京都では尊王攘夷派の大物であった久坂玄瑞・梁川星巌・梅田雲浜らに感化されて尊皇攘夷思想をいだき、10月の帰藩後に久坂の紹介で吉田松陰の松下村塾に入塾した。しかし翌月には松陰は謹慎の身となり、まもなく獄に下り刑死することになった。山縣は松陰から大きな影響を受けたと語り、生涯「松陰先生門下生」と称し続けた。入塾間もない山縣に咎めはなかったが、他の塾生を入獄させないよう藩の重役に直談判するなどしている。
万延元年（1860年）には薩摩藩の動向を探るため、書状の届け役として薩摩に潜入しているが、警戒が厳しく薩摩弁も理解できなかったために役目を十分に果たせなかった。この年には父有稔が病没している。
文久3年（1863年）1月3日には「尊皇攘夷」の正義をわきまえていると賞され、終身の士分に取り立てられた。2月に再度京都へ向かい、滞在中に高杉晋作と出会い親しくなった。その後はリウマチを患って療養していたが、9月ごろからは高杉が創設した奇兵隊に関与するようになり、12月23日に3代目総管・赤禰武人のもとで、副官に当たる奇兵隊軍監と壇ノ浦支営の司令に就任し、兵隊訓練と壇ノ浦警備に励んだ。
長州防衛戦 thumb|200px|奇兵隊軍監時代の山縣 元治元年（1864年）、長州藩では軍を率いて上洛するという声が盛んになった。山縣は岡山藩・広島藩と連携するべきと考えていたが、容れられなかった。6月には池田屋事件が京都で発生、旧友の杉山が命を落とした。長州の藩論は激高し、久坂玄瑞や入江九一などが京都に潜入した。山縣も上洛を願い出たが、下関海峡の警護が重要であるとして、藩主命令で差し止められた。7月19日には禁門の変が発生し、久坂と入江ら同門の友人たちが命を落とした。
さらに8月には下関海峡を四カ国連合艦隊が襲撃した。この下関戦争で、山縣は壇ノ浦砲台で外国艦隊相手に応戦したが、装備で大きく差がついた外国勢に敵わず敗北している。さらに第一次長州征討をうけたことで、幕府に恭順しようとする椋梨藤太ら俗論派が台頭した。これに高杉ら正義派は反発し12月に挙兵した（功山寺挙兵）。総管赤禰は俗論派との話し合いを考えており、山縣は反乱が時期尚早と考えていたため同調しなかった。しかし俗論派によって正義派の前田孫右衛門ら（甲子殉難十一烈士）が斬罪にされたことで、奇兵隊をふくむ諸隊では反俗論派の声が高まった。翌元治2年（慶応元年、1865年）1月2日、赤禰が奇兵隊を脱走し、山縣が事実上奇兵隊を掌握した。1月5日には高杉を支援することを決め、以降は俗論派との戦闘で次々に勝利を収め、正義派を勝利に導いた。しかし2月6日ごろから病気となり、5月6日に一旦軍監を免じられ、一ヶ月後に復帰している。またこの年の3月、山縣を育て上げた祖母が、山縣から贈られた反物で作った着物を纏って入水自殺を遂げた。後年、山縣は祖母が足手まといになってはならないと考えて自殺したのではないかと推測している。
慶応2年（1866年）の第二次長州征討では奇兵隊の実権を握り、高杉の海軍と協力して小倉を占領する活躍を見せた。その後7月27日の赤坂・鳥越の戦いなどでは小倉藩兵の抵抗に苦しめられるなど、12月28日の和睦まで最激戦地の小倉口を戦い抜いた。慶応3年（1867年）2月、山縣は木戸孝允の支配下として京都と摂津の間で事情探索を行うことを命じられた。しかし死の床にあった高杉に引き止められてすぐには出発せず、4月に逝去した高杉の葬儀を済ませ、5月2日に上洛した。京都では薩摩藩の倒幕派である西郷隆盛・大久保利通・黒田清隆らと交流を結んだ。国父島津久光や家老小松清廉とも面会し、薩長の連携計画を打診したが、倒幕計画のリスクをためらっていた薩摩上層部からははかばかしい返事は得られず、6月に帰藩した。上洛前の4月に庄屋の娘・友子と結婚、帰藩した7月に式を挙げている。
その後11月まで薩摩藩が倒幕への動きを見せず、山縣は疲労と心労で病気となり、7月には一時軍監を免じられている。11月17日、討幕の密勅を受けた薩摩藩主島津茂久が長州の三田尻港に到着し、11月25日に薩長連合軍が京都に向けて出港した。しかし山縣ら奇兵隊本隊は本営のある長州吉田に残り、翌慶応4年（明治元年・1868年）1月の鳥羽・伏見の戦いには参加できなかった。
戊辰戦争 鳥羽・伏見の戦い後に奇兵隊本隊にも出陣の命令が下り、山縣は参謀福田侠平を従えて3月に出発し、大坂、次いで江戸へ下向、再会した西郷と意気投合し江戸に滞在し、閏4月に大坂へ戻り木戸と話し合い、両者からの信頼を獲得した。また北陸地方・越後方面への出陣を命じられたことで山縣は戊辰戦争に加わることになった（ただし、福田は木戸と西国へ行き離脱）。
戊辰戦争（北越戦争・会津戦争）では黒田とともに北陸道鎮撫総督・会津征討総督高倉永祜の参謀となり、奇兵隊を含む諸藩兵を指揮する立場に昇格した。閏4月19日に高田で軍を集結させると二手に分け北上、山縣と黒田は海沿いに進む軍監三好重臣が指揮する本隊と同行、もう1人の軍監岩村高俊率いる別動隊は内陸部へ進軍した。本隊は27日の鯨波戦争で桑名藩兵に勝利し、翌28日に柏崎を占領した。別動隊も小千谷を占領し、順調に戦線を進めたかに見えたが、越後口では長岡藩家老河井継之助と友軍の桑名藩士立見尚文の前に苦戦を強いられ、5月13日の朝日山の戦いで奇兵隊を率いた友人の時山直八を立見率いる雷神隊に討ち取られ、山縣は衝撃のあまり涙を流したと伝えられる。膠着状態だった戦線は19日に本隊の三好による長岡城陥落で新政府側が有利になったが、7月25日に河井が長岡城を奇襲で奪還（八丁沖の戦い）、山縣はなすすべもなく西園寺公望総督（病気で辞職した高倉の後任）ともども城外へ逃げ出す羽目になった。
それでも城外で体勢を立て直し、奇襲の際に河井が重傷を負い敵の勢いが衰え、山田と黒田が別動隊として海軍に乗り込み日本海を北上、長岡城陥落と同日に北の太夫浜へ上陸、新潟港を落とし新発田藩を寝返らせたこともあり、4日後の29日に長岡城を再度落とし、越後諸藩も降伏させ8月中に何とか越後を平定した。それから東へ進軍して9月18日から会津城籠城戦で包囲軍に加わり、4日後の22日に会津藩降伏に立ち会ったあと江戸へ下向、長州へ戻った。越後平定という戦果は挙げられたが、薩長兵間の対立が続き、特に長州藩兵の黒田参謀への不満は高まる一方であった。このため山縣は一時参謀を辞職したが、改めて参謀に任ぜられた。薩長兵の仲が悪いまま別々に行軍するなど問題続きだった。この問題は西郷が現地に赴き、慰められた山縣が薩長に気配りしたことで解決している。
明治2年（1869年）、維新の功によって賞典禄600石を賜っている。
日本陸軍の建設 thumb|200px|兵部少輔時代の山縣 明治2年3月、木戸や西郷に願い出ていた海外留学の許可が下り、6月28日に西郷の弟・西郷従道とともに渡欧し、フランス・イギリス・ベルギー・ドイツ・オーストリア・ロシア・オランダを巡遊した。翌明治3年（1870年）にアメリカ経由で8月2日に横浜港に到着した。
帰国後には兵部省のポストに就くよう勧誘されたが、当初は病気を理由として承諾しなかった。これは山縣の友人であった兵部大輔・前原一誠が直前に木戸と対立して辞表を出していたため、それに配慮してのことであった。当時の兵部省は、明治2年の山縣の海外留学中に長州の新政府幹部の1人でもあった初代・兵部大輔の大村益次郎が暗殺されたことで制度も滞ったままで、兵力も少ない皇居の護衛程度しか任務がない小官庁であり、兵部卿有栖川宮熾仁親王は名目上のトップで、実際は岩倉具視や木戸・大久保利通ら文官も強い影響力を持っていた。さらに兵部少丞の山田顕義との関係は希薄であり、仮に上官となっても服従させられるとは限らなかった。結局8月28日に山縣は兵部少輔に任命され、前原がまもなく辞職したことで、事実上の兵部省次官となった。11月には徴兵制のさきがけとして、畿内五カ国から兵を募る計画を立てたが、実現はされなかった。
山縣は各藩に分かれている軍事力を中央にまとめるため、薩摩に戻っていた西郷を政府へ呼び出す必要があると考えていた。明治3年12月、島津久光を東京に招くためとして岩倉が勅使として鹿児島に派遣され、山縣も随行した。鹿児島では大久保・川村純義・西郷従道とともに西郷を説得した。山縣は長州で木戸と面会した後、翌明治4年（1871年）1月末に帰京した。このころ木戸は廃藩置県実現の確信を得るに至ったが、それは山縣が薩摩から得た情報が元になっており、木戸は山縣に薩摩との連絡役を頼むなど、大きな信頼を寄せることとなった。2月には日田騒動の鎮圧に関与している。また廃藩置県後をにらみ、日本各地に旧藩兵を駐屯させる鎮台制度の調整を開始している。山縣と西郷従道は兵部省内の改革を進め、4月には兵部省内の部局を陸軍と海軍に分けている。
6月25日には太政官の大改革が行われ、ほとんどの卿と大輔が辞任し、山縣も兵部少輔を辞任している。6月29日には兵部少輔に再任された。また、7月1日には大久保や大隈重信・井上馨とともに、官制改正のための制度取り調べを命じられた。7月6日には西郷の元を訪れ、廃藩の説得にあたっている。7月14日、廃藩置県の詔が出た日に兵部大輔に昇進し、卿のいない兵部省のトップとなった。明治5年（1872年）2月27日、兵部省は陸軍省・海軍省に分割され、山縣は陸軍大輔となった。3月9日には山縣の上奏により御親兵が廃止されて近衛が設置され、山縣は近衛都督・陸軍中将にも任じられた。また3月には鎮台制度が開始されている。明治6年（1873年）1月の2鎮台増設とともに、東京軍管で全国徴兵の前段階としての新兵募集が行われている。
一時的な失脚と明治六年政変
当時、奇兵隊で山縣の部下だった政商・山城屋和助は、兵部省を含む各省庁から借り入れをし、大きな利益を上げていた。また各省庁の官吏も山城屋から借金をしていた。しかし生糸価格が暴落し、輸出を増やすために洋行したが、派手に豪遊したことで噂になった。司法卿の江藤新平は調査を行い、山縣の排斥運動につながった。
従来から反抗的であった薩摩系将校たちが辞職を迫ったことにより、山縣は6月29日に辞表を提出した。辞表を受け取った明治天皇は西郷隆盛・従道兄弟に調停に入るよう命じた。調停の結果、山縣と従道が近衛都督と副都督を辞任し、西郷隆盛が都督となることで収拾を図ることとなった。
この後山縣が山城屋に帰国を求め、借金の返済を迫ったところ、山城屋は関係書類を焼却して陸軍省内で割腹自殺を遂げた。
薩摩派の山縣攻撃は更に強まり、明治6年4月に山縣は再度辞表を提出した。この際、陸軍大輔の辞任のみが認められ、陸軍中将の地位は保つこととなった。山縣なき陸軍の瓦解を恐れた西郷・大隈重信・井上馨らは、4月29日に山縣を陸軍御用掛として陸軍卿代理に任じた。6月8日には陸軍卿兼任を求められ、辞退したものの認められず、陸軍卿を務めることとなった。
7月から山縣は各鎮台巡視を行い、10月の明治六年政変に直接関与することはなかった。山縣は当時閣議のメンバーではなかったが、政変後の10月26日に帰京した際もなかなか木戸の元を訪れないなど煮え切らない態度をとり、木戸の怒りを買うこととなった。これは山縣が恩人である西郷との対立に消極的であったためと指摘する意見もある。
政変後の人事では山縣以外の卿はすべて参議となったにもかかわらず、木戸の反対により山縣のみ参議となれなかった。その後も大久保利通と伊藤博文、岩倉らはなおも山縣の参議就任を働きかけている。一方で陸軍省内での山田顕義派閥との対立が激化し、明治7年（1874年）2月に陸軍卿を辞任、近衛都督に就任した。2月22日には参謀局（後の参謀本部）が設置され、参謀局長に就任した。しかし立場は不安定であり、佐賀の乱や台湾出兵に関与できなかった。
しかし台湾出兵での西郷従道の独断出兵に不安を覚えた大久保は、出兵反対派であった山縣の再起用を考え、6月30日に陸軍卿に再任された。8月に大久保の推薦で参議に就任した。またこのころから一時険悪であった木戸との関係も修復される。
西南戦争 thumb|200px|right|應需進斎筆「開明貴族表」、大判三枚続錦絵（左） トウケイ 二品有栖川公、シヅヲカ 従四位榎本公、サガ 正四位大隈公、カゴシマ 正四位黒田公、カゴシマ 正三位西郷公、ヤマグチ 正四位山縣公（明治10年〈1877年〉） 明治10年（1877年）2月に勃発した西南戦争では、当初大久保など政府中枢は西郷が加担することはないと考えていたが、山縣は西郷が騒動に与する考えはなくとも、情誼において私学校党の徒が必ず担ぎ出すと見ていた。山縣は陸軍卿兼任のまま、現場総指揮官である参軍に就任した。海軍側の参軍として川村純義も就任したが、陸軍が中心であった政府軍の戦略の中心を担うこととなる。錬度や士気で優る薩軍に対し、装備と物量・兵力で対抗して鎮圧した。また、電信を活用し分散した軍との連絡を取り合い、政府も海軍を使い薩軍の後方の鹿児島を襲撃させ制海権を掌握した。薩軍挙兵前の1月28日に、不穏な鹿児島情勢を警戒し、山縣は陸軍少輔大山巌や熊本鎮台司令長官谷干城に厳戒態勢を滞在中の京都から命じて、小倉の歩兵第14連隊から一個中隊を派遣して長崎港の防備を固めた。はたして薩軍は2月5日に挙兵、山縣は2月10日に太政大臣の三条実美の許可を得て大山に命じて近衛歩兵第1連隊・東京鎮台歩兵第1大隊・東京鎮台山砲兵第1大隊への出帥準備させ、大山は2月14日に薩軍鹿児島進発の報を受けて順次兵員を出動させた。熊本鎮台の兵が籠城する熊本城を攻めあぐねた薩軍は一部を残して北上、博多港から南下した援軍の政府軍と田原坂など周辺で激突した。
3月4日から政府軍は田原坂を攻撃したが、薩軍の果敢な襲撃と堅固な陣地の前では突破できず犠牲が増え、抜刀隊の投入などを経てようやく20日に田原坂を突破したが、東の植木から先は薩軍の抵抗で進めないままだった。こうしたなかで高島鞆之助が進言した別働隊編成案が閣議で採用され、征討参軍となった黒田清隆を指揮官として山田と川路利良が率いる別働第二旅団が編成された。3月18日から22日ににかけて別動第二旅団は熊本の南の八代に上陸、薩軍の抵抗を排除しながら北上、4月14日に熊本城へ入り包囲から解放した。それにより植木の薩軍は撤退、山縣の本隊も16日に入城を果たした。陸軍の山縣が敵と対峙している間に海路から黒田と山田が敵の背後を占領・牽制するという、奇しくも戊辰戦争と同じ状況が再現されたが、山縣と黒田の対立が激化したため、黒田は熊本城解放後に辞任、山田は山縣の下に属し従軍を続けた。
撤退する薩軍を追い政府軍は熊本城から東進、山縣は雌雄を決すべく熊本平野の南北に防衛線を張った薩軍と20日に激戦を繰り広げた（城東会戦）。関ヶ原の戦い以来の大会戦といわれ、双方が死力を尽くした城東会戦は北は大津から、南は御船まで政府軍と薩軍が拠点を奪い合う死闘となったが、山田の別働第二旅団が御船を落としたことが転機となり、ほかの戦線も次々と崩れ薩軍は撤退、1日で政府軍の勝利に終わった。以後、山縣は軍の指揮を執り、南の人吉から南東の都城、そこから北東の宮崎、北の延岡まで逃げる薩軍を追跡しながら鹿児島の分隊に援軍を送り、鹿児島を包囲していた薩軍の一部隊を蹴散らし、ほかの戦線にも部隊を送り薩軍を追い詰めていった。やがて8月14日に延岡を陥落させ、翌15日に北の長井村から延岡奪回を図った薩軍との戦闘にも勝利したが、17日夜から18日未明にかけ薩軍が脱出、長井村に包囲網を敷きながら薩軍に西の可愛岳を突破され逃げられる失態を犯し、部下に送った手紙で反省の気持ちを書いている。
態勢を立て直し薩軍追跡を続行、南下して薩軍に奪われた鹿児島へ進軍し、9月24日の最後の城山の戦いでは、1度逃げられた反省から幾重にも包囲網を張り巡らし、各旅団と打ち合わせを重ね慎重かつ詳細に包囲網の部署や攻撃地点などを定めた。また別の戦争終結も試み、直前の23日に西郷へ自決を勧める書状を送った。内容は、大義名分のない挙兵は西郷の意志ではなく周りの暴走ではないかと西郷の心情を慮ったうえで、これ以上犠牲者を出さないため西郷に自決を勧めたが、西郷が返事をしなかったため決戦となった。
政府軍は城山へ総攻撃をかけ、西郷が自決し戦争は終結した。西郷の遺体を検分した山縣は、任務を全うしたことを喜びつつも西郷の死に涙を流し悼んだとのちに回想している。戦後は恩賞として勲一等旭日大綬章と勲章・年金を与えられ、別荘・椿山荘を購入し作庭に取りかかった。
陸軍の権力闘争から派閥結成まで thumb|200px|参謀本部長時代の山縣 戦争で財政が枯渇し経費を節減したため、陸軍内には不満が蓄積するようになった。また、山縣は勲功調査委員として恩賞選定の責任者となっていたことも恨みを買う事となる。
翌明治11年（1878年）8月23日、兵士の待遇を悪くしたり恩賞を下級兵士に与えなかったりしたことが原因で近衛歩兵大隊の暴動（竹橋事件）が発生し、鎮圧された。しかし山縣への不満の声は高まり、ストレスに悩まされた山縣は「精神不調症」となり、9月半ばから11月7日まで転地療養を行う。
山縣は、竹橋事件の背景には自由民権運動の影響があると考え、この間の10月12日に、西周に起草させた『軍人訓誡』（軍人勅諭の原型）を陸軍へ配布し、軍紀の引き締めを図った。伊藤・岩倉らは山縣を傷つけない形で収拾を図ろうとし、内閣改造案の策定に取り掛かった。しかし、内閣改造が政府の弱さを晒すことになるという井上馨の反対も有り、西郷従道の提案で参謀局は独立して参謀本部が成立することとなった。12月7日に大山巌を参謀次長とする参謀本部が編成され、12月24日陸軍卿を辞任した山縣は参議のまま初代参謀本部長となった。このころ参謀局に在籍していた桂太郎は、山縣の腹心となっていた。翌年10月に山縣は、近衛都督の地位を参謀局長であった鳥尾小弥太に譲るが、後に彼は山縣らの批判者となる。
参謀本部を充実させる一方、山縣は1879年から翌年にかけて将校十余名と桂を駐在武官や語学研究生として清へ派遣し、兵役改革を調査をさせた。そしてその報告を受け、1880年（明治13年）11月30日 天皇に「進隣邦兵備略表」を上奏。
明治13年（1880年）には山縣と親しい大山巌が陸軍卿となり、陸軍の全権を山縣が握っていると評される状態となった。軍編成を鎮台から師団変更の検討など軍の整備も進めた。
明治十四年の政変では伊藤を支持し、黒田清隆の進める官有物払い下げの中止を求めている。
明治15年（1882年）1月に軍人の政治関与禁止を改めて記した軍人勅諭を制定。伊藤らから別の省の卿になることを求められるが、拒否して参謀本部長の地位に留まる。
明治15年（1882年）3月、伊藤が憲法調査のため外国へ旅立ち、参事院議長を辞任すると、山縣が参謀本部長を辞任して後任の参事院議長に就任。翌年8月に伊藤が帰国するまで在任した。参謀本部長は辞任したものの、参謀本部御用掛として参謀本部に強い影響力を残した。伊藤の帰国後は内務卿に転任。
明治17年（1884年）の華族令制定の際に華族に列して伯爵に除され、大山、桂、川上操六らと陸軍の改造・拡充を計画し、同年2月に大山陸軍卿が欧州視察に向かった後は、内務卿兼任のまま参謀本部長を勤める。大山が帰国した後も兼任は解かれなかったが、これは陸軍と参謀本部の自立を考える山縣にとって好ましい状態ではなかった。翌明治18年（1885年）12月22日、山縣の願いで参謀本部長の兼任は解かれた。同日に内閣制度創設で内務卿の名称が変わると、第1次伊藤内閣の内務大臣となった。三浦梧楼ら四将軍派、陸軍内若手の月曜会は山縣らの主導による軍拡に反対。また、予算上の問題から伊藤と井上が軍拡計画の再考を求めたことや、内部分裂を恐れて四将軍派の懐柔を提案したこともあり、山縣らの軍拡計画は明治26年（1893年）度まで延期となるなど一向に進まなかった。
明治19年（1886年）7月10日、桂陸軍総務局長は、監軍部の廃止と参謀本部の勢力抑制を目的とした検閲条例と陸軍進級条例の改正案を閣議に提出した。この条例には四将軍派の曾我参謀次長のみならず、明治天皇も裁可を渋った。また、三浦らも大山陸相を公然と批判し、これを受けた大山は「意見が通らなければ辞職する」といい、大山支持の薩摩軍人も揃って辞表を提出する騒ぎとなった。4月24日伊藤の説得で明治天皇は監軍を一つ残置すると修正させた後に、この条例を裁可した。陸軍首脳を公然と批判した曾我と三浦は閑職に左遷され、自ら辞表を提出している。一連の対立に際して山縣は表立って動いていないが、一貫して大山らを支持し四将軍派の排除に一役買った。
反対派がいなくなり陸軍改革も桂らの手で着々と進んだことにより、陸軍は山縣を中心とする派閥が形成されていった。
山縣は積極的に人材登用を行い、桂をはじめ児玉源太郎、岡沢精など同郷人や中村雄次郎、木越安綱ら他藩出身者も軍部へ取り立て、派閥を拡大していった。
軍拡と組織体制も整い、明治21年に師団への変更と参謀本部の改編が行われ、参謀本部は翌明治22年に参謀総長を長とする軍事組織へと改編が完了、のちに同様の組織として海軍軍令部も作られ陸海軍双方の参謀本部が完成した。
ただし、平常時で軍政に関わる事柄、特に予算関係は陸軍大臣が内閣と協議する慣例で、軍の中心は陸軍省にあり、参謀本部は完全に陸軍省から独立した部署には成りえていなかった。
内務省での活動 thumb|200px|内務大臣時代の山縣 明治18年1月に京都府知事北垣国道に疏水起工特許を下し、5年後の明治23年4月に挙げられた琵琶湖疏水竣工式に出席。以後も琵琶湖疏水との関わりは続き、のちに京都の琵琶湖疏水のほとりに別荘・無鄰菴を建てると、庭池に疏水の水を流してもらっている（これは京都市が疏水事業を推進した山縣への恩義からではないかとされている）。
内務大臣として地方自治の形成に尽力し、市制・町村制・府県制・郡制を制定した。内相就任前から地方制度に関する意見を政府に提出していた山縣は、市町村制の公布に際し、明治20年（1887年）1月から開かれた地方制度編纂委員会で委員長を務め、ドイツのお雇い外国人アルベルト・モッセ、同郷の青木周蔵・野村靖らを委員として、ドイツの制度を参考にした自治制を日本に合うように修正・定着する方針に決めた。
しかし、地方が財政難の中各地方長官が急激な制度改革に反対、元老院と大蔵省も反対した。山縣は制度実現に向けて明治21年2月までに立案・審議を終わらせ、4月25日にまず市制町村制が公布、明治22年4月1日以降に各地で順次施行、明治23年（1890年）5月17日に府県郡制も公布された（施行は明治32年（1899年）3月16日まで遅れた）。
地方財政の対応策として明治の大合併を推進し、明治21年末から明治22年末までに約7万から約1万5,000と町村の数が激減するほどの合併を実行したが、地方に妥協し実情に合わせて配慮したため、旧町村と新町村の財政が一本化されない、新町村に吸収されたはずの旧町村の区域が名前を変えて残り、実際の町村は分離されたままという中途半端な結果に終わっている。
山縣が地方自治に熱心に取り組んだ理由は、日本国民に政治の仕組みを地方政治を通して理解させること、および急進派や過激思想（特に自由民権運動）を政治から遠ざけ、穏健派を政治に迎え入れる意図があった。府県と郡の政治機関は官選の知事（郡長）と補佐する執行機関の府県参事会（郡参事会）、地方議会にあたる府県会（郡会）で構成され、市町村も同じ構造で市長・市参事会・市会が政治機関で、町村もそれぞれ町長（村長）・助役・町会（村会）を置き、等級選挙と複選制（間接選挙）を導入して富裕層の政治参加を図った。山縣の狙いは普通選挙を導入して混乱を招くより、等級選挙で地方の有力者の政治参加を望み、地方議会政治を通して彼らを行政事務に慣れさせ、政治家として成長した地方議員達がやがて中央へ進出、将来帝国議会で堅実に政治を行うことを考えていた。