1885年日本实行内阁之后，改为陆军大臣，首任大臣为大山岩。根据《陆海军大臣现役武官制》规定，陆军大臣必须由现役陆军中将、大将出任，并且只对天皇负责，因而表面上作为内阁成员，事实上却独立于内阁之外，反倒对内阁有操纵作用。1947年《日本国宪法》决定日本不得拥有军队之后，陆军大臣一职撤销。
根据《陆海军大臣现役武官制》，陆、海军大臣只对天皇负责，因此可以直接向天皇请辞而不指定人选来继任，从而迫使内阁总辞。这使得内阁事实上被军队绑架，因为出任陆、海军大臣的现役军官作为军队在内阁中的代表，一旦内阁得罪了军队，后者即可操纵陆、海军大臣辞职且不指定人选继任，来搞垮内阁。
这种恶性循环，使得使日本在军国主义的道路上越走越远，最后甚至连首相都直接由现役军官出任（例如东条英机），几乎成为军政府。客观来说，陆军大臣和海军大臣都可以行使现役武官制中的权力来搞垮内阁，但事实上海军似乎很少这么做，反倒是陆军频频通过行使权力来控制政府。譬如米内光政内阁就因为陆军大臣畑俊六的请辞（背后是陆军总长载仁亲王在操纵）而倒台。这似乎可以从陆海军的“传统”来解释：“日本陆军之父”山县有朋长期操纵首相人选，开陆军干政之风；海军最早的元帅西乡从道对政治不热心，而“日本海军之父”山本权兵卫甚至在出任首相的时候废除了现役武官制。可见当时日本的陆军干政是有“历史传统”的。
历任日本陆军省历任大臣（1885年－1947年）代
氏名
内阁
就任时间
卸任时间
兼务
01大山岩第1次伊藤内阁1885年12月22日1888年4月30日02黑田内阁1888年4月30日1889年12月24日文部大臣临时兼任（1889年2月16日－3月22日）03第1次山县内阁1889年12月24日1891年5月6日04第1次松方内阁1891年5月6日1891年5月17日
