1864年福岡県に生まれる。
1880年同志社英学校2年に入学。1883年新島襄から洗礼を受ける。
1884年オべリン大学に留学する。大学卒業後はミシガン大学大学院に進み、Ph．Dを取得。 この時デトロイト・トリビューン紙は、「日本の小野英二郎、大学における外国人の注目すべき業績」という見出しで大きな記事を載せた。 これは日本経済についての英語による初めての学術研究でもあった。
帰国後、橘蔭学館教頭を務めた後、同志社に赴任。同志社政法学校の創立事務を担当し、1891年の開校後は教頭に就任する。
1896年日本銀行総裁川田小一郎の招きにより日銀に入行。
その後日本興業銀行（現みずほ銀行）に移り副総裁を経て、1924年第4代総裁に就任した。
音楽家・芸術家のオノ・ヨーコは孫にあたる。

（参考文献：ウィキペディア（Wikipedia））