1908年（明治41年）2月27日生まれ。
林 長丸（はやし ちょうまる）、林 長二郎（はやし ちょうじろう）は旧芸名。長谷川 一夫は本名である。
京都伏見の芝居小屋の子として生まれる。 幼少時より子役として舞台に立ち、初代中村鴈治郎の長男・林長三郎の一座に加わり、林長丸の名で人気を博する。
1927年（昭和2年）、松竹に入社。芸名を林長二郎と改め『稚児の剣法』で映画デビューする。 抜群の美貌に加え、若手時代劇スターを渇望していた松竹が社をあげて宣伝したことが功を奏し、林はたちまち日本を代表するスターとなる。当時若い女性の間でこの『稚児の剣法』は大人気となった。
この頃、若い女性の好きなものといえば「あんみつ」と「はやし」だったので、これを併せて「ミーハー」と言うようになったという説まである。
特に自らが女形出身の衣笠貞之助監督に重用され、その監督作品『雪之丞変化』では女形の歌舞伎役者に姿をやつして両親の仇討ちをする剣豪の雪之丞、それを助ける義賊の悪太郎、そして雪之丞の母の三役を一人でこなして国民を魅了した。以後多数の映画に出演、二枚目の風貌で圧倒的な人気を得た。
1937年（昭和12年）に東宝に移る約束をすると、松竹が雇った暴力団員に顔を切りつけられ、再起不能といわれたが、芸名を本名の長谷川一夫に戻し、山本嘉次郎監督の『藤十郎の恋』で入江たか子と共演、見事に復活する。『鶴八鶴次郎』など山田五十鈴との「黄金コンビ」でもヒットを飛ばす。その後、李香蘭と共演した『白蘭の歌』『支那の夜』など現代劇にも主演しヒットを続けた。
戦後は東宝、新東宝を経て1950年（昭和25年）、大映に重役として迎えられ、時代劇で主演作品を作り続けた。衣笠貞之助監督の『地獄門』でカンヌ国際映画祭グランプリを受け、海外でも評価を高めた。

1963年（昭和38年）に映画界を引退するまで大映のトップスターであり続けた。
時代劇では1951年（昭和26年）から始まった『銭形平次 捕物控』シリーズが10年間で17本の作品を公開する大当たりとなった。主演映画は301本。これは他に類を見ない数字である。
一方、舞台では1955年（昭和30年）から東京宝塚劇場、大阪新歌舞伎座、名古屋御園座、中日劇場で東宝歌舞伎に立ち、華やかなレヴュー「春夏秋冬」で人気を得た。
このショーは豪華なゲスト出演者で有名で、梨園からは十七代目中村勘三郎、六代目中村歌右衛門、二代目中村扇雀、八代目松本幸四郎、三代目實川延若、二代目市川小太夫、十代目岩井半四郎。そのほかにも女優の初代水谷八重子、山田五十鈴、京マチ子、淡島千景、新珠三千代、草笛光子、歌手の美空ひばり、越路吹雪、江利チエミ、桜田淳子なども出演。長男の林成年、長女の長谷川季子、甥の林与一も出演している。
また舞台演出も手がけ、最晩年には宝塚歌劇の『ベルサイユのばら』の演技指導も行って大きな話題になった。
テレビにも高額の出演料で迎えられた。
さらに1964年（昭和39年）には大河ドラマ『赤穂浪士』に大石内蔵助役で主演、これが生涯の当たり役のひとつとなった。
一時期、赤坂で料亭賀寿老（かずお）を繁夫人と経営していた。酒が体質的に飲めず、大の甘党であったこともあり、晩年は糖尿病などの慢性病に悩まされた。
1984年（昭和59年）2月に繁夫人と死別すると本人も急速に衰え、後を追うように同年4月6日に頭蓋内膿瘍のため死去、76歳だった。
死後まもなく、国民栄誉賞を贈られた。