天保元年(1830)9月29日生于萨摩藩鹿儿岛下加治屋町的一个下级武士家庭。幼名正袈裟，后改名为利通。父亲大久保利世是个开明藩士，他擅长阳明学，禅学，通晓历史，闲暇时常常给儿子讲历史故事。他的外祖父皆吉凤德是个医生，精通洋学，在当地名望极高。大久保利通16岁时(1845)担任藩记录所的助理。1849年因藩主的继承人问题造成两派——拥立藩主岛津齐兴侧室生的久光的一派和拥立正妻生的齐彬的一派对立。因其父所参加的齐彬派失势被流放，大久保利通也被免职。此时他和西乡隆盛、有马新七、小松带刀等志士往来，组成“精忠帮”，共论国家大事。
　　后来岛津齐彬为藩主，大久保也复职。由于他在藩政改革中有成绩，被任命为藩记录所书记，后升为步兵总督。齐彬死后其弟久光任藩主，大久保受到久光的信任，被任命为勘定方小头，后升为小纳户，和小松带刀等人掌握萨摩藩政大权，并跟从久光进京，积极过问中央政局。
　　庆应二年(1868)4月第二次征讨长州藩时，萨摩藩拒绝出兵。为推进倒幕工作，大久保和西乡隆盛一起在朝廷、幕府、诸藩之间进行活动。1868年1月3日“王政复古”政变成功，大久保担任新政府参与。
　　明治四年(1871)6月任大藏卿。11月随从岩仓具视全权大使赴欧美考察。1873年5月回国就任参议，11月兼任内务卿，努力推行殖产兴业政策，建立起大久保利通政权。
　　1874年2月出京镇压佐贺之乱，4月平定回京。8月担任全权辩理大臣，到中国和清政府谈判台湾问题，逼迫清政府交付50万两赔款。
　　1876年镇压熊本敬神党之乱、秋月和获之乱。1877年镇压西乡隆盛的叛乱。同年授予勋一等旭大授章，叙正三位，和西乡隆盛、木户孝允合称“明治维新三杰”。
　　明治维新以后，大久保利通挤身于政权中枢。他为了巩固新政府，决定削除地方势力。1869年至1871年，新政府实行了版籍奉还和废藩置县两大政策，基本上铲除了封建诸侯割据势力。与此同时，以岩仓具视为特命全权大使，自己为副使赴欧美考察。在德国，大久保对德国首相俾斯麦佩服得五体投地，决定回国按照德国模式经营国家。
　　正当大久保在欧美访问的时候，国内以西乡隆盛为首的留守政府主张侵略朝鲜，以转移士族对政府的不满。大久保得到这个消息立即回国，主张积极改革内政，暂缓侵略朝鲜。于是以大久保为首的内治优先派与以西乡为首的征韩派之间展开了激烈的斗争，结果征韩派彻底失败，内治优先派掌握了领导权。这场政治斗争，史称“明治六年的十月政变”。从此以后，以三条实美为太政大臣、岩仓具视为右大臣、大久保为内务卿的专制政治体制成立了。
　　在这个专制政权统治下，大久保在政治、经济、文化等方面进行了一系列的资产阶级改革，便遭到封建保守势力的反对。对版籍奉还、废藩置县一直心怀不满的岛律久光上书天皇，提出14条建议，反对各项资产阶级改革，并要求撤掉大久保的职务。当然大久保等改革派不能接受，对保守派进行反击，岛津久光被迫引退。
　　当岛津等旧藩势力在内部进行反政府活动的时候，对明治维新各项资产阶级改革强烈不满的反动土族公开发动了反政府的武装叛乱。最先发动的是1874年2月由江藤新乎和岛义勇领导的“佐贺之乱”。结果被大久保镇压下去。
　　1875年9月，制造侵略朝鲜的江华岛事件。翌年迫使朝鲜订立不平等的《江华条约》。他镇压农民起义和一切反政府活动，以《诽谤律》、《报纸条例》等压制自由民权运动。
　　1876年3月政府发布了废刀令，8月又发行金禄公债，废除俸禄制，使失去利权的土族更为愤怒，在熊本爆发了“敬神党之乱”。在其影响下福冈县爆发了“秋月党之乱”，在山口县爆发了“获之乱”。这些叛乱都被大久保一一镇压下去。
　　1877年2月2日，鹿儿岛的反动士族拥立辞职回乡的西乡隆盛为首领发动了叛乱，即所谓西南战争，结果仍以失败告终。大久保的这一系列高压政策，必然遭到士族的痛恨，埋下了这位日本“铁血宰相”的死因。
　　明治十一年(1878)5月14日晨，来东京出席地方会议的福岛县令山吉盛典到大久保的邱宅。大久保很高兴地接见了山吉，听取了他关于福岛县形势的报告，还就福岛县的疏水工程交换了意见。后来山吉想走，大久保挽留他并说：“维新以来已经十年岁月；内外事件频发。不肖利通担任内务卿以来未见政绩，实在不胜惭愧。现在是内外安定，此时正欲努力贯彻维新的盛意。要达到此目的，不得不以30年为期。假如将它分为三期，明治元年至十年为第一期，还是创业期。明治十一年至二十年为第二期，确实这是最重要的时期，整顿内政、充实国力就在此时。利通虽然不肖，但欲排除万难完成此志。明治二十一年以后的十年为第三期，这是守成时期，等待后进的优秀分子继承大业。”以上的话想不到竞成了大久保的遗嘱。
　　山吉定后，大久保便到太政官(相当国务院)去办公，乘马车来到曲町清水谷。大久保在马车内还利用时间阅读了文件，不料8点左右，遭到石川县岛田一郎等六名征韩党士族的袭击。大久保虽然身受白刃，还厉声呵斥，沉着将放在膝上的文件用绸巾包好，不久倒向前方断气了。时年49岁。
　　刺死大久保利通的凶手石川县士族岛田一郎是自由民权派壮士，曾于1875年2月出席爱国社创立大会。西南战争末期的1877年6月民权派内部出现了武装起义与西乡相呼应的主张。西南战争一结束，大久保以计划造反的罪名逮捕林有造、片冈健吉、大江卓、竹内纲等许多民权派领袖，将他们投入监狱，自由民权派在严厉的镇压下被迫转人地下。然而有“铁石之志”的岛田一郎，“为国家万万不忍坐视”，决定“义举”，行刺大久保。
　　大久保死后，日本政府追赠为右大臣、正二位。并且为他举行维新以来第一场国葬，葬于东京青山墓地。大久保利通虽然因为政敌的刺杀过早地离开了人世,但他的后继者继续沿着他开创的道路,完成他未竟的事业,迅速使日本成为近代化的资本主义强国