当时举旗造反的明智光秀于当天写了一封机密文件，派人送至毛利军，要毛利军千万不能投降。不料密使不知道高松城已陷于水攻，西下抵达高松城时根本无法进城，并误闯丰臣阵营被捕。丰臣秀吉于6月3日夜晚十点左右便得知本能寺事变，之后听从军师黑田官兵卫的建议，决定隐瞒噩耗，立即和毛利军讲和。毛利军担忧织田信长会带援军赶来，早就派来使者，只是彼此条件谈不拢，讲和暂时触礁而已。丰臣秀吉暗中托毛利军的讲和使僧安国寺惠琼单独进城去说服城主，结果城主以不杀害城内诸人为条件，答应切腹自杀。这些都是背着毛利援军私密进行。
4日下午三点，在丰臣秀吉派去的检官面前，据说城主搭船出城后，在湖中进行切腹仪式。交换誓约后，丰臣秀吉立即撤阵。丰臣秀吉当时大概也担忧毛利军会随后追击，所以并未直接赶回姬路城，他于6月6日下午率兵撤离高松城，当天夜晚先在织田势力范围内的备前（冈山县东部）沼城过夜。7日夜晚抵达姬路城；9日早上自姬路城出发，夜晚抵达明石；10日早上自明石出发，夜晚抵达兵库；11日早上自兵库出发，下午抵达尼崎；12日早上自尼崎出发，夜晚抵达富田；13日上阵山崎，下午四点在雨中与明智光秀军开战，两小时后击败明智光秀军。
丰臣秀吉于山崎之战大败明智光秀。最终明智光秀逃走时被猎杀落难武士的村民杀死，秀吉乘机控制京都一带，不过无法阻止织田氏内部出现派系分裂。主要分裂为柴田胜家、织田信雄、织田信孝以及羽柴秀吉等派系。同年的清洲会议上，取得织田多数旧臣支持，但与柴田胜家开始敌对。
同年，羽柴秀吉、柴田胜家、丹羽长秀、池田恒兴四人在清洲城开会商议织田的继承问题，结果丰臣秀吉在得到丹羽长秀、池田恒兴支持的情况下压制了胜家实际成为织田家的掌权人。丰臣秀吉在清洲会议上得到多数织田族人与家臣支持，拥立尚在襁褓的织田信忠长男三法师（元服后称织田秀信）继任织田氏家督。但为此得罪了同属织田重臣的柴田胜家，导致其拥立织田信长三子织田信孝对抗丰臣秀吉。隔年（1583年），双方决裂，丰臣秀吉先迫使信孝投降，后来羽柴与柴田军在贱岳决战，最初柴田胜家占尽优势，中川清秀遭到突击阵亡，但是丰臣秀吉率兵冲上前线使形势急变，最终丰臣秀吉取得胜利。跟着羽柴军包围北之庄城，柴田胜家与妻子阿市自焚而死，另一重臣泷川一益则被迫蛰居，织田信孝不久被逼切腹，丹羽长秀和池田恒兴归服，大致上平定了织田家内反丰臣秀吉势力。
天正十一年（1583年），丰臣秀吉在石山本愿寺的旧址上建大坂城，当时到访的大友宗麟将它称为“战国无双的城”，但城堡在防御上亦有缺点，在大阪冬之阵中，真田信繁进行了修筑加强防御。这大阪城在庆长二十年（1615年）被德川军烧毁，今之大阪城天守则是在1931年11月以钢筋混凝土重建而成的。
天正十二年（1584年），与其合作的织田信长次子织田信雄联合德川家康反对丰臣秀吉，羽柴军便与两人展开史称“小牧·长久手之战”（こまき?ながくてのたたかい）的战事。此战之初拥有兵力优势的羽柴军直扑德川领地，双方对峙于小牧山。为打破僵局，丰臣秀吉派池田恒兴等率部偷袭德川家康领地三河国，但途中却遭到德川军伏击，池田恒兴以及有“鬼武藏”之称的大将森长可战死，在战况失利的情况下丰臣秀吉凭借惊人的外交手腕降伏了织田信雄，家康被迫退兵。德川军与羽柴军达成不战和议，家康派出次男德川秀康作为人质。天正十三年（1585年），丰臣秀吉进行四国征伐，降服长宗我部氏，同年降服越中国佐佐成政。就任关白（かんぱく）。
天正十三年（1585年），丰臣秀吉派遣其弟丰臣秀长、小早川隆景等将领攻打刚统一四国的长宗我部氏，利用兵力的差距迫使其归降并仅保有土佐一国。另外，丰臣秀吉派遣藤堂高虎为首的部队，平定了杂贺众，首领铃木重意被斩首处死。此外，丰臣秀吉派重兵攻打越中国佐佐成政，开战派大军包围，佐佐成政不战而降。同年丰臣秀吉希望成为征夷大将军，但在公卿的劝阻下转而向朝廷索取关白的封号。为此丰臣秀吉一度打算认前关白近卫前久为义父，得到“近卫”姓氏。天正十三年（1585年）7月11日，朝廷允其成为前久的犹子并就任关白，并应其要求赐予新的姓氏“丰臣”（とよとみし）。
天正十四年（1586年）9月9日，“丰臣氏”也由此成为继“藤原氏”、“源氏”、“平氏”、“橘氏”等四大姓氏之后的第五大姓氏。不过“丰臣”未能象其余四大姓那样发扬光大，因为它只传了两代就绝嗣了。在得到“丰臣”之姓，改名丰臣秀吉。天正十四年（1586年），丰臣秀吉将其妹朝日姬嫁与德川家康，作为德川家康正室，将自己的母亲大政所送回德川家康身边成为人质，德川家康此后臣从丰臣秀吉。12月25日就任太政大臣。同年，九州大名大友宗麟向丰臣秀吉请求支援。天正十五年（1587年），进行九州征伐，派遣丰臣秀长率领大军攻击岛津氏的支城，降服岛津氏。战后岛津氏被分配到萨摩和大隅两国。同年禁止基督教。天正十七年（1588年），丰臣秀吉开始实行“刀狩令”（かたながり），加强了兵农分离的政策。从天正十七年（1589年）到天正十八年（1590年），丰臣秀吉又发动小田原之战，灭后北条氏，基本上统一日本。