李善長善于調護諸將，因材用人，使之各得其所。朱元璋任太平興國翼大元帥，以李善長為元帥府都事，從克集慶。后樞密院改為大都督府，善長兼領大都督府司馬，升任行省參知政事。二十七年，朱元璋自立為吳王，以李善長為右相國。他嫻于辭令，明習故事,處理政務,裁決如流，將吏帖服，居民安堵；調兵轉餉無乏，恢復制錢，榷淮鹽，立茶法，開鐵冶，定魚稅，國用益饒，而民不困。吳元年，論功被封為宣國公。吳改官制，尚左，故李善長由右相國改稱左相國，居百官之首。曾與劉基等裁定律令。 作為“大總管”，李善長被朱元璋稱為“在世蕭何”。

他在朱元璋最式微的時候投奔而來，一直負責軍隊的糧餉供應。朱元璋曾特賜他一方鐵制的憑券，上面明寫著可以免除他兩次死刑、免除他兒子一次死刑的承諾，但最終，他還是由于一句話不慎，招惹滅族之災，全家70多口被滿門抄斬，朱元璋只免了他女兒女婿，也即公主附馬。