1872年，卡内基认为在炼钢事业上大干一场的时机业已成熟。首先，从技术上讲，成本低廉的酸性转炉炼钢法已经发明，他特地亲赴英国考察了发明者贝西默在生产中运用该法的实际情况。其次，美国的钢铁市场十分广阔，供不应求。而铁矿在美国极为丰富，密执安大铁矿已进人大规模开采阶段。再次，就财力而言，卡内基已拥有数十万美元的股票及其它财产，他决定改变四处投资的老法，将资金集中到钢铁事业中来。最后，最令卡内基信心十足的，是他在钢铁公司10余年间所掌握的管理大企业的本领。于是，到1873年底，他终于与人合伙创办了卡内基一麦坎德里斯钢铁公司。公司共有资本75万美元。卡内基投资25万美元，是最大的股东。在随后的20多年间，卡内基使自己的财富增加了几十倍。

1881年，卡内基实现了童年的梦想，与弟弟汤姆一起成立了卡内基兄弟公司，其钢铁产量占美国的1/37。1892年，卡内基把卡内基兄弟公司与另两家公司合并，组成了以自己的名字命名的钢铁帝国——卡内基钢铁公司。他终于攀上了自己事业的顶峰，成了名副其实的钢铁大亨。他与洛克菲勒、摩根并立，是当时美国经济界的三大巨头之一。

19世纪末20世纪初，卡内基钢铁公司已成为世界上最大的钢铁企业。它拥有2万多员工以及世界上最先进的设备，它的年产量超过了英国全国的钢铁产量，它的年收益额达4000万美元。卡内基是公司的最大股东，但他并不担任董事长、总经理之类的职务。他的成功在很大程度上取决于他任用了一批懂技术、懂管理的人才。时至今日，人们还常常引用他的一句名言："如果把我的厂房设备、材料全部烧毁，但只要保住我的全班人马，几年以后，我仍将是一个钢铁大王。"

然而，卡内基之所以受到世人的尊敬，不仅是因为他是一位成功的企业家，更重要的是因为他在事业成功之后，毫不犹豫地将赚得的庞大财富，几乎全部捐献给了社会公益事业。他的后半生，主要致力于慈善事业与世界和平。

卡内基早在33岁的那一年，就在日记上写了下面的一段话："对金钱执迷的人，是品格卑贱的人。如果我一直追求能赚钱的事业，有一天自己也一定会堕落下去。假使将来我能够获得某种程度的财富，就要把它用在社会福利上面。"

1900年，年逾花甲的卡内基已经功成名就，他踌躇满志，决定心安理得地退休，用自己的巨额财富去做他早已想做的事情。这一年，他在《财富的福音》一书中宣布："我不再努力挣更多的财富。"于是，他毅然从他那蓬勃发展的钢铁事业中引退，以5亿美元的价格将卡内基钢铁公司卖给金融大王摩根。然后，他就开始实施他的把财富奉献给社会的伟大计划。

1901年，即他引退后的第一年，他首先拿出500万美元为炼钢工人设立了救济和养老基金，以向帮助他取得事业成功的员工们表示感谢。接着，为帮助有志上进而家境贫穷的年轻人，他当年在纽约市捐款建立了68座图书馆。这个图书馆建设事业持续了16年，他总共捐资1200万美元，兴办图书馆3500座。

第二年，他捐款2500万美元，在华盛顿创立"卡内基协会"，由美国国务卿约翰任会长，主要用来发展科学、文学和美术事业。该协会曾建造一艘"卡内基号"海洋调查船，修正了世界航海图。此外，还在加州山顶上建造威尔逊天文台来观察太空。对这个协会，卡内基在随后的一些年里一再追加资金，累计捐款达7300万美元。