公元580年，即北周大象二年，这年五月十一日，北周宣帝宇文赟病死。周静帝年幼，左丞相杨坚专政。杨素知道杨坚甚得众心，且有称帝之意，于是主动投到了杨坚的门下。
杨素出身于北朝士族，北周时任车骑将军，参加了平定北齐的战役。后来，他与杨坚深相结纳。隋文帝建国后，杨素成了御史大夫，后来以行军元帅的身份率水军东下攻陈。灭了陈朝后，他被晋升为越国公，任内史令。
杨素小的时候，穷困失意，不拘小节，但却有远大的志向。那个时候，好多人都不理解他，只有他的堂叔祖、魏朝的尚书仆射杨宽认为他很不一般，并且经常对子孙说：“杨素不是一般的人，他日后一定会是一个出类拔萃的人，不是你们能够赶得上的。”
后来，杨素与安定人牛弘志同道合。他们勤奋好学，研究探讨精心专诚。对于学习，他们从来都不感到疲倦，因而在很多方面都有所长。
当北周武帝宇文邕诛杀了宇文护亲掌朝政后，杨素因曾受到宇文护的重用，所以受到了株连。此时，杨素以其父杨敷死于北齐，但未受到朝廷的追封为由，上表进行申诉。周武帝并没有予以理睬。后来，杨素再三上表，周武帝大怒不止，便下令杀了杨素。
这时，杨素高声地说道：“我给无道的天子做事，死是应该的。”
周武帝听到后，对杨素刮目相看，并赦其无罪，还追赠其父为大将军，谥忠壮，随即又拜杨素为车骑大将军、仪同三司，并逐渐对其有了好感。
后来，周武帝又让杨素起草诏书，杨素下笔成章，文辞华丽，周武帝看后赞扬道：“好好努力，不愁日后没有荣华富贵。”
可是，杨素却回答说：“臣只怕富贵来逼臣，臣却无心谋取富贵。”由此可见，杨素是多么自信。
杨坚称帝后，也知道杨素是个可用之人才，因此对其十分器重，不久，便让杨素当了汴州刺史。杨坚登基后成为隋文帝，让杨素当了柱国，并参与隋朝法律的修订。
开皇七年，杨素与尚书左仆射高颎、吴州总管贺若弼等人献上了平陈之策。杨素在永安建造了“五牙”“黄龙”等战船，从而加强了水师的战斗实力，为灭陈作准备，并且故意在江中漂下造船废料，以此来威慑擅长水战的陈军。
在十二月上旬，杨素按照隋灭陈的作战部署，首先率舟师自巴东郡东下三峡，在长江上游发起攻势作战。军至流头滩，陈将戚昕率青龙战船百余艘、战士数千人坚守前方狼尾滩，以遏隋军。
狼尾滩地势险峻，水流湍急，易守难攻，将领们都忧心忡忡。杨素认为：“成败便在此一举了。如果我们白天乘船而下，他们就会看见我们，滩险水急，天制不由人力，那么，我们就会失去有利的条件。”
于是，杨素决定采用水陆协同，分进合击的战略方针，乘夜来进行突袭，以此将其击败。
不仅如此，杨素在对俘虏的态度上采取的是不杀不辱的政策，慰劳后释放了全部战俘。
对于此次战役，杨素恰当地选择了进攻的时机，以水军突袭与两岸步、骑兵协同攻击，速战速决，以此取得了首战的胜利，为灭亡陈朝的战争创造了有利条件。另外，实行优待俘虏政策，也有利于争取更多的陈军将士。
杨素还为剿平匪患立下了功劳。当时，泉州人王国庆是南安豪族，杀了刺史刘弘，据州为乱，并且还有各处逃亡的叛军依附于他。王国庆自以为海路险阻，而隋军多为北方人，不习惯海战，于是并没有设防。
后来，杨素率水师从海道掩至，王国庆大惊，于是弃州逃跑了，而他的手下人有的进了海岛，有的去守了溪洞。
后来，杨素分遣诸将，对水、陆分别进行追捕，并且还派人密劝王国庆：“你的罪状，累计起来处以死刑还不够。只要斩送高智慧，就可以抵罪。”
于是，王国庆便抓获了高智慧，并且送交了隋军。杨素将其斩首，余众全部投降。至此，江南被平定了。
此后，杨素坚持除恶务尽，连续追歼以彻底平定江南之乱，这些对巩固隋朝统一，发展生产具有积极的作用。
后来，杨素因为他的功绩成为尚书右仆射，更是因为之前参与建造仁寿宫，成了皇后独孤伽罗信任的大臣。此时，杨素在朝中的地位仅次于高颎。虽然他对高颎的才干很是服气，但是，他本人也颇为自许，又贪恋高位，因此难免会患得患失。
在隋朝的政坛中，杨素不像高颎那么低调，而是居功又张扬，得罪了不少人。而他看谁不顺眼，或者谁得罪了他，就一定要进行打击报复。幸好他善于逢迎隋文帝的喜好，又有真材实料，才能够一直为官。
杨素也曾有过低谷时期。杨素的老婆是个个性十分彪悍的女人，她经常与杨素争吵。有一次，他们又吵翻了天，于是杨素气急败坏地说：“我要是哪天当了皇帝，肯定不要你这种皇后。”杨夫人一气之下便将这句话告到了朝廷。
那时，正是开皇初年，隋文帝对功臣们尚有宽容之心，于是，只是将杨素罢了官，饶了他的性命。杨素也没有气馁，在家苦苦思索着平陈大计，并且把想到的计策都献给了隋文帝。
后来，隋文帝见杨素被罢官还如此惦记着社稷大业，一高兴就恢复了他的官职，这也才有了杨素在平陈战争中的出色表现。
平日的杨素看上去有些轻佻，喜欢的也是诗书、歌舞、着色以及奢侈品这一类贵族爱好。但是，他一旦上了战场，就完全变了个人。只见他威风凛凛地骑在马上，面色严肃，指挥若定。
杨素很有随机应变的谋略，总是能够把握好时机同敌人作战，他应对情况的变化并不拘泥于一定的方法，而且控制军队也是严厉有序。杨素规定，负责前锋的军队必须死战，倘若不能够取得胜利，回来就会被砍头。
这么严格的上司，士兵却没有任何埋怨，反而对他忠心耿耿。这是因为杨素有个很大的优点，那就是赏罚分明，只要是立下了战功，杨素必定会有厚赏。
当兵的出生入死，图的就是封赏，有了杨素这样的上司，不论战胜还是战死，都可以安心了。再加上杨素本人是个军事家，有勇有谋，故而，他率领的军队也是隋朝数一数二的常胜军队。难怪隋文帝一旦遇到艰难的战事，除了高颎外，只能想到杨素了。
杨素虽然贪恋权力，志在富贵，但他所得到的一切，却是靠着坚实的战功累积起来的。杨素在倜傥张扬的外在表象下，同样有着极其沉稳务实的一面。
在江南大乱之时，杨素率军与叛军进行苦战，等到局势稳定了，隋文帝便召他回朝。而杨素认为局势刚刚稳定，不宜撤走大军，还应该再观察一段时间，于是就上书请求延缓回京的日期，继续带兵辛辛苦苦地在崇山峻岭之中追剿着残留的叛军势力。
如果为杨素写一份功绩单的话，那几乎包括了隋朝建立前后的所有重大军事行动，而他所起的几乎都是主力的作用。
杨素负责的战役，几乎都是苦战、硬仗，但是，他靠着谋略，靠着胆气，靠着严明的治军，靠着细致的部署，战无不胜。但是，如果再为他写一份过错单的话，他的罪名也是不少：党同伐异、草菅人命、逢迎狡猾，和杨广一起陷害了前太子杨勇。
也许这就是杨素和其他一些大臣们最本质的不同，他并非效忠于某个朝代，他只忠于自己的利益。为此，他可以毫无芥蒂地改弦更张。当然，杨素并不是一个反复无常的小人，他选择了自己的方向后，也会一以贯之地努力，贡献自己的才力。
杨素是个精明人，他的治国能力虽然不及高颎，却比高颎更明白君臣关系的本质，所以，他才更会替自己打算，并在君王的信任和自己的生活之间维持着最恰当的平衡。
其实，杨素很希望有朝一日能够超过高颎，能够成为朝廷上的头号大臣，但他在军事上虽多有建树，治国才能却不及高颎，想必隋文帝在有生之日，都会依仗文武双全的高颎。等到皇帝驾鹤归西时，太子杨勇继位，也一定会继续重用亲家高颎，他即使再能干，也只能永远在高颎之下了。
想到这里，杨素不由得生起闷气来。更何况，一朝天子一朝臣，他并不是太子的东宫臣属，平日里与太子也没有太多的往来，如果杨勇当了皇帝，朝廷未必还有他的位置。
想到此事，杨素非常焦急。这一天，杨素正在家里喝闷酒，他的弟弟杨约前来拜访。
杨约是杨素的异母弟弟，为人博学，计谋百出，兄弟二人的感情非常好，平日里，杨素不论有什么事情都要和弟弟商量，听弟弟的主意。喝了几杯后，杨约就让哥哥屏退了众人，然后对他说道：“前段日子，我有一个老相识从江都过来了，他希望我向您转达晋王的诚意。”
杨素一听就知道有事，于是连忙细细盘问。
原来，杨广有个叫宇文述的亲信认识杨约，此次来京城后，天天和杨约赌博，输了就把他从江都带来的奇珍异宝抵给杨约。
杨约小时候爬树摔伤了，于是做了太监，平生所好也唯有钱财了。如今每天都能从宇文述那里得到金银财宝，觉得不太对劲，于是请宇文述有话直说。宇文述说：“这全是晋王赏给你的。”
随后，杨约进一步对杨素说：“您现在是尚书仆射，我现在是大理寺卿，兄弟二人位居高职，不知有多少人忌妒我们。而且，太子行事也受到您的节制，心里对您未必没有怨恨，如今皇帝虽然宠信你我二人，但是圣上年老，哪一日升天了，我们如何保住这个地位呢？如今，太子不再受陛下和皇后的喜欢，如果我们趁这个机会劝二位圣人改立晋王，那么，今后就不愁荣华富贵了。”
这番话如醍醐灌顶，杨素立刻看到了人生的希望。
杨素对弟弟说：“你的话大有道理，但是废立之事太过凶险，我还是先去探探皇后的意思再做打算吧。”
杨约回答说：“宇文述说，皇后早就有废立之意，请我们不用担心。”
可是，杨素做事一向十分谨慎，他还是决定先去探探独孤皇后的口风，然后再做打算。
有一天，杨素去拜见皇后，经过了一番谈话后，杨素已经明白皇后的心思了。后来，杨素又向皇后诉说了太子杨勇的种种“劣迹”，独孤皇后听了更是愤怒。他们决定一定要将英明、仁慈、孝顺的晋王杨广扶上太子之位。
杨素本来就是朝廷重臣，而独孤皇后又是说一不二的人物，如果这两个人联合起来，自然会有极大的分量。
宇文述回到江都后，将京城的情况一一进行汇报，杨广明白自己的胜算是越来越大了。
废立之事关系到大局，杨广老谋深算，自己不出面，不说话，看上去是置身事外，可是，一切都由独孤皇后和杨素操作着。
表面上来看，这件事似乎和杨广没有一点关系，可实际上，他才是背后的操纵者。他煽动了独孤皇后对太子的不满，继而再利用杨素的野心。杨广虽然身在江南，却能遥控整个局势，和杨勇比起来，杨勇的确不是他的对手。
后来，杨勇的一举一动都有人汇报给隋文帝夫妇。当隋文帝听说太子竟然搞巫术，大为吃惊，于是派杨素去询问情况。此事正中杨素下怀，于是他设计陷害了杨勇。
杨素一见到隋文帝，就添油加醋地说太子的表现：“微臣惶恐，不知做错了什么事情，太子一见我就大声斥责起来，根本不给人说话的机会。不知是否因近日陛下冷落了他，心存怨恨之心。”
说完后，杨素担忧地看着隋文帝。
隋文帝本来生性多疑，一听到杨素的话，真以为杨勇对自己起了怨恨之心，不由得紧张起来。
那是在开皇二十年，隋文帝和独孤皇后从仁寿宫回到京城，准备彻底解决太子的问题。
此后，杨素也不给隋文帝反悔的机会，他四处搜罗着太子的“罪证”，并把一些在太子宫搜罗出来的所谓造反用的证据交给了隋文帝。
通过这一系列的捕风捉影，让隋文帝进行了一番“彻查”。随后，他把太子杨勇和他的儿子都给囚禁起来，而东宫的官员们也大多被投入到了监狱中。
那是在仁寿二年，独孤皇后去世后，墓葬的规模制度，大多是出自杨素之手。隋文帝认为很好，并下诏书大大表彰他的功劳，还封了他的一个儿子为义康郡公，食邑一万户，世代承袭，并赏赐给他良田三十顷，绢一万段，米一万石，金钵一个，装满了金子，银钵一个，盛满了珠宝，外加绫、锦共五百段。
当时的杨素一天比一天显贵荣耀，他的弟弟杨约，叔父杨文思、杨文纪以及族父杨异，也都成为尚书，位列公卿。诸子虽无汗马之劳，也都官至柱国、刺史。此外，杨素家童几千人，后院披罗挂绮的乐妓小妾就以千计。
杨素的府第十分华丽奢侈，规模体制模仿了皇宫。当时有一个叫鲍亨的人很会写文章，还有一个叫殷胄的，精通草书、隶书，都是江南的读书人，却因为高智慧的缘故埋没为杨素的家奴。
杨素的内外亲戚和过去属下的官吏，都位列清静显要之职。杨素的显贵，南北朝以来无人可与他相比。
在杨广刚做太子的时候，非常顾忌蜀王杨秀，于是和杨素谋划设计陷害了他，最后使杨秀被废黜。在朝臣之中如果有违背冒犯杨素的，即使其非常忠诚地为国事着想，像贺若弼、史万岁、李纲、柳述等，杨素也会在暗地里中伤他们。
如果归附奉迎杨素，或者是他的亲戚，即使那个人并没有什么才能，他也一定会加以推荐提拔。因此，在朝廷内外没有不怕他、不归附于他的。
只有兵部尚书柳述凭着自己驸马的身份，多次在隋文帝面前说杨素的不是。不仅如此，大理寺卿梁毗还曾经上书给隋文帝，弹劾杨素作威作福。
隋文帝于是逐渐疏远和猜忌起杨素来。后来，隋文帝又下来命令，说：“仆射是朝廷的辅政大臣，不用亲自处理那些细小的事务，只需要三五天到官署一次，讨论一些国家大事就行了。”表面上显示出对杨素的体恤、优待，实际上是剥夺了他的权力。
隋文帝已经夺了杨素的大权，却仍保留其宰相的职位，并且还恩赐他在新年时随驾至仁寿宫侍奉，每日赐宴不断。
隋文帝的优柔寡断又一次使他失去了锄奸诛恶、扭转乾坤、重振隋朝的机会。
隋文帝生病时，还曾让杨素在寝宫暖阁中侍候，以至于后来当隋文帝在诏已废太子入宫继位时，让杨素伙同杨广发动了兵变从而夺得了帝位。
直到仁寿末，杨素不再处理事务。隋文帝曾赏赐王公以下的人射箭，杨素名列第一。后来，隋文帝亲自将外国进贡来的价值万两的金精盘，赐给了杨素。
那是在仁寿四年，杨素跟随隋文帝驾临仁寿宫，隋文帝又多次赏赐宴席。等到隋文帝病重时，杨素和兵部尚书柳述、黄门侍郎元岩等人入宫侍候。
后来，由于隋文帝看了送错的信后，才知道杨广谋权的企图，随即想召见已经被废的杨勇。
可是，已经晚了，太子与杨素共谋对策，杨素假传圣旨派东宫的士兵入宫守卫，出入都要经过宇文述等人。后来，又命令张衡守候隋文帝，隋文帝也就在这天晚上驾崩了，因此朝廷内外也有很多的非议。
杨广登上皇位后，开始铲除杨谅。杨素又参与到了战争中。后来，由于他平定杨谅有功，杨广任他为营建东京的大监，而且还拜他的儿子和侄子都为仪同三司，并赐给他们织物五万段、绮罗一千匹等。
大业元年，杨广又升杨素为尚书令，并且赏赐给他东京上等府第一处，织物两千段，不久又拜为太子太师，其他职务不变，前后赏赐给他的东西不知有多少。
杨素虽然有辅佐隋文帝建国立业的谋略，并且有平定杨谅的功绩，然而却深为杨广所忌。杨广表面上显出了对他的特殊礼遇，可实际上的恩情却很淡薄。
杨广虽然多年来勾结杨素为自己办成了几件大事，但是，现在成功后便怕杨素会如法炮制而夺去自己的皇权。因此，他想除去杨素，由此想出了一石二鸟的毒计。
当时，太史观天象说隋地所在的楚界分野将有国之大丧，而杨广的次子豫章王的封地正好在楚地分野。于是，杨广进封自己的次子为齐王，杨素为楚国公。
这表面上显示了对杨素的尊崇，实际上是希望他应天象而死，同时让儿子借此逃脱国丧的打击。
一个月之后，杨素恰巧生病不起，杨广仍装作极为宠幸杨素的姿态，每日必指派名太医入杨家诊治、赐药，随后便会密召太医问清杨素的病况，其实他是想让杨素早死。
杨素早已经得到了皇宫侍从的密报，得知杨广一心要将自己置于死地，心灰意冷，不想求生。于是，他不再服药，一心只在等死。
后来，杨素对弟弟杨约说：“我名位无人可比，尊贵至极，东西二京豪华居宅无数，各地邸店、水硙磨坊数以千计，山珍海味无奇不有，天下美女任我挑选，陈朝皇妹为我小妾，还有什么不能满足的呢？如今，我年过六十，不必再活下去了，皇上要我死，不如自尽以求家族平安吧。”
杨素知道自己的名望和地位已经到了极限，因此他不想再谨小慎微地生活下去了。
其实，当时的人们对杨素也是议论纷纷的，并且因此而瞧不起他。杨素死后，长子杨玄感继承了他的爵位。
杨广能够得到太子、皇帝之位，全是靠杨素糊弄隋文帝及皇后而得逞的，在平定汉王之乱与屡次抗击强寇突厥进犯之战时，也是非杨素不得取胜。可是，杨广被杨素推上了皇位后，仅仅过了一年便萌发出了消灭杨素收其权位的心思。
杨素曾经作了一首共七百字的五言诗送给番州刺史薛道衡，气势非常宏大，风韵出众，堪称当时的上乘之作。写后没几天，杨素就死了。
薛道衡叹息说：“人在快要死的时候，他的话语也会变得很友善，难道就是像这样的吗？”杨素留有文集十卷。
杨广追封杨素为光禄大夫、太尉公、弘农河东绛郡临汾文城河内汲郡长平上党西河十郡太守，赐给他载丧的鍂车、为他执斑剑的仪仗四十人，以及鍂车前后的仪仗队和乐队，还赐给谷子小麦五千石、织物五千段，派鸿胪卿专门监督办理丧事，并且下诏书表示哀悼。
杨素在死后仅被追封为光禄大夫、太尉公，低于生前的尚书令、司徒。不仅如此，葬礼的规格也不是最高的，皇族中也没有人参加，仅由鸿胪寺监护丧事。
当杨素的长子杨玄感看到这个场景时，便由此而怀恨在心，从而萌发出了废杨广立秦王杨浩之心。可是后来，杨玄感起兵事败，遭到诛杀，杨素的家族也因受到杨玄感的牵连而都被株夷了。
杨素称得上是个能臣，却不是忠臣，但也不是佞臣和奸臣，他只是一个有强烈权力欲，又懂得权力之道的人。所以，他才能够步步高升，并且一直得到隋文帝的信任。
其实，隋文帝一直都是一个不喜欢铺张浪费的人，独孤皇后也不喜欢男子的三心二意，而杨素的私生活却极为奢侈，在他的家里不知有多少美貌的歌女侍妾。可是，即使如此，他依然能够讨得这两个人的欢心，这不是仅靠“逢迎”能够做到的。
杨素从未想过像李德林、苏威那样直言进谏，却也不会如刘昉、郑译那样只会溜须拍马，更不会因君王的冷落而失去了上进之心，他能够走到最后，靠的是识时务、坚实的功劳和洞察大局的眼光。
曾经网罗了无数贤才，被人奉为明主的隋文帝，不知冷落、冤枉了多少个对他忠心耿耿的功臣，到最后身边只剩下了一个根本不顾惜君臣之情的杨素。这是他的失败，也是他的悲哀。
