在北周保定四年（564），北周跟北齐在洛阳城北的北芒山干了一仗。当时，史万宝才十五岁，跟着父亲史敬在军中。他就观察战场形势，就觉得不妙，告诉父亲：“咱得赶紧走，北周必败！”说完当机立断，命令左右换装而去。果然不久，北周军大败。父亲史敬觉得：我这个大儿子太厉害了，才十五岁，观察能力如此强啊！你像这么一个少年英雄，时间不久就得到了北周武帝的青睐。北周武帝就把他直接提为侍伯上士。
到了北周建德六年（577），北周武帝率军平定北齐的时候，史静战死了。史万岁作为忠臣之子，拜开府仪同三司，袭爵为太平县公。
到后来，北周宣帝病死了。年幼的北周靖帝宇文阐继位，大权被大丞相杨坚把在手中，杨坚专权呐。杨坚一专权，作为人家北周皇室的人自然不服啊。于是，相州总管尉迟迥，那是北周文帝宇文泰的外甥，当时就起兵造反，主要是反对杨坚。杨坚自然要派兵平叛。当时的行军总管是梁士彦，史万岁也作为大将随军征讨。结果在河北就与尉迟迥的叛军相遇。史万岁每战先登、勇冠三军。邺城一战，本来官军处于下风，士气十分低落。多亏史万岁大喊一声身先士卒、驰马奋击，连击数十人，鼓励了军心，官军士气复振，迅速扭转了战局，最终平叛了。因为史万岁立下赫赫战功，所以拜为上大将军。再往后，史万岁又屡建功勋，尤其是大破了突厥，名震北夷。
当时，大隋王朝已然建立，北周不复存在。这突厥老是威胁隋朝北疆。于是，隋文帝就命令秦州总管窦荣定率军是北击突厥，史万岁就在其中。后来，大败突厥，史万岁被授上仪同兼车骑将军。
紧接着，大隋开始灭南陈。史万岁又跟着杨广去灭南陈，也立下汗马功劳。
后来，南陈士族、那些豪强们不满隋朝统治。于是，煽动民间叛乱。当时，隋文帝杨坚就派越王杨素为行军总管率军平叛，史万岁就在他的队伍当中。后来，平定叛乱，史万岁又立下大功。这功劳是越来越大呀。
后来，突厥又打来了。隋文帝杨坚就命当时的晋王杨广、尚书右仆射越王杨素出兵灵州，又命汉王杨谅和史万岁出兵朔州，合击当时的突厥不步迦可汗。史万岁当时就率柱国张定和、大将军李端、杨方杨义臣出塞北击匈奴。军至大斤山（今内蒙古大青山），正好与突厥的步迦可汗遭遇。步迦可汗就问：“哎！前面隋军主帅是谁呀？”有侦察兵告诉他：“是史万岁。”“啊？！”步迦可汗一听，“什么？史万岁？！莫不是当年那个敦煌守卒、大败过咱突厥军的史万岁吗？”“啊，是他。”“哎呀呀……”怎么？“打不了啊，赶、赶、赶紧回撤！”他这一回撤，史万岁挥马追击百余里，大破突厥军，斩杀数千。又继续跟踪追入沙漠数百里，凯旋而归。史万岁的功劳更大了。
隋文帝高兴，你看看，这多大的威望啊！把旗往那儿一插，不用打就把突厥兵都吓跑了。
结果，史万岁功高震主。尤其功劳太高，引起越王杨素的嫉妒了。于是，越王杨素就在隋文帝面前开始说史万岁的谗言了，就说：“陛下，突厥已经投降了。而且，这突厥并不是入寇。是因为他们内部有一些变乱。后来，这变乱平定了，内部有点弱了，东西也少了。所以，突厥这一次只不过是放牧过来的，不是入寇。咱们不必要打人家。即便是打了人家，也不必要大加宣传啊、褒奖啊。”结果，杨素就隐瞒了史万岁的功劳，不予褒奖，
史万岁数次上表陈述，隋文帝仍未醒悟。
杨素一看，虽然没有封赏史万岁。但是，我已然把史万岁给得罪了。我得想方设法把这个人置于死地！那怎么置于死地呢？哎，这个时候，就发生了隋文帝废太子杨勇事件。
废掉了太子杨勇，隋文帝疑心很重，严防东宫结党谋变，要把那东宫所有的人都得看住喽，最怕东宫有变了。这个时候，隋文帝想到了史万岁——史万岁这个大将可不能投靠东宫啊，如果帮助东宫，那可是要命的事啊。所以，隋文帝就问手下之人，尤其问越王杨素：“史万岁在什么地方啊？”其实，当时史万岁就在朝堂上。杨素一看，隋文帝当时正在气头上呢。另外，又担心东宫结党谋变。所以，当时杨素眼珠一转计上心头，说：“这个史万岁呀，现在拜访东宫去了。”这一句话就激怒了隋文帝。隋文帝信以为真，立刻下令召见史万岁，我要问一问。
当时，出征将士数百人正在朝廷上访。上访什么呢？我们立下赫赫战功，怎么朝廷一点封赏没有啊？
史万岁就对大家说：“我已经把大家的功劳极力陈述给皇上了？请大家放心！皇上圣明，这事情会解决好的。”
一听隋文帝召见，史万岁也一脑门子官司呀。您别看他安抚了众人，他也生气。于是，史万岁见到隋文帝之后，就用了稍带质问的口吻问隋文帝：“将士有功，为什么被朝廷抑制呢？您这是何意呀？”史万岁语气激昂慷慨。
隋文帝本来就发怒，一看史万岁敢在这里跟自己瞪眼。明白了：啊——你现在一屁股坐在杨勇那边了。好！既然如此——“来呀！把这叛将史万岁给我击杀在朝堂之上！”也是一时愤怒，就令武士把史万岁暴杀在朝堂之上了。
等把史万岁也杀死了，隋文帝的头脑也冷下来了。哎呀……追悔莫及呀。但是，皇上哪能说自己错了呢？为了自己的尊严，还是下诏给史万岁列出许多罪名，等于史万岁蒙受了不白之冤。
史万岁还有两个兄弟，二弟叫做史万宝，三弟叫做史万寿。朝廷杀了大哥史万岁，史万宝、史万寿兄弟俩人对此发生争执。
这史万寿比较愚忠，他也是大隋朝的一员大将军，拜左领军大将军。听说哥哥死了，也知道蒙受不白之冤。但是，他说：“君叫臣死，臣不能不死，不死为不忠啊！咱老史家受当今陛下的恩惠颇多，不能够因为这件事情就埋怨陛下。这件事情，罪魁祸首在越王杨素这里，账应该算在越王杨素头上。咱该为朝廷干活还得为朝廷干活儿。”
但是，二弟史万宝则不然。这史万宝虽然跟哥哥一样也出生在将门之家。但是，史万宝跟哥哥不一样的是，他从小对战场军事不太感兴趣。作为将二代，家境也好，不愁吃、不愁喝。这史万宝从小就养成一个豪放的性格，爱交结朋友，挥金似土，仗义疏财，颇具侠客之风。他比自己的父亲史静、自己的哥哥史万岁更加崇尚自由——我呀，爱上哪儿上哪儿，我为什么非得效力国家呢？国家对我好，我效敬他；国家对我不好，不好啊？我自己玩儿！也有钱，他也爱练武，但是史万宝爱练步下武艺，跟他爹他哥不一样，不是说跨马抡枪那种。身在长安交接了一些长安的奇士。在长安城混迹了很多绿林高手，史万宝无论是谁，只要是人家有一点能耐比自己高的，史万宝都虚心向人学习。所以，史万宝年岁不大，就学了满身的武功。高来高去，陆地飞腾，就这个轻功可与侯君集、余双人媲美。学了一身能耐了，就艺高人胆大了，经常夜入长安城中的一些达官贵人的府第。只要是觉得这个达官贵人不怎么的，为富不仁，他就到你家偷你点东西，偷点金银细软、偷一点儿珍珠玉器，偷了之后，沿街就分给那些贫穷人了。时间一长，很多人都知道应该是史万宝干的，但是没有任何证据。所以，史万宝在官府当中也挂了号了，在民间那声誉更是越来越响，被大家誉为“长安大侠”！