岭南南宁一带的李贤，占据本州举兵反隋。隋文帝商议准备讨伐，诸将多人请求前往，隋文帝皆不许，独对虞庆则说：“官位是宰相，爵位是上公，国家有贼人作乱，却没有出行的打算，这是为什么?”虞庆则惶恐请罪，于是隋文帝派他出征，任命他为桂州道行军总管，率军征讨李贤。
虞庆则此番南征，以他的内弟赵什柱为随军长史，而赵什柱暗中与虞庆则的爱妾私通，他经常担心事发，于是就散布流言说：“虞庆则不想出征。”流言很快被隋文帝获悉。以前，朝臣大将出征，皇帝都要设宴送行，赏赐礼物而后出发，等到虞庆则南征向隋文帝辞行，隋文帝脸色不悦，虞庆则于是也怏怏不乐，颇不得志。等到李贤之叛被平后，虞庆则来到潭州临桂镇，观察形势眺览山水后说：“此地确实险固，如果粮食充足，若有得力的人镇守，一定攻不下来。”于是，命赵什柱赴京报告军中事务，借机观察皇帝的态度，但是赵什柱到京后，却诬告虞庆则谋反，隋文帝察验之后，诛杀虞庆则，并拜赵什柱为柱国。