占据济州

孝武帝和高欢离心，孝武帝认为济州重要，欲令自己的亲信据守，于是秘密诏令御史构陷蔡俊的罪状，欲以汝阳王元暹代替蔡俊济州刺史的职位，下令蔡俊行兖州事。大丞相高欢看见蔡俊没有罪过，启奏恢复蔡俊济州刺史的职位。孝武帝不许，任命贾智为济州刺史。贾智率军赴济州欲上任，面对蔡俊的严备防守，内心畏惧，到了东郡就不敢再前进。

平定叛乱

天平中，蔡俊担任都督，随领军娄昭进攻樊子鹄的兖州，又与行台元子思讨伐元庆和，都平定了。侯深反叛，东魏朝廷又任命蔡俊为大都督，率军讨伐侯深，侯深败走。蔡俊又转扬州刺史。天平三年秋，蔡俊在扬州去世，时年四十二岁。朝廷赠其持节、侍中、都督、冀州刺史、尚书令、司空公，谥曰威武。北齐建立后，朝廷诏令祭告其墓。皇建初，配享高祖庙庭。

亲属成员

父亲：蔡普，宁朔将军、安上县男，追赠辅国将军、燕州刺史。