Lưu Bá Ôn từ nhỏ đã xuất chúng hơn người, thầy giáo của ông là Trịnh Phục Sơ từng nói với cha ông rằng: “Tổ tiên của tiên sinh tích đức, đứa bé này nhất định sẽ làm rạng danh tổ tông gia tộc họ Lưu”.
Lưu Bá Ôn am hiểu kinh sử, học rộng hiểu nhiều, đặc biệt tinh thông “Dịch Kinh” tướng số, chiêm tinh học. Người đời sau so sánh ông với Gia Cát Lượng Khổng Minh, có câu nói là: “Ba phần thiên hạ Gia Cát Lượng, nhất thống giang sơn Lưu Bá Ôn”.
Sinh thời lưu bá ôn để râu, tướng mạo đẹp trai. lúc ông 48 tuổi, chu nguyên chương bỏ tiền ra tuyển dụng ông, ông không nhận lời. thuộc hạ của chu nguyên chương là tổng đốc tôn viên hai lần viết thư kiên quyết xin thỉnh mời, lưu bá ôn mới nhận lời. lưu bá ôn tướng mạo đường hoàng, xử sự có nguyên tắc, khi bàn luận về an nguy thiên hạ, sự trượng nghĩa lộ rõ trên khuôn mặt. chu nguyên chương nhìn thấy lòng thành của lưu bá ôn, nên xem ông là thân tín và trợ thủ đắc lực của mình. mỗi lần khi triệu kiến, chu nguyên chương đều ra lệnh cho những người khác tránh mặt, hai người nói chuyện bí mật với nhau trong nhiều giờ. bản thân lưu bá ôn cũng nói rằng chu nguyên chương là độc nhất vô nhị, không có gì là không nói với chu nguyên chương. với tài năng tiên đoán như thần của lưu bá ôn, làm sao lại không biết ai sẽ là thiên tử tương lai chứ?
Mỗi lần gặp phải những chuyện khó xử lý, lưu bá ôn đều nhanh chóng thi triển tài năng, ngay lập tức có thể lập ra kế hoạch đối phó mà người khác khó mà nghĩ đến. những lúc rảnh rỗi, lưu bá ôn thường giảng cho chu nguyên chương biết về đạo làm vua, còn chu nguyên chương thì chăm chú lắng nghe, và thường xuyên gọi lưu bá ôn là “lão tiên sinh” chứ không gọi tên của ông. chu nguyên chương đánh giá lưu bá ôn là “tử phòng của ta”. (quân sư của hoàng đế khai quốc hán triều lưu bang là trương lương, tự là tử phòng”. chu nguyên chương còn nói: “lão tiên sinh – lưu bá ôn nhiều lần dùng lời lẽ của khổng tử để dẫn dắt ta”. không ai biết rõ chi tiết cuộc nói chuyện bí mật của hai người ở trong lều.
Sau khi chu nguyên chương lên ngôi hoàng đế, khi xác định thuế lương thực của xử châu, là dựa theo chế độ của nhà tống mỗi mẫu cộng thêm 5 thạch để chuyển đổi, duy chỉ có huyện thanh điền là ngoại lệ, minh thái tổ nói: “phải để quê hương của lưu bá ôn đời đời ca tụng về chuyện này”.
Trước đây, minh thái tổ từng muốn trách phạt thừa tướng lý thiện trường, lưu bá ôn khuyên rằng: “ông ta là lão thần có công, có thể điều khiển các tướng”. minh thái tổ nói: “hắn nhiều lần muốn hại khanh, khanh còn muốn nói giúp hắn? ta muốn cho khanh lên làm thừa tướng”. lưu bá ôn khấu đầu nói: “dựa theo cách nói của pháp gia hàn phi tử, điều này giống như thay đổi trụ cột, sẽ gây ra bạo loạn, cần phải dùng cây gỗ to dày chắc đặc, nếu dùng gỗ nhỏ, thì cả căn nhà sẽ lập tức sụp đổ”.
Sau này, lý thiện trường từ quan về ở ẩn, minh thái tổ muốn cho dương hiến làm thừa tướng, ngày thường dương hiến rất tốt với lưu bá ôn, nhưng lưu bá ôn vẫn tích cực phản đối, nói rằng: “dương hiến có đầy đủ tài năng làm thừa tướng, nhưng không có sự rộng lượng để đảm đương trọng trách này. người làm thừa tướng cần phải có tâm thái bình tĩnh như nước, dùng nghĩa lý để làm tiêu chuẩn cân bằng sự vật, chứ không thể để bản thân tham dự vào trong đó, dương hiến làm không được”.
Minh thái tổ lại hỏi uông quảng dương thì thế nào? lưu bá ôn đáp rằng: “so với dương hiến, hắn có lòng dạ hẹp hòi hơn, kiến thức nông cạn”. minh thái tổ lại hỏi tiếp về hồ duy dung, lưu bá ôn lại trả lời rằng: “lấy việc đánh xe để làm ví dụ, thần sợ là hắn sẽ làm lật xe ngựa”. thế là minh thái tổ nói: “thừa tướng của ta, thực sự chỉ có tiên sinh là thích hợp nhất thôi”. lưu bá ôn từ chối nói: “thần quá căm ghét điều ác, lại không đủ kiên nhẫn để xử lý những công việc vặt lặt, nếu như miễn cưỡng đảm nhận trọng trách này, sợ rằng sẽ phụ ân điển của bệ hạ. thiên hạ lo gì không có người tài, chỉ cần bệ hạ lưu tâm tìm cầu. hiện giờ những người này thực sự không thích hợp đảm nhận chức thừa tướng”.
Năm hồng vũ thứ 3 (năm 1370), minh thái tổ phong cho lưu bá ôn làm học sĩ hoằng văn quán, tháng 11, khi minh thái tổ phong chức công thần, lưu bá ôn không cầu danh lợi, không tự xem mình là công thần, nhiều lần kiêm nhường, vì vậy chức quan của ông thấp hơn những công thần khác, làm khai quốc dật vận thủ, chính văn thần, tư thiện đại phụ, thượng hộ quân, phong thành ý bá, hưởng bổng lộc 240 thạch (nếu như là thừa tướng, bổng lộc hàng năm là mấy ngàn thạch). năm thứ hai, khi lưu bá ôn 60 tuổi, ông nhận ân điển ban thưởng lần cuối rồi cáo lão về quê.
Minh thái tổ từng viết thư hỏi lưu bá ôn về thiên tướng, ông đều trả lời chi tiết từng lá thư, sau đó lại đem đốt hết toàn bộ bản thảo. đại ý muốn nói rằng: sau khi băng tuyết đi qua, sẽ có mùa xuân ấm áp, bây giờ đã lập được quốc uy, nên dùng chính sách rộng lớn hơn để trị vì thiên hạ. lưu bá ôn phò tá minh thái tổ an định thiên hạ, liệu sự như thần. ông là người tính tình cương trực, căm ghét điều ác, không hợp với con người của xã hội vật chất.
Sau khi hồi hương ông quy ẩn trong núi, chỉ lấy việc đánh cờ uống rượu và văn thơ làm niềm vui, không bao giờ nói về công lao của mình. một hôm, huyện lệnh huyện thanh điền đến xin gặp mặt, bị lưu bá ôn từ chối, thế là huyện lệnh mặc thường phục, giả làm người trong thôn núi đến gặp lưu bá ôn. lúc đó lưu bá ôn đang rửa chân, liền bảo cháu trai đưa huyện lệnh vào trong căn nhà tranh, dùng cơm kê để tiếp đãi. lúc này huyện lệnh mới nói với lưu bá ôn: “tôi là tri huyện thanh điền”. lưu bá ôn kinh ngạc, đứng dậy nói rằng mình chỉ là một thảo dân bình thường, sau đó tạ tội xong rồi rời đi, không bao giờ gặp lại.
Lưu bá ôn hành sự vô cùng cẩn trọng, không qua lại với quan địa phương, nhưng vẫn bị thừa tướng hồ duy dung hãm hại. nguyên là trước đây lưu bá ôn từng nói có một mảnh đất là sào huyệt của bọn cướp muối, trước đó đã có người tại nơi đó tạo phản, nên thỉnh cầu triều đình thiết lập tuần kiểm ti canh giữ, bấy giờ đúng lúc có đào binh tạo phản, các quan viên đều che giấu không báo cáo, lưu bá ôn liền kêu con trai trưởng lưu tiễn đem chuyện này tâu lên trên, nhưng lại không thông báo trước với huyện trung thư lúc đó đang do hồ duy dung dùng thân phận tả thừa tướng quản lý, vì vậy mà hồ duy dung đã ôm hận trong lòng, phái quan viên dưới trướng mình công kích lưu bá ôn: nói rằng mảnh đất này có vượng khí đế vương, lưu bá ôn muốn dùng mảnh đất đó làm mộ địa của mình, bởi vì bá tánh nơi đó không đồng ý, lưu bá ôn liền xin thiết lập tuần kiểm ti để đuổi bá tánh đi.
Tuy rằng minh thái tổ không trách tội lưu bá ôn nhưng cũng bị lay động bởi những lời bàn tán này, cho nên đã cắt đứt bổng lộc của lưu bá ôn. lưu bá ôn cảm thấy sợ hãi, nên vào triều tạ tội, sau đó ở lại kinh thành, không dám quay về quê nhà. không lâu sau, hồ duy dung lên làm thừa tướng, lưu bá ôn đau buồn than rằng: “nếu như lời của ta không ứng nghiệm, vậy thì chính là phúc của chúng sinh”. lưu bá ôn vì chuyện này mà vừa đau buồn vừa phẫn nộ dẫn đến sinh bệnh.
Tháng chạp năm hồng vũ thứ 8 (năm 1375), hồ duy dung phái đại phu đến khám bệnh cho lưu bá ôn. lưu bá ôn uống xong hai thang Thu*c, trong bụng liền xuất hiện hai vật lạ giống cục đá to bằng nắm đấm. ông ôm bệnh đến gặp minh thái tổ để nói rõ tình hình, minh thái tổ cũng không tra xét, sau đó bệnh tình càng nghiêm trọng hơn. đến tháng ba, minh thái tổ đã lâu không nhìn thấy lưu bá ôn, liền phái người đi thăm hỏi, mới biết lưu bá ôn không thể ngồi dậy nổi, sau đó đích thân soạn văn ban cho lưu bá ôn, phái đặc sứ hộ tống ông về quê.
Sau khi lưu bá ôn về đến nhà bệnh tình tiếp tục trở nặng, liền đem “thiên văn thư” truyền cho con trai trưởng lưu tiễn, nói rằng: “mau đem cuốn sách này trình lên cho bệ hạ, đừng để người đời sau học môn học vấn này”.
Lại nói với con trai thứ Lưu Cảnh: “Xử lý chính sự, khoan dung và nghiêm khắc giống như tuần hoàn vậy. Hiện nay điều cần làm là tu dưỡng đạo đức, giảm nhẹ hình phạt, cầu xin ông trời kéo dài vận số của nhà Minh. Các nơi có địa thể quan trọng, cần phải liên lạc chặt chẽ với kinh sư. Ta muốn để lại di ngôn tấu lên Hoàng thượng, nhưng chỉ cần Hồ Duy Dung còn trong triều, thì cũng không có tác dụng gì. Đợi sau khi Hồ Duy Dung Thất thế, hoàng thượng chắc chắn sẽ nghĩ đến ta, sẽ có lời thăm hỏi, thì hãy đem di biểu này bí mật tâu lên”.
Lưu Cơ về đến nhà được một tháng thì mất tại quê nhà vào ngày 16 tháng 4, hưởng thọ 65 tuổi. Tháng 6, cùng năm ông được mai táng tại Nguyên Lễ, Hạ Sơn.
Sau này khi lưu bá ôn Ch?t rồi, những người trước đó bị lưu bá ôn đánh giá trước mặt minh thái tổ chu nguyên chương như dương hiến, uông quảng dương và hồ duy dung đều phạm tội và bị minh thái tổ giết Ch?t hoặc ban cho cái Ch?t. trung thừa đồ tiết cùng làm việc với hồ duy dung nói rằng lưu cơ Ch?t là do bị hồ duy dung hạ độc.
Theo Danviet