Ngay trong những ngày đầu xây dựng chính quyền nhân dân, Chủ tịch Hồ Chí Minh và Chính phủ Việt Nam dân chủ cộng hoà đã nhận được khá nhiều ý kiến từ các tầng lớp nhân dân phản ảnh bằng thư từ, đơn kiện hoặc gặp gỡ trực tiếp bày tỏ nguyện vọng cần sớm chấm dứt các hiện tượng, việc làm sai trái của một số nhân viên trong bộ máy chính quyền các cấp, nhất là ở các địa phương. Từ thực tế đó, ngày 04/10/1945, lần đầu tiên cuộc họp Hội đồng Chính phủ đã đưa ra vấn đề thành lập tổ chức Thanh tra. Trong lúc chờ đợi có một sắc lệnh thành lập Ban Thanh tra, Chính phủ giao cho cấp trên quyền xét xử cấp dưới và đề nghị Bộ Nội vụ lập một Uỷ ban Thanh tra hành chính để đi điều tra công việc hành chính ở các địa phương.

Ngày 19/12/1946, trước hành động xâm lược trắng trợn của quân đội Pháp, Đảng, Chính phủ và Chủ tịch Hồ Chí Minh đã phát động toàn dân đứng lên tiến hành cuộc kháng chiến lâu dài chống thực dân Pháp xâm lược và xác định, cuộc kháng chiến của ta sẽ là cuộc kháng chiến lâu dài, toàn dân, toàn diện, vừa kháng chiến, vừa kiến quốc. Điều đó đòi hỏi công tác thanh tra phải được đẩy mạnh, mở rộng phạm vi hoạt động, phải chuyển hướng về tổ chức và hoạt động thanh tra cho phù hợp với điều kiện kháng chiến.

Sau nhiều lần thảo luận và thống nhất, chuẩn bị về mọi mặt, giữa tháng 12/1949, tại phiên họp toàn thể, Hội đồng Chính phủ ra quyết nghị giải thể Ban Thanh tra Đặc biệt và thành lập Ban thanh tra Chính phủ đồng thời cử các thành viên vào Ban Thanh tra Chính phủ. Ngày 18/12/1949, Chủ tịch Hồ Chí Minh ký Sắc lệnh số 138 B-SL thành lập Ban Thanh tra Chính phủ, cụ Hồ Tùng Mậu được cử làm Tổng Thanh tra.

Trước yêu cầu thực tiễn của việc quản lý nhà nước và thực hiện chủ trương của Đảng, ngày 28/03/1956, Chủ tịch nước Việt Nam dân chủ cộng hoà đã ra Sắc lệnh số 261/SL thành lập Ban Thanh tra Trung ương của Chính phủ, đồng chí Nguyễn Lương Bằng được cử làm Tổng Thanh tra, đồng chí Nguyễn Côn và Trần Tử Bình được bổ nhiệm làm Phó Tổng Thanh tra. Tiếp đó, ngày 26/12/1956, Thủ tướng Chính phủ ban hành Nghị định số 1194/TTg về việc thành lập Ban Thanh tra ở các liên khu, khu, thành phố và tỉnh, đặt dưới sự chỉ đạo trực tiếp của Uỷ ban hành chính các cấp và chịu sự hướng dẫn nghiệp vụ của Ban Thanh tra cấp trên.

Đại hội đại biểu toàn quốc lần thứ III của Đảng Lao động Việt Nam được coi là “Đại hội xây dựng chủ nghĩa xã hội ở miền Bắc và đấu tranh hòa bình thống nhất nước nhà”. Đại hội đã đề ra năm nhiệm vụ cơ bản của kế hoạch 5 năm lần thứ nhất phát triển kinh tế và văn hóa. Từ đây miền Bắc nước ta chuyển sang thời kỳ mới, lấy xây dựng cơ sở vật chất và kỹ thuật của chủ nghĩa xã hội làm trọng tâm, đồng thời tiếp tục hoàn thành cải tạo xã hội chủ nghĩa, củng cố và hoàn thiện quan hệ sản xuất mới.

Trước nhiệm vụ mới của đất nước và trước yêu cầu cần thiết của công tác thanh tra, xét khiếu tố, ngày 11/08/1969, Ủy ban Thanh tra của Chính phủ đã được thành lập theo Nghị quyết số 780/NQ-TVQH của Quốc hội nước Việt Nam dân chủ cộng hòa. Cùng với sự quan tâm lãnh đạo, chỉ đạo của Đảng và Nhà nước, Ủy ban Thanh tra của Chính phủ đã từng bước tăng cường, ổn định tổ chức. Các cán bộ lãnh đạo của Ủy ban Thanh tra của Chính phủ lần lượt được bổ nhiệm. Đồng chí Nguyễn Thanh Bình được cử giữ chức Chủ nhiệm Ủy ban, đồng chí Trần Mạnh Quỳ và đồng chí Nguyễn Thừa Kế được bổ nhiệm làm Phó Chủ nhiệm Ủy ban Thanh tra của Chính phủ. Các vụ và các đoàn thanh tra cũng được thành lập và bổ sung thêm cán bộ để bắt tay vào thực hiện nhiệm vụ thanh tra do Đảng và Nhà nước giao phó.

Từ những thay đổi to lớn và căn bản của bối cảnh đất nước và nhất là dựa trên tinh thần Nghị quyết số 24 của Ban Chấp hành Trung ương và Hội nghị hiệp thương chính trị thống nhất, ngành Thanh tra Việt Nam lúc này đã có sự chuyển biến cần thiết và kịp thời. Lực lượng Thanh tra Việt Nam cùng với các Bộ, ngành khẩn trương bắt tay vào công cuộc thống nhất lực lượng trên phạm vi cả nước, nhanh chóng triển khai hệ thống tổ chức và hoạt động của ngành nhằm đáp ứng những đòi hỏi cấp bách của thực tiễn đất nước lúc này.

Ngày 01/4/1990, Pháp lệnh Thanh tra - một văn bản mang tính pháp lý cao được công bố. Pháp lệnh Thanh tra gồm 6 chương, 41 điều quy định về hệ thống tổ chức, nhiệm vụ, quyền hạn của Thanh tra Nhà nước, tổ chức Thanh tra nhân dân và trình tự thanh tra, Ủy ban Thanh tra Nhà nước được đổi thành Thanh tra Nhà nước. Cho đến thời điểm này, đây là văn bản có hiệu lực pháp lý cao của Nhà nước Việt Nam về công tác thanh tra, tạo cơ sở pháp lý và xác định rõ vị trí của công tác thanh tra trong sự nghiệp đổi mới đất nước

Trong công tác thanh tra, giai đoạn 2006 - 2010, Thanh tra các cấp đã tiến hành 56.919 cuộc thanh tra hành chính và thanh tra, kiểm tra chuyên ngành trên các lĩnh vực quản lý nhà nước. Đó là những cuộc thanh tra có tính chất trọng điểm, liên quan đến hầu hết các lĩnh vực quan trọng của nền kinh tế đất nước và sự phát triển của xã hội.