「砸爛」公檢法並不是真的完完全全地取消公檢法。文革初期，全國各地專政機關亂抓人，甚至跑到毛澤東身邊（北京）來抓人。為嚴禁公檢法的法西斯的行為，為了追求民主、革命、造反的人民群眾免遭迫害。那就必須對公檢法加以限制和削弱。所以，毛澤東提出了「砸爛」公檢法的意見。
毛澤東說：「批評我就是反革命嘛?我就不能批評嘛?」毛澤東批評謝富治（公安部部長）：「他們有他們的理論家，他寫一份大字報你抓他做什麼，我看還是放了好。」
毛澤東強調「精簡機構」和幹部的「半供給制」，目的是想打擊官僚機構的「寄生性」。毛大膽地說：「在一不死人二不廢事的條件下，我建議黨政機關進行大精簡，砍掉三分之二」。毛還說：「我看不需要這麼多監獄，把監獄里這些人放到群眾中改造，這個辦法好，天塌不下來」。
於是，1968年12月11日，最高檢查院、最高法院、軍代表、公安部等聯合向毛澤東、中共中央、中央文革小組提交了《關於撤消高檢院、內務部、內務辦三個單位，公安部、高法院留下少數人的請求報告》，被批准執行。
1968年，公、檢、法幹部精簡掉90%。在全國範圍內大規模地撤消了監獄、勞改單位，少年管教所。大批正在服刑的犯人被回到原居住地、原工作單位接受群眾的監督改造。留在監獄、勞教所的犯人和其它在押人員，經歷了一場中國監獄史上從來未有過的「把犯人當人看」的運動。當時，中國成了按人口比例，監獄最少、犯人最少、警察最少的國家。由於人性化的對待犯人，犯人釋放后也少有重新犯罪的。
1975年1月，四屆人大通過的《憲法》中規定：「檢察和審理案件，都必須實行群眾路線。對重大的反革命刑事案件，要發動群眾討論和批判」。大多數地區的實施，是把公、檢、法部門認為需要逮捕和判刑的嫌疑人的材料印成小冊子，發給各個工廠、大隊、商店、部隊、機關、學校、街道等，交群眾討論、批判，然後收集群眾意見，來決定是否逮捕、判刑。重大案件，司法機關還要下到基層，直接和群眾討論對案件的認識和處理意見。實際上，這是毛澤東式的陪審團制度。
儘管那段「砸爛」公檢法的年代也沒有實行寬泛的民主，但是，人們的犯罪率很低，社會風氣良好，沒有「黃.賭.毒」。人人學雷鋒，人人爭做好人好事，人民勤儉向上、拾金不昧、夜不閉戶、爭做無名英雄。「砸爛」公檢法的那段紅色年代，著實在讓人懷念。這也是人民群眾此起彼伏地掀起毛澤東熱的原因之一。
