Historie věznice sahá hluboko do minulosti, neboť se nachází v objektu dřívějšího kartuziánského kláštera, který založil v letech 1627 Albrecht Václav Eusebius z Valdštejna. Stavba kláštera byla zahájena v roce 1628 a ukončena v roce 1632.
Výstavba chrámu byla dokončena až v roce 1664, po 36 letech. Klášter byl vystavěn pro 12 mnichů, 1 převora a 1 prokurátora. Majetek kláštera byl v tehdejší době veliký, patřila k němu např. tvrz Radimská, 12 vesnic, rybníky, pozemky, pivovar atd. V roce 1782 byl řád kartuziánů patentem císaře Josefa II. zrušen, mniši byli vypuzeni a klášterní majetek byl v dražbách rozprodán, vnitřní zařízení nešetrně rozebráno. Až do roku 1855 klášter pustl, neboť objekty byly využívány jako sýpky obilí, sklady bavlny a starých věcí, v některých “lepších” prostorách bydleli knížecí úředníci.
V roce 1856 bylo rozhodnuto, že z bývalé kartuzie bude zřízena centrální věznice, ta nejtěžší pro tresty od 10 let do doživotí. Roku 1857 koupil erár budovu bývalého kláštera od hraběte Ferdinanda z Trautmannsdorfu a zřídil zde mužskou trestnici pro těžké provinilce. V témže roce po jednoduchých úpravách sem byla přivezena část vězňů z trestnice Špilberk u Brna. Mezi prvními trestanci převedenými do Kartouz byl i známý loupežník Babinský. Od té doby mají Kartouzy Valdické jiný účel, než k jakému byly zřízeny.
Změna bývalého klášterního objektu v trestnici si vyžádala v polovině 19. století rozsáhlé stavební práce. Především byla přestavěna původní vstupní budova a doplněna kaplí nad vstupní branou, byla vystavěna pracoviště trestanců, ubytovny personálu trestnice a zařízení zajišťující celkový provoz trestnice. Postranní vchod na severní straně byl zajištěn velkou strážnicí, menší strážnice byla vystavěna u hlavního vchodu do trestnice.
V desetiletí 1863 až 1873 bylo postaveno kárné oddělení uzavírající z jedné strany přední nádvoří trestnice, dále budova samovazby, zcela obklopená vysokou zdí. Roku 1875 byl dokončen objekt, v němž bylo 14 dílen, škola s knihovnou a další provozní místnosti. V letech zbývajících do konce 19. století byla věnována pozornost výstavbě provozních zařízení. Během následujících jedenácti let pracovalo ve věznici 20 milosrdných sester kongregace Sv. Karla Boromejského, které obstarávaly celé zaopatření trestanců, jejichž počet byl v té době 800. O disciplínu a způsob výkonu trestu se staral vrchní inspektor trestnice se svými podřízenými. Stát vyplácel na zaopatření každého vězně 35 krejcarů, přičemž vězni byli povinni pracovat ve prospěch provozu trestnice a pomáhat řádovým sestrám v jejich činnosti.
V pohnutém roce 1868 převzal veškerou správu trestnice prozatímní ředitel a milosrdné sestry opustily Kartouzy. Počet trestanců vězněných v Kartouzech se postupně snižoval, až se ustálil přibližně na třech stech, které střežil v roce 1906 oddíl 96 vojínů infanterie, spolu se dvěma důstojníky a jedním šikovatelem. Strážní hlídky rovněž střežily trestance stojící před kostelem, které dozorčí odváděli v zástupu do kostela na mši. Trestanci odsouzení za nejtěžší zločiny měli možnost zpytovat svědomí v kostele denně, ostatní pak jen v neděli a o svátcích.
Objekt sloužil převážně pro výkon těch nejtěžších trestů odnětí svobody. Tato tradice věznění zůstala v Kartouzích zachována. Kartouzy se staly jednou ze dvou československých trestnic pro nepolepšitelné muže, odsouzené k trestu odnětí svobody v trvání od jednoho roku až po doživotí. Za nepolepšitelné byli prohlášeni muži, kteří byli odsouzeni třikrát za zločin téhož druhu. Pokud však – podle názoru úřednické konference – prokázali svým chováním a pracovní pílí zřejmou snahu pro polepšení, mohli být posléze předáni do trestnic vyhrazených pro polepšitelné trestance.
V roce 1928 bylo v “mužské trestnici v Kartouzích u Jičína” – jak zněl oficiální název trestnice – vězněno 35 trestanců odsouzených na doživotí, 51 trestanců mělo odpykat trest v trvání 10 až 20 let, 45 trestanců mělo trest od 5 do 10 let a 297 trestanců mělo ve vězení pobýt jeden rok až pět let. Z celkového počtu trestanců bylo jen 30 prvotrestanců. Mimo vedení trestnice, odborných a administrativních pracovníků, kterých bylo celkem 10, se staralo o přímý výkon trestu trestanců celkem 96 dozorců.
V letech 1928 až 1938 vykonávalo v trestnici v Kartouzích službu 13 až 16 vrchních dozorců, 33 až 50 dozorců podúředníků, 15 až 26 dozorců a 13 až 19 pomocných dozorců, takže celkové počty dozorců se pohybovaly v uvedeném desetiletí v rozmezí 82 až 98 lidí. V roce 1937 sloužili dozorčí celkem 33 003 dny. Počty trestanců kolísaly mezi 451 až 522. V listopadu 1938 bylo předáno 170 trestanců s nejdelším trváním trestů z Valdic do lépe vybavené trestnice pro muže v Plzni a 80 trestanců do trestnice na Pankráci v Praze. Ve Valdicích byl zřízen v uvolněných prostorách “Ústav pro choré a mladistvé trestance ve Valdicích”. První choří vězni v počtu 127 přijeli do ústavu 17.12. 1938 z Mírova a z Olomouce. Se 100 mladistvými chovanci z Mikulova pak přijel ředitel Jindřich Janeček 22.12. 1938 a spolu s nimi i 11 nových dozorců.
V letech fašistické okupace, byla v budově dnešního výkonu trestu odnětí svobody pro odsouzené k doživotnímu trestu, zřízena vyšetřovna gestapa. Zde a v Jičíně ubili fašisté na 150 českých pokrokových lidí. Ve zbývající části objektu byl vykonáván “normální” výkon trestu pro kriminální delikty, v němž střežení prováděli čeští dozorci.V období II. světové války se příslušníci angažovali v protifašistickém odboji. Čeští dozorci tiskli letáky, vydávali časopis “V boj”, ukrývali v prostorách útvaru jednak munici a zbraně, ale i pronásledované osoby plnící ilegální úkoly.Některá nedovolená činnost byla prozrazena a řada dozorců odvedena do koncentračních táborů. 5 z nich se již nevrátilo, v září 1946 jim byl slavnostně odhalen před věznicí pomník, na němž jsou vytesána jejich jména.
Od roku 1948 až do roku 1990 byli do Valdic zařazováni převážně odsouzení s dlouhodobými tresty, zařazení do III. NVS. 100 % vězňů bylo zaměstnáno ve státních firmách, které byly činné ve výrobních provozech uvnitř věznice. V tomto období zaznamenala věznice absolutně největší počet vězněných osob. Toto číslo bylo o něco málo vyšší než 2 700 vězněných mužů. Po revoluci v roce 1989 a po následné amnestii a novele trestního zákona v roce 1990 klesl počet vězňů na cca 500. Ovšem postupem let postupně docházelo opět k jejich navyšování a v roce 2011 jejich počet dosáhl cca 1200.
V lednu 2013 prezident České republiky vyhlásil amnestii pro vězněné osoby a ve valdické věznici docházelo postupně k poklesu odsouzených. Ke konci března jich zde bylo 960.
Počet odsouzených v současné době je samozřejmě proměnlivý, ale v průměru se pohybuje okolo 1000.