Sau khi Tokugawa Ieyasu thống nhất Nhật Bản, thành lập Mạc phủ Tokugawa và dời đô đến Edo (Tokyo ngày nay) vào đầu thế kỷ 17, ông đã chấm dứt những cuộc nội chiến và giết chóc vô nghĩa. Tuy nhiên, an ninh tại Edo vẫn bất ổn.
Chính vì thế, Tokugawa đã thành lập chính quyền phong kiến tập trung, kêu gọi các samurai tập hợp để tạo nên một lực lượng đảm bảo an ninh cho người dân với công việc tương tự như cảnh sát ngày nay.
Đến thế kỷ 18, dân số Edo đã vượt quá 1 triệu người, trở thành thành phố lớn nhất thế giới, điều này càng thúc đẩy việc đảm bảo đời sống an toàn cho người dân.
Bộ máy cảnh sát thời kỳ này sử dụng một bộ máy quan liêu nhiều tầng lớp, tận dụng mọi nguồn nhân lực. Samurai các cấp thậm chí cả các nhóm công dân (Gonin Gumi - nhóm năm hộ gia đình chịu trách nhiệm chung về tội phạm và thuế) tham gia vào việc giữ gìn hòa bình, thực thi luật pháp, quy định của Mạc phủ Tokugawa.
Đội ngũ đảm bảo an ninh này được chia theo từng cấp bậc:
Trong thời kỳ Edo, các samurai cấp cao trung thành với Mạc phủ Tokugawa được bổ nhiệm làm machi-bugyo. Công việc của họ chủ yếu là cảnh sát trưởng, công tố viên, thẩm phán và các công việc liên quan đến tư pháp khác, cả hình sự và dân sự, ở Edo và các thị trấn lớn.
Làm việc dưới quyền của một machi-bugyo là 25 yoriki. Yoriki vẫn là những samurai với công việc tuần tra. Trang phục của họ là kimono và quần hakama, bên trong có trang bị áo giáp và mang kiếm. Khi có vụ án xảy ra, yoriki sẽ có mặt.
Trong thời kỳ Edo, ba nghề phổ biến nhất được người dân lựa chọn là đấu vật sumo, cứu hỏa và hỗ trợ các đội cảnh sát với tư cách là một yoriki.
Làm việc dưới quyền yoriki là doshin. Doshin là samurai nhưng ở tầng lớp thấp hơn yoriki, họ thực hiện nhiệm vụ của lính canh tù và sĩ quan tuần tra, đòi hỏi phải tiếp xúc gần gũi với thường dân. Chính vì thế, doshin dễ dàng được bắt gặp khi đang đi tuần trên đường phố với một thanh kiếm.
Họ điều tra các vụ án lớn như giết người và hỗ trợ hành quyết. Tuy nhiên, họ không mặc hakama vì là những samurai cấp bậc rất thấp.
Doshin là công việc mà không nhiều người muốn làm vì lương thấp và dễ gặp nhiều nguy hiểm. Mặc dù họ được trang bị kiếm nhưng hầu như không được sử dụng với tội phạm vì cần giữ cho tội phạm còn sống để tra khảo.
Doshin cũng thuê trợ lý dân sự - komono để hỗ trợ trong các cuộc tuần tra và cựu tội phạm làm người cung cấp thông tin mật - okappiki. Ngoài ra, còn có một đội ngũ an ninh là những người đàn ông với vẻ ngoài to lớn, vạm vỡ được gọi là meakashi, mức lương của họ thấp nhất trong các cấp bậc.
Để gia tăng tỷ lệ bắt được tội phạm nguy hiểm, một số doshin đã sử dụng metsubushi. Đó là một chất gây kích ứng mắt hoạt động giống như bình xịt hơi cay hiện đại. Tuy nhiên có những doshin vô đạo đức thêm bột thủy tinh vào hỗn hợp này gây nguy hại cho mắt của tội phạm.
Thú tội là một trong những bằng chứng để kết tội vào thời Edo. Vì vậy, để đảm bảo công lý được thực thi, cảnh sát được phép và về cơ bản là được giao nhiệm vụ tra tấn những người bị bắt để họ phải thú nhận hành vi của mình.
Phương pháp tạm coi là nhẹ nhàng nhất là đánh bằng roi hoặc đặt đá nặng lên cơ thể. Nặng hơn là tra tấn bằng cách trói ở những tư thế đau đớn nhất.
Chính vì thế, việc thú tội sớm có thể giúp giảm nhẹ hình phạt, nhưng nếu bị oan thì khó có thể bào chữa để được trắng án. Vì vậy hệ thống này khiến nhiều người vô tội bị phạt tiền hoặc bị lưu đày, nhưng vẫn tốt hơn nhiều so với việc bị luộc sống.
Việc được tuyên trắng án tại tòa sau khi từ chối thú tội về luật là có thể nhưng điều này cực kỳ hiếm, vì việc không tìm thấy ai có tội được coi là thất bại của cảnh sát và thẩm phán.
Sau khi nhận tội thì đối với những tội nặng sẽ bị kết án lao động khổ sai ở các trang trại lao động hoặc tử hình như: chặt đầu, treo cổ, đóng đinh, đun sôi.
Tuy nhiên đến năm 1868, với sự lên ngôi của chính quyền Meiji, giai cấp samurai đã bị xóa bỏ. Để hệ thống cảnh sát hoạt động có hiệu quả hơn thì năm 1872, cựu samurai - Kawaji Toshiyoshi đã được cử đến châu Âu để nghiên cứu và học hỏi hệ thống.
Sau khi trở về, ông đề xuất tái cấu trúc bộ máy theo hệ thống của Pháp và Phổ (vương quốc tồn tại trong lịch sử của Đức), đến năm 1874 thì lực lượng cảnh sát đã ra đời, khởi đầu cho hệ thống cảnh sát Nhật Bản cho đến ngày nay.