Taman Jepang mudah dirancang, karena tidak memerlukan lahan yang luas, jenis tanaman yang digunakan sedikit, mudah dalam perawatan, dan dapat dibangun di dalam rumah (indoor garden).

RancanganTaman Jepang di dalam rumah, dapat diganti-ganti secara mudah dan cepat, karena banyak menggunakan batu dan pasir. Ada beberapa tip untuk merancang taman Jepang.

1.Tentukan lokasi taman Jepang, dekat dengan rumah (di depan ruang tamu, di samping kamar) atau di dalam rumah. Lokasi taman harus mudah terlihat dari rumah.

2.Taman Jepang menggunakan lahan yang terbatas/sempit. Jika lahan untuk taman luas, gunakan sedikit area untuk taman Jepang, agar pandangan mata fokus ke taman.

3.Ada dua pilihan tipe taman Jepang, Taman Zen atau Taman Minum Teh.

4.Taman zen secara psikologis memberikan rasa tenang dan hening, dan dapat dirancang di dalam ruangan.

5.Taman minum teh lebih dinamis, paling baik diletakkan di depan, di samping, atau di belakang rumah.

6.Ornamen yang dibutuhkan untuk Taman Zen, batu dan pasir. Secara filosofi Taman Zen mempunyai makna religi, untuk itu pemilihan batu dan pasir mempunyai kriteria tertentu yang menggambarkan alam dan makna tertentu. Tapi, untuk perancangan taman gaya Jepang yang terinspirasi dari Taman Zen, pilih batu dan pasir berdasarkan bentuk dan warna dengan komposisi yang menarik antara satu batu dengan batu yang lain, atau antara batu dengan pasir. Gunakan pasir berwarna putih. Sedangkan batu berwarna hitam.

7.Taman Zen mempunyai pola pasir berbentuk melingkar yang menggambarkan air laut yang bergelombang. Untuk membentuk pola bergelombang, digunakan alat khusus dari kayu, seperti garpu. Secara regular, pola pasir yang bergelombang itu diperbaharui, agar bentuk gelombang lebih jelas.

8.Elemen Taman Minum teh antara lain, pilih jenis tanaman yang berdaun indah dan eksotik, tanaman dengan daun hijau (gradasi warna hijau), gunakan tanaman soliter (bukan tanaman berkelompok), jangan gunakan tanaman dengan bunga yang mencolok (misalnya warna merah), gentong, pancuran air dari bambu, dan batu brojol.

9.Taman Jepang tidak menggunakan tanaman groundcover, seperti rumput.