En la construcción de la rocalla se emplean generalmente piedras calizas de distintos colores que oscilan entre el blanco y el gris, y si es posible rocas de la zona para que se integre con los elementos de su entorno. Estas piedras se conocen como coqueras.
También se pueden utilizar piedras de granito y de arenisca, y con un poco de imaginación otro tipo de piedras como la de molino (siempre sin abusar de estos elementos decorativos y procurando justificar su situación dentro de la rocalla).
No hay que usar yeso, ni rocas con aristas puntiagudas. Lo importante es conseguir un efecto de naturalidad.
Antes de hacer la rocalla hay que eliminar del terreno las malas hierbas. Es necesario preparar una capa de drenaje a base de gravas o escombros, que será mayor si el suelo es arcilloso. Se cubre con una mezcla de tierra con mantillo, turba o compost y se colocan las piedras. Si la rocalla es grande puede ser necesario la creación de caminos, senderos o escalones. Después se deja que la rocalla se asiente unos días y por último se añade una pequeña capa de mantillo antes de plantar.
La elección de las plantas dependerá del clima, la orientación, el tipo de suelo y del tamaño de la rocalla. Se planta en primavera y en otoño de manera que siempre hay flores visibles. No se deben agrupar las plantas más altas en la zona inferior de la rocalla, sino distribuirlas con cuidado por la rocalla. Debemos de huir del efecto pirámide que provoca rocallas muy poco naturales.
Para rocallas amplias se recomiendan las coníferas y arbustos leñosos.
Ejemplos: Festuca, Anemone, Alyssum, Dianthus, Heichrysum, Crocus, Silene, Juniperus, Picea, Stachys, Ramonda, Soldanella, Hyacinthus, Bulbocodium, Pinus, Daphne, Rhododendron, Salix, Spiraea, Abies, Tsuga...