Hijo de un artesano textil de Nottingham y hermano menor de Thomas Sandby, en 1747 fue designado como proyectista del Military Survey en las Highlands y allí pasó cinco años realizando dibujos topográficos.

En 1753 se trasladó a Londres con su hermano Thomas y allí impartió clases, fue uno de los fundadores de la Royal Academy en 1768.

Fue un artista versátil, tanto en el uso de medios (óleos, acuarelas, gouache...) como en la variedad de temas y géneros que trató.