Van der Zee werd oppgeleid aan de Academie Minerva (1919-1922) in Groningen, waar hij les kreeg van onder andere F.H. Bach en Willem Valk. Van der Zee schilderde (gouache en olieverf) en aquarelleerde landschappen, portretten, stillevens en stadsgezichten. Hij maakte daarnaast grafische kunst in de vorm van lino- en houtsnedes. Hij behoorde tot de vroeg Nederlandse constructivisten. Hoewel hij binnen het figuratieve werk zijn onderwerpen abstraheerde, werden ze nooit echt abstract. In 1922 richtte hij met Wobbe Alkema en Johann Faber het reclame bureau Atelier voor Artistieke Reclame (AVAR) op, ze huurden atelierruimte aan de Noorderstationsstraat in Groningen. Van der Zee was lid van De Ploeg (1923-1948), vervolgens van Het Narrenschip. In 1965 ontving hij de culturele prijs van de stad Groningen. In 1986 hielden het Fries Museum en het Groninger Museum een grote overzichtstentoonstelling van zijn werk. Niet alleen was Jan van der Zee actief als schilder, maar hij maakte ook monumentaal werk als bij voorbeeld de trap bij de Naberpassage aan de Grote markt in Groningen (1975) en de mozaïekmuur (1960) voor de Pabo aan de verzetstrijderslaan. Voor de Martinikerk maaktre hij een aantal glas in loodramen.