Джозеф Пилатес родился в 1880 году в маленькой деревушке под Дюссельдорфом. Отец его занимался гимнастикой, мать была врачом. В раннем детстве Джо болел астмой, рахитом и ревматической лихорадкой, и его часто дразнили, потому что он был очень хилым. Эти причины заставили его заняться спортом: лыжами, дайвингом, классической гимнастикой, йогой и восточными единоборствами. В возрасте 14 лет он имел уже такую замечательную форму, что его использовали как модель для серии иллюстрированных анатомических карт. Уже тогда он начал разрабатывать универсальную систему, которая обеспечивала бы идеальное сочетание силы и гибкости тела. И это ему удалось.
Перед началом Первой мировой войны Пилатес в Англии тренировал сыщиков Скотланд-Ярда, но сразу после начала боевых действий был интернирован. Оказавшись в лагере для интернированных, Джо работал в госпитале с лежачим больными. Чтобы помочь товарищам по несчастью, он разработал свою технику гимнастических упражнений, оборудовал больничные кровати шкивами, ремнями и пружинами. Те кровати и стали прототипами современных тренажеров, используемых в упражнениях по методу Пилатеса.
После войны он вернулся в Германию, а затем переехал в Нью-Йорк, где в 1923 году вместе с женой Кларой открыл свою первую студию. В этом же здании располагались несколько балетных и танцевальных коллективов. Благодаря привлекательности системы упражнений, его студия вскоре обрела чрезвычайную популярность среди танцоров и других артистов. Затем к ним присоединились киноактеры, знаменитые спортсмены и обладатели больших состояний. Коротко говоря, те, кто ценил свое тело и хотел его сохранить в наилучшей форме. До последнего дня своей жизни Джозеф Пилатес сохранял великолепную физическую форму. В возрасте 84 лет он говорил: «Я должен быть прав. Никакого аспирина. Ни одного дня болезни в моей жизни. Вся страна, весь мир могли бы делать мои упражнения. Они были бы счастливее».
При этом он вел отнюдь не монашеский образ жизни. На склоне лет, уже будучи знаменитым, он заметил в одном из своих интервью: «Я ем то, что мне нравится. Если бы люди могли видеть, как я живу — курю, пью и занимаюсь любовью, они бы не поверили».