Поговорка популярная в среде родов войск, где носят тельняшки — морской флот, морская пехота, десантники.
Выражение изначально возникло у моряков, участвовавших в сухопутных операциях, наряду с пехотой. Подчеркивая свою воинскую доблесть, моряки говорили большим по численности пехотинцам — "Нас мало, но мы в тельняшках".
Одно из первых упоминаний выражения в художественном фильме "Мы из Кронштадта" (1936 г.) режиссера Е. Дзигана, по сценарию и одноименной пьесе Всеволода Вишневского.
Точное время появления выражения неизвестно. Видимо оно появилось в начале 20 века.
В российских официальных словарях и сборниках пословиц это выражение не упоминается.