Pierwsze projekty budowy schroniska pojawiły się w 1928 wśród działaczy Polskiego Towarzystwa Tatrzańskiego w Krynicy. Na jesieni 1930 wykupiono grunt i zaczęto gromadzić materiały budowlane. Do prac budowlanych przystąpiono zimą z 1933 na 1934. W celu zgromadzenia wody ze źródeł wybudowano trzy betonowe zbiorniki, oczyszczalnik i kanalizację. W drugiej połowie grudnia 1934 schronisko zostało częściowo ukończone i oddane do użytku turystów.
Pierwszym gospodarzem został Jan Kamyk. Obiekt dysponował bufetem i 60 miejscami noclegowymi: 30 miejscami na łóżkach w 14 pokojach oraz 30 miejscami na pryczach w dwóch salach zbiorowych. Schronisku nadano imię Józefa Piłsudskiego, który według miejscowych przekazów miał zasadzić limbę na stokach Jaworzyny, rosnącą do drugiej dekady XXI w. (obecnie w jej miejscu znajduje się figura Jana Pawła II).
Obiekt stał się atrakcją turystyczną, gościł tutaj m.in. Jan Kiepura, lotnicy ze Szkoły Orląt oraz księżniczka Juliana, przyszła królowa Holandii, wraz z mężem Bernhardem[1]. W sierpniu 1939 gospodarze schroniska Maria i Jan Kamykowie opuścili obiekt, do którego powrócili w czerwcu 1940. Pozostawiony bez opieki, został splądrowany i zdewastowany. Na polecenie niemieckiego dyrektora krynickiego uzdrowiska ponownie rozpoczęli działalność. W 1942 Jan Kamyk został aresztowany i wywieziony do obozu w Oświęcimiu. W 1943 schronisko i cały majątek Kamyków przejął pełniący funkcję burmistrza Krynicy Rudolf Mickler. W czerwcu 1944 polscy partyzanci rozbroili przebywających w obiekcie Niemców oraz zabrali całą żywność i koce. Po tej akcji Mickler zamknął i opuścił schronisko. 18 października 1944 Niemcy przeprowadzili obławę na partyzantów, w ramach której podpalili budynek schroniska.