球隊成立於1904年5月4日，因為地處魯爾工業區（魯爾區）的蓋爾森基興曾是歐洲采煤中心，所以球隊綽號“煤礦工人”，此外又被稱為“皇室藍”。主場為擁有55,000座位並曾創造129分貝吶喊聲浪的傲赴沙爾克球場，現冠名為“費爾廷斯競技場”。現在德國甲級足球聯賽參賽。
沙爾克04隊創建於1904年5月4日，俱樂部的所在地位於蓋爾森基欣市郊區沙爾克，故此命名為沙爾克04隊。沙爾克04隊是在原創建於1877年的沙爾克體操俱樂部的基礎上派生出來的。
1904年，沙爾克足球俱樂部成立後，兩個俱樂部在1919年合二而壹，命名為“1904沙爾克威斯特法利亞體育俱樂部”。
1924年，俱樂部解體，沙爾克04足球俱樂部成為獨立的體育組織。
1927年，沙爾克04隊奪得魯爾地區的足球冠軍，但在全國聯賽的最後壹輪比賽中以1比3負於慕尼黑1860隊；痛失聯賽權。沙爾克04隊當時引為自豪的人物是；恩斯特·庫佐拉，他是沙爾克04隊沖唯壹的國家隊隊員。
步入30年代，沙爾克04隊迎來了歷史上的第壹個春天。經過7年拼搏，沙爾克04隊終於在1934年的全國聯賽決賽中的最後壹秒鐘以2比1擊敗紐倫堡隊，獲得了歷史上第壹個全國冠軍。
在1933年至1942年之間的十年，沙爾克04打入20次聯賽或杯賽的14次決賽，即每年最少晉級壹項決賽，取得六次聯賽及壹次杯賽冠軍，是當時德國的最佳球隊。此後至1958年，沙爾克04壹***贏得了七次德國錦標賽冠軍。
1963年德甲正式成立，沙爾克04是創始成員之壹。沙爾克04是1963年德甲成立時的創始成員，但由於實力所限，多年來沙爾克04都未曾贏得德甲聯賽冠軍。1972年德國杯是沙爾克04當時的唯壹錦標。
自1963年實行甲級職業聯賽以來，沙爾克04隊除了1972年以5比0擊敗凱澤斯勞滕隊奪取過壹屆足協杯冠軍以來，不但數次與聯賽冠軍失之交臂，而且還三度降為乙級隊，失去了昔日的光輝。
自1981年至1991年，沙爾克04更曾經三次降級。1988年，苦苦掙紮的沙爾克04隊終難逃降級厄運。經過兩個賽季的生死拼爭，沙爾克04隊終於在1991年以乙級隊冠軍的身份重返甲級行列。
在20世紀90年代，沙爾克04隊可以稱得上是進出甲級隊行列最頻繁的壹支隊伍。它從1985年至1988年間壹直排在甲級隊10名以後。
步入90年代，德國足壇群雄並起，財大氣粗的大球會對於升班馬毫不憐惜，往往是狂轟亂炸壹番後，將不堪入目的小隊伍逐出甲級。
1992～1993賽季，在最關鍵的壹場比賽中，沙爾克隊曾以3:3與拜仁慕尼黑隊戰平，不但使拜仁慕尼黑隊痛失即將到手的聯賽冠軍，還使自己保住了甲級隊的資格。但俱樂部老板卻因這壹保級資格而變賣了自己的壹家私人醫院，足矣見得沙爾克04隊的財力已到了捉襟見肘的地步。最後，他不得不辭去俱樂部主席的職務，改換他人。但沙爾克04俱樂部的財政窘境，並沒有因為易主而有所改觀。[1]
經1994-1995年賽季的財政危機之後，沙爾克04隊終於在1995-1996年賽季取得了甲級聯賽的第3名，獲得了歐洲聯盟杯的參賽權。面對國內外兩條線作戰，俱樂部領導層決定在保級的前提下沖擊聯盟杯。在荷蘭籍主教練史蒂文斯的率領下，他們過關斬將，以出色的防守反擊殺入決賽圈。在四分之壹決賽中，他們以2比0和1比1淘汰了瓦倫西亞隊；半決賽中以客場1比1和主場打延長期以2比0擊敗了特內裏費隊，最後又以防守反擊戰術迎戰意大利勁旅國際米蘭隊。在主客場打成1比1的情況下，最終以點球4比1戰勝了國際米蘭隊，在建隊歷史上首次捧得歐洲聯盟杯，這無疑是沙爾克04隊成立93年以來最輝煌的壹頁。
1998年，沙爾克04隊在歐洲聯盟杯的衛冕戰中僅進入到四分之壹決賽，以總比分1比2負於老對手國際米蘭隊。但在國內聯賽中卻由上賽季的第12名上升至第5名，再次獲得了歐洲聯盟杯的參賽資格。
2000～2001賽季，沙爾克04隊簡直是脫胎換骨，令其對手另眼相看，不僅獲得了杯賽的冠軍，而且在聯賽中更是壹路領先，始終處於積分榜的首位，只是在最後壹輪被拜仁慕尼黑追上，最終功虧壹簣，屈居聯賽亞軍，未能實現包攬聯賽、杯賽兩座獎杯的願望。
2001～2002賽季，沙爾克04隊引進了阿加利、威爾莫茨、韋爾曼特和馬特蘭之後，各個位置的競爭更加激烈。後防還存在缺陷，隊長瓦多赫在熱身賽中表現不盡人意。阿根廷後衛馬特蘭入隊較晚，他與全隊融合還需時間。聯賽頭幾場特別重要，先是客場對拜仁和門興格拉德巴赫，然後在新足球場首戰死對頭多特蒙德，之後碰勒沃庫森。沙爾克位於前4名將是順理成章的事。
2003年後，沙爾克04引人的名氣在德甲都不錯，特別是從不萊梅找來了埃爾頓，但沒有不萊梅進攻組合支持的他，是否還能在沙爾克04如魚得水，很讓人懷疑。沙爾克壹直期望能再和拜仁等球隊競爭聯賽冠軍，但如果不能磨合成熟，他們的位置也許還是沒有大的變化。