Počátky Hudebního oddělení sahají do roku 1968, kdy paní PhDr. Marie Kaštovská a Zdenka Koníčková začaly v ústřední knihovně v Kulturním domě Petra Bezruče budovat speciální fond s hudební tematikou. Městská knihovna v Praze darovala Hudebnímu oddělení notový materiál, začaly se nakupovat gramofonové desky, knihy o hudbě i hudebních skladatelích. Na podzim roku 1970 se knihovna přestěhovala do nové samostatné budovy na Šrámkově ulici v Havířově-Podlesí, kde byl oficiálně zahájen provoz Hudebního oddělení. Zprvu se orientovalo na klasickou hudbu. Byly zde k dispozici dva gramofonové přístroje, přes 950 gramofonových desek a 2000 hudebnin včetně knih o hudbě. V následujícím roce bylo oddělení vybaveno již 3 gramofony a umožňovalo čtenářům přetáčet desky na vlastní magnetofonové pásky. Cena za 1 hodinu byla stanovena na 10 Kčs, a protože byla služba hojně využívána, vydělávalo oddělení až 400 Kčs měsíčně.
V roce 1974 nastoupila do Hudebního oddělení Helena Nezvalová, která začala propagovat populární hudbu. Spolupracovala rovněž se studenty gymnázia, kteří si v oddělení sami organizovali poslechové pořady pro své spolužáky. V té době knihovna zaměstnala dva zvukové techniky, čímž došlo ke zdokonalení zvukového vybavení a vzniku poslechových míst pro více uživatelů. Pan Slonka vyrobil i mixážní pult. V prosinci roku 1978 byl zahájen kvadrofonní poslech, tehdy jediný svého druhu v knihovnách na území Československa. Od roku 1979 pracovala v Hudebním oddělení Jarmila Jarolímová, která se vrátila k propagaci vážné hudby a navázala spolupráci s Českou hudební mládeží.
Od roku 1987 se v Hudebním oddělení pořádaly besedy s lidmi, kteří měli nějaký specifický vztah k Havířovu. Besedy s názvem Osobnosti našeho města se konaly vždy v prosinci u příležitosti výročí založení Havířova. Na prvním večeru tohoto cyklu se představili hudební skladatel Zbyněk Přecechtěl, člen Ostravského kvarteta Rudolf Šrubař, pěvkyně Alina Farná a výtvarník František Znamenák. Pořad uváděla hlasatelka ostravské televize Dana Bielecká. V dalším roce se návštěvníkům představili sochař Otto Cienciala, malíř Jaroslav Kapec, sochař Zdeněk Kučera a klavírista Rudolf Bernatík. Ve třetím a bohužel i posledním ročníku v roce 1989 přijali pozvání operní pěvkyně Jarmila Bičišťová, hudební pedagog Jan Foltýn a skladatel Vít Kološ. Oběma pořady provázela havířovská publicistka a redaktorka Hlasů Havířova Hana Kuchařová. V roce 1987 byl z dotace zakoupen první přehrávač kompaktních desek. Koncem roku 1988 vlastnilo oddělení již 7600 gramofonových desek, 45 kompaktních disků, 2500 hudebnin a více než 1000 knih. Stalo se významným kulturním stánkem celého okresu.
V roce 1990 bylo Hudební oddělení přestěhováno do uvolněných prostor po zrušeném Oddělení dospívající mládeže na Pavlovově ulici a jeho fond byl rozšířen o poezii, dramata a literaturu ze všech oblastí umění. Pobočka byla přejmenována na Oddělení hudby a umění, a o něco později na Půjčovnu se zaměřením na hudbu a umění. Koncem roku 1990 se začaly pod vedením Heleny Nezvalové pořádat pravidelné Klubové večery určené zejména přátelům knihovny z řad veřejnosti. Při těchto setkáních probíhaly nejrůznější vernisáže, komorní koncerty nebo módní přehlídky, v uvolněné atmosféře mohli návštěvníci sledovat televizi, poslouchat gramodesky, listovat v módních časopisech nebo si zahrát šachy. O oblibě této akce svědčí mnohé pochvalné články v dobovém tisku.
Po návštěvě básníka, prozaika a publicisty Viktora Fischla v Havířově a na popud malíře Karla Harudy vznikl v roce 2000 při hudebním oddělení Kruh přátel díla Viktora Fischla, který se schází v knihovně dodnes. Literární večery vznikají pod taktovkou publicistky Milady Kaďůrkové a hlavním aktérem pořadů bývá obvykle sólista činohry Národního divadla Moravskoslezského v Ostravě pan Miroslav Rataj. V roce 2012 proběhlo zatím poslední stěhování pobočky do nově zrekonstruovaných prostor jednoho z křídel Magistrátu města Havířova.
Bývalá knihovnice Jindra Zlámalová vzpomíná:
Jarmila Jarolímová, přezdívaná Felína, odjížděla do Tater na dovolenou. Před odchodem mě varovala, abych dobře hlídala hudební a dávala pozor, abychom nevyhořeli. Přišlo mi to jako sranda, tak jsem jí řekla, že to se v žádném případě nemůže stát. Uprostřed týdne přišli do hudebního dva chlapci a chtěli si pustit nějakou super desku. Už nevím, jestli to byli Deep Purple, nebo nějaká jiná hovadina, což nebylo moje hobby. Požadovanou desku jsem pustila a kluci si zavřeli šoupací dveře. Kromě toho si zhasli velké světlo, rozsvítili malá světýlka v podobě svíček na boční stěně a zatáhli závěsy. Nic jsem netušila a klidně si dělala svou práci. Kluci doposlouchali desku a pak odešli. Po chvíli jsem ucítila nějaký zápach. Šla jsem tedy do skladu, kde seděla kolegyně Jana, a zeptala se, co tam blbnou, jestli pálí nějaký film, nebo co. Byla jsem vykázána s tvrzením, ať si jdu prohlédnout svůj rajón. Chvíli jsem bloudila první místností, ale pak mi došlo, že se zápach táhne z té vedlejší. Když jsem vešla dovnitř, uviděla jsem, jak se ze závěsů kouří. Nenapadlo mě nic lepšího, než závěsy odhrnout, avšak oheň se rozhořel ještě intenzivněji. To už mě zachvátil děs a letěla jsem volat hasiče. Některá z kolegyň mi přinesla hasicí přístroj na bázi písku. Chvíli trvalo, než se mi jej podařilo uvést do chodu. Následoval příšerný rozprach, který se šířil do celé místnosti i do té vedlejší. Oheň ale neuhasil. Tak jsem popadla kýbl s vodou a jala se hasit klasicky. To se povedlo. Když přijeli hasiči, už nebylo co hasit. Ovšem další dny jsme trávily odstraňováním písku ze všech gramodesek, jakož i knížek a notového materiálu. Strhaly jsme u toho dva vysavače a všechny jsme kýchaly, kuckaly a prskaly. Když se Felína vrátila z Tater, všechno už bylo v naprostém pořádku. Ovšem její rozhodnutí mě už nikdy nenechat samotnou v hudebním po dobu jejích dovolenek bylo nezvratné. Ostatně později se mi ještě podařilo rozbít okno štaflemi, což mě stálo nějakých šest stovek. Pak už jsem byla z hudebního vyřazena definitivně.