「旧台南武徳殿」は、日本統治時代の昭和11（1936）年に大日本武徳会が、武道を広めるために台南に設立した道場です。武士道精神は日本人ならではのものといわれており、武徳殿は日本の武士道を学べる場所でした。
旧台南武徳殿は当初、台南大正公園（現在の民生緑園、湯徳章紀念公園）の東側に建設されていましたが、1936年、台南孔子廟横に現在の台南武徳殿が設置され、同年10月24日に落成式典が開かれました。この武道館は、台湾に現存する武徳殿の中では比較的大きく、代表的なもので、第二次世界大戦後、台南市立中学と忠義小学校の講堂になり、1998年に市の古跡に指定されました。
旧台南武徳殿は、鉄筋コンクリートと人造石洗い出し仕上げで造られていますが、日本の伝統的な社殿建築の様式です。建物は南向きで、二階建て、正面入り口は二階にあり、階段を上って入ることになります。日本統治時代、武徳殿の一階には関連事務所があり、その両端にも入り口がありました。二階の西側が武道場で、東側が剣道場、北側に突き出た部分は祭壇として使われており、屋外には弓道場もありました。
「武徳殿」はもとは、平安時代の大内裏の殿舎の一つで、競馬などを鑑賞するために使われた場所です。大内裏の西側に設置され、右近衛府と右兵衛府の間を貫き、殷富門に面していました。また、「武徳殿」の東側には馬場や宴の松原などがありました。
今日の武徳殿は日本の警察組織が源です。最初は武道の稽古場所としてつくられ、後に都市や学校にも広がっていきました。武術は治安を維持する警察にとって非常に重要だったため、日本の武士道精神の推進を目的に、1895年に京都で「大日本武徳会」が設立されました。その後、日本統治時代の台湾を含めた日本の全国各地に武道館が設置され、これら武道館が一般的に「武徳殿」と呼ばれるようになりました。
日本統治時代、日本の警察は、台湾に武道の文化を導入して、発展させ、当時の台湾の州、庁、郡に武徳会委員部を設立しました。さらに1906年には「大日本武徳会台湾支部」を設置し、台湾で積極的に武道を推進。当時の台湾の公務員や警察、学生に常日頃から武道を稽古する場所として、多くの武徳殿を建設しました。また、日本の武士道精神を発揚するため、試合も開催していました。
今日、台湾に残っている武徳殿は台南武徳殿のほか、台中武徳殿、彰化武徳殿、高雄武徳殿振武館、旗山武徳殿などがあり、このうち、設計や造りの質が高いと一般に認識されているのが台南武徳殿です。日本では、第二次世界大戦前に建設され、残っている武徳殿の多くが、高い価値があるとして、文化財に指定されています。