武夷山早在三千年前就有人类定居和繁衍生息，当时已经形成了原始社会。
春秋战国时期，武夷山属于楚国的疆土。到了秦汉时期，武夷山开始变得繁荣起来，成为了一个重要的商贸中心。
唐宋时期，由于道教在武夷山的传播，武夷山成为了道教的圣地之一。同时，武夷山的茶叶也开始传到各地，成为了驰名中外的名茶。
元朝时期，武夷山曾与江南一带的民众一起推翻元朝统治，但在明朝时期被重新征服。
清朝时期，武夷山被分为福建省和江西省两部分，而今天的武夷山市则属于福建省管辖。
中华人民共和国成立后，武夷山被定为国家级风景名胜区，发展成为了一个以旅游为主要产业的城市。