大理石的名称源于其盛产于中国云南大理而得名。大理岩（英文：Marble）原指产于云南省大理的白色带有黑色花纹的石灰岩，剖面可以形成一幅天然的水墨山水画，古代常选取具有成型的花纹的大理石用来制作画屏或镶嵌画。

后来大理石这个名称逐渐发展成称呼一切有各种颜色花纹的，用来做建筑装饰材料的石灰岩。白色大理石一般称为汉白玉，但对翻译西方制作雕像的白色大理石也称为大理石。关于大理石的名称，有一种说法——以前我国大理的大理石质量最好。