使用玉器陪葬是卑南遺址主要特徵之一。這種現象從4000年前的細繩紋陶文化時代就很普遍，所陪葬的玉器也都製作精細的器物，顯示玉器製作在當時已相當成熟。4000年前從卑南遺址出土的玉器包含裝飾品及工具兩大類，裝飾品包含戴在頭髮上的玉玲、玉簪，戴耳朵上的耳飾，戴脖子上的短管珠，戴手上的喇叭型手環。工具類則包含矛頭、鏃、戈、錛、鑿、斧等。卑南遺址出現的器物類別在這階段已大致呈現。
新石器時代晚期是台灣史前玉器文化發展的全盛期，不只產玉的花東地區普遍出現玉器，嘉南平原的黑陶文化遺址的墓葬也出現大量玉器陪葬。出土玉器數量最多的卑南遺址除了玉器數量變多外，玉器的種類及器形也出現了變化。繩紋陶時代出現的玉玲在此階段已消失，方板形的玉耳飾也變成長條形。玦型耳飾、四凸起玦型耳飾及人獸形耳飾也從這階段開始出現，並成為卑南文化的代表性玉器，此外長達20公分以上的玉管、玉棒也在這階段流行，並成為卑南文化特有的器物，不過玉錛、玉斧之類的器物似乎不再像繩紋陶時代那麼常見，大型的矛頭也開始出現板岩質的替代品。
卑南文化晚期（約2500年前）或許是玉器製造工藝衰退的原因，卑南遺址似乎不再流行使用玉器，墓葬內的陪葬品開始出現較多的陶容器，出土的陪葬石器也大量使用蛇紋石、滑石及板岩等材質的器物。玉器出現的比例相對較少且少見精美的器形。不過在此同時，素有台灣史前玉工廠之稱的花蓮平林遺址，其玉器製作的行業正方興未艾。