Костяной или костеной, как правильно пишется слово костяной или костеной?

Поскольку слово, о правописании которого задан вопрос, отвечает на вопрос какой? и обозначает признак предмета, оно является именем прилагательным. Вопрос стоит о правописании безударной гласной в суффиксе.

Это отыменное прилагательное, так как образовано от имени существительного кость. Более того, оно входит в разряд относительных прилагательных ( называет признак через отношение к другому предмету ), костяной, значит, сделанный из кости. Относительные прилагательные, как правило, образуются при помощи суффиксальным способом при помощи следующих словообразовательных суффиксов: -ск-, -ов-, -ян-, -ан-, -н-.

Из всех словообразовательных морфем, перечисленных выше, нам подходит только суффикс -ян-.

Правильно нужно писать через я костяной.