Как пишется тест или тэст? Какое правило?

Правильно: тест. Это слово заимствовано в 20 веке из английского языка. ТЕСТ [тэ], [от англ. test - испытание, исследование].

В исконно русских словах звук Э встречается только после мягких согласных (лес, река, белый), практически все слова с твердым согласным являются заимствованными. В них в виде исключения твердый согласный обозначается буквой Е, а не Э (теннис, купе).

Буква Э встречается редко, список этих слов желательно запомнить: мэр, сэр, пэр, пленэр, фэнтези, мэтр, рэкет, сэндвич, фэншуй, рэп, кэш и др.

Когда заимствованное слово только входит в язык, согласный произносит твердо, но потом произношение может меняться. Например, в слове менеджер Н произносится твердо, а в произношении М уже возможны колебания.

Поэтому не имеет смысла использовать букву Э, если через некоторое время произношение может стать мягким, в то же время в ряде слов твердое произношение закрепляется окончательно, но всё равно пишется буква Е.

Э пишется в словах, которые графически должны отличаться от слов с похожим корнем, например: фен и феншуй, метр и мэтр.