С чем лучше домашний мамелад желатин или агар-агар?

Лучше применять агар. Это вытяжка из натуральных водорослей, абсолютно безопасный продукт, применяемый при производстве зефира, пастилы, различных заливных блюд и даже для загущения соусов (в небольших количествах).

А вот желатин это уже намного менее полезный продукт. Да и с агаром работать намного проще.