какая система счисления используется для кодирования числовой информации в компьютере

Двоичная. Но для удобства может применяться и шестнадцатиричная система счисления (т. е. кодирование кодированного) . Часто используется при кодировании графических файлов.