Essa questão caiu na OBMEP de 2013.
Essa questão é interessante, mesmo parecendo simples, se você não tomar cuidado, pode acabar errando.
Vamos para resolução:
Muitas pessoas não leem direito e pensão que é 999-111, mas está errado.
A maior número de três dígitos diferentes, começa com 9, seguido por 8 e depois por 7, ou seja:
987
Depois o menor número de três dígitos diferentes, começa com 1, seguindo por 0 e depois por 2, ou seja:
102
Agora subtraindo os dois:
987 - 102 = 885
Resposta: alternativa c) 885.
Fonte: www.obmep.org.br