Esse erro aconteceu comigo por um bom tempo e resolvi investigar
Você deve digitar no Query Analizer:EXEC SP_ADDEXTENDEDPROC 'xp_md5','aki vc escolhe onde ta a pasta do xp_md5'.
Exemplo : EXEC SP_ADDEXTENDEDPROC 'xp_md5','C:\xp_md5.dll' é so escolhe o diretorio e executa na db master , e pronto.
CRÉDITOS: Jhonatan_Douglas !
Eu ajudei você ? Então me agradeça não cai as mãos !