이런걸 확장 스토어드 프로시저라고 하던가 그럴꺼에요.
밥벌이가 DB쪽이 아니지만, 예전에 함께 일하던 직원이 비슷한 상황에서 MSSQL용 DLL을 만들어
쉽게 처리하던것이 기억나 잠시 뒤져봤습니다.

간단한 설명이 잘 나와있는 링크.
http://andromedarabbit.net/wp/extended_stored_procedure_programming_guide/

말씀하신 xp_md5.dll 의 소스코드는 코드프로젝트를 뒤져보시면 구하실 수 있구요.
http://www.codeproject.com/Articles/5963/MD5-Hash-SQL-Server-Extended-Stored-Procedure

구글님에게 "Microsoft Extended Stored Procedures Delphi" 로 여쭈니 MSSQL 2000 시절의 신탁도 내려주시네요.
http://www.berenddeboer.net/delphi/index.html
http://www.berenddeboer.net/delphi/xpdelphi.zip

국산 암호화 알고리즘인 Seed를 ESD로 구현한 링크도 있네요. 
http://www.delmadang.com/community/bbs_view.asp?bbsNo=3&indx=403217




블랙 님이 쓰신 글 :
: Binn 폴더에 있는 dll 파일은
:
: 인터넷에 샘플내용으로 있는 아래 내용을 참조하였습니다.
: exec sp_addextendedproc 'xp_md5', 'xp_md5.dll'
:
: 물론 'xp_md5.dll' 파일안의 내용은 모름니다.
:
:
: 이런식으로 하면 등록도 되고 사용도 되는것을 보고
:
: 저도 제가 만든 dll 파일을 MSSQL2000(sqlserver2000)에 올려서 사용해보려고 합니다.
:
: dll 파일안에는 참조하는 유닛도 있고 해서 만들었습니다.
:
: 다른 델파이 프로그램에서는 잘 사용되고 있습니다.
:
:
: 'xp_md5' 등록하는것처럼
:
: exec sp_addextendedproc 'fcnTest', 'ftest.dll'
:
: 실행을 하여 등록은 되는데
: 사용은 전혀 안되고 있습니다. 명령이 성공적으로 되었습니다.
: 모 이런 메세지는 나오나 자료는 전혀 나오지 않습니다.
:
: 파라미터값을 막넣어도 되는거보니 인식을 못하는것
: 같습니다.
:
:
: 며칠 서핑하면서 갑갑해 하다가 찾는 자료도 없고
: 혹 델님들 중에는 분명 하신분들이 계실건데 안보여서
:
: 이렇게 글을 남김니다.
:
: 제가 잘못 알고 있는부분에 지식을 넣어주세요 ㅠㅠ
:
:
:
:
: fcnTest 이 펑션을 sql에서 등록하여
:
: 아래와 같은식으로 했을시에 사용 하고 싶습니다
:
: 다르게 해야한다면 그리 알려주셔도됩니다.
:
:  DECLARE @adata VARCHAR(1000)
:  set @adata = fcnTest '12312', '452342'
:  select @adata
:
:
:
: 아래는 dll 만든 내용입니다.  짧아요 지나 치지 말아주세요ㅠㅠ
:
: uses
:   SysUtils,
:   Classes,
:   uTest in 'uTest.pas';
:
:
: function  fcnTest(MData1: PChar; MData2: PChar): PChar; export;
: Begin
:   Result := uTest.TestCall(MData1, MData2);
: End;
:
: exports
:   fcnTest;
: begin
: end.
:
:
: 좋은하루 되세요~