O Windows XP realmente não suporta o SQL 2008 R2 , veja essa aula aqui que seu problema sera solucionado, basta fazer umas coisinhas antes de instalar, nada complicado, bem simples.
http://www.xpzone.net/cabal-admins-tutoriais/sql-2008-r2-instalacao-sem-erros/