Comment faire pour que mon chien accepte un nouveau chien ?

Bonjour, nous avons recueilli un petit chien abandonné vendredi (un jack russel, nous sommes aller voir un vétérinaire pour aller vérifier son état de santé ainsi que pour voir l'âge à peut prêt et elle nous a répondu qu'il avait environ au moins 2 ans) sachant que le refuge était fermé nous l'avons fait dormir chez nous pour qu'il ne lui arrive rien. Il a passé la nuit chez nous et a été adorable, honnêtement j'ai rarement vu un chien aussi adorable et gentil et je n'arrive pas à comprendre comment cela peut arriver enfin bon il a passé la nuit et à donc était adorable. Ce matin nous étions sur le point de l'emmener au refuge mais j'avais tellement mal au coeur qu'on a fait demi tour. Le problème est que nous possédons déjà un chien plus précisément un spitz allemand âgé de 4 ans et celui ci n'accepte absolument pas le chien il lui grogne dessus, il essaye de l'attaquer quand l'autre essaye de s'approcher de lui et il a même peur... Voyant que les deux chiens ne pouvait pas être dans la même pièce ni dans le jardin ensemble nous avons essayer de les promener au début ils se grogner dessus mais ensuite sa a commencer à aller mais c'est en revenant à la maison que sa recommence même au début quand on sort pour les promener c'est difficile enfin bon du coup tout cela me tracasse car un refuge nous a appelé pour nous dire qu'une place était libre et qu'on pouvait l'emmener demain matin mais nous nous sommes tellement prit d'amour pour ce chien que je sais qu'on le regrettera, je sais notamment que ils ne peuvent pas s'habituer en une journée mais que faire??? Si ils ne s'habitue pas j'ai peur que cela ne soit que la seule solution... Aidez moi s'il vous plait... Je vous remercie d'avance.