Din rațiuni politice și economice, Prusia a simțit nevoia de a avea o reprezentanță consulară în Moldova încă din anii 1780, interesul ei față de Imperiul Otoman crescând continuu în a doua jumătate a secolului XVIII. În acea perioadă, guvernămintele prusace făceau intervenții în vederea măririi relațiilor comerciale cu Principatele Române, care ofereau perspective bune în ceea ce privea extragerea de materii prime și desfacerea de produse industriale finite.
În aceste condiții, încă din 1785, consulul prusac de la Iași a corespondat cu superiorii săi de la Berlin inclusiv despre oportunitatea de a extinde, prin Galați, relațiile comerciale cu Moldova până la Constantinopol. Călătorii prusaci subliniau la rândul lor importanța internațională pe care îl avea sau îl putea dezvolta portul Galați. Chiar și așa, contextele politico-economice ale următoarelor decenii nu au fost favorabile acțiunilor în acest sens. Nu se știe să fi existat vreun reprezentant diplomatic prusac la Galați înainte de anul 1835. Inițiativa deschiderii unei agenții consulare i-a aparținut consulului general aflat la Iași, C. A. Kuch, și el proaspăt instalat în post de către ambasadorul țării sale la Constantinopol. Motivul invocat era nevoia de apărare a intereselor supușilor germani aflați în port, acțiune de care se ocupa la acel moment reprezentantul diplomatic al Franței.
Totuși, principalul motiv care a determinat o decizie pozitivă de la autoritățile din Berlin a fost faptul că pe Dunăre și prin Galați se intensifica rapid navigația vaselor cu aburi, ceea ce putea facilita foarte mult interesele comerciale prusiene. Primul reprezentant consular al Prusiei la Galați, numit în 1837 în post de viceconsul regal, a fost Friedrich Kraus, un negustor stabilit în oraș și totodată agent al Societății vieneze de navigație cu vapoare pe Dunăre.
Deși inițial adunase impresii bune de la superiorii săi, Kraus a fost eliberat din funcție după numai 2 ani, după ce s-a aflat că săvârșea abuzuri grave și nedemne pentru onoarea statului german, precum vânzarea de pașapoarte ori întreruperea arbitrară a comunicării cu autoritățile locale românești. L-a urmat la post Wilhelm Stürtz (1839), fiul unui fabricant de bere din Aachen, el însuși comis-voiajor pentru o companie producătoare de vin de Champagne, călătorind mult în Orient și Rusia. În 1844 reprezentanţa consulară a Prusiei a fost ridicată la rangul de consulat, consul fiind numit consilierul de stat Eusebius von Wedeke.
Până la mijlocul anilor 1840, importanța portului Galați pentru comerțul prusian crescuse atât de mult încât autoritățile de la Berlin au încercat să obțină aprobarea Constantinopolului de a muta aici consulatul general de la Iași, și au propus inclusiv înființarea la Galați a unei reprezentanțe consulare responsabile de întreaga regiune a Dunării de Jos, cu agenți subordonați în Țara Românească, Bulgaria și Serbia.
Sărind peste timp, în anii dinaintea primului război mondial, sediul consulatului german se afla pe strada Holban.