Po utworzeniu samodzielnej komturii w Ostródzie potrzebowano bardziej wysuniętej w kierunku Kujaw i Mazowsza strażnicy, której budowę rozpoczęto z polecenia komtura Winricha von Hohensteina. Budowę warowni w Olsztynku ukończono w roku 1370. Zamek został zbudowany na planie prostokąta, dziedziniec zamykały trzy skrzydła, natomiast od strony północnej otaczał go mur. W największym północnym skrzydle mieszkali urzędnicy zakonni. Wzdłuż dwóch pozostałych części zamku biegły od strony dziedzińca okazałe krużganki.  W południowym skrzydle znajdował się refektarz, zbrojownia i komnaty dla gości. Zamek zawierał również izbę zakonnego komornika, kuchnię, piekarnię, piwnicę i spichrze na poddaszu.

Po bitwie pod Grunwaldem zamek został zasiedlony przez księcia Janusza I Starszego wraz z załogą, jednak po pokoju toruńskim obiekt wrócił w ręce Krzyżaków. Zamek często zostawał w rękach Polaków, by potem szybko wrócić we władanie Zakonu. W czasie wojen szwedzkich mieścił się tutaj na terenie przedzamcza arsenał.

Do końca XVII wieku zlikwidowano większość gotyckich elementów obronnych, z elewacji zniknęły otwory strzelnicze, które zastąpiły prostokątne okna Później zamek zaczął niszczeć i pod koniec XVIII w. został w dużej części rozebrany. Pozostał jedynie parter skrzydła południowego i fragmenty zachodniego skrzydła.

W latach 1847-1849 wykorzystując gotyckie mury próbowano zrekonstruować zamek, który nabrał cech neogotyckich. W odbudowanych budynkach umieszczono szkołę. W czasie wojen światowych mury zamkowe nie zostały oszczędzone, ale już w latach 1946-1954 odbudowano je i ponownie przekazano na cele szkolnictwa. Po II wojnie światowej zachowały się fragmenty zamku włączone w budynek szkolny oraz piwnice z krzyżowymi sklepieniami. Obecnie stanowi budynek Zespołu Szkół im. Krzysztofa Celestyna Mrongowiusza.