Po utworzeniu samodzielnej komturii w Ostródzie potrzebowano bardziej wysuniętej w kierunku Kujaw i Mazowsza strażnicy, której budowę rozpoczęto z polecenia komtura Winricha von Hohensteina. Budowę warowni w Olsztynku ukończono w roku 1370. Zamek został zbudowany na planie prostokąta, dziedziniec zamykały trzy skrzydła, natomiast od strony północnej otaczał go mur. W największym północnym skrzydle mieszkali urzędnicy zakonni. Wzdłuż dwóch pozostałych części zamku biegły od strony dziedzińca okazałe krużganki. W południowym skrzydle znajdował się refektarz, zbrojownia i komnaty dla gości. Zamek zawierał również izbę zakonnego komornika, kuchnię, piekarnię, piwnicę i spichrze na poddaszu.
Po bitwie pod Grunwaldem zamek został zasiedlony przez księcia Janusza I Starszego wraz z załogą, jednak po pokoju toruńskim obiekt wrócił w ręce Krzyżaków. Zamek często zostawał w rękach Polaków, by potem szybko wrócić we władanie Zakonu. W czasie wojen szwedzkich mieścił się tutaj na terenie przedzamcza arsenał.
Do końca XVII wieku zlikwidowano większość gotyckich elementów obronnych, z elewacji zniknęły otwory strzelnicze, które zastąpiły prostokątne okna Później zamek zaczął niszczeć i pod koniec XVIII w. został w dużej części rozebrany. Pozostał jedynie parter skrzydła południowego i fragmenty zachodniego skrzydła.
W latach 1847-1849 wykorzystując gotyckie mury próbowano zrekonstruować zamek, który nabrał cech neogotyckich. W odbudowanych budynkach umieszczono szkołę. W czasie wojen światowych mury zamkowe nie zostały oszczędzone, ale już w latach 1946-1954 odbudowano je i ponownie przekazano na cele szkolnictwa. Po II wojnie światowej zachowały się fragmenty zamku włączone w budynek szkolny oraz piwnice z krzyżowymi sklepieniami. Obecnie stanowi budynek Zespołu Szkół im. Krzysztofa Celestyna Mrongowiusza.