Mannen var misstänkt för ett annat brott och polisen gjorde vapenfyndet i samband med en husrannsakan i hans bostad. Ytterligare en person greps i samband med insatsen. De två misstänktes då för narkotikabrott och grovt vapenbrott.
Den andre mannen har släppts men är fortfarande misstänkt, säger åklagare Klas Engdahl som leder förundersökningen.
Han berättar inte vilken typ av vapen som hittades hos mannen.
– Vapnet ska skickas till Nationellt forensiskt centrum för analys. Man ska bland annat söka efter fingeravtryck.
De båda männen greps på en adress i Nyköping på söndagskvällen och anhölls vid tvåtiden natten mot måndagen. Mannen häktades på onsdagen.