Larmet om mannen i vattnet kom till polisen strax före klockan 10 på fredagen.
Räddningstjänstens dykare och sjöpolisen har dragit upp honom ur vattnet och ombord på en polisbåt.
Polisen bedömer att mannen, som är nedkyld men vid medvetande, varit i vattnet i ungefär en kvart. Han är förd till sjukhus med ambulans.
Polisen misstänker inget brott.
– Vi utesluter att han har blivit knuffad. Han ska förhöras när han är i skick för det, säger polisens presstalesperson Ola Österling.