上海海事大学研究生教育实行二级管理。研究生院是在学校党委领导下负责研究生教育的管理部门，主要负责贯彻落实上级组织和领导关于研究生教育工作的有关条例、规定、决议及指示；拟定研究生教育发展规划、工作计划、规章制度；实施硕士研究生和博士研究生的招生、考试、录取、教学、管理、指导、答辩、产教融合等工作；制定研究生培养方案、教学计划，并组织实施；遴选和选聘指导教师和研究生任课教师；负责研究生学位、学历管理工作；负责研究生学籍、奖助学金等工作。研究生院下设招生办公室、培养办公室、学位办公室、专业学位办公室和综合办公室具体开展以上工作。

研究生教育日常工作和教学管理由各学院负责，各学院配备主管院长、分委会主席、辅导员和教学秘书等岗位组织管理研究生教育工作。