中国科学院海洋生物标本馆是伴随着中国科学院海洋研究所的成立而同步建立起来的。1950年8月1日，由童第周、曾呈奎、张玺等老一辈科学家筹建中国科学院水生生物研究所青岛海洋生物研究室，下设海洋植物组、海洋无脊椎动物组、海洋脊椎动物组3个研究小组。

      1957年8月扩建为中国科学院海洋生物研究所，3个研究组扩大成相对应的3个研究室（六室[植物室]、七室[无脊椎动物研究室]、八室[鱼类室]），每个研究室分别设有植物标本室、无脊椎动物标本室、鱼类标本室。

      1959年1月1日扩建为中国科学院海洋研究所，三个研究室不变。

　  1996年将三个研究室的有关分类学研究人员合并成为海洋生物分类与系统演化研究室，下设植物标本室、无脊椎动物标本室、鱼类标本室不变。

　  2002年，将中国科学院海洋研究所原行政办公楼改建成中国科学院海洋生物标本馆，将分散在生物楼、水族楼、综合楼、工厂等各个楼层库房的所有标本集中保藏在此馆中。