2006年，教育部批准青岛大学为国家大学生文化素质教育基地（教高厅函[2006]10号），“通过基地组织开展文化素质教育活动，探索文化素质教育与教学内容和课程体系改革相结合的新路子”。

2007年，青岛大学依托国家大学生文化素质教育基地创办浮山书院，作为文化素质教育创新实验区和通识教育荣誉学院，从校内外延请优秀教师授课并担任修业导师，着力培养心怀天下、人格典雅、学行合一、智慧通达的现代公民。

2008年，浮山书院开始招生，通过自愿报名、笔试、面试的程序，从全校大一新生中遴选学生组成博雅班。博雅班学生的专业教育仍在原学院，通识教育课程在浮山书院修读，他们作为博雅教育的“种子选手”，既来自各院系，又回到各院系，以学生引领学生，营造良性循环的博雅教育生态。

浮山书院接续中国古代书院传统，融合中西教育精髓，从“博、雅、慧、行”四个维度深耕大学博雅教育，构建了由“经典研读与文化自觉”、“琴棋书画与艺术审美”、“科学精神与批判性思维”、“自我塑造与社会担当”四模块组成的课程体系，还面向青大师生和岛城市民举办浮山讲堂、美育雅集、读书会等活动，发挥文化育人的示范辐射作用。

2009年，“青岛大学大学生文化素质教育模式创新与实践”获山东省高等学校教学成果二等奖；同年，“大学生经典读书活动”获山东省高校校园文化建设优秀成果二等奖。2012年，“大学生文化素质教育体系创新与实践”获青岛大学教学成果一等奖。2014年，“青岛大学浮山书院博雅教育探索与实践”获山东省高等学校教学成果一等奖、教育部国家级教学成果二等奖。中国教育报、中国教师报、中国青年报等媒体对浮山书院的教育实践进行了相关报道。

2017年，浮山书院众筹拍摄追踪调查型纪录片《从大海出发》，以浮山书院十余年的教育故事为个案，探寻中国博雅教育的有效路径。

2023年，浮山书院乔迁新址于慧湖之畔，将继续秉持躬身教育的初心，勤确谦抑，春风化雨，为大学博雅教育尽绵薄之力！