舫山書院位於馬巷書院路45號院內。據朱振仲《舫山書院重修記》記載，舫山書院創建於清同治六年（1867年），深三進，左右護厝，後一文昌樓。迄光緒三十一年（1905年）廢除科舉制度，改書院為學堂。嗣於此創辦黎明女校，附設平民夜校，終為馬巷中心小學校舍等。早期地下共產黨人與左派進步人士彭友圃、高雲覽等人，曾藉此開展革命活動，並向學員灌輸革命思想。據王根綿和許興盛的文章記載，當時擔任馬巷廳通判的鮑復康帶頭捐銀，歷時兩年半建成。
書院設山長一人，他是主持人兼主講；並設出納一名，負責全院財務；齋長一人，負責接應事務；稽查一人，負責查察是非得失；另有負責收取土布厘稅的總務及院丁、打掃夫各一名。其中對山長的延聘有嚴格的規定：其出身，不是進士，也得舉人，並須品學兼優。規定由紳董物色，集眾議妥，然後報官行文致聘。即使官府舉薦，也須公議妥洽，不得徇情濫聘。當時馬巷有句諺語：“經師易遇，人師難逢。”經師是指那些只能給人知識，而不能陶冶品行的教師。人師則是德行、才識卓越，可作人們表率的人。可見書院十分注重山長的選擇。
生童要進入書院受業，須經過甄別考試。每年二月初一，由廳通判主考，根據文章優劣決定錄取與否。因為書院經費主要依靠本境的土布厘稅，所以只准廳轄生童應考，不收境外子弟。但又規定凡外地人來馬巷設塾授徒者，也准予到書院參加考課，以表示對師長的尊敬。生童被錄取後，稱“在課”，每年接受二十次考課。即除十二月、一月放假外，其餘每月朔日（農曆初一）由官府主持閉門考試，稱“官課”；望日（農曆十五）由山長命題考試，稱“師課”。每次考課均取錄一定名額給予獎賞：秀才每次選超等八名，特等八名；童生每次選上取十名，中取十名。對於超等秀才和上取童生，除每人獎給膏火錢四百文外，第一名加賞四百文，第二、三名各加賞一百文。對於特等秀才和中取童生，各給膏火錢二百文。其餘的一等秀才、次取童生則不發給膏火費。考課有嚴格的考規，如限定時間交卷，發現抄襲範文三句以上，彼此雷同四五句以上者，一律給予開除處分。書院還規定，生員若因傷病去世，家境蕭條者，可向院方申請救濟。名額不超過四個，每名每月給錢一千文。
舫山書院於同治八年（1869年）八月建成並開始講學，數年間發展很快。光緒元年（1875年），通判洪麒綬就稱“扃試生童數百輩”，而“每屆秋試領鄉薦者並不乏其人”。這說明當時在舫山書院畢業的生童多而且卓有成效。洪麒綬主持“官課”之後，每篇課藝都加以批閱，並於1875年春精選若干篇，刻印《舫山書院課藝》。四月，《舫山書院課藝二刻》付梓。仲秋，又出版《新刻舫山書院課藝》。然而，如此規模的一座書院只有二十年鼎盛時期。隨著清末“廢科舉，興學堂”的變革，書院制度宣告終結。光緒三十一年（1905年），由洪鴻儒、洪湛恩、陳宗英等發起，把舫山書院改成學堂。
對聯
舫山風雨久經光華依舊，書院斯文墜盛世增新
旾風化雨潤蕙滋蕙蘭千秋功，理學納新承前啟後萬古馳名
七載為官三代謚封士林讚頌，四書集注千秋傳頌文範流芳
學海無涯乘風破浪，書峯有徑壯志登高
文筆生輝芳芳書閣，昌邦開泰朗朗書聲
