特科班共有学生近四十人，年纪在二十至三十之间，其中已有功名者不乏其人。蔡元培在特科班采用了一种书院式的教学法，即，由学生自由读书，每天要写札记送他阅批；每月终由他命题考试一次，评定成绩，然后送学校总理鉴定。
1901年9月21日，蔡元培亲拟《南洋公学特科班学习办法》。
规定每天上课的7小时之外，学生可随意看书，对于时的心得和疑义可做笔记，与札记一同呈交；札记须每七天一篇。
为指导学生，蔡元培亲自写下他认为的各门类科目应读的参考书及读书的次序，然后由学生们根据自己的志趣，选择其中的一门或几门科目按他所开列的书目按顺序。此外，蔡元培还每天晚上轮流召两三名学生到他的寝室进行个别谈话，或向学生发问、或让学生自述学习的心得、或一起座谈对时事的感想。
特科班在教学内容上，把西学放在很重要的位置。其功课分前后两期，各学三年。前期功课有英文语法，数学中的代数、几何、三角，物理，化学；后期功课还加上地理、史学、政治学、经济学、逻辑学等。
蔡元培在讲学过程中，在大力提倡西学的同时，注意引导同学们进行中西比较。他为特科班学生所出的作业题目，多关政治、法律、道德、哲学、教育、时事等问题。
据蔡元培日记中所记，他给学生出的题目先后有
“《论史事为人类进化之资藉》、《读道学家书分德行与性理两类说》、《原法》、《论土耳其受保护于英之利弊》、《论罚锾》、《论英国保护土耳其之得失》、《日本维新名士多出于阳明学派说》、《论信陵、平原、孟尝、春申四君与其国之关系》、《律有自首免罪以公理证明之》《拟外务部大臣移葡萄牙外部长书》、《宋明道学家同出孔子，而有宗教质性与哲学质性之不同试概论之》、《论秦汉重农抑商》、《论刑逼招供之非理》、《论法人占土耳其弥低偏海岛》、《宋儒论性有文理气质两种然否》、《游侠平议》、《殷法刑弃灰于道辨》、《评英特之争》、《俄皇大彼得遗训于五条为彼国二百年来外交政策之方针其中有已实行者试条举以证之》、《论监禁与放流两刑用意之异同》、《程正叔论寡妇再醮之非谓饿死事不小失节事大然再醮即失节乎以公理断之》、《论者谓民智末开不能设议院然否？》、《外人目我为君权无限辨》、《揭唐律今律之大不同而有关系者评其得失》、《论国家彩票富签票之弊并陈筹还外债之策》、《论强国对弱国不守公法之关系》、《希腊苏格拉第有知即德之说试申引之》、《论教育之关系》、《宪法精理著人民权利十三条以我国现行法制比较其违合之度》、《新民丛报公民自治篇举广东人自治之成绩各任其例以所居本省之事证之》、《论立法、司法两权分立之理》、《论国际公法之性质可以国家学中之民约论证明之》、《论改定盐法及抵制洋盐进口之策》、《斯宾塞尔言谬误事中自有真理，试以所知之事证明之》、《普之胜法毛奇将军归功于小学校教育试论其理》……”
从这些研究课题中，可以清楚地看出，蔡元培所倡行的新式学风关注的范围和研究的方向。在这里，学习不仅已经不再是传统地“两耳不闻窗外事，一心只读圣贤书”，也不再是坐而论道，而是具有强烈的现实意义和实用性。这其中的一些课题，其意义之深远，即使放在今天来探讨也并不过时、陈旧。
从这些研究课题中，也可以强烈感受到，一个优秀的知识分子具有的先见和透过时空的智慧。更能看到，蔡元培在教学上是如何的殚精竭力。
为使学生们更好更快地了解各种西学知识，蔡元培在南洋公学里还十分重视外语的教学。
他曾对特科班的同学们说“现在中国被各国欺侮到这地步，知彼知己，百战百胜，我们要知道自己弱点，还要了解国际情况。了解国际情况，就要通晓外国文，读外国书。”
英文自然是要学，也特别重要，但蔡元培根据自己学习外文的经验和体会，学英文而学日文相对容易些。既然大多数西方著作，都有日文译本，他建议学生不妨先学习与汉语较为接近的日文，以了解世界大势。
他亲自负责日文教学，并把他本人边学日文边学着翻译方法，对学生们倾囊相授。在蔡元培的悉心指导下，很多学日文的同学“不数日，人人能读日文，且有译书者”，这件事在当时被很多人当成传奇。
蔡元培在教书、编书之余，还跟马相伯学拉丁文。
每天一大早，蔡元培便从南洋公学走两三公里的路，赶到徐家汇土山湾马先生的住处，他是个习惯早起的人，有时，早5点钟就到了马老师的家门口。
后来，蔡元培又选了24名学生，一道师从马先生学习拉丁文。